OpenAI Masih Ragu Merilis Alat Deteksi Tulisan untuk ChatGPT

Jabar, VIVA – Siapa yang tidak kenal OpenAI? Perusahaan yang mencetuskan AI generatif di dunia teknologi ini dikabarkan masih ragu untuk merilis alat pendeteksi tulisan di ChatGPT.

Perusahaan nampaknya sangat hati-hati dalam mengambil keputusan untuk merilis alat pendeteksi tulisan di ChatGPT.

Hal ini karena adanya faktor kompleksitas yang rumit serta dampak yang mungkin terjadi jika alat deteksi tulisan dirilis pada OpenAI.

Dilansir dari TechCrunch, OpenAI diketahui sedang melakukan penelitian terhadap metode watermark atau tanda air pada teks yang dibuat oleh AI untuk meninggalkan jejak bahwa tulisan tersebut berasal dari ChatGPT.

Namun, metode watermark ini ternyata menimbulkan beberapa dampak saat dilakukan pengujian sehingga harus dipertimbangkan secara teliti, salah satunya karena adanya kerentanan terhadap adanya tindak kejahatan dan berdampak secara tidak proporsional pada kelompok penutur non-Inggris.

OpenAI sebelumnya pernah merilis detektor teks AI pada 2023 lalu, tetapi dihapus kembali karena akurasinya yang rendah.

Adanya watermark pada teks membuat OpenAI fokus terhadap pendeteksian tulisan dari ChatGPT, bukan dari perusahaan lain.

Parusahaan telah mengungkapkan mengenai hasil dari penelitian pendeteksian teks dari AI dan menyatakan bahwa adanya watermark pada teks yang diciptakan AI terbukti akurat dan efektif walaupun bentuk teks yang rumit, seperti parafrase.

Namun, watermark sepertinya tidak begitu efektif jika diluncurkan secara global karena akan menghadirkan berbagai dampak yang merugikan, seperti teks yang mengandalkan penerjemah sehingga tak terdeteksi, mengubah kata dengan model generatif lain, dan masih banyak lagi sehingga teks tidak terdeteksi dengan baik.

Sistem Watermark ini juga mudah dikelabui oleh pihak tak bertanggung jawab jika dirilis secara global.

Adanya watermark juga juga berdampat terhadap adanya stigma bahwa penggunaan AI dapat dijadikan alat tulis yang berguna untuk penutur bahasa non-Inggris.