Bisnis.com, JAKARTA – OpenAI membenarkan bahwa fitur detektor penulisan AI yang disebut bisa mendeteksi konten hasil kecerdasan buatan atau artificial intelligence (AI) atau buatan manusia tidak berfungsi.
Pekan lalu, OpenAI mengunggah sebuah artikel tips di blog resminya, yang menunjukkan bagaimana sejumlah guru menggunakan ChatGPT sebagai alat bantu dalam pendidikan.
Dalam FAQ di unggahan tersebut, perusahaan secara resmi mengakui bahwa fitur untuk mendeteksi tulisan buatan AI tidak berfungsi, meskipun telah sering digunakan untuk menghukum siswa dengan hasil positif yang ternyata palsu.
“Singkatnya, detektor AI tidak berfungsi. Meskipun sejumlah perusahaan [termasuk OpenAI] telah merilis alat yang dimaksudkan untuk mendeteksi konten yang dihasilkan AI, tidak satu pun dari alat ini yang terbukti dapat membedakan secara tepat antara konten yang dibuat oleh AI dan konten yang dibuat oleh manusia," demikian tertulis dalam artikelnya.
Pada bulan Juli, OpenAI diketahui menghentikan AI Classifier, alat eksperimental yang dirancang perusahaan untuk mendeteksi teks buatan AI. Tingkat akurasinya diketahui hanya 26 persen, seperti dikutip dari Arstechnica, Senin (11/9/2023).
Pada bulan yang sama, detektor penulisan AI seperti GPTZero juga menerima sejumlah kecaman sebab sering menghasilkan kesalahan positif akibat mengandalkan metrik deteksi yang tidak terbukti.
Dari FAQ terbarunya, OpenAI juga menjawab kesalahpahaman besar lain, yaitu terkait kemampuan ChatGPT sendiri dalam menentukan apakah teks ditulis oleh AI atau tidak.
"Selain itu, ChatGPT tidak memiliki 'pengetahuan' tentang konten apa yang dapat dihasilkan oleh AI. Terkadang ia akan memberikan tanggapan terhadap pertanyaan pengguna seperti 'apakah Anda menulis [esai] ini?' atau 'mungkinkah ini ditulis oleh AI?' Tanggapan-tanggapan ini sesungguhnya acak dan tidak mempunyai dasar fakta,” demikian tulis OpenAI.
OpenAI juga mengakui bahwa produknya seringkali mengeluarkan informasi palsu dan mengeluarkan rujukan-rujukan yang tidak pernah ada.
“Kadang-kadang, ChatGPT terdengar meyakinkan, tetapi mungkin memberi Anda informasi yang salah atau menyesatkan [sering disebut 'halusinasi' dalam literatur]. ChatGPT bahkan bisa mengarang hal-hal seperti kutipan atau sitasi, jadi jangan gunakan itu sebagai satu-satunya sumber penelitian Anda," demikian imbau perusahaan.
Pada Mei lalu, seorang pengacara di AS dijatuhi hukuman karena mengutip enam kasus berdasarkan informasi dari ChatGPT yang tidak pernah ada sebelumnya. (Lydia Tesaloni Mangunsong)
