JT - OpenAI masih menimbang keputusan untuk merilis alat pendeteksi tulisan yang dihasilkan oleh ChatGPT, mengingat kompleksitas dan dampak yang mungkin ditimbulkan.
Perusahaan yang dipimpin Sam Altman ini tengah meneliti metode pemberian watermark atau tanda air pada teks, yang dianggap menjanjikan namun juga memiliki risiko penting.
Baca juga : Huawei Mate X6 Resmi Meluncur di Indonesia, Usung Teknologi Lipat Canggih dan Durabilitas Tinggi
Dikutip dari TechCrunch, Minggu (4/8), OpenAI menganggap pendekatan penuh kehati-hatian perlu dilakukan mengingat dampak luas dari alat deteksi tersebut.
Juru Bicara OpenAI menjelaskan bahwa metode watermark memiliki risiko besar, termasuk kerentanan terhadap pengelakan oleh pelaku jahat dan potensi dampak negatif pada penutur non-Inggris.
Upaya sebelumnya untuk mendeteksi teks AI oleh industri dinilai tidak efektif. OpenAI sebelumnya telah merilis detektor teks AI pada 2023, namun fitur tersebut ditutup karena akurasi yang rendah.
Baca juga : Xiaomi Luncurkan Seri Xiaomi 15, Hadirkan Teknologi Fotografi Mumpuni
Metode watermark yang sedang diteliti melibatkan perubahan kecil dalam cara ChatGPT memilih kata untuk menciptakan tanda air tak terlihat dalam tulisan yang bisa dideteksi oleh alat terpisah.
Penelitian terbaru menunjukkan bahwa metode ini cukup akurat dalam mendeteksi teks rumit seperti parafrase, tetapi juga menghadapi berbagai kerentanan.
Bagikan
