OpenAI telah mengembangkan sistem watermarking untuk teks yang dihasilkan oleh ChatGPT, namun hingga saat ini fitur tersebut belum diterapkan secara luas.
Sistem ini, yang sudah siap digunakan selama sekitar satu tahun, menciptakan tanda air pada teks dengan memodifikasi cara model memprediksi kata dan frasa yang paling mungkin mengikuti kata dan frasa sebelumnya, menghasilkan pola yang dapat dideteksi.
Menurut laporan dari The Verge, fitur watermarking ini dirancang untuk memberikan keuntungan dalam mendeteksi teks yang ditulis oleh AI, misalnya untuk membantu guru mencegah siswa menyerahkan tugas yang dikerjakan oleh AI.
OpenAI menyatakan bahwa watermarking tidak mempengaruhi kualitas output teks chatbot-nya dan memiliki akurasi hingga 99 persen, bahkan mampu bertahan terhadap gangguan seperti parafrase.
Namun, penerapan fitur ini menghadapi tantangan internal.
Beberapa karyawan di OpenAI merasa bahwa watermarking adalah langkah yang perlu dilakukan sebagai bentuk tanggung jawab perusahaan.
Di sisi lain, ada kekhawatiran bahwa fitur ini dapat mengurangi penggunaan ChatGPT, terutama setelah survei menunjukkan bahwa hampir 30 persen pengguna mungkin akan lebih jarang menggunakan layanan ini jika watermarking diterapkan.
Sebagai alternatif, OpenAI sedang mengeksplorasi opsi lain yang dianggap kurang kontroversial, seperti penyematan metadata yang ditandatangani secara kriptografis.
Meskipun masih dalam tahap awal pengembangan, OpenAI menegaskan bahwa ini bisa menjadi solusi yang lebih aman dan bebas dari false positives.
Dengan pertimbangan yang matang dan berbagai opsi yang sedang dieksplorasi, OpenAI belum membuat keputusan final mengenai penerapan watermarking pada teks ChatGPT.