Kepala Instagram, Adam Mosseri, menyatakan bahwa platform media sosial kini menghadapi tantangan besar terkait penggunaan kecerdasan buatan (AI) dalam pembuatan konten. Dalam unggahannya di Threads Minggu (15/12), Mosseri menekankan pentingnya memberikan label dan konteks pada konten yang dihasilkan oleh AI agar pengguna dapat membedakan dengan konten buatan manusia.
“Peran kami sebagai platform internet adalah memberi label konten yang dihasilkan sebagai AI sebaik mungkin,” tulis Mosseri, dikutip dari laporan The Verge pada Senin (16/12).
Konteks untuk Kepercayaan Pengguna
Mosseri mengakui bahwa tidak semua konten yang dihasilkan AI dapat diberi label, tetapi menambahkan bahwa Instagram juga harus menyediakan konteks tentang siapa yang membagikan konten tersebut. Hal ini memungkinkan pengguna untuk menilai tingkat kepercayaan terhadap konten yang mereka konsumsi.
Ia juga mengingatkan pengguna untuk tidak mudah percaya begitu saja pada konten di media sosial dan mendorong mereka untuk mencari sumber lain guna memverifikasi kebenarannya. Hal ini berlaku tidak hanya untuk konten di Instagram, tetapi juga saat menggunakan chatbot AI yang terkadang bisa memberikan informasi yang salah.
Langkah Meta dalam Pengaturan Konten
Sejauh ini, Meta, induk Instagram, belum memberikan banyak langkah konkret terkait penyediaan konteks pada konten seperti yang dimaksud Mosseri. Namun, perusahaan yang dipimpin oleh Mark Zuckerberg tersebut baru-baru ini mengisyaratkan akan ada perubahan besar dalam pengaturan konten.
Model moderasi ini mirip dengan yang sudah diterapkan oleh platform lain, seperti community notes di X atau filter moderasi di YouTube dan Bluesky.
Tantangan Moderasi di Era AI
Dengan berkembangnya penggunaan AI dalam pembuatan konten, peran platform sosial media menjadi semakin penting untuk menjaga kepercayaan pengguna. Langkah seperti pemberian label dan konteks adalah salah satu cara untuk membantu pengguna memahami sumber dan validitas informasi.
Namun, tantangan utama adalah memastikan langkah-langkah tersebut dapat diimplementasikan secara efektif tanpa mengorbankan pengalaman pengguna di platform. Belum ada kepastian kapan atau bagaimana Meta akan menerapkan langkah ini, tetapi arah kebijakan baru ini menandakan kesadaran yang semakin besar terhadap dampak AI dalam ekosistem media sosial.