Hampir 200 pekerja Google DeepMind, divisi AI perusahaan tersebut, menandatangani surat yang meminta raksasa teknologi itu menghentikan kontraknya dengan organisasi militer awal tahun ini. Hal itu tertuang dalam sebuah dokumen yang salinannya ditinjau TIME.
Surat tersebut beredar di tengah kekhawatiran yang berkembang bahwa teknologi mereka dijual ke pihak militer yang terlibat dalam peperangan. Menurut para pekerja, itu merupakan pelanggaran terhadap aturan AI Google sendiri.
Surat itu menandakan adanya perselisihan yang berkembang di dalam Google antara beberapa pekerja di divisi AI-nya –yang berjanji untuk tidak bekerja pada teknologi militer– dan bisnis cloud-nya, yang memiliki kontrak untuk menjual layanan Google, termasuk AI yang dikembangkan di DeepMind, kepada beberapa pemerintah dan militer, termasuk Israel dan Amerika Serikat.
Tanda tangan tersebut mewakili sekitar lima persen dari total karyawan DeepMind. Jumlah yang kecil, namun mencerminkan ketidaknyamanan signifikan di industri di mana bakat pembelajaran mesin sangat dibutuhkan.
Surat DeepMind, bertanggal 16 Mei, itu dimulai dengan menyatakan bahwa pekerja ‘khawatir dengan laporan terbaru tentang kontrak Google dengan organisasi militer’. Meskipun tidak menyebutkan militer tertentu secara spesifik, surat tersebut menautkan kepada laporan TIME April lalu, yang mengungkap bahwa Google memiliki kontrak langsung untuk menyediakan layanan komputasi awan dan AI kepada Kementerian Pertahanan Israel. Hal itu berada di bawah kontrak yang lebih luas yang disebut Project Nimbus.
Surat tersebut juga menautkan ke laporan lain yang menuduh militer Israel menggunakan AI untuk melakukan pengawasan massal dan seleksi target dalam genosida mereka di Gaza, serta bahwa perusahaan senjata Israel diwajibkan oleh pemerintahnya untuk membeli layanan cloud dari Google dan Amazon.
“Setiap keterlibatan dengan militer dan pembuatan senjata berdampak pada posisi kami sebagai pemimpin dalam AI yang etis dan bertanggung jawab, dan itu bertentangan dengan misi dan Prinsip AI kami,” kata surat yang beredar di Google DeepMind itu.
Prinsip tersebut menyatakan bahwa perusahaan tidak akan mengejar aplikasi AI yang kemungkinan besar menyebabkan ‘kerugian keseluruhan’ berkontribusi pada senjata atau teknologi lain yang ‘tujuan utama atau penerapannya’ adalah menyebabkan cedera, atau membangun teknologi yang ‘tujuannya bertentangan dengan prinsip hukum internasional dan hak asasi manusia yang diterima secara luas’.
Surat tersebut menyatakan bahwa penandatangannya khawatir tentang ‘memastikan dipertahankannya Prinsip AI Google’ dan menambahkan, “Kami percaya bahwa manajemen [DeepMind] berbagi kekhawatiran kami.”
Seorang juru bicara Google mengatakan kepada TIME, “Saat mengembangkan teknologi AI dan membuatnya tersedia untuk pelanggan, kami mematuhi Prinsip AI kami, yang menguraikan komitmen kami untuk mengembangkan teknologi secara bertanggung jawab. Kami telah sangat jelas bahwa kontrak Nimbus adalah untuk beban kerja yang berjalan di cloud komersial kami oleh kementerian pemerintah Israel, yang setuju untuk mematuhi Ketentuan Layanan dan Kebijakan Penggunaan yang Dapat Diterima. Pekerjaan ini tidak diarahkan pada beban kerja sensitif, terklasifikasi, atau militer yang relevan dengan senjata atau layanan intelijen.”
Surat tersebut meminta para pemimpin DeepMind mengakhiri akses pengguna militer kepada teknologi DeepMind, dan mendirikan badan tata kelola baru yang bertanggung jawab untuk mencegah teknologi DeepMind digunakan oleh klien militer di masa depan. Tiga bulan sejak surat tersebut beredar, Google belum melakukan tindakan tersebut, menurut empat orang karyawan yang mengetahui masalah ini. “Kami belum menerima tanggapan yang berarti dari pimpinan,” kata salah seorang. “Dan kami semakin frustrasi.”
Ketika DeepMind diakuisisi oleh Google pada 2014, para pemimpin lab menuntut janji besar dari raksasa mesin pencarian tersebut, yakni bahwa teknologi AI mereka tidak akan pernah digunakan untuk keperluan militer atau pengawasan. Selama bertahun-tahun, lab yang berbasis di London ini beroperasi dengan tingkat independensi yang tinggi dari kantor pusat Google di California. Namun, seiring meningkatnya persaingan di bidang AI, DeepMind semakin terintegrasi dengan Google.
Upaya para pemimpin lab pada tahun 2021 untuk memperoleh lebih banyak otonomi gagal, dan pada tahun 2023, DeepMind bergabung dengan tim AI Google lainnya—Google Brain—membawanya lebih dekat ke inti raksasa teknologi tersebut.
Prinsip AI Google yang menjanjikan bahwa perusahaan tidak akan mengembangkan AI yang kemungkinan besar akan menyebabkan ‘kerugian keseluruhan’ masih memungkinkan perusahaan untuk mengembangkan teknologi yang mungkin menyebabkan kerugian jika menyimpulkan bahwa ‘manfaatnya jauh lebih besar daripada risikonya’. Selain itu, prinsip-prinsip tersebut tidak melarang penjualan AI Google kepada klien militer.
Sebagai hasilnya, teknologi DeepMind telah dimasukkan ke dalam perangkat lunak Cloud Google dan dijual ke militer dan pemerintah, termasuk Israel dan Kementerian Pertahanannya.
“Meskipun DeepMind mungkin tidak senang bekerja pada AI militer atau kontrak pertahanan di masa lalu, saya pikir ini bukan lagi keputusan kita,” kata seorang karyawan DeepMind kepada TIME, April lalu. Ia meminta untuk tidak disebutkan nama, dengan alasan tidak diberi wewenang untuk berbicara secara publik.
Google mengatakan bahwa Project Nimbus, kontraknya dengan Israel, tidak ‘ditujukan untuk beban kerja yang sangat sensitif, terklasifikasi, atau militer yang relevan dengan senjata atau layanan intelijen’. Namun menurut surat yang beredar di internal DeepMind, tanggapan tersebut ‘tidak menyangkal tuduhan bahwa teknologinya memungkinkan segala bentuk kekerasan atau memungkinkan pengawasan yang melanggar norma internasional yang diterima’.
Salah satu penandatangan surat tersebut mengatakan kepada TIME bahwa pernyataan Google tentang Project Nimbus ‘sangat tidak spesifik sehingga kita semua tidak menjadi lebih mengerti apa yang terjadi sebenarnya’.