Baik pejabat Pentagon maupun pihak yang mengetahui masalah ini meminta namanya tidak disebutkan saat membahas masalah kontrak.
Kontrak hasil revisi ini jadi pencapaian bersejarah baru dalam penyediaan AI Google kepada Pentagon, yang telah menyaksikan beberapa insiden protes karyawan terhadap penggunaan teknologi perusahaan untuk keperluan militer tertentu.
Peristiwa terbaru terjadi pada Senin, ketika ratusan peneliti AI mengirim surat kepada CEO Alphabet, Sundar Pichai, mendesaknya untuk menolak menyediakan sistem AI perusahaan untuk beban kerja rahasia dalam misi pertahanan AS.
“Kami adalah karyawan Google yang sangat prihatin dengan negosiasi yang sedang berlangsung antara Google dan Departemen Perang AS,” bunyi surat tersebut, yang diberikan kepada Bloomberg. “Sebagai orang yang bekerja di bidang AI, kami tahu bahwa sistem ini dapat memusatkan kekuasaan dan bahwa sistem ini memang membuat kesalahan.”
Di tahun 2018, para karyawan Google melakukan protes terhadap penggunaan teknologi perusahaan tersebut untuk Project Maven, sebuah inisiatif Pentagon yang memanfaatkan AI untuk menganalisis rekaman drone yang telah menjadi inti dari cara AS melakukan perang.
Aksi protes tersebut mendorong perusahaan untuk berjanji tidak akan mengembangkan senjata maupun teknologi lain yang berpotensi membahayakan. Google mengatakan pada saat itu bahwa kerjanya pada Project Maven dimaksudkan untuk “tujuan non-ofensif,” tetapi di tengah protes dan kekhawatiran bahwa teknologi tersebut dapat menyebabkan hasil yang mematikan, perusahaan memutuskan untuk tidak memperbarui kontraknya untuk Maven.
Kesepakatan ini juga terjadi setelah hubungan renggang antara Pentagon dan Anthropic PBC awal tahun ini terkait penggunaan AI untuk aplikasi militer. Pentagon berusaha untuk mengeluarkan Anthropic dan tool AI Claude-nya dari rantai pasokan pertahanan AS dan telah mencari mitra raksasa teknologi AI baru.
The Information sebelumnya melaporkan kesepakatan Google untuk menyediakan sistem AI-nya kepada Pentagon untuk pekerjaan rahasia “untuk tujuan pemerintah yang sah apa pun.”
Google juga mundur dari tantangan berhadiah US$100 juta dari Pentagon untuk menciptakan teknologi kawanan drone otonom yang dikendalikan suara setelah menjadi salah satu pengirim yang berhasil. Keputusan tersebut diambil setelah tinjauan etika internal, menurut catatan yang merujuk pada hal tersebut yang ditinjau oleh Bloomberg. Google secara resmi mengutip kurangnya “sumber daya,” menurut catatan tersebut.
(bbn)
