“Kecepatan perang di masa depan, bersama dengan kemajuan musuh kita sendiri dalam bidang AI, mungkin mengharuskan pasukan gabungan untuk mengadopsi sistem yang sepenuhnya otonom,” kata publikasi tersebut.
Visi baru yang kontroversial ini dimuat dalam bab baru tentang masa depan penargetan. Publikasi ini secara keseluruhan menjabarkan prosedur resmi untuk apa yang disebut penargetan gabungan – bagaimana angkatan bersenjata AS menentukan apa yang harus ditembak dalam pertempuran.
Dokumen tersebut menyajikan konten baru mengenai “mitigasi korban sipil” hanya beberapa minggu pasca Pentagon mengumumkan penyelidikan atas serangan terhadap sebuah sekolah dasar di samping pangkalan angkatan laut Islamic Revolutionary Guard Corps di kota Minab, Iran, yang menewaskan sekitar 120 anak.
Belum jelas apakah dokumen tersebut mencerminkan pelajaran dari perang di Iran. Pembaruan sebelumnya dilakukan pada September 2024, sebelum Donald Trump kembali menjabat.
“Pembaruan soal doktrin penargetan kami merupakan hasil dari proses komprehensif yang berlangsung selama beberapa tahun, yang menggabungkan pelajaran yang dipetik dari berbagai sumber, termasuk latihan, simulasi perang, dan penilaian prospektif terhadap lingkungan keamanan di masa depan,” kata juru bicara dalam pernyataan yang dikirim melalui email.
Menjelaskan revisi tersebut sebagai “signifikan,” sang juru bicara menyebut baik bab baru yang membahas AI maupun fokus yang ditingkatkan pada mitigasi korban sipil sebagai “pembaruan kunci.”
Saat dimintai komentar, seorang pejabat Pentagon mengatakan dalam sebuah pernyataan: “Departemen Perang memastikan bahwa manusia selalu terlibat dalam pengambilan keputusan operasional yang kritis. Teknologi AI Departemen tidak secara otonom memilih atau menyerang sasaran; teknologi ini memastikan para komandan tetap memegang kendali atas setiap keputusan, memberdayakan mereka untuk bertindak berdasarkan gambaran operasional terkini dan seakurat mungkin.”
Sebelumnya pada hari Kamis, Pentagon mengumumkan akan menerapkan berbagai alat canggih yang didukung AI untuk mentransformasi manajemen pertempuran, dukungan pengambilan keputusan, dan penentuan sasaran.
“Kami sedang membangun jaringan agen AI yang saling terintegrasi, yang memberikan akses lebih cepat kepada para komandan terhadap informasi yang lebih baik, sekaligus tetap menempatkan penilaian manusia sebagai inti dari setiap keputusan penargetan,” kata Cameron Stanley, Kepala Digital dan AI Pentagon, dalam sebuah pernyataan yang mengumumkan perubahan tersebut.
Walau edisi-edisi sebelumnya dari doktrin penargetan gabungan telah dipublikasikan secara daring—terkadang sebagai hasil dari permintaan berdasarkan Freedom of Information Act—saat ini tidak ada dokumen selain versi 2018 yang sudah usang yang tersedia bagi publik.
Dokumen baru hasil revisi ini, yang merupakan indikasi paling eksplisit hingga saat ini mengenai fokus Pentagon untuk menghilangkan peran manusia dalam keputusan hidup dan mati, menegaskan bahwa AI akan mempersingkat “siklus dari sensor ke penembak” dan “meningkatkan tempo operasi.”
Pada saat yang sama, doktrin baru ini mengakui risiko mengandalkan AI secara eksklusif, dengan menyatakan bahwa hal itu “menimbulkan dilema moral dan hukum yang serius serta memerlukan penetapan pedoman etika yang jelas untuk meredakan kekhawatiran terkait keputusan yang didukung AI.”
Doktrin yang diperbarui ini tidak memperkenalkan pedoman tersebut, namun sebuah memorandum presiden tentang keamanan nasional yang dirilis awal bulan ini memberi Pentagon waktu 90 hari untuk memperbarui kebijakannya mengenai otonomi dalam sistem senjata.
Saat ini, kebijakan tersebut mewajibkan sistem senjata otonom dan semi-otonom untuk menjalani tinjauan guna memastikan bahwa sistem tersebut dirancang sedemikian rupa sehingga memungkinkan komandan dan operator untuk menerapkan “tingkat penilaian manusia yang sesuai dalam penggunaan kekuatan.” Hal ini masih jauh dari tujuan para aktivis yang menuntut jaminan yang lebih kuat atas kontrol manusia yang bermakna.
Sekretaris Jenderal PBB Antonio Guterres termasuk di antara mereka yang menyerukan larangan terhadap sistem senjata otonom mematikan, menyebutnya “tidak dapat diterima secara politik” dan “menjijikkan secara moral.”
Anthropic PBC, yang menyediakan alat AI-nya untuk jaringan rahasia Pentagon—termasuk untuk operasi di Iran—berkonflik dengan lembaga tersebut karena perusahaan bersikeras bahwa teknologinya belum cukup andal untuk apa yang digambarkan oleh CEO Dario Amodei sebagai “senjata otonom sepenuhnya,” dan bahwa manusia harus mengambil keputusan akhir dalam penggunaan kekuatan.
Doktrin penargetan baru tersebut menyatakan bahwa militer “harus berhati-hati untuk menghindari ketergantungan berlebihan pada hasil AI tanpa pengawasan manusia,” dengan mencatat bahwa algoritma AI dapat memproses dan menganalisis produk intelijen “dalam skala dan kecepatan yang jauh melampaui kapasitas manusia.”
Doktrin tersebut juga menguraikan peran yang lebih besar bagi AI dalam meningkatkan kualitas data penargetan, membantu menutup celah dalam intelijen, dan mengotomatisasi pergerakan data.
Beberapa pakar telah mengungkapkan harapan bahwa mengintegrasikan sistem digital dan memperluas penggunaan AI—bukan menguranginya—tetap dapat membantu mengatasi dan memperbaiki masalah penargetan di masa depan. Hal itu mungkin mencakup, misalnya, melakukan pemeriksaan otomatis terhadap situs publik, seperti Google Maps, untuk membantu mengidentifikasi potensi anomali yang perlu ditinjau oleh manusia.
“Kemajuan dalam AI akan meningkatkan proses penargetan dan memungkinkan serangan presisi jarak jauh,” demikian tertulis dalam dokumen Pentagon tersebut, yang menyatakan bahwa para komandan “perlu memanfaatkan kekuatan AI” untuk melengkapi analisis manusia, pengambilan keputusan, dan manajemen risiko, guna mempertahankan keunggulan pasukan gabungan.
“AI dapat dengan segera membandingkan data target yang dikumpulkan dari berbagai platform untuk mengonfirmasi kebenaran informasi yang diperoleh,” lanjut dokumen tersebut.
Namun, dokumen penargetan gabungan terbaru ini juga menambahkan peringatan dalam lampiran yang membahas “tantangan” historis dalam mengintegrasikan otomatisasi ke dalam penargetan, dengan menyatakan bahwa “otomatisasi bukanlah pengganti pemikiran manusia atau komunikasi proaktif.”
Terlepas dari alat otomatis apa pun yang digunakan, dokumen tersebut menyatakan bahwa “para komandan bertanggung jawab atas prioritas, dampak, dan waktu pelaksanaan” di wilayah operasional mereka serta atas kepatuhan terhadap hukum perang dan aturan keterlibatan militer AS yang relevan.
(bbn)
