Para peneliti AI Microsoft merilis serangkaian prinsip panduan yang membatasi pengembangan model-model paling canggih perusahaan tersebut pada 14 September, menyusul seruan dari para pemimpin industri untuk memperlambat pengembangan model-model terdepan dan berfokus pada keselamatan. Perusahaan menggunakan model-model canggih serta mengembangkan produk konsumen bernama Copilot, dan menyediakan model AI serta infrastruktur kepada pelanggan korporat.
Pedoman menyatakan bahwa model AI tidak boleh memiliki hak atau status badan hukum, dirancang untuk lepas dari kendali manusia atau menipu pengguna, atau menyelesaikan tugas yang mengharuskan pelanggaran terhadap prinsip-prinsip yang mengaturnya.
Saran keselamatan dari Nadella mencakup tidak mengandalkan satu model AI saja untuk keputusan kritis, menyimpan catatan tindakan agen yang tidak dapat dirusak, dan menundukkan sistem AI pada audit independen.
Dia menyerukan agar kegagalan atau pelanggaran besar terkait AI diungkapkan, serta agar perusahaan membagikan detail mengenai apa yang salah sehingga pihak lain dapat memperkuat langkah-langkah pengaman mereka.
“Kita tidak bisa memperlakukan Super Intelligence sebagai sekumpulan kotak hitam yang saling bersarang dan sekadar menerima atau menolak rekomendasi, jawaban, dan tindakannya,” tulisnya.
“Kita harus membangun sistem yang terkendali, di mana perilakunya dapat kita amati, batas-batasnya dapat kita uji, dan tindakannya selalu dapat kita kendalikan.”
“Dengan kata lain, kita perlu memisahkan penyediaan informasi intelijen dari kewenangan atas informasi tersebut.”
Pemerintahan Presiden AS Donald Trump sejauh ini mengambil pendekatan yang sebagian besar tidak campur tangan, namun gugus tugas AI yang baru diluncurkan oleh Donald Trump pada Jumat malam memperingatkan para pengembang bahwa mereka diwajibkan untuk melaporkan dan menangani insiden keamanan, atau menghadapi konsekuensi yang belum ditentukan.
“Perusahaan harus segera mengungkap insiden yang melibatkan model mereka dan menindaklanjutinya dengan tindakan cepat dan tegas untuk memperbaiki segala bentuk kerugian,” kata kelompok yang dijuluki Super Intelligence Force itu dalam sebuah pernyataan menyusul pengungkapan pelanggaran keamanan oleh Anthropic.
“Penundaan pemberitahuan, tindakan korektif yang tidak memadai, dan kegagalan untuk bertanggung jawab tidak akan ditoleransi.”
(bbn)
