Samantha Oltman dan Lynn Doan–Bloomberg News

Bloomberg, Anthropic PBC menjalin kemitraan dengan Accenture Plc, sebuah perusahaan konsultan manajemen dan teknologi, untuk menguji keamanan model kecerdasan buatan (AI) canggihnya dengan menempatkan penilai dari perusahaan konsultan tersebut secara langsung di dalam operasinya.

Para evaluator Accenture akan melakukan simulasi serangan (red-team) terhadap model-model terbaru laboratorium AI tersebut dan menguji sistem pengamanannya, serta melakukan penilaian untuk memastikan teknologinya selaras, atau bertindak sesuai dengan tujuan manusia, demikian disampaikan Anthropic dalam postingan blog.

Penilai yang ditempatkan Accenture akan memantau dengan cermat bagaimana model AI berkembang selama pelatihan dan mengamati proses pengambilan keputusan di balik layar mengenai cara Anthropic mengembangkan teknologinya, kata perusahaan tersebut.

“Dari sudut pandang ini, penilai internal dapat mengevaluasi cara kerja suatu perusahaan, memastikan bahwa perusahaan tersebut memenuhi komitmen keselamatannya, serta mengidentifikasi titik-titik buta. Mereka juga dapat melaporkan insiden dan memberikan penjelasan yang lebih terperinci kepada masyarakat mengenai manfaat dan risikonya,” kata Anthropic.