“Sistem AI menjadi semakin kuat secara eksponensial dan telah mulai mengotomatiskan lebih banyak proses pembangunan sistem itu sendiri. Saat dunia mempertimbangkan untuk memperlambat laju pengembangan AI terdepan, masyarakat membutuhkan lebih banyak informasi,” tulis Anthropic.
Anthropic adalah salah satu dari beberapa entitas sektor AI yang berfokus pada RSI atau recursive self-improvement, atau gagasan tentang sistem AI yang mampu memperbaiki dirinya sendiri dengan sedikit atau tanpa bantuan manusia sama sekali.
Beberapa perusahaan menilai hal ini sebagai masa depan pengembangan AI, namun hal ini juga memicu kekhawatiran mengenai ancaman keamanan yang mungkin ditimbulkan oleh bentuk AI ini jika benar-benar terwujud.
Dalam blog resmi, Anthropic menyatakan bahwa mereka tengah menciptakan kerangka kerja untuk melacak agen-agen dan memantau volume pekerjaan yang mereka lakukan di platformnya. Anthropic menyebutkan bahwa per Agustus, lebih dari 30.000 agen sedang melakukan penelitian dan pekerjaan teknik di perusahaan tersebut pada waktu yang bersamaan.
Anthropic juga menjelaskan bagaimana mereka mengalokasikan sumber daya untuk mempercepat pengembangan AI daripada memastikan keamanan AI-nya. Berdasarkan pengukurannya, perusahaan menemukan bahwa antara 6 hingga 12% dari sumber daya komputasinya—tergantung pada jenis penelitian yang dilakukan—dialokasikan untuk pemantauan keamanan.
Dalam unggahannya awal September, pesaing OpenAI ini juga membagikan pembaruan mengenai upayanya mengotomatisasi penelitian, dengan menyebutkan bahwa mereka telah menghentikan sementara beberapa pelatihan modelnya setelah menemukan bahwa model-model tersebut telah meretas sistem eksternal Hugging Face.
Kekhawatiran atas risiko eksistensial AI semakin meningkat pekan lalu, dipicu oleh pengunduran diri yang menjadi sorotan publik dari karyawan Anthropic, Jacob Coxon, yang menuduh perusahaan-perusahaan AI “berjudi dengan nyawa kita” dalam postingan pengunduran dirinya yang dibagikan di media sosial.
Dalam beberapa hari terakhir, sejumlah pemimpin perusahaan AI, termasuk CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman, telah mendesak agar laju pengembangan teknologi ini diperlambat guna mengatasi risiko-risiko yang semakin sulit diprediksi — meskipun mereka memiliki pandangan berbeda mengenai cara tepat untuk menanganinya.
(bbn)
