Perusahaan tersebut mengatakan bahwa sebagian dari alasannya meluncurkan program tersebut adalah karena mereka percaya “transparansi dan kolaborasi” adalah kunci untuk menemukan kerentanan dalam teknologinya.
“Inisiatif ini merupakan bagian penting dari komitmen kami untuk mengembangkan AI yang aman dan canggih,” ujar Matthew Knight, kepala keamanan OpenAI.
Ia menambahkan bahwa untuk menciptakan teknologi dan layanan yang aman, andal, dan tepercaya, pihaknya membutuhkan bantuan dari para pengguna.
Laman The Bugcrowd untuk program ini merinci sejumlah masalah keamanan yang tidak memenuhi syarat untuk mendapatkan hadiah, termasuk permintaan jailbreak, pertanyaan yang mengakibatkan bot menulis hal berbahaya, atau pertanyaan yang menyebabkan bot mengatakan hal-hal buruk kepada seorang pengguna.
Greg Brockman, presiden dan salah satu pendiri perusahaan yang berbasis di San Francisco, baru-baru ini menyebutkan di Twitter bahwa OpenAI telah "mempertimbangkan untuk memulai program reward" untuk mendeteksi kelemahan mereka.
Komentar Greg tersebut sebagai tanggapan atas unggahan yang ditulis oleh Alex Albert, seorang penggemar prompt jailbreak berusia 22 tahun yang mana situs webnya mengkompilasi permintaan tertulis yang dimaksudkan untuk mengingkari sistem perlindungan chatbots seperti yang dimiliki ChatGPT.
(bbn)
