Karena itu, perusahaan perlu menyusun peta jalan implementasi yang jelas sebelum mengalokasikan investasi. Tanpa target dan parameter keberhasilan yang terukur, adopsi AI berpotensi menjadi beban biaya tanpa kontribusi yang sebanding terhadap kinerja bisnis.
“Jika tidak memiliki peta jalan yang jelas, perusahaan bisa menghabiskan banyak waktu dan uang untuk integrasi AI dengan harapan mendorong inovasi, tetapi tanpa mengetahui hasil yang ingin dicapai,” katanya.
Selain persoalan investasi, Corey menekankan pentingnya mempertahankan keterlibatan manusia dalam pengambilan keputusan. Kemampuan AI mengolah data dalam jumlah besar tidak otomatis menjamin rekomendasi yang dihasilkan lebih akurat atau sesuai dengan kebutuhan organisasi.
Menurut dia, sistem AI tetap dipengaruhi data dan pola yang digunakan dalam proses pengembangannya. Bias dalam data maupun rancangan sistem dapat memengaruhi hasil analisis, sehingga diperlukan pengawasan manusia untuk mengevaluasi dan mempertanyakan rekomendasi teknologi tersebut.
“AI seharusnya dibuat untuk manusia dan memberikan manfaat bagi manusia, bukan sebaliknya,” ujarnya.
Dia menilai perusahaan perlu menetapkan batasan mengenai pekerjaan dan keputusan yang dapat diserahkan kepada AI serta aktivitas yang tetap membutuhkan pertimbangan manusia. Pembagian kewenangan tersebut harus mempertimbangkan tingkat risiko dan konsekuensi dari setiap keputusan.
Corey juga mengingatkan risiko ketergantungan berlebihan terhadap rekomendasi AI, terutama ketika pengguna tidak memahami keterbatasan sistem. Kondisi ini perlu menjadi perhatian dalam lingkungan kerja maupun pendidikan, khususnya bagi generasi muda yang semakin intensif menggunakan teknologi tersebut.
Dalam aspek tata kelola, perusahaan juga perlu memperluas mekanisme evaluasi di luar dasbor yang hanya menampilkan performa teknis AI. Organisasi perlu mendokumentasikan bagaimana pengguna berinteraksi dengan rekomendasi sistem, termasuk frekuensi persetujuan maupun penolakan terhadap hasil yang diberikan.
Data tersebut dapat menjadi bahan evaluasi untuk mengukur efektivitas pengawasan manusia sekaligus memastikan penggunaan AI menghasilkan keputusan yang lebih baik dan dapat dipertanggungjawabkan kepada pelanggan.
Corey menilai kemampuan perusahaan membuktikan penerapan AI yang bertanggung jawab dapat menjadi keunggulan kompetitif. Kepercayaan pelanggan tidak cukup dibangun melalui klaim inovasi teknologi, tetapi perlu didukung bukti mengenai manfaat, kualitas keputusan, dan dampak penggunaannya.
Pandangan tersebut sejalan dengan perhatian terhadap keputusan strategis teknologi di tingkat korporasi. President Director ITSEC Asia Patrick Dannacher mengatakan, perkembangan AI dan keamanan siber memiliki konsekuensi yang semakin luas terhadap daya saing perusahaan, ketahanan operasional, hingga kepentingan nasional.
“Keputusan yang dibuat oleh para pemimpin hari ini akan menentukan posisi organisasi mereka dalam beberapa tahun ke depan. AI mengubah cara bisnis beroperasi, sementara ancaman siber dan perkembangan teknologi baru turut mengubah risiko yang harus mereka hadapi,” ujar Patrick.
Menurut dia, pimpinan perusahaan perlu memastikan pembahasan mengenai perkembangan teknologi menghasilkan keputusan konkret terkait prioritas, investasi, dan kapabilitas organisasi. Hal ini diperlukan agar perusahaan tidak hanya mampu mengikuti perkembangan AI, tetapi juga memiliki kesiapan menghadapi risiko yang menyertainya.
“Kita perlu memastikan bahwa diskusi di tingkat pimpinan menghasilkan keputusan yang jelas mengenai prioritas, investasi dan kemampuan yang diperlukan dalam menghadapi era AI. AICX menjadi tempat untuk mempertemukan perspektif tersebut dan mendorong langkah yang lebih terarah,” katanya.
Patrick menambahkan, AICX menjadi wadah untuk mempertemukan perspektif pemerintah, pelaku industri, dan pemangku kepentingan lainnya dalam merumuskan langkah menghadapi perubahan teknologi. Dengan demikian, pemanfaatan AI dan penguatan keamanan siber dapat ditempatkan sebagai bagian dari strategi keberlanjutan bisnis dan kesiapan Indonesia menghadapi era digital.
(tim)
