Perubahan paling signifikan terlihat dari meningkatnya penggunaan AI agent. Berbeda dengan penggunaan AI tradisional yang umumnya memberikan rekomendasi untuk kemudian ditindaklanjuti manusia, AI agent dapat menjalankan tugas dan, dalam kondisi tertentu, mengambil tindakan secara lebih mandiri.
Semakin besar otonomi yang diberikan kepada AI agent, semakin berubah pula profil risiko yang perlu dikelola perusahaan. Menurut Andrew, penggunaan AI agent bukan sekadar memperkenalkan teknologi baru, tetapi juga membutuhkan sistem, proses, dan mekanisme akuntabilitas baru. Perusahaan perlu menentukan batas kewenangan AI, termasuk tindakan apa yang boleh dilakukan, data apa yang dapat diakses, dan kapan manusia perlu melakukan intervensi.
Semakin besar otonomi yang diberikan kepada AI, semakin penting bagi perusahaan untuk memahami, memeriksa, mengaudit, dan menelusuri aktivitas serta proses pengambilan keputusan agent.
Tata kelola juga tidak dapat berhenti pada tahap pengembangan. Pengawasan perlu dilakukan secara berkelanjutan sepanjang siklus hidup AI, terutama ketika penggunaan, data, maupun kemampuan agent berkembang.
Tantangan Reliabilitas dan Akses Data
Ketika AI mulai digunakan dalam proses bisnis yang lebih kritis, konsistensi dan reliabilitas menjadi perhatian utama. Model AI berkembang dengan sangat cepat, sementara respons yang dihasilkan dapat berubah, tergantung pada konteks penggunaannya. Bagi perusahaan, kondisi ini membuat pengelolaan AI di lingkungan produksi menjadi lebih kompleks, dibandingkan tahap eksperimen.
Perusahaan perlu memahami dan mengelola variabilitas tersebut, termasuk menetapkan ekspektasi yang tepat terhadap kemampuan AI serta memastikan agent digunakan untuk persoalan yang memang sesuai dengan kemampuannya. Di sisi lain, AI agent juga membutuhkan akses terhadap data dan sistem perusahaan agar dapat menjalankan tugasnya. Persoalannya, data perusahaan biasanya tersebar di berbagai database, sistem penyimpanan, maupun sumber informasi yang dikelola oleh masing-masing karyawan.
Semakin banyak sistem yang terhubung dengan AI, semakin penting pula perusahaan memastikan bahwa agent hanya dapat mengakses data yang memang menjadi kewenangannya. Oleh karenanya, pengembangan AI agent tidak hanya berhenti pada kemampuan teknologi untuk mengakses dan memproses informasi. Perusahaan juga perlu memiliki mekanisme untuk mengatur akses tersebut, memahami aktivitas agent, serta memastikan penggunaannya tetap sesuai dengan tujuan bisnis yang telah ditetapkan.
Tata Kelola (Governance) Bukan Sekadar Kepatuhan
Seiring bertambahnya penggunaan AI dan AI agent di berbagai fungsi bisnis, perusahaan membutuhkan fondasi tata kelola yang memberikan visibilitas terhadap bagaimana AI digunakan di seluruh organisasi. Perusahaan perlu mengetahui AI agent yang sedang digunakan, tujuan penggunaannya, data dan sistem yang dapat diakses, tindakan yang dapat dilakukan, serta kontrol yang diterapkan.
Lebih dari mekanisme pembatas, tata kelola AI justru dibangun dengan tujuan sebagai fondasi untuk meningkatkan skalabilitas. Perusahaan membutuhkan visibilitas mengenai AI agent yang sedang dikembangkan, tujuan penggunaannya, data dan sistem yang diakses, tindakan yang dapat dilakukan, serta kontrol yang diterapkan.
Karena itu, tata kelola tidak seharusnya dipandang semata sebagai mekanisme kepatuhan yang memperlambat inovasi. Dengan adanya platform, kerangka kerja, dan pengamanan yang tepat, tata kelola justru dapat menjadi fondasi yang memungkinkan perusahaan memperluas penggunaan AI dengan lebih cepat, terstruktur, dan tetap terkendali.
Fokus pada Nilai Bisnis
Di tengah meningkatnya adopsi AI, perusahaan juga perlu memastikan teknologi tersebut digunakan untuk menyelesaikan persoalan bisnis yang nyata. Setiap AI agent idealnya memiliki tujuan yang jelas: mengapa agent tersebut dibangun, masalah apa yang ingin diselesaikan, dan hasil bisnis apa yang ingin dicapai.
Pendekatan ini membantu perusahaan bergerak dari eksperimen menuju penggunaan AI yang memberikan dampak terukur. Setelah sebuah contoh kasus terbukti memberikan nilai, perusahaan dapat mengonsolidasikan atau menstandardisasi penerapannya untuk kebutuhan lain.
Ke depan, perusahaan juga perlu menghubungkan kemampuan AI dengan keahlian karyawan. Karyawan yang memahami proses bisnis dapat menggunakan AI untuk memperkuat keahlian mereka, bukan sekadar menjadi pengguna teknologi.
“Perusahaan perlu membangun tata kelola dan infrastruktur sebagai fondasi untuk mempercepat skala AI. Ketika fondasi tersebut sudah tersedia, perusahaan dapat memulai dari beberapa quick wins yang menunjukkan nilai bisnis secara nyata, lalu menghubungkan kemampuan AI dengan para ahli di dalam bisnis untuk memperluas keberhasilan tersebut,” tambah Andrew.
Untuk perencanaan AI, perusahaan dapat menggunakan siklus perencanaan yang relatif pendek, dengan tujuan bisnis yang jelas, sembari terus membangun kemampuan karyawan, tata kelola, dan kontrol.
Pada akhirnya, fase berikutnya dari adopsi AI bukan ditentukan oleh seberapa cepat perusahaan mengadopsi teknologi tersebut, tetapi seberapa besar nilai bisnis yang dapat dihasilkan tanpa kehilangan kendali. Bagi perusahaan Indonesia, tantangannya adalah membangun fondasi yang memungkinkan AI berkembang bersama bisnis, tetap terukur, dan tetap dapat dipertanggungjawabkan ketika tingkat otonominya semakin tinggi.
(tim)
