Penggunaan Artificial Intelligence (AI) di perusahaan berkembang sangat cepat. Banyak organisasi mulai menggunakan AI untuk membantu pekerjaan seperti analisis data, otomatisasi proses, layanan pelanggan, hingga pengambilan keputusan bisnis.
Namun, di balik perkembangan tersebut muncul tantangan besar yang disebut AI Governance.
Secara sederhana, AI Governance adalah aturan, kebijakan, dan kontrol yang digunakan perusahaan untuk mengatur bagaimana sistem AI mengakses data, memproses informasi, dan menjalankan tugas di lingkungan perusahaan.
Masalahnya, perkembangan AI saat ini berjalan jauh lebih cepat dibanding kesiapan perusahaan dalam mengatur dan mengawasinya.
Hal inilah yang menjadi pembahasan utama dalam AI Governance Leadership Forum, sebuah forum yang mempertemukan para ahli keamanan siber, privasi data, dan keamanan AI untuk membahas bagaimana perusahaan dapat menggunakan AI secara aman dan bertanggung jawab.
Apa Itu AI Governance?
AI Governance bukan hanya soal membuat dokumen kebijakan. Governance harus menjadi proses yang berjalan terus-menerus selama AI digunakan.
AI Governance mencakup:
-
Pengelolaan data
-
Kontrol akses AI
-
Monitoring aktivitas AI
-
Kepatuhan terhadap regulasi
-
Pengawasan keamanan sistem AI
Tujuannya adalah memastikan AI bekerja sesuai aturan dan tidak menimbulkan risiko bagi perusahaan.
Tantangan Baru: AI Agent dan Sistem Otonom
Saat ini perusahaan mulai beralih dari AI biasa ke Agentic AI, yaitu AI yang dapat bekerja secara mandiri seperti “karyawan digital”.
AI jenis ini dapat:
-
Mengakses file perusahaan
-
Terhubung ke API
-
Membaca dokumen internal
-
Mengakses data pelanggan
-
Menjalankan tugas otomatis
Karena AI bekerja semakin mandiri, risiko keamanan juga meningkat.
Francis Odum, CEO Software Analyst Cyber Research, menjelaskan bahwa masalah terbesar AI sebenarnya bukan pada model AI-nya, tetapi pada data yang diakses AI tersebut.
Menurutnya, banyak risiko AI muncul karena:
-
AI terhubung ke data sensitif
-
AI memiliki akses terlalu luas
-
Perusahaan tidak tahu data apa saja yang digunakan AI
Dengan kata lain, masalah AI sebenarnya adalah masalah data.
Risiko AI Semakin Besar
Banyak perusahaan fokus melindungi model AI, padahal ancaman terbesar justru berasal dari:
-
File internal
-
Email perusahaan
-
Data pelanggan
-
Source code
-
Dokumen rahasia
Jika AI memiliki akses ke data tersebut tanpa kontrol yang jelas, maka risiko kebocoran data akan semakin besar.
Karena itu, perusahaan perlu memahami:
-
Data apa yang dimiliki
-
Di mana data disimpan
-
Siapa atau AI apa yang mengakses data
Tanpa visibilitas data yang baik, AI Governance akan sulit dilakukan.
AI Governance Harus Bersifat Continuous
Pada sistem lama, keamanan biasanya dilakukan melalui pemeriksaan awal sebelum aplikasi digunakan.
Namun, AI modern terus belajar dan berubah. Karena itu, governance tidak bisa hanya dilakukan sekali saja.
Perusahaan sekarang membutuhkan:
-
Monitoring aktivitas AI secara terus-menerus
-
Deteksi perilaku aneh
-
Pemeriksaan setelah AI digunakan
-
Pengawasan perubahan perilaku AI
Aaron Weller dari HP menjelaskan bahwa AI generatif dapat bertindak di luar prediksi awal.
Artinya, perusahaan tidak bisa lagi mengandalkan pendekatan lama yang menganggap sistem selalu bekerja sesuai rencana.
Banyak Perusahaan Terlalu Percaya Diri
Salah satu insight penting dari forum ini adalah banyak perusahaan merasa sistem privasi dan keamanan lama mereka sudah cukup untuk AI.
Padahal kenyataannya belum tentu.
Chantra Stevenson dari Alaska Airlines mengatakan bahwa banyak organisasi terlalu percaya diri terhadap kesiapan mereka menghadapi AI generatif.
AI modern membawa ancaman baru seperti:
-
Prompt Injection
-
Kebocoran data training
-
Penyalahgunaan AI agent
-
Kesalahan otomatis dalam skala besar
Risiko-risiko tersebut membutuhkan pendekatan keamanan baru yang lebih spesifik untuk AI.
AI Governance Tidak Bisa Dikerjakan Sendiri
Mae-Beth Magno dari Boeing menjelaskan bahwa AI Governance bukan lagi tugas satu tim saja.
Keamanan AI harus melibatkan banyak bagian seperti:
-
Tim keamanan
-
Tim privasi
-
Tim engineering
-
Tim data governance
-
Tim legal
Semua pihak harus bekerja sama agar AI dapat digunakan secara aman tanpa menghambat inovasi bisnis.
Mengamankan AI dari Training hingga Production
Forum ini juga membahas bahwa keamanan AI harus dilakukan sejak awal proses pembuatan AI, bukan hanya saat AI sudah digunakan.
Beberapa area penting yang harus diamankan:
-
Dataset training AI
-
Pipeline data
-
API AI
-
Model AI
-
Prompt AI
-
Sistem inference
Samaresh Singh dari HP menjelaskan bahwa salah satu risiko terbesar ada pada data training.
Jika data training sudah dimanipulasi sejak awal, maka perilaku AI bisa menjadi tidak akurat dan masalahnya mungkin baru terlihat jauh di kemudian hari.
Monitoring Perilaku AI Menjadi Sangat Penting
AI tidak selalu gagal secara jelas seperti sistem biasa.
Kadang AI tetap berjalan normal tetapi menghasilkan:
-
Keputusan yang salah
-
Akses data yang tidak semestinya
-
Aktivitas mencurigakan
Karena itu, perusahaan perlu memantau perilaku AI secara aktif.
Marissa Palmer dari TrueCar menjelaskan bahwa tim keamanan sekarang harus fokus pada anomali perilaku AI, bukan hanya alert infrastruktur biasa.
Data Governance dan AI Security Tidak Bisa Dipisahkan
Salah satu kesimpulan terbesar dari forum ini adalah hubungan antara Data Governance dan AI Security sangat erat.
AI hanya bisa diamankan jika perusahaan memahami:
-
Data apa yang mereka miliki
-
Di mana data berada
-
Siapa yang mengakses data
-
Bagaimana data digunakan
Tanpa pengelolaan data yang baik, keamanan AI akan sulit dicapai.
Kesimpulan
Perkembangan AI membawa peluang besar bagi perusahaan, tetapi juga menghadirkan tantangan baru dalam keamanan dan governance.
AI Governance bukan lagi sekadar dokumen kebijakan, melainkan proses operasional yang harus berjalan terus-menerus. Perusahaan perlu memantau bagaimana AI mengakses data, mengambil keputusan, dan berinteraksi dengan sistem perusahaan.
Forum AI Governance Leadership Forum menegaskan bahwa keberhasilan penggunaan AI tidak hanya ditentukan oleh seberapa cepat perusahaan mengadopsi AI, tetapi juga seberapa baik mereka mengelola dan mengamankan AI tersebut.
Di era AI modern, memahami data menjadi fondasi utama untuk membangun keamanan dan governance yang kuat.
bigid Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi bigid.
Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.