BORNEONEWS, Jakarta – Pemanfaatan kecerdasan buatan atau artificial intelligence di lingkungan perusahaan menghadirkan sejumlah risiko yang tidak bisa diabaikan, mulai dari kebocoran data, penyalahgunaan deepfake, hingga keluaran chatbot yang keliru.
CEO BDO di Indonesia Thano Tanubrata mengatakan perkembangan AI yang cepat perlu diikuti dengan kebijakan, pengendalian, dan pengawasan yang memadai.
“Kebocoran data dapat menimbulkan kerugian finansial sekaligus merusak reputasi. Komite audit perlu memastikan organisasi memiliki tata kelola yang memadai agar adopsi AI tetap menjaga kepercayaan pelanggan dan keberlangsungan bisnis,” kata Thano, Senin, 19 Oktober 2026.
Risiko tersebut semakin besar ketika perusahaan memasukkan data internal maupun informasi pelanggan ke dalam layanan AI tanpa memahami terlebih dahulu kebijakan pengelolaan data dari penyedia sistem.
Associate Director IT & Digital BDO di Indonesia Reza Aminy mengatakan perusahaan perlu mengetahui bagaimana data disimpan, diproses, dan digunakan sebelum memanfaatkan layanan AI untuk kebutuhan bisnis.
Selain kebocoran data, ancaman juga dapat muncul melalui teknologi deepfake yang digunakan untuk menyamar sebagai pimpinan perusahaan dalam rapat daring.
Risiko lainnya berasal dari keluaran chatbot yang terlihat meyakinkan tetapi ternyata memuat informasi tidak akurat atau bahkan referensi yang tidak pernah ada.
“Tata kelola perlu disiapkan sebelum AI diterapkan. Semakin tinggi risiko penggunaannya, semakin ketat pengendalian yang dibutuhkan, termasuk pemeriksaan oleh manusia agar hasil dan keputusan dapat dipertanggungjawabkan,” ujar Reza.
Ia menilai tingkat pengawasan harus disesuaikan dengan fungsi AI yang digunakan.
Pengendalian lebih ketat diperlukan apabila sistem AI berinteraksi langsung dengan pelanggan, memproses data sensitif, atau menjadi dasar pengambilan keputusan penting perusahaan.
Perusahaan juga dinilai perlu menetapkan tujuan penggunaan AI secara jelas, menentukan pihak yang bertanggung jawab, melakukan evaluasi berkala, dan meningkatkan kemampuan auditor internal dalam memahami risiko teknologi.
Ketua Dewan Pengurus Ikatan Komite Audit Indonesia Maliki Heru Santosa menilai fungsi pengawasan perlu terus menyesuaikan diri dengan perkembangan teknologi.
Menurutnya, pertukaran pengalaman dan peningkatan pemahaman menjadi penting agar komite audit tetap mampu mengenali risiko baru yang muncul dari penggunaan AI.
Dengan pengawasan yang memadai, perusahaan dapat memanfaatkan AI untuk meningkatkan efisiensi tanpa mengabaikan keamanan data, akurasi informasi, dan kepercayaan pelanggan.
ANTARA
