JAMBI — Kementerian Komunikasi dan Digital meminta pengguna chatbot AI memverifikasi ulang setiap jawaban sebelum dipakai, karena sistem hanya mencocokkan pola bahasa dan tidak menjamin kebenaran. Peringatan disampaikan Direktur Kemitraan Komunikasi Lembaga dan Kehumasan Komdigi, Marroli J. Indarto, di acara Ngopi Komdigi, Jakarta, Kamis (29/10/2026). Imbauan muncul saat layanan AI generatif makin banyak dipakai untuk mencari informasi, belajar, hingga bekerja.
Marroli menjelaskan, chatbot AI menyusun jawaban dari pola yang masuk ke dalam sistem dan model bahasanya. Karena cara kerja itu, keluaran yang tampil di layar belum tentu mencerminkan fakta.
Pemeriksaan ulang disebut sebagai langkah wajib, bukan opsional. Pengguna perlu mencari konfirmasi dari sumber terverifikasi, termasuk media online yang kredibel.
Model bahasa generatif memprediksi kata berikutnya berdasarkan pola data pelatihan. Mekanisme itu membuat AI lancar merangkai kalimat, tetapi tidak otomatis tahu mana yang benar dan mana yang salah.
Marroli menuturkan, platform AI sendiri sudah mencantumkan peringatan bahwa jawabannya bisa keliru. Peringatan itu, menurut dia, seharusnya dibaca sebagai sinyal agar pengguna tidak menelan informasi mentah-mentah.
"Bahkan kalau kita jujur pada beberapa platform AI ya, itu kan mereka juga mengatakan bahwa dia itu 'AI can make mistakes'. Jadi masih ada potensi dia itu platform ini kemudian tidak sepenuhnya benar ya," tuturnya.
Komdigi menempatkan penilaian manusia sebagai penentu akhir. AI boleh membantu proses berpikir, tetapi keputusan soal benar atau salah tetap ada di tangan pengguna.
"Makanya penting untuk kita melakukan namanya intervensi manusia untuk mengecek terutama. Cek dan recheck juga penting adalah kita mencari konfirmasi kebenaran pada sumber-sumber yang verified, pada media online yang verified, tentunya ya pada media-media lain," ungkap Marroli.
Dia menambahkan, sikap kritis perlu menyertai setiap pemakaian AI. Teknologi ini berguna mempercepat pencarian informasi, namun tidak dirancang untuk menggantikan penilaian manusia.
Selain mengedukasi pengguna, Komdigi meminta platform digital terbuka soal cara AI dipakai di layanannya. Platform juga diharapkan menyediakan mekanisme bagi pengguna yang merasa dirugikan.
Transparansi dan tanggung jawab platform dinilai perlu agar perkembangan teknologi digital tetap memberi manfaat sekaligus melindungi kepentingan masyarakat.
"Intinya adalah AI boleh membantu kita berpikir tapi kemudian keputusan dan penilaian tetap harus berada di tangan para penggunanya," pungkas Marroli.
Bagi pengguna smartphone, imbauan ini berlaku untuk semua jenis asisten AI, mulai dari chatbot umum hingga fitur ringkasan otomatis di aplikasi pencarian dan media sosial. Kebiasaan cek silang menjadi penting ketika jawaban AI dipakai untuk urusan kesehatan, keuangan, atau keputusan kerja.
Pelaku bisnis digital yang memakai AI untuk layanan pelanggan perlu menyiapkan jalur eskalasi ke agen manusia. Sementara investor startup AI di Indonesia mendapat sinyal bahwa tata kelola dan transparansi produk akan menjadi bagian dari penilaian risiko, sejalan dengan kewajiban pelindungan data pribadi yang sudah berlaku.