Pembahasan perlindungan anak bersama UNICEF, 5 Oktober 2026. Foto: Komdigi.
JAKARTA, folitimes.id – Perkembangan kecerdasan artifisial mulai membawa persoalan baru terhadap perlindungan anak. Pemerintah dan UNICEF menyoroti risiko penyalahgunaan AI untuk menghasilkan materi seksual, mengolah data anak hingga memengaruhi kesehatan mental.
UNICEF Indonesia menyebut sekitar 70 juta anak menjalani kehidupan yang terdampak aktivitas daring maupun penggunaan platform AI. Persoalannya, anak sering tidak memiliki pilihan dalam menentukan bagaimana teknologi tersebut dirancang dan mengolah data mereka.
Platform Melapor Setiap Bulan
Kementerian Komunikasi dan Digital mengaku telah membangun mekanisme pemantauan terhadap platform teknologi global.
Platform memberikan informasi kepada pemerintah setiap bulan.
Laporan tersebut digunakan untuk melihat kepatuhan terhadap regulasi perlindungan anak di ruang digital.
Wakil Menteri Komunikasi dan Digital Nezar Patria mengatakan pemerintah dapat memantau pelaksanaan perlindungan anak melalui dasbor.
“Terkait proses pelindungan anak di ranah daring yang dijalankan, kami bekerja sama erat dengan sejumlah platform teknologi global dan dapat dipantau melalui dasbor,” kata Wakil Menteri Komunikasi dan Digital Nezar Patria di Kantor Kementerian Komdigi, Jakarta Pusat, Senin, 5 Oktober 2026.
Nezar menambahkan platform memberikan laporan mengenai kepatuhan terhadap regulasi setiap bulan, ungkapnya.
PP TUNAS Menjadi Instrumen Pengawasan
Pemerintah menggunakan PP TUNAS sebagai salah satu landasan perlindungan anak di ruang digital.
Regulasi tersebut mengatur tata kelola penyelenggaraan sistem elektronik dalam perlindungan anak.
Pengawasan menjadi semakin penting ketika platform mulai memasukkan fitur berbasis AI.
AI dapat mengubah bentuk risiko.
Sistem rekomendasi dapat menentukan konten yang muncul pada layar anak. Chatbot dapat membangun interaksi personal dalam waktu panjang.
Teknologi generatif juga mampu menciptakan gambar, video dan teks baru.
Karena itu, pola pengawasan terhadap platform konvensional perlu mengikuti perubahan teknologi.
UNICEF Soroti 70 Juta Anak
Chief Child Protection UNICEF Indonesia Muhammad Rafiq Khan menempatkan skala persoalan pada angka yang sangat besar.
“Ada 70 juta anak yang kehidupan sehari-harinya terdampak oleh aktivitas daring maupun penggunaan platform AI,” kata Chief Child Protection UNICEF Indonesia Muhammad Rafiq Khan di Kantor Kementerian Komdigi, Jakarta Pusat, Senin, 5 Oktober 2026.
Rafiq menambahkan anak sering tidak memiliki pilihan atau keterlibatan dalam menentukan bagaimana platform AI dirancang dan dikelola, ungkapnya.
Pernyataan tersebut menunjukkan anak tidak hanya menjadi pengguna.
Mereka juga dapat menjadi subjek data dan sasaran sistem algoritma.
AI Membuka Bentuk Kekerasan Baru
Salah satu risiko paling serius berasal dari AI generatif.
Teknologi dapat disalahgunakan untuk menghasilkan materi pelecehan seksual terhadap anak.
Pelaku tidak selalu membutuhkan foto eksplisit asli.
Sistem generatif dapat memanipulasi gambar biasa menjadi materi seksual palsu.
Risiko tersebut memperluas persoalan perlindungan anak.
Materi buatan AI tetap dapat menimbulkan kerugian psikologis dan sosial meskipun gambar tersebut merupakan manipulasi.
Pemerintah membutuhkan kemampuan deteksi yang mengikuti perkembangan teknologi.
Platform juga perlu memiliki sistem untuk mencegah pembuatan dan penyebaran konten berbahaya.
Chatbot Masuk Wilayah Kesehatan Mental
Risiko lain muncul ketika anak menggunakan chatbot AI sebagai tempat mencari dukungan.
Anak dapat menyampaikan persoalan pribadi, kecemasan maupun masalah kesehatan mental kepada sistem.
Situasi tersebut menciptakan dua pertanyaan besar.
Pertama, apakah jawaban sistem aman bagi anak yang sedang berada dalam kondisi rentan.
Kedua, bagaimana platform menyimpan informasi pribadi yang disampaikan selama percakapan.
AI tidak dapat diperlakukan sama dengan tenaga kesehatan profesional.
Karena itu, desain layanan perlu memiliki batas dan mekanisme perlindungan ketika mendeteksi situasi berisiko.
Perlindungan Harus Dimulai dari Desain
UNICEF mendorong perlindungan anak masuk sejak tahap perancangan AI.
Pendekatan tersebut berbeda dengan menunggu masalah muncul lalu menambahkan fitur keamanan.
Platform perlu memikirkan verifikasi usia, privasi, pengaturan orang tua dan pembatasan fitur sejak awal.
Pemerintah juga perlu menentukan standar yang dapat diaudit.
Pernyataan perusahaan mengenai keamanan tidak cukup tanpa mekanisme pengawasan independen.
Laporan bulanan dapat menjadi awal.
Namun, pemerintah perlu memastikan laporan tersebut dapat digunakan untuk mengidentifikasi pelanggaran dan menghasilkan tindakan korektif.
Transparansi Platform Menjadi Ujian
Jumlah anak yang terdampak membuat perlindungan tidak bisa hanya bergantung pada kemampuan orang tua.
Platform memiliki tanggung jawab karena mereka merancang sistem yang digunakan anak.
Pemerintah memiliki tanggung jawab menetapkan dan menegakkan aturan.
Orang tua tetap memegang peran dalam pendampingan.
Namun, tiga lapisan tersebut membutuhkan informasi yang transparan.
Publik perlu mengetahui bagaimana platform memproses data anak, fitur apa yang dibatasi serta bagaimana pelanggaran ditangani.
AI berkembang jauh lebih cepat daripada siklus regulasi.
Karena itu, pengawasan bulanan baru bernilai apabila pemerintah mampu mengubah temuannya menjadi perlindungan nyata sebelum risiko berkembang menjadi kerugian bagi anak.
