Meski demikian, pemerintah menilai perkembangan kecerdasan buatan atau artificial intelligence (AI) menghadirkan tantangan baru yang membutuhkan penguatan regulasi dan kolaborasi lintas negara.

Menteri Komunikasi dan Digital, Meutya Hafid, mengatakan evaluasi enam bulan menunjukkan adanya langkah konkret dari sejumlah platform digital. Langkah tersebut mencakup penonaktifan akun pengguna anak hingga pengembangan fitur keamanan yang dirancang untuk memberikan perlindungan lebih baik.

Namun, pemerintah menegaskan bahwa keberhasilan kebijakan ini tidak cukup hanya diukur dari banyaknya akun yang dinonaktifkan. Perubahan desain layanan, efektivitas fitur keamanan, serta kemampuan platform dalam mengurangi risiko bagi anak juga menjadi aspek penting yang perlu diperhatikan.

“Perjalanan enam bulan ini menunjukkan sudah ada kemajuan, tetapi pekerjaan rumah kita masih banyak. Teknologi terus berkembang, termasuk AI. Pelindungan anak juga harus terus bergerak mengikuti perkembangan tersebut,” ujar Meutya

TikTok Nonaktifkan Sekitar 9 Juta Akun Anak

Dalam evaluasi tersebut, Komdigi juga menerima laporan mengenai perkembangan dari sejumlah platform digital terkait pelaksanaan kebijakan pembatasan akses bagi pengguna di bawah usia 16 tahun.

TikTok melaporkan bahwa jumlah akun pengguna di bawah usia 16 tahun yang dinonaktifkan telah meningkat lebih dari empat juta akun pada pelaporan awal menjadi sekitar sembilan juta akun.

Sementara itu, Meta melaporkan telah memblokir sekitar 85 ribu akun pengguna di bawah usia 16 tahun di Instagram dan 99 ribu akun di Facebook. Selain penonaktifan akun, Meta juga menyampaikan bahwa sekitar 22,5 juta akun anak telah dialihkan ke fitur Teen Account.

Fitur Teen Account dirancang untuk menghadirkan pengalaman penggunaan platform yang lebih sesuai bagi remaja. Meski demikian, Komdigi masih menilai Instagram dan Facebook sebagai platform berisiko tinggi meskipun fitur tersebut telah diterapkan.

Meutya menegaskan bahwa jumlah akun yang dinonaktifkan hanya menjadi salah satu indikator kemajuan. Pemerintah juga perlu memastikan platform digital benar-benar mengalami perubahan yang berdampak terhadap keselamatan anak.

Menurutnya, evaluasi pelaksanaan PP Tunas ini juga mencakup perubahan fitur, desain layanan, serta langkah konkret sejumlah platform dalam mengurangi risiko yang mungkin dihadapi pengguna anak.

Komdigi Soroti Tujuh Risiko Platform Digital

Komdigi juga menilai bahwa penerapan fitur Teen Account di Instagram dan Facebook masih perlu diperkuat agar dapat menjawab berbagai risiko yang dihadapi anak ketika menggunakan layanan digital.

Pemerintah mengidentifikasi tujuh kategori risiko yang menjadi perhatian dalam pelindungan anak di ruang digital, yaitu risiko kontak, konten, kecanduan, keamanan, konsumen, kondisi fisik dan fisiologis, serta kesehatan mental.

Bersama tim pakar, Komdigi akan memperjelas indikator dari masing-masing kategori risiko tersebut. Langkah ini diharapkan memberikan acuan yang lebih konkret bagi penyelenggara platform digital untuk melakukan mitigasi dan menurunkan tingkat risiko layanan mereka.

Pemerintah juga menekankan pentingnya edukasi bagi anak dan orang tua. Fitur pengawasan orang tua tidak akan memberikan perlindungan optimal apabila orang tua tidak mengetahui keberadaan fitur tersebut atau tidak memahami cara menggunakannya.

Karena itu, edukasi mengenai keamanan digital dan pemanfaatan fitur pengawasan menjadi bagian penting dari upaya melindungi anak di internet. Komdigi juga meminta Meta menyampaikan laporan mengenai penanganan akun anak di platform Threads.

Hingga evaluasi enam bulan yang dilakukan, pemerintah masih terus menunggu laporan terkait penonaktifan akun serta langkah mitigasi risiko bagi pengguna anak di platform yang berada di bawah bendera Meta.

Era AI Menghadirkan Tantangan Baru Pelindungan Anak

Setelah membangun fondasi pelindungan anak melalui Peraturan Pemerintah Nomor 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik Dalam Pelindungan Anak (PP TUNAS), pemerintah kini menghadapi tantangan yang semakin kompleks mengenai AI.

Teknologi AI dapat menghadirkan risiko yang melintasi berbagai platform dan batas negara. Kondisi ini membuat upaya pelindungan anak tidak dapat hanya mengandalkan kebijakan nasional atau langkah yang dilakukan oleh satu perusahaan teknologi.

Indonesia telah bergabung dalam Global Coalition for Children’s Rights and Protection in the Age of AI, sebuah koalisi global yang mempertemukan negara, organisasi internasional, masyarakat sipil, perusahaan teknologi, akademisi, serta pakar pelindungan anak.

Koalisi tersebut telah meluncurkan peta jalan 2026–2027 yang mencakup sejumlah agenda penting, antara lain penerapan keselamatan dan privasi sejak tahap perancangan teknologi, penguatan akuntabilitas, penyusunan standar pengujian, serta peningkatan literasi AI.

Peta jalan itu juga menyoroti penanganan penyalahgunaan AI untuk menghasilkan deepfake dan materi kekerasan seksual terhadap anak. Meutya mengatakan bahwa kolaborasi dengan internasional menjadi sangat penting.

Pasalnya karakter teknologi AI memungkinkan risiko berkembang melampaui batas geografis dan yurisdiksi suatu negara. Menurutnya, tidak ada satu negara pun yang dapat menyelesaikan persoalan pelindungan anak di era AI secara mandiri.

Sekitar 70 Juta Anak Indonesia Terdampak Perkembangan AI

Indonesia memiliki kepentingan besar dalam penyusunan tata kelola AI yang memperhatikan keselamatan anak. Pemerintah memperkirakan sekitar 70 juta anak Indonesia akan tumbuh dalam lingkungan yang semakin dipengaruhi oleh teknologi digital dan kecerdasan buatan.

Karena itu, pembahasan tata kelola AI tidak boleh hanya berorientasi pada inovasi dan pemanfaatan teknologi. Aspek keselamatan, privasi, kesehatan mental, serta pemenuhan hak anak juga perlu menjadi bagian dari proses pengembangan dan pengaturan teknologi sejak awal.

Prinsip tersebut sejalan dengan pendekatan yang dibangun melalui PP TUNAS, yakni memastikan keselamatan dan hak anak menjadi bagian dari desain serta tata kelola teknologi, bukan sekadar ditangani setelah risiko muncul.

Pemerintah juga berharap keterlibatan Indonesia dalam koalisi global dapat memperkuat posisi kepentingan anak dalam pembentukan standar dan aturan AI alias kecerdasan buatan di tingkat internasional.

Komdigi Lanjutkan Evaluasi Implementasi PP TUNAS

Ke depan, Komdigi akan melanjutkan evaluasi implementasi kebijakan melalui survei untuk mengetahui dampaknya di masyarakat. Koordinasi dengan pemerintah daerah juga akan diperkuat agar pelindungan anak di ruang digital tidak hanya berjalan di tingkat pemerintah pusat.

Pemerintah turut membuka ruang dialog dengan platform digital, kementerian dan lembaga terkait, organisasi pelindungan anak, akademisi, psikolog, tenaga kesehatan, serta pakar teknologi untuk memperkuat implementasi kebijakan.

Meutya menilai enam bulan pertama merupakan tahap awal untuk membangun perubahan yang lebih luas dalam ekosistem digital Indonesia. Pemerintah dapat menyusun regulasi, sementara platform dapat menghadirkan fitur keamanan.

Namun, pelindungan anak membutuhkan keterlibatan semua pihak, termasuk orang tua, sekolah, masyarakat, dan anak itu sendiri. Oleh karena itu, butuh pengawasan yang ketat saat anak-anak mulai masuk ke platform digital.

Selain itu, dengan semakin luasnya penggunaan teknologi digital dan AI, tantangan berikutnya bukan sekadar membatasi akses anak, melainkan memastikan lingkungan digital dirancang agar lebih aman, bertanggung jawab, dan mampu melindungi hak-hak anak.

“Hari ini saya ingin menyampaikan hal penting, yakni peringatan keras kepada seluruh pengelola platform digital, seperti X, Telegram, Google, Meta, dan Tiktok,” tegasnya dalam Konferensi Pers Judi Online yang berlangsung secara virtual dari Jakarta Selatan, Jumat (24/05).

Berdasarkan pemantauan Kementerian Kominfo, Menteri Budi Arie menyatakan masih terdapat banyak konten dengan kata kunci atau keyword terkait judi online. Menurutnya, sejak 7 November 2023 hingga 22 Mei 2024, di Google ditemukenali sebanyak 20.241 kata kunci.

Sementara di Meta 2.702 keyword, sejak 15 Desember 2022 hingga 22 Mei 2024. Sebagai gambaran, Budi Arie juga menyebutkan bahwa 10 besar keyword terkait judi online dalam seminggu terakhir adalah live slot, rtp slot, no limit, situs slot, slot gacor, dan masih banyak lagi.

Oleh karena itu, Menkominfo secara tegas dan terbuka menekankan akan mendenda penyelenggara platform digital sebesar Rp 500 Juta jika masih membiarkan konten judi online tersebar di platform digital.

“Jika tidak kooperatif untuk memberantas judi online di platform yang dimiliki, maka saya akan mengenakan denda sampai dengan 500 juta rupiah per konten. Saya ulangi, saya akan denda sampai dengan 500 juta rupiah per konten,” tandasnya.

Menurut Menteri Budi Arie, langkah itu diambil sesuai dengan regulasi yang telah berlaku di Indonesia yaitu Undang-undang No. 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik serta ketentuan perubahan dan Peraturan Menteri Kominfo Nomor 5 Tahun 2020.

“Denda kepada platform digital dikenakan sesuai dengan Peraturan Pemerintah Nomor 43 Tahun 2023 tentang Jenis dan Tarif Atas Jenis Penerimaan Negara Bukan Pajak (PNBP) yang berlaku pada Kementerian Kominfo,” tuturnya.

Ajakan ini disampaikan langsung oleh Menkominfo Budi Arie Setiadi kepada penyelenggara platform digital di Tanah Air saat membuka Seminar dan Workshop Lawan Misinformasi untuk Pemilu Sehat Kota Bandung secara online dari Jakarta Pusat, Kamis (16/11/2023).

“Secara khusus pada kesempatan ini saya meminta kepada WhatsApp dan Meta untuk mencurahkan energi lebih dan sumber daya secara optimal untuk menjaga ruang digital dengan membuat Posko Siaga Pemilu Meta,” ungkap Budi Arie. 

Budi Arie menilai bahwa keberadaan posko tersebut akan memiliki manfaat sebagai sarana koordinasi untuk menghalau hoaks dan segala bentuk konten negatif yang dilarang sesuai peraturan perundang-undangan yang berlaku. 

“Posko akan beroperasi 24 jam non stop sepanjang masa Pemilu. Jika memungkinkan, saya minta Meta membuat posko ini di Kantor Kominfo agar koordinasi kita bisa lebih cepat dan gesit. Ini salah satu cara untuk menciptakan Pemilu 2024 yang damai,” tambah Budi Arie.

Sebagai platform media komunikasi yang efektif di era transfer informasi yang begitu cepat, Menkominfo menegaskan posisi dan peran media sosial penting sebagai sumber informasi dan media komunikasi, terlebih di masa Pemilu serentak mendatang. 

“Dibalik potensi pemanfaatan tersebut, ada ancaman information disorder, cyberbulling, hate space, serta kesenjangan akses terhadap informasi perlu kita tangani dan antisipasi bersama-sama. Tantangan-tantangan di ruang digital di masa Pemilu juga semakin nyata,” pungkasnya.

Selain Menkominfo yang hadir virtual, kegiatan Workshop dan Seminar ini dihadiri secara langsung Ketua Bawaslu RI Rahmat Bagja, Plh Asisten Administrasi Umum Pemprov Jawa Barat Hening Widiatmoko, serta Manager Kebijakan Publik WhatsApp Indonesia Esther Samboh.