Eko Lanue ArdieNATIVZEN.com – Risiko terbesar dari kecerdasan buatan (artificial intelligence/AI) saat ini terletak pada sifatnya yang memiliki dua tujuan. Model bahasa besar (large language models/LLMs), seperti ChatGPT atau Google Gemini, kini telah diaplikasikan secara luas oleh pelaku usaha dan layanan publik di Indonesia.
Namun, teknologi yang sama juga dapat digunakan untuk mengotomatisasi phishing, penipuan, dan malware dalam skala yang terbilang besar. Bagi Indonesia, ancaman ini dinilai semakin mendesak.
Tingginya ketergantungan Indonesia dalam penggunaan aplikasi pesan instan, platform e-commerce, serta layanan publik digital membuat masyarakat semakin rentan menjadi target kejahatan siber berbasis AI.
Sejumlah pemberitaan dan peringatan pemerintah sebelumnya telah mengungkap peredaran aplikasi ChatGPT palsu yang dimanfaatkan untuk menyebarkan malware dan melancarkan kampanye phishing.
Selain itu, indikator dari Tim Tanggap Insiden Keamanan Siber Nasional (CSIRT) menunjukkan munculnya ancaman bergaya agen AI, termasuk phishing yang semakin canggih berpotensi mencuri data pribadi dan kredensial keuangan.
Riset Palo Alto Networks Unit 42 berjudul The Dual-Use Dilemma of AI: Malicious LLMs mengungkap bahwa LLM berbahaya, yang dikenal sebagai “dark LLMs” seperti WormGPT, FraudGPT, dan KawaiiGPT, sebagai model-model AI yang dibangun tanpa pengaman.
Kini, semua itu diperjualbelikan secara terbuka melalui Telegram dan forum dark web. Keberadaan model-model ini secara signifikan menurunkan hambatan teknis bagi pelaku kejahatan siber, baik dari sisi keahlian maupun waktu, untuk melancarkan serangan dalam skala besar dan terlokalisasi.
Unit 42 menilai bahwa LLM berbahaya berpotensi mengubah lanskap kejahatan siber di Indonesia dalam tiga aspek utama:
- Pertama, kemampuan AI menghasilkan bahasa yang sangat presisi memungkinkan pelaku membuat pesan phishing dan penyusupan email bisnis yang tampak sangat meyakinkan, meniru gaya komunikasi pimpinan perusahaan, institusi keuangan, atau lembaga pemerintah, sehingga mampu mengeksploitasi kepercayaan korban.
- Kedua, teknologi ini mendorong komersialisasi kejahatan siber dengan kemampuan menghasilkan malware, phishing kits, dan skrip pencurian data secara instan, yang sebelumnya hanya dapat dilakukan oleh pelaku dengan keahlian teknis tinggi.
- Ketiga, dengan hilangnya hambatan teknis, kejahatan siber menjadi semakin terdemokratisasi, memungkinkan pelaku dengan kemampuan rendah untuk menjalankan penipuan dan pemerasan digital secara cepat, mengubah kejahatan siber menjadi operasi yang murah, berulang, dan masif (industrialisasi). Sebagai contoh, WormGPT mampu menghasilkan konten penipuan dalam Bahasa Indonesia yang fasih dan kontekstual, sehingga serangan phishing atau social-engineering melalui email maupun aplikasi pesan menjadi semakin sulit dikenali.
AI tingkat lanjut kini dimanfaatkan oleh pelaku ancaman siber, yang mendorong percepatan aktivitas berbahaya di ruang digital. Karena itu, sangat penting bagi para pembuat kebijakan untuk menetapkan standar dan kerangka kerja yang mengatur proliferasi model AI berbahaya.
Selain itu, juga mewajibkan penerapan praktik keamanan terbaik, seperti audit keamanan secara berkala. Kemampuan untuk terus mengikuti perkembangan teknologi yang bergerak cepat ini menjadi hal yang esensial.
Seiring Indonesia menyusun peta jalan AI nasional, Unit 42 menekankan bahwa tantangan utama bukanlah membatasi atau melarang penggunaan tools AI, melainkan membangun ketahanan keamanan siber terhadap serangan berbasis AI yang berlangsung cepat dan berskala besar.
Pendekatan prevention-first yang mengintegrasikan praktik AI yang aman ke dalam tata kelola dan strategi pertahanan menjadi krusial agar Indonesia dapat memaksimalkan manfaat inovasi AI tanpa mengekspos organisasi, konsumen, dan layanan penting terhadap risiko digital yang terus meningkat.
Oleh karena itu, kolaborasi antara pemerintah, regulator, dan sektor swasta sangat diperlukan untuk memastikan bahwa praktik AI yang aman tertanam dalam peta jalan AI dan kerangka tata kelola nasional.
