Telapak tangan: Layanan AI generatif mendapatkan popularitas luar biasa di kalangan pengguna internet dan penjahat dunia maya. Menurut FBI, konten “sintetis” semakin banyak dieksploitasi untuk melakukan berbagai jenis penipuan. Namun, dengan tindakan pencegahan yang tepat, seseorang masih dapat melindungi dirinya secara efektif saat online.
FBI telah mengeluarkan peringatan tentang penyalahgunaan teknologi AI generatif secara kriminal. Dalam pengumuman layanan masyarakat yang diterbitkan baru-baru ini, biro tersebut memperingatkan masyarakat Amerika bahwa penipu mengeksploitasi konten yang dihasilkan AI untuk membuat skema ilegal mereka lebih meyakinkan dan efektif.
Menurut FBI, AI generatif memungkinkan penjahat mengurangi waktu dan upaya yang diperlukan untuk menipu target mereka. Alat AI ini mengambil masukan pengguna untuk “mensintesis” konten yang benar-benar baru berdasarkan perintah. Mereka bahkan dapat membantu memperbaiki kesalahan manusia yang mungkin menimbulkan kecurigaan, khususnya dalam teks yang dihasilkan AI.
Membuat konten dengan AI pada dasarnya tidak ilegal, namun menjadi kejahatan jika konten tersebut digunakan dalam upaya penipuan atau pemerasan. Peringatan FBI menguraikan beberapa contoh bagaimana AI generatif dapat disalahgunakan dan menawarkan saran praktis untuk membantu pengguna melindungi diri mereka sendiri saat online.
Teks yang dihasilkan AI dapat terlihat sangat meyakinkan dalam kampanye rekayasa sosial atau spear-phishing. Penipu memanfaatkan AI generatif untuk menghasilkan konten palsu dalam jumlah besar, membuat profil media sosial palsu, mengirim pesan, dan menerjemahkan bahasa dengan akurasi lebih tinggi dan kesalahan tata bahasa lebih sedikit. Seluruh situs web palsu kini dapat dibuat dalam waktu singkat, dan chatbots digunakan untuk mengelabui korban agar mengeklik tautan jahat.
Tidak mengherankan, gambar yang dihasilkan AI menjadi yang terdepan dalam tren saat ini, dan penjahat dunia maya memanfaatkannya sepenuhnya. Penipu menggunakan visual yang dihasilkan AI untuk menyempurnakan profil media sosial palsu dan dokumen identitas palsu yang mendukung aktivitas penipuan. Menurut FBI, algoritme AI dapat menghasilkan gambar “realistis” yang dieksploitasi dalam kampanye rekayasa sosial, upaya spear phishing, penipuan, dan bahkan “skema percintaan”.
Konten audio dan video yang dihasilkan AI juga mempunyai risiko serupa. Penjahat kini dapat menyamar sebagai tokoh masyarakat atau bahkan orang yang dikenal secara pribadi oleh target mereka, meminta bantuan keuangan atau akses ke informasi sensitif seperti rekening bank.
FBI menyarankan pengguna untuk membuat “kata atau frasa rahasia” dengan keluarga dan teman tepercaya sebagai cara cepat untuk memverifikasi identitas. Kiat tambahan untuk mencegah kejahatan generatif yang didukung AI termasuk memeriksa secara cermat gambar dan video untuk mencari ketidakberesan atau inkonsistensi, serta meminimalkan ketersediaan gambar pribadi atau rekaman suara secara online.
Ketika menangani permintaan keuangan, FBI menekankan pentingnya memverifikasi keabsahan permintaan tersebut melalui panggilan telepon langsung daripada mengandalkan teks atau email. Informasi sensitif tidak boleh dibagikan kepada individu yang hanya ditemui secara online. Meskipun terlihat jelas, FBI juga menegaskan kembali bahwa mengirim uang, kartu hadiah, atau mata uang kripto kepada orang asing secara online sangat berisiko dan sering kali mengarah pada penipuan.
