Apakah kecerdasan buatan aman? Topik ini bisa dibilang paling populer di dunia teknologi saat ini, dan menjadi salah satu topik yang mengundang perdebatan sengit.
Pada pertemuan puncak global di Paris pada Februari 2025, pandangan tentang keamanan AI berbeda di antara para pemimpin dunia. Misalnya, Presiden Prancis, Emmanuel Macron, menyerukan regulasi lebih lanjut untuk membantu AI berkembang, sementara Wakil Presiden Amerika Serikat, JD Vance, mengatakan bahwa "kebijakan AI yang pro-pertumbuhan" harus diprioritaskan daripada masalah keamanan.
Sementara bisnis, otoritas, dan masyarakat yang sah sedang menjajaki cara untuk menggunakan AI secara bertanggung jawab dan aman, ada juga ancaman lain: penggunaan AI oleh penjahat siber untuk membuat aktivitas jahat mereka semakin kuat dan sukses.
Kejahatan siber AI merupakan pengubah permainan bagi keamanan di seluruh lanskap digital, dan sangat penting bagi setiap orang untuk menyadari risiko dan tindakan yang diperlukan untuk tetap aman. Panduan ini membahas berbagai jenis serangan siber AI, apa arti serangan ini dari sudut pandang keamanan, dan apa yang dapat Anda lakukan sekarang untuk memperkuat pertahanan Anda.
Contoh peretasan sukses menggunakan AI
Risiko malware yang dihasilkan AI dan aktivitas kriminal lainnya jauh lebih besar daripada sekadar teori - serangan ini sudah terjadi dan menelan korban di seluruh dunia. Berikut tiga dari sekian banyak contoh:
Peniruan Identitas: Guido Crosetto
Pada awal tahun 2025 , penipu menggunakan teknologi suara yang dihasilkan AI untuk menyamar sebagai menteri pertahanan Italia, Guido Crosetto. Mereka kemudian menghubungi pengusaha kaya di Italia dengan permohonan fiktif untuk dukungan finansial yang seharusnya digunakan untuk membantu membebaskan jurnalis Italia yang diculik di Timur Tengah. Setidaknya satu pengusaha tertipu untuk mengirim uang ke rekening yang terbukti palsu.
Malware: Penipuan DeepSeek ClickFix
Satu operasi kriminal dunia maya telah menyiapkan halaman web verifikasi yang meniru AI baru Tiongkok, DeepSeek. Pengguna yang menyelesaikan apa yang mereka pikir adalah perintah verifikasi Captcha memerintahkan pemasangan Vidar Stealer dan Lumma Stealer, malware yang dapat digunakan untuk mencuri informasi sensitif, termasuk login dan detail bank, yang pada akhirnya mengakibatkan penipuan perbankan online .
Kesalahan pengguna: Kebocoran ChatGPT Samsung
Meskipun bukan virus AI atau serangan malware , insiden tingkat tinggi ini menyoroti bagaimana pintu dapat secara tidak sengaja dibuka untuk serangan AI. Pada musim semi tahun 2023, staf raksasa teknologi Korea Samsung menggunakan ChatGPT untuk memeriksa beberapa kode sumbernya, tanpa menyadari bahwa data tersebut akan disimpan untuk melatih model AI lebih lanjut. Hal ini secara efektif menempatkan beberapa kekayaan intelektual Samsung yang sangat sensitif ke dalam domain publik agar dapat diakses oleh siapa pun.
Jenis-jenis serangan siber AI
Sudah ada beberapa cara berbeda di mana AI dapat digunakan untuk aktivitas jahat, baik secara langsung maupun untuk mendukung usaha kriminal lainnya:
Rekayasa sosial
Serangan rekayasa sosial adalah upaya penjahat untuk memengaruhi perilaku manusia dan membuat pengguna memberikan informasi atau aset secara sukarela. Ini bisa berupa apa saja, mulai dari data pribadi sensitif , informasi rekening bank, uang atau mata uang kripto , hingga akses ke perangkat dan basis data tertentu. AI terbukti sangat membantu dalam serangan semacam ini, membantu penjahat siber mengidentifikasi target, mengembangkan persona dan pesan yang meyakinkan , serta membuat rekaman audio dan video yang menambah kredibilitas penipuan.
Serangan phishing
Serangan phishing mengandalkan pengguna yang mengira pesan, tautan, dan lampiran email yang mereka terima asli dan mengklik apa yang ternyata merupakan malware. Edukasi pengguna yang baik telah membantu mengurangi keberhasilan serangan ini di masa lalu, tetapi AI kini digunakan untuk membuat upaya phishing lebih meyakinkan dari sebelumnya. AI dapat digunakan dalam komunikasi waktu nyata seperti pesan WhatsApp atau komunikasi media sosial, dan bahkan dalam chatbot layanan pelanggan palsu di mana pelanggan mengira mereka membagikan detail akun mereka dengan staf sungguhan.
Ransomware AI
AI telah memperluas kemampuan teknis serangan ransomware secara substansial. Ini mencakup riset target, seperti menilai sistem untuk kerentanan yang paling menjanjikan untuk dieksploitasi, dan kemampuan untuk mengadaptasi berkas ransomware agar tetap dapat menghindari deteksi solusi keamanan siber.
AI yang bersifat adversarial dan GPT berbahaya
Banyak penjahat siber mendistorsi keluaran yang dihasilkan AI dengan memberikan data yang tidak akurat atau mengubah pengaturan model AI. Ketidakakuratan yang dihasilkan dapat menyebabkan bias berbahaya atau terciptanya instruksi yang sesuai dengan tujuan peretas. Selain itu, terjadi peningkatan penggunaan alat AI berbahaya yang tidak memiliki perlindungan apa pun untuk melindungi dari bias dan penyalahgunaan; GhostGPT adalah contoh terbaru chatbot tanpa sensor yang dapat digunakan untuk membuat malware AI.
Deepfake
Anda mungkin berpikir bahwa deepfake hanya menjadi perhatian bagi figur publik yang wajah dan suaranya ditempatkan pada posisi fiktif yang membahayakan, tetapi ancaman bagi semua orang itu nyata. Teknologi deepfake dapat digunakan untuk meniru siapa pun melalui video, suara, atau kombinasi keduanya. Ini berpotensi digunakan untuk mendapatkan akses ke informasi sensitif atau bahkan rekening bank dengan mengelabui prosedur keamanan dan verifikasi.
Melawan Api dengan Api: Apa Arti Kejahatan Siber Berbasis AI bagi Keamanan?
Alat terbaik untuk melawan ancaman siber AI adalah kecerdasan buatan itu sendiri. Itu tidak berarti bahwa solusi keamanan standar tidak berdaya untuk mencegah serangan yang didukung AI: solusi tersebut tetap dapat melindungi dari berbagai jenis malware dan peretasan. Namun, memasukkan AI ke dalam bauran keamanan dapat menambahkan dimensi ekstra pada beberapa metode keamanan, seperti:
Respons insiden
AI dapat digunakan untuk mengotomatiskan aktivitas respons insiden. Misalnya, Kaspersky Incident Response dapat memblokir aktivitas berbahaya, dan sistem yang terdampak dapat diisolasi jauh lebih cepat daripada yang dapat dilakukan manusia dalam merespons peringatan sistem. Mengurangi waktu respons dan resolusi secara drastis dapat meminimalkan dampak serangan apa pun, yang pada akhirnya membatasi skala gangguan, biaya, dan kehilangan data.
Deteksi Ancaman dan Perburuan Ancaman Proaktif
Dengan begitu banyaknya ancaman, tim keamanan mungkin kesulitan untuk mengikuti semua yang ada dan menyelidiki setiap peringatan. Di sinilah AI dapat membantu, menganalisis perilaku pengguna dan lalu lintas jaringan secara detail, mendeteksi potensi ancaman lebih cepat, dan menyaring positif palsu yang menghabiskan waktu berharga tim keamanan. AI juga dapat membuat deteksi ancaman proaktif, memburu serangan siber bahkan sebelum dimulai.
Analisis Malware
Wawasan yang dapat dihasilkan AI dapat memberi tim keamanan pemahaman yang jauh lebih baik dan mendalam tentang cara kerja berbagai jenis malware dalam praktiknya. Mampu mengotomatiskan analisis ini berarti tim keamanan dapat mengakses wawasan ini jauh lebih cepat dan dapat membuat keputusan yang lebih tepat tentang di mana dan bagaimana pertahanan mereka dirancang dan diterapkan.
Pemindaian Kerentanan
Alat AI dapat menilai sistem dan infrastruktur untuk mengetahui di mana letak kerentanan terbesar, sehingga tim keamanan dapat lebih memprioritaskan waktu dan sumber daya mereka dalam menutup kerentanan tersebut. Informasi ini penting untuk manajemen patch dan pembaruan yang lebih baik, memastikan bahwa peningkatan yang paling mendesak diinstal terlebih dahulu.
Manajemen Identitas dan Akses (IAM)
Kekuatan Manajemen Identitas dan Akses telah diperkuat secara substansial oleh AI melalui kemampuannya untuk menemukan pola aktivitas pengguna yang tidak biasa dari berbagai lokasi untuk upaya akses hingga kecepatan mengetik dan pergerakan mouse. Anomali ini dapat ditandai secara real-time untuk memblokir potensi akses tidak sah dan/atau untuk menghasilkan lapisan verifikasi tambahan untuk mengonfirmasi penggunaan yang sah.
Peretasan etis
Peretasan etis dan pengujian penetrasi adalah alat penting dalam menemukan kerentanan dan menutupnya secara proaktif. Namun, ini bisa menjadi perusahaan yang lambat dan memakan waktu hanya karena ukuran beban kerja yang terlibat. AI dapat meringankan beban administrasi tugas-tugas ini, namun, dengan dua cara penting: mengotomatiskan tugas-tugas yang lebih sederhana dan lebih berulang yang memperlambat tim dan menganalisis hasilnya untuk memberikan wawasan yang dapat ditindaklanjuti.
Penilaian risiko
Manfaat AI yang sama untuk peretasan etis juga dapat diterapkan untuk mengembangkan penilaian risiko dan memprioritaskan ancaman sesuai dengan tingkat bahayanya. Ini juga bisa menjadi tugas yang membosankan dan memakan waktu (sepenting apa pun), jadi menggunakan AI untuk mempercepat proses, menangani pekerjaan yang berulang, dan mendorong wawasan yang lebih terperinci bisa sangat berguna.
Cara melindungi diri Anda dari serangan siber AI
Di samping kemampuan keamanan berbasis AI di atas, ada banyak cara untuk meminimalkan peluang keberhasilan peretasan AI. Dari sudut pandang ahli kami, cara terbaik untuk maju menyatukan orang, perencanaan, dan teknologi:
Buat rencana respons insiden
Semakin cepat Anda dapat merespons insiden, semakin cepat Anda dapat mengurangi dampak apa pun dan memastikan bahwa kerusakan tidak menyebar terlalu luas. Sama seperti latihan kebakaran, Anda harus tahu persis apa yang harus dilakukan ketika insiden keamanan terjadi. Rencana Anda harus mencakup persiapan (yaitu, pencegahan dan cara merespons), deteksi dan analisis (mengkonfirmasi sifat dan tingkat keparahan serangan), penanggulangan dan pemberantasan serangan (isolasi sistem, remediasi, dan patching), serta taktik pemulihan yang mencegah insiden terulang kembali.
Pelajari lebih lanjut tentang cara membangun strategi yang efektif dengan solusi Respons Insiden Kaspersky .
Gunakan platform keamanan terkuat yang tersedia
Pastikan Anda memiliki perlindungan keamanan paling komprehensif untuk melindungi Anda dari ancaman yang ada dan serangan baru berdasarkan kejahatan dunia maya AI. Kaspersky Premium , misalnya, menyediakan perlindungan anti-virus waktu nyata yang segera mengambil tindakan untuk mencegah serangan; juga mencakup Perlindungan Identitas yang lebih melindungi data pribadi yang sensitif.
Nilai postur keamanan secara teratur
Dengan AI dan kejahatan dunia maya yang berkembang dengan cepat, langkah-langkah keamanan yang Anda terapkan saat ini mungkin tidak cukup 12 bulan ke depan (atau bahkan lebih cepat dari itu). Ini berarti bahwa keamanan harus diaudit dan ditinjau secara berkala; AI dapat mendukung hal ini melalui analisis waktu nyata dari aktivitas pengguna dan penemuan aktivitas anomali apa pun dibandingkan dengan periode audit sebelumnya.
Pertahankan kesadaran keamanan pengguna dan karyawan
Keberhasilan serangan phishing yang berkelanjutan - baik yang dikembangkan menggunakan AI atau tidak - menggarisbawahi fakta bahwa keamanan yang baik dimulai dari pengguna. Sekaranglah saatnya untuk membuat pengguna menyadari risiko peretasan AI dan serangan terkait, terutama tentang seberapa meyakinkan teks, audio, dan video yang dihasilkan AI. Hal ini dapat membantu mengingatkan pengguna untuk tetap sangat waspada dan tidak melakukan aktivitas apa pun kecuali mereka 100% yakin bahwa hal tersebut aman. Pelajari bagaimana Pelatihan Keamanan Siber Kaspersky dapat membantu tim Anda tetap waspada terhadap serangan berbasis AI.
Artikel Terkait:
- Media sosial dan AI: Amankah?
- Apakah ChatGPT aman digunakan? Yang perlu Anda ketahui
- Cara mencegah serangan siber
Produk Terkait:
