LONDON – Laporan terbaru menunjukkan bahwa generative Kecerdasan Buatan i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, juga aktivitas jahat lainnya.
Salah satu serangan yang digunakan teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini dilaksanakan oleh aktor ancaman dengan syarat China yang dimaksud berusaha mencapai pemerintah di tempat Asia.
Seperti dilansir dari CNET, metode spear-phishing yang digunakan dikenal dengan nama ‘SweetSpecter’, yang melibatkan pengiriman file ZIP berisi file berbahaya.
Jika diakses juga dibuka, file ini dapat menciptakan rantai infeksi di tempat sistem pengguna. OpenAI menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang mana memanfaatkan Pengolah Bahasa Alami GPT untuk menulis skrip lalu menemukan kerentanan dengan alat LLM.
Serangan berbasis Kecerdasan Buatan kedua dijalankan oleh kelompok jika Iran yang dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Chatbot GPT untuk mengeksploitasi kerentanan kemudian mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang dipimpin oleh kelompok lain jika Iran bernama Storm-0817, memanfaatkan Asisten Percakapan GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan serta riwayat penelusuran, mendapatkan lokasi tepat perangkat, dan juga mengakses file di dalam perangkat yang terinfeksi.
Meskipun semua serangan ini menggunakan metode yang mana telah ada untuk mengembangkan malware, laporan yang dimaksud menyatakan bahwa tidak ada ada indikasi bahwa Pengolah Bahasa Alami GPT menciptakan malware baru yang digunakan substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Teknologi AI untuk menyebabkan alat serangan yang berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Kecerdasan Buatan generatif.
OpenAI mengonfirmasi bahwa merekan akan terus meningkatkan keamanan Kecerdasan Buatan dia untuk menjaga dari metode-metode mirip digunakan dalam masa depan.
Selain itu, merek akan bekerja sejenis dengan kelompok keamanan internal kemudian terus berbagi temuan dengan rekan bidang juga komunitas riset guna menjaga dari situasi sejenis terulang.
