Google, Gemini’nin kötü niyetli aktörler tarafından nasıl kullanıldığını detaylandıran yeni bir rapor yayınladı. Gelişmiş yapay zeka modelleri, iş süreçlerini kolaylaştırmak amacıyla geliştirilse de, aynı teknolojiler kötü amaçlı faaliyetlerde de kullanılabiliyor. Google, yapay zeka modellerini kötüye kullanıma karşı çeşitli güvenlik önlemleriyle korumaya çalışsa da, siber tehdit aktörleri bu engelleri aşmanın yollarını aramaya devam ediyor. Özellikle devlet destekli hacker grupları ve bilgi manipülasyonu yapan oluşumlar, Gemini’den faydalanarak çeşitli siber saldırılar düzenlemeye çalışıyor.
Google Gemini, siber saldırılar için mi kullanılıyor?
Google’ın Tehdit İstihbarat Grubu tarafından hazırlanan rapor, yapay zekanın kötüye kullanımını iki temel saldırı kategorisine ayırıyor. İlk tür saldırılarda, yapay zeka araçları doğrudan kötü amaçlı yazılım geliştirme veya hesap bilgilerini ele geçirme gibi faaliyetlerde kullanılmaya çalışılıyor. İkinci kategoride ise yapay zeka, hacker gruplarına dolaylı olarak yardımcı oluyor. Örneğin, hedeflerin analiz edilmesi, güvenlik açıklarının araştırılması veya kötü amaçlı yazılım kodlarının oluşturulması gibi işlemlerde Gemini’den destek alınıyor. Raporda, bu tür saldırıları gerçekleştiren iki ana tehdit kategorisinden bahsediliyor: Gelişmiş Kalıcı Tehditler (APT) ve Bilgi Operasyonları (IO). APT grupları genellikle Çin, İran, Kuzey Kore ve Rusya gibi devlet destekli oluşumları içerirken, IO grupları ise sahte haberler yayarak veya sosyal medya üzerinden dezenformasyon kampanyaları yürüterek bilgi manipülasyonu yapıyor.
Google’ın incelemelerine göre, Gemini’nin en çok kötüye kullanıldığı alanların başında hedef araştırması ve kod geliştirme geliyor. Özellikle askeri ve istihbarat hedefleriyle ilgili bilgilerin özetlenmesi, yazılım güvenlik açıklarının belirlenmesi ve kötü amaçlı yazılımların kodlanmasına yardımcı olunması gibi alanlarda kullanıldığı tespit edildi. IO gruplarının ise Gemini’yi çeviri yapma, mesajlarının tonunu ayarlama ve kimliklerini gizleyerek farklı kişiler gibi görünme amacıyla kullandığı belirlendi. Bu durum, yapay zekanın kötü niyetli kullanımlarını engellemenin zorluklarını gözler önüne seriyor. Google, Gemini’nin doğrudan zarar vermesi için kullanılmasını büyük ölçüde engellemeyi başarmış olsa da, saldırganlar karmaşık planlarını daha küçük ve zararsız görünen adımlara bölerek yine de AI teknolojisini kendi amaçları doğrultusunda kullanabiliyor. Yapay zeka araçları iş süreçlerini hızlandırmak ve kolaylaştırmak için tasarlandığından, bu özellikler kötü amaçlı kişiler tarafından da avantaj sağlamak için kullanılıyor.
Samsung, bir ülkede daha liderliği kaybetti!
Genel olarak, Google Gemini’nin kritik tehdit unsurlarına doğrudan zarar verecek bir şekilde kullanılmasının büyük ölçüde engellendiğini belirtiyor. Ancak devlet destekli hacker gruplarının ve dezenformasyon ekiplerinin, yapay zekayı dolaylı yollardan kendi operasyonlarına entegre ettiği gözlemleniyor. Google’ın Tehdit İstihbarat Grubu tarafından hazırlanan rapor, bu tür saldırılar ve bunları gerçekleştiren APT gruplarının faaliyetleri hakkında daha fazla ayrıntı sunuyor. Kötü niyetli aktörlerin yapay zekayı nasıl kullandığını merak edenler için raporun tamamı incelenmeye değer bir kaynak olarak öne çıkıyor.
Yesilrobot.com e-bültenine kaydolarak, her hafta 15 bine yakın Yeşil Robot okurunun yaptığı gibi, tüm güncellemeleri E-posta kutunuzdan takip edebilirsiniz. Abonelik için tıklayınız
