SOSYAL MÜHENDİSLİK, SİBER SUÇLULARIN DOLANDIRICILIK İÇİN YOĞUN OLARAK KULLANDIĞI YÖNTEMLER İÇERİSİNDE YER ALIYOR. ÇOĞUNLUKLA KİMLİK AVI E-POSTALARI, MESAJLAR VEYA TELEFON ARAMALARI YOLU KULLANILARAK YAPILAN BU TÜR DOLANDIRICILIKTA YAPAY ZEKÂ DESTEKLİ YÖNTEMLER DE BENİMSENMEYE BAŞLADI.
Siber güvenlik alanında dünya lideri olan ESET, üretken yapay zeka (GenAI) teknolojilerinin kötüye kullanımıyla artan tehditlere karşı uyarıda bulunuyor. Yapay zekâ, farklı yöntemlerle sosyal mühendislik tehdidi oluşturabiliyor. LLM olarak adlandırılan büyük dil modelleri büyük ölçekte, son derece ikna edici kimlik avı kampanyaları tasarlamak ve en şüpheci kullanıcıları bile kandırmak için derin sahte ses ve videolar oluşturmak için kullanılabiliyor. Ancak sosyal medya platformu X’in yakın zamanda keşfettiği gibi, bir başka ve muhtemelen daha sinsi bir tehdit daha var: Grokking. X'in yerleşik GenAI botu Grok’un manipule edilerek kimlik avı bağlantılarını yaymasına neden olan Grokking adlı saldırı kampanyasında, tehdit aktörleri, tıklama tuzağı videoları içeren gönderiler yayımlayarak, X’in kötü amaçlı reklamlarla mücadele etmek için tasarladığı ve tanıtılan gönderilerdeki bağlantıları yasaklayan politikasını atlatabiliyor; videonun altındaki küçük “kaynak” alanına kötü amaçlı bağlantılarını gömebiliyorlar. Kötü niyetli aktörler daha sonra Grok’a videonun nereden geldiğini soruyor. Grok gönderiyi okuyor ve küçük bağlantıyı fark ederek yanıtında onu büyütüyor. Bu durum, Grok’un güvenilirliği sayesinde dolandırıcılık içeriklerinin daha geniş kitlelere ulaşmasına ve arama motorlarında daha yüksek sıralamalara çıkmasına yol açıyor.
GROKKING NEDEN TEHLİKELİ?
Tehdit aktörlerinin güvenlik mekanizmalarını atlatmanın bir yolunu bulmadaki yaratıcılığını ve kullanıcıların yapay zekânın çıktısına güvenirken aldıkları riskleri görmemiz gerekiyor. Bu hile, X'in yerleşik GenAI botu Grok'un güvenilir hesabından bir kimlik avı bağlantısı paylaşılmasına neden olarak, Grok'u etkili bir şekilde kötü niyetli bir aktör haline getiriyor. Ücretli video gönderileri genellikle milyonlarca kez görüntüleniyor. Dolayısıyla dolandırıcılık ve kötü amaçlı yazılımları geniş bir alana yayma potansiyeline sahipler. Grok ise son derece güvenilir bir kaynak olarak görüldüğü için bağlantılar SEO ve alan adı itibarında da güçleniyor. Bağlantılar, kimlik bilgilerini çalan formlara ve kötü amaçlı yazılım indirmelerine yönlendiriliyor. Bu da kurbanların hesaplarının ele geçirilmesine, kimlik hırsızlığına ve daha fazlasına yol açabiliyor.
PROMPT ENJEKSİYONU: GENAI’NİN YENİ AÇIĞI
Aslen Grokking, prompt enjeksiyonu adı verilen daha geniş bir saldırı türünün parçası olarak değerlendiriliyor. Bu tür saldırılarda tehdit aktörleri, GenAI botlarına kötü amaçlı komutlar vererek onları manipüle ediyor. Bu komutlar doğrudan sohbet arayüzüne yazılabileceği gibi, içerik meta verilerine gizlenerek dolaylı yollarla da uygulanabiliyor. ESET uzmanları, bu tür saldırıların yalnızca X platformuyla sınırlı olmadığını, teorik olarak her türlü GenAI aracına uygulanabileceğini vurguluyor. Bu durum, yapay zekâ teknolojilerinin güvenlik açıklarını ve kullanıcıların bu araçlara körü körüne güvenmemesi gerektiğini ortaya koyuyor.
KULLANICILAR İÇİN GÜVENLİK ÖNERİLERİ
• Gömülü yapay zekâ araçları, kimlik avına karşı uzun süredir devam eden savaşta yeni bir cephe açtı. Bu yeni dolandırıcılık yöntemine karşı dikkatli olmak için her zaman sorgulayıcı olun. Aldığınız cevapların tamamen doğru olduğunu düşünmeyin. • Bir GenAI botu tarafından bir bağlantı sunulursa üzerine gelerek gerçek hedef URL’sini kontrol edin. Şüpheli görünüyorsa tıklamayın. • Yapay zekâ çıktısına her zaman şüpheyle yaklaşın, özellikle de cevap/öneri uygunsuz görünüyorsa. • Kimlik bilgilerinin çalınma riskini azaltmak için güçlü, benzersiz parolalar (parola yöneticisinde saklanan) ve çok faktörlü kimlik doğrulama (MFA) kullanın. • Güvenlik açığı istismar riskini en aza indirmek için tüm cihaz/bilgisayar yazılımlarınızın ve işletim sistemlerinizin güncel olduğundan emin olun. • Cihazınızdaki kötü amaçlı yazılım indirmelerini, kimlik avı dolandırıcılıklarını ve diğer şüpheli etkinlikleri engellemek için saygın bir güvenlik yazılımı sağlayıcısından çok katmanlı koruma edinin.
