Kullanıcı ile uzun süre etkileşime girerek davranışları analiz eden yapay zekâ sohbet robotları bir süre sonra bir saldırı aracı haline gelebiliyor. Sektörün önemli oyuncularından Anthropic, Çinlilerin Claude robotunu siber saldırı için kullandığını açıkladı. Yapay zekâ kullanıcıyı kandırabilir mi?
Anthropic geçtiğimiz aylarda Claude yapay zekâsının kullanıcı ruh halini analiz ederek para ödeme gibi farklı davranışlara yönlendirdiği vibe hacking için kullanıldığını açıklamıştı. Şimdi ise devlet destekli Çinli bir hacker grubunun, Claude’u kullanarak dünya genelinde 30 kurumsal ve siyasi hedefe yönelik kapsamlı bir siber saldırı gerçekleştirmeye çalıştığı ve bunda kısmen başarılı olduğu duyuruldu.
Tarihte insan müdahalesi olmadan büyük çapta gerçekleştirilmiş ilk belgeli siber saldırı olarak tanımlanan bu olayda saldırganlar saldırı kodlarını parçalara bölerek zarar niyetini sakladılar ve yapay zekâyı bir siber güvenlik firmasıymış gibi kandırdılar. Daha sonra geliştirilen otomasyon çerçevesinde model kullanıcı adı–şifreleri ele geçirerek büyük miktarda özel veriyi topladı. Claude’un saldırıları kendi içinde belgeleyip dosyalaması ise olayın ciddiyetini daha da artırdı.
Şirket, bu tür tehditleri duyurmasının kendi teknolojisini kötü göstermeye yönelik olmadığını vurguladı. Aksine, Claude’un aynı zamanda savunma için kritik bir araç olduğunu belirtti. Yapay zekânın toplanan verilerin risk seviyesini analiz ettiğini söyleyen Anthropic, gelecekte siber güvenlik profesyonellerinin saldırıları tespit etme ve engelleme süreçlerinde Claude’un büyük bir rol oynayacağını savunuyor.
