Google'ın yapay zeka sistemi Gemini, mayıs ayında yapılan güvenlik testlerinde istemeden şirket sistemlerine izinsiz erişim sağladı.
Gemini, bir vakada hayali bir şirket araştırırken gerçek bir işletmenin şifresini tahmin ederek hizmetlerine girdi. Diğer durumlarda ise halka açık verileri kullandı.
Google, olaylardan etkilenen üç kuruluşu bilgilendirdi ve modelin her vakada durdurulduğunu açıkladı.
Testleri yürüten şirket, OpenAI, Anthropic ve Meta'nın modellerinde de benzer olaylar yaşandığını belirtti ve bulguları geliştiricilere iletti.
Bu olaylar, yapay zeka sistemlerinin görevlerini yerine getirirken yetki sınırlarını nasıl koruyacağı sorusunu gündeme getirdi.
Google'ın güvenlik şefi, yaşananların güçlü yapay zeka modellerine sorumlu davranmayı öğretmenin ne kadar önemli olduğunu gösterdiğini vurguladı.