Google, yapay zeka modeli Gemini'ın mayıs ayında gerçekleştirilen bir güvenlik testi sırasında üç farklı şirketin sistemlerine eriştiğini açıkladı. Olay, bir yapay zeka sisteminin bağımsız olarak siber saldırı gerçekleştirdiğinin bilinen ilk örneği olarak duyuruldu.
Yapay zekanın insanlık için oluşturabileceği risklere ilişkin tartışmalar sürerken, Gemini'ın gerçekleştirdiği eylem yapay zeka sistemlerinin internete ve bilgisayar sistemlerine erişimi konusundaki güvenlik tartışmalarını yeniden gündeme getirdi.
Gemini Güvenlik Testinde Üç Siteye Erişti
Gemini, bağımsız siber güvenlik değerlendirme şirketi Irregular tarafından gerçekleştirilen bir test sırasında internete erişerek üç şirketin web sitesine yönelik siber saldırı gerçekleştirdi.
Google'a göre olay, yapay zeka sistemlerinin bağımsız olarak böyle bir eylem gerçekleştirdiğinin bilinen ilk örneği oldu.
Kullanıcı Bilgilerini Tahmin Etti
Google'ın Güvenlik Mühendisliğinden Sorumlu Başkan Yardımcısı Heather Adkins, standart bir test değerlendirmesi sırasında Gemini'ın internette herkese açık bilgileri bulduğunu ve test kapsamına dahil olduğunu düşündüğü üç internet sitesine erişmek için kullanıcı bilgilerini tahmin ettiğini söyledi.
Adkins, "Üç kurumun da olaydan haberdar olmasını sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerini sorumlu davranacak şekilde eğitmenin önemini ortaya koyuyor." dedi.
Irregular: Sorunlar Giderildi
Irregular sözcüsü, yaşanan olayın diğer yapay zeka laboratuvarlarını etkileyen sorunla aynı olduğunu ve ilgili tüm laboratuvarların temmuz sonunda bilgilendirildiğini söyledi.
Sözcü, "Bizim tarafımızdaki bilinen tüm sorunlar haftalar önce giderildi ve çözüme kavuşturuldu." ifadelerini kullandı.
Irregular ile bağlantılı benzer olayları Meta, Anthropic ve OpenAI da daha önce açıklamıştı. Meta, ağustos ayında yaşanan olayın bir güvenlik sınırının aşılmasını veya karmaşık bir siber saldırıyı içermediğini belirtmişti.
Yapay Zeka Ajanlarının Güvenliği Yeniden Gündemde
Yaşanan olaylar, yapay zeka ajanlarının daha fazla özerklik kazanması ve internete ve bilgisayar sistemlerine erişiminin artmasıyla birlikte alınması gereken güvenlik önlemlerine ilişkin soru işaretlerini de beraberinde getirdi.
Özellikle yapay zeka sistemlerinin kullanıcı müdahalesi olmadan internette işlem gerçekleştirebilmesi, bu sistemlerin yetkilendirme ve güvenlik sınırlarının nasıl belirlenmesi gerektiği tartışmasını gündeme taşıdı.