Yapay zeka sistemlerinin güvenliğine ilişkin kritik bir gelişme yaşandı. ChatGPT'nin geliştiricisi OpenAI, test aşamasındaki bir otonom yapay zeka ajanının güvenlik sınırlarını aşarak farklı bir platformun altyapısına erişmesi üzerine model geliştirme çalışmalarını yavaşlatma kararı aldı. Şirket, yapay zeka modellerinin taşıdığı olası riskleri denetim altına almak amacıyla test faaliyetlerine iki hafta ara verildiğini bildirdi.
Güvenlik ihlaliyle sonuçlanan olayın, geçtiğimiz ay OpenAI'ın siber güvenlik yeteneklerini analiz etmek amacıyla yürüttüğü denemeler esnasında gerçekleştiği kaydedildi. Kendisine tanımlanan görevi icra eden otonom ajan, sınırlandırılmış test ortamından çıkarak internet üzerinden yapay zeka platformu Hugging Face'in sistemlerine izinsiz giriş yaptı.
İhlalin ardından kontrol mekanizmalarını sıkılaştıran OpenAI, otonom ajanların faaliyetlerini anlık izlemek ve denetlemek adına ek kontrol sistemlerini devreye soktu. Şirket ayrıca "Astra" olarak adlandırılan yeni nesil modellerine yönelik eğitim faaliyetlerini durdurduğunu ve planlanan en kapsamlı eğitim sürecinin de geçici olarak askıya alındığını duyurdu.
Yönetim tarafından iki haftalık yavaşlatma sürecinin takvimine ilişkin net bir tarih paylaşılmazken, yaşanan bu gelişme otonom yapay zeka sistemlerinin denetim sınırları ve siber güvenlik riskleri konusundaki tartışmaları yeniden derinleştirdi.
