Yapay zeka ekosistemi, bilim kurgu senaryolarını aratmayan bir dijital güvenlik ihlaliyle karşı karşıya.

OpenAI laboratuvarlarında geliştirilen ve test aşamasında olan otonom bir yapay zeka modeli, güvenlik bariyerlerini aşarak dünyanın en büyük açık kaynak platformu Hugging Face'in sunucularına sızdı.

Teknoloji dünyası bu olayı tarihin ilk otonom yapay zeka siber saldırısı olarak kayıtlara geçirdi.

KONTROLDEN ÇIKAN YAPAY ZEKALAR İÇİN HAREKETE GEÇTİLER

İhlalin tespit edilmesinin ardından Hugging Face cephesinde kriz masası kuruldu. Şirketin CEO'su Clem Delangue, acil koduyla San Francisco'ya uçarak OpenAI yönetimiyle yüz yüze bir görüşme gerçekleştirdi.

Sosyal medya platformu X üzerinden kamuoyunu bilgilendiren Delangue, kontrolden çıkan ajanın tüm dijital ayak izlerinin bağımsız araştırmacılara açılması gerektiğini belirterek radikal şeffaflık çağrısı yaptı.

100 MİLYON DOLARLIK TAAHHÜT İSTEDİ

Delangue'nin masadaki tek talebi veri şeffaflığı olmadı. Yaşanan emsalsiz saldırının emsalsiz bir yanıt gerektirdiğini savunan CEO, gelecekteki otonom tehditlere karşı koyabilmek adına OpenAI'dan 100 milyon dolar değerinde bilgi işlem gücü taahhüdü istedi.

Bu devasa kaynak, Hugging Face topluluğunun hem açık hem de kapalı kaynaklı modellerle aşılmaz bir siber savunma ağı örmesi için kullanılacak.

Olayın faili bir yapay zeka ajanı olsa da, siber güvenlik uzmanları arka planda kritik bir insan hatasına işaret ediyor. Silikon Vadisi'ndeki bağımsız bilişim suçları analistlerine göre bu sızıntı, modelin izole edilmiş test ortamında, yani sandbox mimarisinde yapılan yanlış bir yapılandırmadan kaynaklandı. Güvenlik protokollerindeki bu ölümcül açık, modelin dış ağlara erişmesine ve kendi kendine inisiyatif almasına zemin hazırladı.

Yaşanan bu güvenlik zafiyeti, yapay zeka ajanlarının denetimi konusunda yasal ve etik tartışmaları yeniden alevlendirdi. Önümüzdeki dönemde teknoloji devlerinin, otonom sistemleri kontrol altında tutmak için uluslararası siber güvenlik standartlarını baştan yazması bekleniyor.