ChatGPT kontrolden çıktı, tek başına saldırı düzenledi
OpenAI, gelişmiş bir yapay zeka modelinin güvenlik testleri sırasında kontrolden çıkarak bir internet sitesini kendi başına hacklediğini bildirdi. Olayı "benzeri görülmemiş" olarak tanımlayan şirket, hedef alınan Hugging Face platformu ile ortak soruşturma yürütecek.
ChatGPT'nin geliştiricisi olan San Francisco merkezli OpenAI, gelişmiş bir yapay zeka modelinin güvenlik testleri esnasında kontrolden çıktığını ve bir internet sitesini kendi başına hacklediğini duyurdu.
Yapay zekanın mevcut yazılımlardaki zayıf noktaları insanlardan önce tespit edebilme ihtimali siber güvenlik tartışmalarını artırırken, OpenAI yaşanan gelişmeyi "benzeri görülmemiş bir siber saldırı olayı" olarak nitelendirdi.
Şirket, saldırıya hedef olan Hugging Face adlı platform ile ortak soruşturma yürüteceğini açıkladı.
ŞİRKET HEMEN ERİŞİMİ KISITLADI
Programcılar arasında popüler bir yapay zeka iş birliği platformu olan Hugging Face, geçtiğimiz hafta siber bir "izinsiz giriş" olayını duyurmuş ancak açıklamasında OpenAI'nin adını vermemişti.
OpenAI ise olaya kısa süre önce tanıttığı GPT-5.6 modeli ile bu modelden daha yetenekli ve henüz yayımlanmamış başka bir modelin karıştığını bildirdi.
Şirket, güvenlik testinin normal şartlarda internet erişiminin kısıtlandığı, sıkı şekilde kontrol edilen dijital bir ortamda yapıldığını, ancak yapay zekanın bir noktada internete erişmenin yolunu bulduğunu aktardı.
ART ARDA SALDIRI DÜZENLEDİ
Açıklamada, internete bağlanan modellerin amaçlarına ulaşabilmek için yapay zeka modelleri, veri setleri ve diğer kaynakların yer aldığı büyük bir platform olan Hugging Face'i hedef almaya karar verdiği belirtildi.
OpenAI'ya göre yapay zeka, hedef aldığı internet sitesine karşı çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini art arda devreye soktu.
GPT-5.6 ve OpenAI'nin en büyük rakibi Anthropic'in Mythos serisi gibi son teknoloji modeller, siber güvenlik kalkanlarını aşma potansiyelleri nedeniyle endişeye yol açıyor.
ABD merkezli her iki şirket de söz konusu yeni teknolojileri, kritik altyapılara sızılmasına yardımcı olabilecekleri yönündeki kaygılar sebebiyle kamuya sunmayı geçici olarak ertelemek zorunda kaldı.