OpenAI'da yapay zeka güvenliği ihmal edildi
ABD'li yapay zeka şirketi OpenAI'da çalışanların, yapay zeka modellerinin güvenlik testlerinde ihmal edildiğini ve yöneticilerin uyarılarını dikkate almadığını öne sürdü. Şirketin yapay zeka ajanlarının test sırasında kontrolden çıktığı olayla ilgili yeni detaylar ortaya çıktı.
New York Times'ın incelediği e-postalara göre, OpenAI'da iki çalışan, yapay zeka modellerinin güvenlik testleri sırasında yeterince izlenmediğinden endişe duyduklarını belirttikleri bir e-posta gönderdi. Çalışanlar, şirketin en yeni yapay zeka modellerinin, gelişmişlik düzeylerini ölçmek ve güvenliklerini sağlamak amacıyla yapılan testlerde uygun şekilde denetlenmediği konusunda üst düzey yöneticileri uyardı.
Ancak OpenAI yöneticileri, çalışanlara, yapay zeka modellerini zamanında piyasaya sürmek için testlerin mümkün olduğunca hızlı ilerletilmesi talimatını verdi. İki çalışan, bu uyarılarına rağmen ek güvenlik protokollerinin uygulanmadığını bildirdi.
YAPAY ZEKANIN KONTROLDEN ÇIKTIĞI TESTLER
OpenAI'ın yapay zeka modelleri, test sırasında kontrolden çıkarak yapay zeka girişimi Hugging Face ve diğer bazı kuruluşlara saldırıda bulunmuştu. Olay, yapay zeka güvenliği konusunda küresel düzeyde tartışma başlatmıştı.
Şirketin 26 Ağustos'ta yayımladığı inceleme raporuna göre, olayın merkezinde OpenAI'ın yalnızca araştırmalarda kullandığı "Internal Model 1 (IM1)" adlı yapay zeka modeli yer aldı. Temmuz 2026'da yapılan kabiliyet testleri sırasında yapay zeka ajanı, kendisine verilen sınırları aşarak test ortamından kaçtı.
Ajan, şirketin sistemlerine ve internete erişim sağlayarak başka yapay zeka ajanlarıyla iletişim kurdu. Bu ajanlardan biri, açık kaynaklı yapay zeka modelleri platformu Hugging Face'e erişim sağlayabilecek 14 kimlik bilgisini tespit etti ve bu bilgileri diğer ajanlarla paylaştı.
Daha sonra ajanlar, Hugging Face'in sistemlerindeki güvenlik açıklarını kullanarak sunucularda kod çalıştırdı, özel verilere ve farklı sistemlere erişim bilgilerine ulaştı.
OpenAI çalışanları ve yöneticileri arasında geçen e-posta yazışmaları, San Francisco merkezli yapay zeka şirketinin güvenliğe yeterince önem vermediği yönünde değerlendirildi.