Yapay zeka sektöründe güvenlik tartışmaları büyüyor. OpenAI'nin eski güvenlik çalışanlarından David Robinson, şirketin hızla yeni modeller geliştirmesi ve güvenlik önlemlerini sonradan devreye sokması yaklaşımını eleştirerek istifa ettiğini açıkladı.
Robinson, The Atlantic'te yayımladığı "OpenAI'den Ayrıldım Çünkü Kültürü Bozuldu" başlıklı yazısında, yapay zeka sistemlerinin artık nükleer enerji santralleri veya havacılık sektöründe uygulanan güvenlik standartlarıyla geliştirilmesi gerektiğini savundu.
"DENEME-YANILMA DÖNEMİ BİTTİ"
Robinson, OpenAI'nin "yinelemeli dağıtım" (iterative deployment) stratejisine sert eleştiriler yöneltti. Şirketin modelleri piyasaya sürüp, sorunlar ortaya çıktıkça güvenlik önlemlerini artırdığı bu yaklaşımın, ileri seviye yapay zeka sistemleri için artık yeterli olmadığını belirtti.
"Deneme-yanılma dönemi bitti" diyen Robinson, yapay zekanın insanlık için taşıdığı risklere dikkat çekti.
"YETENEKLER GÜVENLİK ARAŞTIRMALARININ ÖNÜNDE GİDİYOR"
Robinson, OpenAI'de üç buçuk yıl boyunca güvenlik ekiplerinde çalıştığını, şirketin "hazırlık çerçevesi"ni (preparedness framework) hazırlayan isimlerden biri olduğunu ve 12 sınır model lansmanının güvenlik raporlarını denetlediğini söyledi.
Ancak son dönemde şirketin hızına yetişemediğini savundu:
"Şirket bir lansmandan diğerine koşarken, bana göre ihtiyaç duyulan özen seviyesine ulaşamıyor."
Robinson'a göre yapay zeka yetenekleri, sistemlerin insan hedefleriyle uyumlu hale getirilmesini amaçlayan "hizalama" (alignment) alanındaki bilimsel anlayıştan daha hızlı ilerliyor.
Bu durumun, güvenlik kontrollerinin yetersiz kaldığı veya deneysel sistemlerin beklenmedik davranışlar sergilediği olaylarla birleşmesi, sektördeki endişeleri artırdı.
OPENAI: GEREKTİĞİNDE YAVAŞLIYORUZ
OpenAI sözcüsü ise şirketin yaklaşımını savundu. Yapılan açıklamada, modellerin kontrollü şekilde geliştirildiği vurgulandı:
"Modellerimizin güvenle yönetebileceğimiz ve güvence altına alabileceğimiz seviyeden daha yetenekli hale gelmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi durduruyor veya modelleri geri çekiyoruz"
OpenAI'nin yanı sıra rakibi Anthropic de benzer güvenlik açıkları nedeniyle eleştiriler almıştı.
SEKTÖRDE "HIZ MI, GÜVENLİK Mİ?" TARTIŞMASI
Robinson'ın istifası, yapay zeka şirketlerinin hız ile güvenlik arasındaki dengesini yeniden tartışmaya açtı. Eski çalışan, OpenAI dahil yapay zeka şirketlerinin yeterince dikkatli davranmadığını belirterek, güvenlik uzmanlığı ve araştırmaya öncelik verilmesi gerektiğini söyledi.
