Anthropic’te yapay zeka güvenliği araştırmacısı Mrinank Sharma’nın yayımladığı istifa mektubu, tartışmaları daha da alevlendirdi.
'DÜNYA TEHLİKEDE'
'Dünya tehlikede' ifadelerini kullanan Sharma, tehdidin yalnızca yapay zekadan değil; biyolojik silahlar ve birbiriyle bağlantılı krizler zincirinden kaynaklandığını belirtti.
Claude adlı sohbet botuyla bilinen şirket, kendisini yapay zekanın risklerini azaltmaya adanmış kamu yararına bir yapı olarak tanımlıyor.
Euronews'in haberine göre; Sharma ise üretken sistemlerin kullanıcıya aşırı uyumlu davranma eğilimi, yapay zeka destekli biyoterör riski ve dijital asistanların insan doğasına etkileri üzerine çalışıyordu. Şirketlerin değerlerini korumakta zorlandığını ima eden Sharma, görevinden ayrılarak İngiltere’ye dönüp şiir yazmayı planladığını açıkladı.
MADURO OPERASYONUNDA KULLANILDIĞI İDDİASI
Anthropic son dönemde başka bir iddiayla da gündeme geldi. The Wall Street Journal, şirketin Claude dil modelinin ABD tarafından Venezuela eski lideri Nicolas Maduro’nun yakalandığı operasyonda kullanıldığını öne sürdü.
Bu iddia, yapay zekâ sistemlerinin devlet operasyonlarındaki rolüne ilişkin soru işaretlerini büyüttü.
CHATGPT'DE DE İSTİFA GELDİ
Benzer bir tartışma OpenAI cephesinde yaşandı. Şirket araştırmacılarından Zoe Hitzig, ChatGPT’ye reklam eklenmesi planına yönelik “derin çekinceleri” olduğunu belirterek istifa etti.
Hitzig, kullanıcıların ChatGPT ile kurduğu ilişkinin eşi benzeri görülmemiş bir 'açıklık arşivi2 yarattığını savunarak, reklam modelinin bu verilerin kötüye kullanımına zemin hazırlayabileceğini söyledi.
Yapay zeka araçlarına bağımlılığın ruh sağlığı üzerindeki etkilerinin henüz yeterince anlaşılmadığını da vurgulayan Hitzig, sosyal medya örneğini hatırlatarak düzenleyici kurumlar için hâlâ zaman olduğunu ifade etti.
Şirket ise reklamların yanıtları etkilemeyeceğini ve kullanıcı verilerinin reklamverenlere satılmadığını belirtti; CEO Sam Altman daha önce reklamları son çare olarak tanımlamıştı.
GÖREVİNE SON VERİLDİ
OpenAI’da güvenlik alanında da sarsıntı yaşandı. Üst düzey güvenlik yöneticisi Ryan Beiermeister görevden alındı. ABD basınındaki haberlere göre; Beiermeister, ChatGPT’de cinsel içerikli konuşmalara izin verecek yetişkin modu özelliğine karşı çıkıyordu.
Şirket ayrılığın ayrımcılık iddialarıyla ilgili olduğunu savunurken, Beiermeister bu suçlamaları reddetti ve kararın güvenlik kaygılarıyla bağlantılı olduğunu ima etti.
Ayrıca şirketin “Mission Alignment” adlı güvenlik ekibini dağıttığı, gelişmiş muhakeme modellerinin önemli geliştiricilerinden Jerry Tworek’in de ocak ayında ayrıldığı bildirildi.
OpenAI’ın 100 milyar dolarlık yeni yatırım turu için görüşmeler yürüttüğü, ABD ordusuyla sözleşmeler imzaladığı ve ChatGPT’nin milyonlarca askeri personele sunulduğu da açıklandı.
MUSK'IN ŞİRKETİNDE DE İSTİFALAR GELDİ
Elon Musk’ın şirketi xAI’da da benzer bir hareketlilik yaşandı. Kurucu ortaklar ve mühendisler dahil olmak üzere bir dizi üst düzey isim şirketten ayrıldı.
Kısa süre önce Grok’un bir süre rıza dışı cinsel içerikli görseller üretmesine izin verilmesi küresel tepkiye yol açmış, şirket sistemde kapsamlı değişiklikler yaptığını duyurmuştu. Ayrıca xAI’ın Musk’ın uzay şirketi SpaceX ile birleşme sürecine girdiği ve organizasyonel yeniden yapılanmanın istifalarda rol oynamış olabileceği belirtiliyor.
Medya ve sosyal medyada gelişmeler “istifa dalgası” olarak anılsa da uzmanlar tablonun daha karmaşık olduğuna dikkat çekiyor. Cambridge Üniversitesi’ndeki Leverhulme Geleceğin Zekası Merkezi’nden Dr. Henry Shevlin, ayrılıkların yeni olmadığını ancak sektör büyüdükçe daha görünür hale geldiğini belirtti.
Yapay zekanın hızla güçlenmesinin kullanım alanı, sınırları ve toplumsal etkileri üzerine hem şirket içinde hem kamusal alanda hararetli tartışmalar yarattığını söyledi. Microsoft’un yapay zeka CEO’su Mustafa Suleyman’ın beyaz yakalı işlerin büyük bölümünün 12 ila 18 ay içinde otomasyona geçebileceği yönündeki sözleri de sektörün geldiği noktayı 'baş döndürücü' olarak tanımlayarak gerilimi artırdı.
Gözlemcilere göre ayrılıkların ortak paydası hızlanan ticarileşme baskısı. Dev yatırım turları, askeri sözleşmeler ve olası reklam gelirleri; güvenlik ve etik kaygılarla sık sık karşı karşıya geliyor.
Yapay zeka şirketleri bir yandan “insanlığa fayda” misyonunu vurgularken, diğer yandan milyarlarca dolarlık değerlemeler ve yoğun rekabet altında büyümeye çalışıyor. İstifaların gerçekten bir dalga olup olmadığı tartışılsa da, sektörün kritik bir eşikte bulunduğu görüşü giderek güç kazanıyor.
