Yapay zekâ dünyasında son yıllarda yaşanan hızlı gelişmeler, sektörde çalışan araştırmacılar arasında güvenlik tartışmalarını da beraberinde getiriyor. Anthropic’te görev yapan yapay zekâ araştırmacısı Jacob Coxon’un istifa kararıyla birlikte yaptığı açıklamalar ise bu tartışmayı yeniden gündeme taşıdı.
Coxon, X hesabından yaptığı paylaşımda Anthropic’ten ayrıldığını duyururken, son üç yılını OpenAI ve Anthropic’te yapay zekâ modellerinin ön eğitim süreçleri üzerinde çalışarak geçirdiğini belirtti. Araştırmacı, iki şirketin de yapay zekânın geleceği konusunda yeterince sorumlu davranmadığını savundu.
Coxon, şirketlerin “kendini geliştirebilen süper zekâya” doğru yarıştığını belirterek, “Hiçbiri sorumlu davranmıyor. Hayatlarımızla kumar oynuyorlar” ifadelerini kullandı.
Business Insider’ın aktardığı bilgilere göre Coxon, 2023’ten Temmuz 2026’ya kadar OpenAI’ın teknik ekibinde görev yaptı ve GPT-4o üzerinde yürütülen çalışmalara da katıldı. Daha sonra Anthropic’e araştırmacı olarak geçen Coxon, istifasının ardından yapay zekânın geleceğine ilişkin kaygılarını kamuoyuyla paylaştı.
Yapay zekânın gücüne dikkat çekti
Coxon, istifasını duyurduğu yedi paylaşımlık mesaj dizisinde gelecekte geliştirilecek yapay zekâ sistemlerinin yalnızca daha gelişmiş sohbet robotlarından ibaret olmayacağını savundu.
Araştırmacıya göre bu sistemler, siber saldırılarda insanları aşabilecek kapasiteye ulaşabilir, bilimsel gelişmeleri büyük ölçüde hızlandırabilir ve gerçek dünyada kaynak ve güç elde edebilecek seviyeye gelebilir.
Yapay zekâ alanındaki ilerlemenin hız kesmediğine dikkat çeken Coxon, teknoloji şirketlerinde çalışanlara da önemli bir çağrıda bulundu.
“Bu teknolojinin gücünü hafife almayın” diyen araştırmacı, yapay zekânın ulaşabileceği kapasitenin bugünden çok daha büyük sonuçlar doğurabileceğini ifade etti.
Coxon’un açıklamalarındaki en çarpıcı bölüm ise yapay zekâ laboratuvarlarında çalışan bazı kişilerin taşıdığı risk algısına ilişkin oldu.
Araştırmacı, yapay zekâ geliştiren bazı kişilerin kontrol edilemeyen sistemlerin bu on yılın sonuna kadar insanlık açısından ölümcül sonuçlar doğurabileceğine gerçekten inandığını söyledi.
Bunun yalnızca kamuoyuna yönelik bir söylem olmadığını savunan Coxon, bazı üst düzey yöneticilerin ve araştırmacıların kamuoyu önünde daha ölçülü konuşurken özel görüşmelerde çok daha ciddi kaygılar dile getirdiğini belirtti.
Anthropic’te yapay zekâ uyum ve güvenlik çalışmaları yürüten Evan Hubinger de Coxon’un paylaşımına yanıt verdi. Hubinger, önümüzdeki 10 yıl içinde yapay zekânın insanlığın yok oluşuna yol açması ihtimalini kişisel olarak yüzde 10’un üzerinde gördüğünü ifade etti.
“Böyle bir karar birkaç şirketin elinde olmamalı”
Coxon, yapay zekâ şirketleri arasındaki rekabeti “kibirli bir kumar” olarak tanımladı.
Kendini geliştirebilen süper zekânın oluşturulması gibi insanlığın tamamını ilgilendiren bir kararın birkaç özel şirketin yöneticileri ve araştırmacıları tarafından alınmaması gerektiğini savunan Coxon, bu ölçekte bir riskin şirket içindeki karar mekanizmalarına bırakılmasına karşı çıktı.
Araştırmacı, böylesine önemli bir kararın “özel bir şirketin Slack kanalından başlatılmaması gerektiğini” söyledi.
Coxon, tümüyle karamsar bir tablo çizmediğini de belirtti. Büyük yapay zekâ laboratuvarları arasında koordinasyon sağlanabileceğini savunan araştırmacı, özellikle ABD’deki şirketlerin modelleri geliştirme hızını sınırlayacak anlaşmalar yapabileceğini ifade etti.
Küresel bir yapay zekâ yarışının kontrol altına alınması için daha sert önlemlerin de gündeme gelebileceğini belirten Coxon, gerektiğinde daha güçlü yapay zekâ modellerinin geliştirilmesine geçici olarak ara verilmesinin seçenekler arasında bulunması gerektiğini savundu.
Araştırmacıya göre amaç teknolojik gelişmeyi tamamen durdurmak değil, insanlığın geleceğini etkileyebilecek kararların daha geniş bir toplumsal ve siyasi denetim altında alınmasını sağlamak.
Meslektaşlarına “şimdiden düşünün” çağrısı
Coxon, mesaj dizisinin sonunda yapay zekâ laboratuvarlarında çalışan meslektaşlarına da seslendi.
Araştırmacılardan önümüzdeki birkaç yıl içinde karşılaşabilecekleri kritik kararları bugünden düşünmelerini isteyen Coxon, süper zeki bir sistemin nasıl çalıştığının tam olarak anlaşılmadığı bir ortamda bu sistemleri daha da güçlendirecek eğitim süreçlerinin başlatılmasının doğru olup olmadığını sorguladı.
Yapay zekâ sektöründe çalışanların “nasıl olsa biri yapacak” düşüncesiyle hareket etmemesi gerektiğini belirten Coxon, farklı senaryoların değerlendirilmesini ve daha güçlü güvenlik mekanizmalarının talep edilmesini istedi.
Coxon’un istifası ve ardından yaptığı açıklamalar, yapay zekânın geleceği konusunda yıllardır süren tartışmayı bir kez daha sektörün merkezine taşıdı. Bir yanda teknolojinin bilim, ekonomi ve günlük yaşamda sağlayabileceği büyük imkânlar bulunurken, diğer yanda bu sistemlerin kontrol edilememesi halinde ortaya çıkabilecek riskler konusunda sektörün içinden gelen uyarılar giderek daha fazla dikkat çekiyor.
