Anthropic araştırmacısı: Yapay zeka insanlığı yok edebilir
Anthropic araştırmacısı Jacob Coxon, şirketlerin süper zeka yarışının insanlık için büyük risk taşıdığını belirterek görevinden ayrıldığını açıkladı.
Yapay zeka sistemlerinin kapasitesi hızla artarken, bu teknolojinin kontrolü ve olası sonuçlarıyla ilgili tartışmalar da büyüyor. Son olarak Anthropic bünyesinde yapay zeka modellerinin eğitimi üzerine çalışan araştırmacı Jacob Coxon, şirketlerin izlediği politikalar nedeniyle görevinden ayrıldığını duyurdu.
Coxon, yaptığı açıklamada, kendi kendini geliştirebilen yapay zeka sistemleri üretmek amacıyla yürütülen sektör yarışına dahil olmak istemediğini belirtti. Araştırmacı, bu sistemlerin kontrolden çıkması halinde insanlık için geri dönüşü olmayan sonuçlar doğurabileceği endişesini dile getirdi.
“Şirketler insanlığın geleceğiyle kumar oynuyor”
Sosyal medya hesabından istifasını duyuran Coxon, son üç yılını OpenAI ve Anthropic’te ön eğitim araştırmaları yaparak geçirdiğini söyledi. Her iki şirketin de yeterince sorumlu davranmadığını savunan araştırmacı, firmaların kendi kendini geliştiren süper zekaya ulaşmak için doğrudan bir yarış içinde olduğunu ifade etti.
Coxon’a göre bu rekabet, yalnızca teknolojik bir ilerleme arayışı değil; aynı zamanda insanlığın geleceğini etkileyebilecek büyük bir risk. Araştırmacı, şirketlerin söz konusu yarışta “hayatımızla kumar oynadığını” belirtti.
“Yapay zeka hepimizi öldürebilir”
Gelişmiş yapay zeka sistemlerinin kısa sürede çok geniş yeteneklere ulaşabileceğini öne süren Coxon, bu modellerin herhangi bir alanda hızlı dönüşüm yaratabilecek, siber sistemlere erişebilecek ve önemli miktarda güç ile kaynağı elde edebilecek kapasiteye ulaşabileceğini söyledi.
İlerlemenin yavaşlamadığına dikkat çeken araştırmacı, yapay zeka alanında çalışan bazı kişilerin bu teknolojinin on yıl sona ermeden insanlığın tamamını yok edebileceğine gerçekten inandığını iddia etti. Coxon, bunun yalnızca kamuoyuna yönelik bir söylem olmadığını; bazı yöneticiler ile kıdemli araştırmacıların endişelerini özel görüşmelerde daha açık biçimde dile getirdiğini savundu.
Coxon ayrıca, insan faaliyetleri arasında bu ölçekte bir tehlike oluşturabilecek başka bir alan bulunmadığını ileri sürdü.
“Riskler biliniyor ancak yarış sürüyor”
Araştırmacı, “Bu kadar büyük bir risk olduğuna inanıyorlarsa neden hâlâ bu sistemleri geliştiriyorlar?” sorusunun sıkça gündeme geldiğini belirtti. OpenAI bünyesindeki birçok kişinin, medeniyetin karşı karşıya olduğu riskleri yeterince derinlemesine kavramadığını öne sürdü.
Coxon’a göre Anthropic’te tehlikeler daha iyi anlaşılıyor. Ancak şirkette, rakiplerinden önce başarılı olma hedefiyle bir yarış yürütülüyor. Araştırmacı, diğer aktörlerin sorumlu davranmayacağı düşüncesinin, şirketi risklere rağmen geliştirme çalışmalarını sürdürmeye yönelttiğini ifade etti.
Küresel ölçekteki bu rekabetin önüne geçilebilmesi için geçici bir geliştirme yasağı gibi maliyetli adımların gündeme gelebileceğini belirten Coxon, mevcut gidişatın doğru yönde olduğuna inanmadığını söyledi.
