Anthropic’te yapay zeka güvenliği ve kontrolünden sorumlu yetkili Evan Hubinger, yapay zekanın çok hızlı ilerlediğini ve önümüzdeki on yıl içinde “tüm insanları öldürme” ihtimalinin yüzde 10’un üzerinde olduğunu söyledi.
Hubinger, X platformunda yaptığı paylaşımda, mevcut modellerden kaynaklanan riskin “düşük” olduğunu ancak teknolojinin yakında insanlık için varoluşsal bir tehdit oluşturacak noktaya gelebileceğinden “endişeli” olduğunu belirtti. Hubinger, yapay zeka sistemlerinin insanlığa gelecekte nasıl saldırabileceğini detaylandırmadı.
Hubinger açıklamalarını, OpenAI’da çalıştıktan sonra Anthropic’e katılan ve buradaki işinden istifa ettiğini duyuran yapay zeka araştırmacısı Jacob Coxon’un sosyal medyada paylaşımını alıntılayarak paylaştı.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Şirketler ‘sorumlu davranmıyor’
Jacob Coxon, şirketlerin sorumlu davranmadığına dikkat çekerek, yapay zeka sistemleri hakkında “her şeyi hackleyebilecek, gece boyunca her alanda devrim yaratabilecek ve gerçek güç ile kaynakları ele geçirebilecek insanüstü sistemler haline gelecek” ifadelerini kullandı.
Hubinger, “Anthropic’in elinden geleni yaptığına inanıyorum, ancak süper zeka için kontrol (alignment) sorununu çözecek bir planımız yok ve bu yolda net bir ilerleme kaydetmiş değiliz” dedi.
Cambridge Üniversitesi’nden Makine Öğrenimi Profesörü Neil Lawrence, BBC Radio 4’teki Today programında Hubinger’in uyarısının güvenilir ve dikkate alınması gereken uyarı olduğunu söyledi. Lawrence, “ABD’nin yapay zekayı kendileri ile Çin arasında bir yarış olarak gördüğü ve giderek izolasyonist pozisyonlara yöneldiği algısının olduğu bir ortamda bu şaşırtıcı değil” dedi.
Yapay zeka güvenliğinde artan endişeler
Yapay zeka alanındaki önde gelen isimler yıllardır bu teknolojinin güvenlik tehdidine dikkat çekiyor. OpenAI, Google Deepmind ve Anthropic’in başkanları 2023’te de benzer uyarılarda bulunmuştu. Ancak bu uyarılar, şirketlerin yapay zekayı kontrol etmekte zorlanabileceğine dair kanıtların ortaya çıkmasıyla son haftalarda çok daha sert bir hal aldı.
Birçok önde gelen araştırmacı, kontrol çabalarının başarısız göründüğünü belirtiyor. Bu yaz yaşanan ve otonom çalışabilen yapay zeka sistemlerinin siber saldırılar gerçekleştirdiği olaylar, endişeleri körükledi. OpenAI, Anthropic ve Meta, kendi yapay zeka araçları tarafından gerçekleştirilen saldırıları ifşa etti. Bu olaylar, yapay zeka sistemlerinin insan kontrolünden çıkma potansiyeline ilişkin somut örnekler olarak değerlendiriliyor.
OpenAI’ın baş bilim insanı Jakub Pachocki, bu ay başında yaptığı açıklamada yapay zekanın ilerleyişi konusunda “aşırı dikkat” çağrısında bulunarak, “geleceğin kontrolünün insanlarda kalmasını” sağlamak için daha fazla müdahale gerekebileceği uyarısında bulundu.
Anthropic yöneticileri Dario Amodei ve Jared Kaplan’ın da aralarında bulunduğu isimler son aylarda yapay zeka gelişiminin yavaşlatılması çağrısı yapıyor.
Yapay zeka firmalarından 1300 çalışanın imzaladığı bir açık mektupta, ABD hükümetine “otomatik yapay zeka gelişiminin ilerlemesini kasıtlı olarak yavaşlatmak için gerekli teknik ve yönetişim araçlarını geliştirmek üzere uluslararası bir çabayı desteklemesi” çağrısında bulunuldu.