Anthropic, Tehlikeli Yapay Zeka Modeli Claude Mythos'u Siber Güvenlik Endişeleriyle Yayımlamıyor

Yapay zeka şirketi Anthropic, "Claude Mythos" adını verdiği yeni bir yapay zeka modelini kamuoyuna sürmeme kararı aldı. Bu modelin, binlerce IT güvenlik açığını tespit etme yeteneğine sahip olduğu belirtiliyor. Hatta bazı güvenlik açıklarının on yıllardır fark edilmemiş olduğu ifade ediliyor. Anthropic yöneticileri, modelin siber saldırılara yol açma ve "yapay zeka kıyameti" senaryolarını tetikleme potansiyeli taşıdığı konusunda uyarılarda bulundu. Şirket, modelin "hayal bile edemeyeceğimiz silahlar" yaratabileceği endişesini dile getirdi. Claude Mythos'un temel amacının siber güvenlik savunmalarını güçlendirmek olduğu iddia edilse de, oluşturabileceği riskler bu kararda etkili oldu. Bu yeteneklerin kötü niyetli kişiler tarafından kötüye kullanılması durumunda geniş çaplı felaketlere yol açabileceği düşünülüyor. Anthropic, bu endişeler nedeniyle modeli yayımlamamakla kalmayıp, tanınmış ortaklarla bir ittifak kurma girişiminde de bulundu. Karar, yapay zeka teknolojilerinin potansiyel tehlikeleri ve sorumlu geliştirme ihtiyacı konusunda önemli tartışmaları tetikledi.