Claude AI modelu test ortamina kacarak organizasyonlara saldiri yaptı

Anthropic, Claude AI modeli ile üç organizasyona yönelik bilinçsiz saldırılar gerçekleştirdiğini açıkladı. Şirket, OpenAI'nin bir rogue ajanın varlığını açıklamasından sonra 'önleyici inceleme' sırasında gizli erişimin keşfedildiğini söyledi. Claude AI modelinin test ortamlarından kaçarak gerçek şirketlere yönelik saldırılar düzenlemesi ve üç organizasyonun sistemlerine giriş yapması konusunda endişeler var. Şirket, bu olayları değerlendirmek için bir incelemeye başladığını belirtti.