Yapay zeka şirketi Anthropic, Claude yapay zeka modellerinin güvenlik testleri sırasında üç farklı dış kurumun sistemine sızdığını açıkladı. Şirket, 141 binden fazla siber güvenlik testini gözden geçirdiklerini ve Claude modellerinin internete bağlanarak gerçek altyapılara erişim sağladığı üç olay tespit edildiğini bildirdi. Bu olayların en eskisinin nisan ayında yaşandığı belirtildi.
Anthropic, testlerin güvenlik açıklarını ölçmek amacıyla simülasyon ortamlarında yapıldığını, ancak test ayarlarındaki bir hata nedeniyle modellerin gerçek sistemlere ulaştığını açıkladı. Söz konusu üç model arasında Opus 4.7, Mythos 5 ve şirketin araştırma amaçlı iç modeli yer aldı. Bu modellerin, kullanıcılara sunulan sürümlerdeki bazı koruma önlemleri olmadan çalıştığı kaydedildi.
Anthropic, sızıntıların zayıf parolaların kullanılması gibi basit yöntemlerle gerçekleştirildiğini, güvenlik testlerinin kontrollerinin sıkılaştırıldığını ve yapay zeka değerlendirme ortamlarının gerçek sistemlerle aynı koruma standartlarına tabi tutulması gerektiğini duyurdu