ABD Hükümetinden Anthropic’in Fable 5 ve Mythos 5 Modellerine Şok Erişim Yasağı
ABD hükümeti, ulusal güvenlik yetkilerini gerekçe göstererek Anthropic’in Fable 5 ve Mythos 5 yapay zeka modellerine tüm yabancı uyrukluların erişimini askıya alan bir ihracat kontrol direktifi yayınladı. Bu direktif, Anthropic çalışanları da dahil olmak üzere hem ABD içinde hem de dışında tüm yabancı uyrukluların bu modellere erişimini engelliyor. Şirket, uyumluluğu sağlamak için Fable 5 ve Mythos 5’i tüm müşterileri için aniden devre dışı bırakmak zorunda kaldı. Diğer tüm Anthropic modellerine erişimin etkilenmeyeceği belirtildi.
Anthropic’in Yanıtı ve Güvenlik Önlemleri
Direktif, hükümete göre Fable 5’i atlatmanın veya ‘jailbreaking’ yapmanın bir yolunun tespit edildiği inancına dayanıyor. Anthropic, bu tekniğin küçük ve önceden bilinen, nispeten basit güvenlik açıklarını belirlemek için kullanıldığını ve bu tür güvenlik açıklarının diğer halka açık modeller tarafından da atlatma gerektirmeden bulunabileceğini ifade etti.
Anthropic, Fable’ın güvenlik önlemlerine ilişkin duruşunu şu şekilde açıkladı:
- Fable’ın siber güvenlik gibi görevler için kötüye kullanılma olasılığını önemli ölçüde azaltan güçlü güvenlik önlemleri uygulandı. Hatta bu önlemlerin geniş kapsamlı olduğu yönünde kullanıcı şikayetleri bile oldu.
- Fable’ın lansmanından önceki haftalarda, Anthropic; ABD hükümeti, İngiltere AISI, birden fazla üçüncü taraf kuruluş ve dahili ekiplerle binlerce saat boyunca Fable’ın güvenlik önlemlerini test etti.
- Bu testler, Fable’ın güvenlik önlemlerinin daha önce dağıtılan tüm modellerinkinden önemli ölçüde daha etkili olduğunu gösterdi.
- Henüz hiçbir test uzmanı, modelin güvenlik önlemlerini geniş çapta aşabilen ve çok çeşitli siber yeteneklerin kilidini açabilen ‘evrensel bir jailbreak’ bulamadı.
- Anthropic, hiçbir model sağlayıcısı için mükemmel jailbreak direncinin şu anda mümkün olmadığını belirtiyor. Endüstride kullanılan her güvenlik önlemi ‘evrensel olmayan jailbreak’lere karşı savunmasızdır (belirli koşullarda bazı siber bilgiler elde edilebilir) ve gelecekte evrensel jailbreak’lerin bulunması olasıdır.
- Mükemmel jailbreak direncinin bugün mümkün olmadığı göz önüne alındığında, Anthropic Fable 5 ile ‘derinlemesine savunma’ stratejisi benimsedi. Amaç, jailbreak’leri dar (evrensel olmayan jailbreak’ler için) veya üretmesi çok pahalı (evrensel jailbreak’ler için) hale getirmek ve bunu başarılı saldırıları hızlı bir şekilde tespit edip durdurmak için kapsamlı izlemeyle birleştirmekti. Bu aynı zamanda Anthropic’in Fable ile 30 günlük müşteri veri saklama süresi şart koşmasının nedenidir.
- Şirket bu derinlemesine savunma stratejisinin arkasında duruyor ve Fable’ın oluşturduğu riskleri sektörde zaten konuşlandırılmış mevcut modellerin riskleriyle karşılaştırılabilir seviyeye indirdiğini savunuyor.
- Şirkete şimdiye kadar zararlı bir sonuca yol açan endişe verici, evrensel olmayan potansiyel bir jailbreak açıklaması dahi gelmedi. Açıklanan potansiyel jailbreak’ler ya tamamen iyi niyetli yanıtlar ya da Mythos’a özgü bir yükseltme sağlamayan küçük bulgulardı.
Direktifin Temeli ve Endüstriye Etkileri
Hükümetin şu ana kadar sadece dar, evrensel olmayan potansiyel bir jailbreak’e dair sözlü kanıt sunduğu belirtildi. Bu, esasen modelden belirli bir kod tabanını okumasını ve yazılım hatalarını düzeltmesini istemekten ibaret. Anthropic, bu tür bir yeteneğin OpenAI’nin GPT-5.5’i de dahil olmak üzere diğer modellerde yaygın olarak bulunduğunu ve sistemleri güvende tutan savunucular tarafından her gün kullanıldığını doğruladı. Şirket, 24 saat içinde daha fazla detay paylaşacak.
Anthropic, hükümetin yasal direktifine uyarken, dar bir potansiyel jailbreak bulgusunun yüz milyonlarca kişiye dağıtılan ticari bir modelin geri çekilmesi için bir neden olmaması gerektiği konusunda hemfikir değil. Bu standardın tüm sektöre uygulanması durumunda, tüm yeni model dağıtımlarının durma noktasına geleceğine inanılıyor.
Anthropic, hükümetin şeffaf, adil, net ve teknik gerçeklere dayalı yasal bir süreç kapsamında güvensiz dağıtımları engelleme yeteneğine sahip olması gerektiğine inanıyor. Ancak bu eylemin belirtilen ilkelere uymadığı ifade edildi. Şirket, müşterilerinden bu kesinti için özür dileyerek, durumun bir yanlış anlaşılma olduğuna inandığını ve erişimi mümkün olan en kısa sürede geri yüklemek için çalıştığını belirtti.
