Claude Mythos Kamuya Açılmayacak
Yazar Haber Servisi
Anthropic, Claude Mythos modeli için “kamuya açık yayınlanamayacak kadar güçlü” değerlendirmesi yaptı. Modelin ABD hükümetiyle görüşüldüğü, erişimin Project Glasswing kapsamında sınırlı tutulacağı bildirildi.
Anthropic: Claude Mythos modeli kamuya açılmayacak
ABD merkezli yapay zeka girişimi Anthropic, Claude Mythos modeli adını verdiği yeni sistemi “çok güçlü ve riskli” bulduğu gerekçesiyle kamuya açık biçimde yayımlamayı planlamadığını açıkladı. Şirket yöneticilerinin çeşitli medya kuruluşlarına yansıyan ifadelerine göre Anthropic, Claude Mythos modeli ve yeteneklerini ABD hükümetiyle de görüşüyor.
Modelin yetenekleri: “yüksek otonomi” ve güvenlik açığı tespiti
Şirketin “frontier red team” (ileri seviye güvenlik test ekibi) lideri Logan Graham, Axios’a yaptığı açıklamada Claude Mythos modelinin “son derece otonom” olduğunu ve gelişmiş bir güvenlik araştırmacısı gibi muhakeme edebildiğini söyledi. Graham’a göre model, on binlerce güvenlik açığını tespit edebiliyor ve önceki modellere kıyasla bu açıklar için ilgili “istismar kodlarını” (exploit) de üretebiliyor.
Graham, New York Times’a verdiği röportajda ise modelin, sektörde “ne yapılması gerektiğine dair bir dönüm noktası” olarak görülebileceğini ifade etti.
Sınırlı erişim: Seçili şirketlere açılacak
Anthropic, Çarşamba günü yayımladığı blog yazısında Claude Mythos modelinin yalnızca belirli teknoloji ve siber güvenlik şirketlerine sunulacağını belirtti. Şirket, modelin güvenlik açıklarını bulma ve istismar etme kapasitesi nedeniyle riskler bulunduğunu; bu riskleri sınırlayacak güvenlik önlemleri devreye alınana kadar kamuya açık erişim sağlanmayacağını bildirdi.
Project Glasswing: Büyük teknoloji ortaklarıyla test süreci
Anthropic, geniş çaplı bir yayın yerine erişimi yeni bir sektör ortaklığı üzerinden vermeyi planlıyor. “Project Glasswing” adı verilen girişimin; Apple, Amazon, Microsoft, Google ve NVIDIA dahil 40’tan fazla kuruluşu kapsadığı aktarıldı. Ortaklığın, Claude Mythos modelinin kritik yazılımlardaki güvenlik açıklarını tespit etme ve bu açıkların giderilmesine yardımcı olma kapasitesini test etmeye odaklanacağı kaydedildi.
ABD hükümetiyle değerlendirme ve risk başlıkları
Şirket açıklamasına göre Anthropic, Claude Mythos modelini ABD hükümetine bağlı bazı organizasyonlar dahil dış gruplara da vererek temel risk alanlarında değerlendirme yaptırdı. Bu risk başlıkları arasında siber güvenlik, kontrol kaybı, CBRN (kimyasal, biyolojik, radyolojik ve nükleer riskler) ile zararlı manipülasyon yer aldı. Elde edilen bulguların şirketin genel risk değerlendirmesine dahil edildiği belirtildi.
Trump dönemindeki yasak ve önceki sızıntılar
ABD Başkanı Donald Trump’ın bir ay önce hükümet kurumlarının Anthropic’in yapay zekasını altı ay süreyle kullanmasını yasaklamasının ardından geldi. Trump’ın, şirketi Pentagon üzerinde baskı kurmakla ve ulusal güvenliği tehlikeye atmakla suçladığı aktarıldı. Aynı dönemde ABD Savunma Bakanlığı’nın, Anthropic’in rakibi OpenAI ile sınıflandırılmış askeri sistemlerde kullanılmak üzere anlaşma yaptığı belirtildi.
Öte yandan, Claude Mythos modeline ilişkin şirket içi materyallerin Şubat ayında, binlerce belgenin kamuya açık bir veri önbelleğinde kalması sonucu istemeden sızdırıldığı ifade edildi. Ayrıca bu ay içinde Anthropic’in, Claude yapay zekasına ait gizli kodlardan 500 binden fazla satırı yanlışlıkla yayımladığı; şirketin bunu “güvenlik ihlali değil, insan hatası” olarak nitelediği kaydedildi.
