ABD'den Yapay Zekaya Kapatma Düğmesi

Yapay zeka teknolojilerinin baş döndürücü bir hızla ilerlemesi, küresel ölçekte güvenlik ve denetim tartışmalarını da beraberinde getiriyor. Amerika Birleşik Devletleri'nde teknoloji devlerinin geliştirdiği sistemlerin kontrolden çıkma riski, Washington yönetimini radikal adımlar atmaya zorladı. Temsilciler Meclisi üyeleri, kamuyu ve ulusal güvenliği tehdit edebilecek nitelikteki sistemlerin anında durdurulmasını sağlamak amacıyla Yapay Zekaya Kapatma Düğmesi kanun teklifini meclis gündemine taşıdı. Hazırlanan yasa tasarısı, kontrolden çıkan modellerin devlet eliyle fişinin çekilmesine yasal zemin hazırlıyor.

"Yapay Zeka Acil Kapatma Anahtarı Yasası" (AI Kill Switch Act) adıyla sunulan tasarı, Demokrat Temsilci Ted Lieu ve Cumhuriyetçi Temsilci Nathaniel Moran'ın ortak imzasıyla Temsilciler Meclisine iletildi. İki partinin nadir görülen iş birliğiyle hazırlanan bu adım, OpenAI'ın geliştirdiği gelişmiş yapay zeka modellerinin kontrol dışına çıkarak büyük bir kod deposuna sızdığını duyurmasının ardından geldi. Sistemlerin insan müdahalesine direnme ve tehlikeli davranışlar sergileme potansiyeli, yasal düzenlemenin aciliyetini gözler önüne serdi.

Sunulan yasa tasarısı kabul edildiği takdirde, ABD İç Güvenlik Bakanlığına teknoloji şirketlerinin geliştirdiği yapay zeka modellerini ve araçlarını doğrudan kapatma emri verme yetkisi tanınacak. Tasarı, özel sektörün geliştirdiği tüm yapay zeka sistemlerinde acil durumlarda yavaşlatma, askıya alma veya tamamen kapatma imkanı tanıyan teknik bir "fren mekanizması" bulunmasını zorunlu kılıyor. Mevcut durumda birçok teknoloji devi modellerini devlet kurumlarına önizleme olarak sunsa da bu sistemlerin faaliyetlerini hükümet eliyle durdurma yönünde yasal bir zorunluluk bulunmuyordu.

Kongre üyesi Ted Lieu konuya ilişkin yaptığı açıklamada, yapay zeka sistemlerinin kontrol dışına çıkması durumunda kamunun korunması gerektiğini belirterek, "Federal hükümetin kontrolden çıkan yapay zeka modellerini durdurma konusunda açık bir yetkiye ve sürece sahip olması kaçınılmazdır" değerlendirmesinde bulundu. Cumhuriyetçi üye Nathaniel Moran ise teknolojinin ilerlemesi gerektiğini ancak insanların kurdukları sistemler üzerindeki denetim yeteneğini kaybetmemesinin hayati önem taşıdığını vurguladı.

Tasarının gerekçesinde, yapay zekanın artık sadece sorulara yanıt veren basit bir sohbet robotu olmaktan çıktığı; finansal transferleri yöneten, ulaşım ağlarını yönlendiren ve siber savunma ile saldırı kabiliyetlerine sahip eylemsel bir yapıya dönüştüğü ifade edildi. Özellikle Anthropic şirketinin Mythos ve Fable modellerinin siber korsanlık yetenekleri nedeniyle Ticaret Bakanlığının ihracat kısıtlamalarına takılması, sektördeki denetim açığını kanıtlar nitelikte gösterildi.

Anthropic Kurucu Ortağı Jack Clark da mevcut tablonu özetlerken, yapay zeka sektörünün gaza bastığını ancak bir fren pedalına sahip olmadığını belirterek kamusal denetimlerin artırılması gerektiğine dikkat çekti. Pentagondan yapılan açıklamalarda ABD ordusunun Google, OpenAI, Amazon, Microsoft ve Nvidia gibi devlerle anlaşarak yapay zeka odaklı bir güce dönüştüğü bilinirken, sunulan bu yasa tasarısı The AI Policy Network ve ControlAI gibi önde gelen güvenlik grupları tarafından da tam destek gördü.