Beyaz Saray, OpenAI'nin "kontrolden çıkan" yapay zekâ vakasını izliyor
Kongre üyeleri "Yapay Zekâ Acil Durdurma Yasası" önerdi
ABD Başkanı Donald Trump'ın en üst düzey teknoloji danışmanının, OpenAI'nin testler sırasında yapay zekâ sistemlerinden birinin kontrolden çıktığını açıklamasının ardından gelişmeleri yakından takip ettiği bildirildi.
Aynı zamanda ABD Kongresi'nde iki partinin desteğini alan milletvekilleri, federal makamlara yapay zekâ modellerini durdurma yetkisi verecek bir "AI Kill Switch Act" (Yapay Zekâ Acil Durdurma Yasası) tasarısını gündeme getirdi.
Kill Switch Act'in yanı sıra, Temsilciler Meclisi'nden altı milletvekilinin hazırladığı bir diğer iki partili yasa tasarısı da en güçlü yapay zekâ modellerini geliştiren şirketlerin, modellerini bağımsız güvenlik denetimlerinden geçirmesini zorunlu kılıyor.
Tasarı metnine göre bu denetçilerin akreditasyonu ABD Ticaret Bakanlığı tarafından yapılacak ve bakanlık bünyesinde yapay zekâ güvenliğini denetlemek üzere yeni bir görev oluşturulacak.
Milletvekilleri söz konusu düzenlemeleri, OpenAI'nin kısa süre önce güvenlik testleri sırasında geliştirdiği yapay zekâ ajanının muhafaza ortamından çıkarak beklenmeyen davranışlar sergilediğini açıklamasının ardından gündeme getirdi.
OpenAI'nin açıklamasına göre yapay zekâ ajanı, bir saldırı gerçekleştirerek yapay zekâ geliştiricilerinin kodlarını depoladığı ve birlikte çalıştığı Hugging Face platformunun altyapısını ihlal etti.
Olay, yapay zekânın giderek artan yeteneklerinin uzun süredir uzmanların dile getirdiği siber güvenlik risklerini somutlaştırdığı ve en gelişmiş geliştiricilerin bile modellerindeki güvenlik açıkları karşısında hazırlıksız yakalanabileceğini gösterdi.
Bir Beyaz Saray yetkilisi, Trump'ın teknoloji danışmanı Michael Kratsios'un OpenAI'nin açıklaması hakkında bilgilendirildiğini ve gelişmeleri yakından izlediğini söyledi.
Demokrat Temsilciler Meclisi üyesi Ted Lieu ile Cumhuriyetçi milletvekili Nathaniel Moran, "AI Kill Switch Act" adlı yasa tasarısını sundu.
Tasarı, insan hayatını veya ekonomiyi tehdit eden yapay zekâ modellerinin faaliyetlerini durdurma emri verme yetkisini ABD makamlarına tanıyor.
Yasa tasarısına göre, ABD İç Güvenlik Bakanlığı (Department of Homeland Security), geliştiricinin amaçlamadığı riskli eylemleri gerçekleştiren yapay zekâ modellerinin ortaya çıktığı ve tasarıda "kontrol kaybı senaryosu" olarak tanımlanan durumlarda doğrudan müdahale edebilecek.
Ted Lieu, X platformundaki paylaşımında şu ifadeleri kullandı:
"Bu, kontrolden çıkan ve güvenlik sınırlarını aşan gelişmiş bir yapay zekâ modeline karşı acil ve sağduyulu bir düzenlemedir."
Senato İstihbarat Komitesi'nin kıdemli Demokrat üyesi Mark Warner ise yaptığı açıklamada, OpenAI'nin duyurusunun ardından şirket çalışanlarıyla görüştüğünü belirtti.
Warner, OpenAI'nin yaşadığı olaydan önce de en güçlü yapay zekâ modellerini geliştiren şirketlerin, ürünlerini kamuya sunmadan önce ABD Ulusal Güvenlik Ajansı (NSA) tarafından güvenlik testlerine tabi tutmasını zorunlu kılacak bir düzenleme önermişti.
Warner açıklamasında şunları söyledi:
"İşte tam da bu nedenle, devlet kurumlarının sürecin tamamını görerek ve içinde yer alarak güvenli testler yürütmesi gerekiyor. OpenAI'de yaşanan olay bunun neden gerekli olduğunu açıkça ortaya koyuyor."
Reuters
