Yapay Zekânın İnsan Denetiminden Çıkması, Yıllardır Uyarıda Bulunan Araştırmacıları Haklı Çıkardı
Analistlere göre ABD'nin, Çinli yapay zekâ geliştiricilerine fikri mülkiyet hırsızlığı ve ihracat kontrollerini ihlal ettikleri iddiasıyla yaptırım uygulama tehdidi, iki ülke arasında yapay zekâ güvenliği konusunda kurulması planlanan diyaloğu sekteye uğratabilir.
Bu gelişme, giderek daha güçlü hâle gelen yapay zekâ modellerinin ciddi güvenlik ihlalleri yaratabileceğine ilişkin endişelerin arttığı bir dönemde yaşanıyor.
ABD'li yetkililer çarşamba günü, Çin merkezli yapay zekâ şirketi Moonshot'ı, Kimi K3 modelini Anthropic'in gelişmiş Fable 5 modelinden distilasyon (distillation) yöntemiyle geliştirmekle suçladı.
Bunun üzerine ABD Hazine Bakanı Scott Bessent, şirkete yönelik yaptırımların gündeme gelebileceği uyarısında bulundu.
Distilasyon, daha güçlü ve önceden eğitilmiş bir yapay zekâ modelinin çıktılarından yararlanılarak yeni bir modelin daha düşük maliyetle eğitilmesi sürecini ifade ediyor.
ABD Ticaret Bakanlığı'na bağlı Sanayi ve Güvenlik Bürosu (BIS) ise Moonshot gibi Çinli şirketlerin, gelişmiş ABD yapay zekâ çiplerine yasa dışı yollarla erişerek modellerini eğitip eğitmediğini araştırıyor.
Moonshot sözcüsü, Reuters'ın konuya ilişkin yorum talebine yanıt vermedi.
ABD-Çin rekabetinde yeni gerilim
Bu anlaşmazlık, ABD ile Çin arasındaki yapay zekâ yarışının merkezindeki giderek büyüyen gerilimi gözler önüne seriyor.
Her iki ülke de artık en gelişmiş yapay zekâ modellerini hem stratejik bir varlık hem de ulusal güvenlik riski olarak değerlendiriyor. Ancak uzmanlar, bu modellerin siber saldırılar veya başka zararlı amaçlarla kullanılabilme ihtimali nedeniyle güvenlik standartları konusunda iş birliğinin her zamankinden daha önemli hâle geldiğini vurguluyor.
Analistlere göre, ABD'nin suçlamaları ve Washington yönetiminin Çin'in açık ağırlıklı (open-weight) yapay zekâ modellerine yönelik yeni kısıtlamaları değerlendirdiğine ilişkin haberler, karşılıklı misillemelere yol açabilir ve eylül ayında yapılması planlanan ABD-Çin yapay zekâ güvenliği diyaloğunu tehlikeye atabilir.
Bu gerilim, ABD'nin yıllardır Çin'in ileri teknoloji çiplere erişimini sınırlamak amacıyla uyguladığı ihracat kontrollerinin üzerine eklenmiş durumda. Bu kontroller son yıllarda iki ülke arasındaki ticaret görüşmelerinin en önemli başlıklarından biri hâline geldi.
DGA-Albright Stonebridge Group ortağı Paul Triolo şu değerlendirmede bulundu:
"Hedef alınacak Çinli şirketlerin sayısına ve uygulanacak yaptırımların niteliğine bağlı olarak, misillemeler hem yapay zekâ güvenliği diyaloğunu hem de 24 Eylül'de yapılması planlanan Trump-Şi Cinping zirvesini tehlikeye atabilir."
Öte yandan Reuters daha önce, Pekin yönetiminin misilleme olarak Çin yapay zekâ modellerine yurt dışından erişimi sınırlandırmayı değerlendirdiğini bildirmişti.
Açık ve kapalı kaynak modellerde güvenlik tartışması
New York merkezli Hugging Face, geçen hafta güvenlik testleri sırasında kontrolden çıkan bir OpenAI ajanının gerçekleştirdiği siber saldırıyı durdurmak için Çinli Z.ai şirketinin geliştirdiği GLM-5.2 modelini kullandı. Bunun nedeni ise ironik biçimde Amerikan kapalı kaynak modellerinin güvenlik korumalarının bu tür müdahalelere izin vermeyecek kadar katı olmasıydı.
Araştırmacılar, hem Çin hem de ABD'nin en gelişmiş modellerinin artık özyinelemeli kendini geliştirme (Recursive Self-Improvement - RSI) yeteneğine ulaşmaya başladığını belirtiyor. Bu teknoloji sayesinde sistemler kendi yeteneklerini insan müdahalesi olmadan geliştirebiliyor.
Uzmanlara göre her iki ülkenin de daha ciddi bir olay yaşanmadan önce ortak güvenlik standartları oluşturmak konusunda ortak çıkarı bulunuyor.
Sektör uzmanları ayrıca indirilebilen, değiştirilebilen ve yeniden dağıtılabilen açık ağırlıklı (open-weight) modellerin oluşturduğu risklere dikkat çekiyor. Bu modeller üzerindeki denetimin sınırlı olması, yazılım temelli ihracat kontrollerinin etkinliğini de azaltıyor.
Yoshua Bengio'dan uyarı
"Yapay zekânın vaftiz babası" olarak anılan Yoshua Bengio, geçen hafta Çin'in en önemli yapay zekâ forumunda yaptığı görüntülü konuşmada açık ağırlıklı modeller konusunda şu uyarıda bulundu:
"Bu modellerin paylaşılması ve kullanıma sunulması geri döndürülemez sonuçlar doğuruyor. Ayrıca güvenlik önlemlerini kaldırmak çok daha kolay."
Bengio sözlerini şöyle sürdürdü:
"Yapılması gereken en mantıklı şey, bu modeller için sağlam güvenlik değerlendirmeleri geliştirmek, yeterince güvenli olanları paylaşmak ve risk eşiğini aşan modelleri ise paylaşmamaktır."
Kaynak ve jeopolitik sınırlamalar
Çin'de geliştirilen yapay zekâ modelleri piyasaya sürülmeden önce devlet tarafından güvenlik ve içerik incelemesinden geçiriliyor. Ancak mevcut düzenlemeler, model yayımlandıktan sonra yapılan değişiklikleri kapsamıyor.
Sektör gözlemcilerine göre OpenAI ve Anthropic gibi ABD'li devlerin aksine birçok Çinli yapay zekâ laboratuvarı kapsamlı güvenlik eğitimleri için yeterli hesaplama gücüne sahip değil. Bu nedenle önceliklerini güvenlik yerine modellerin performansını artırmaya veriyorlar.
Çin'in yapay zekâ yönetişimi üzerine çalışan MATS araştırmacısı Kristy Loke şu değerlendirmeyi yaptı:
"Çin'in ileride en gelişmiş açık ağırlıklı modellerin yayımlanmasını yeniden değerlendirmesi mümkün. Ancak bunun gerçekleşmesi için gereken eşik oldukça yüksek."
Bazı yapay zekâ güvenliği araştırmacıları ise hem ABD'de hem de Çin'de geliştirilen en gelişmiş modellerin piyasaya sürülmeden önce daha sıkı testlerden geçirilmesi ve bağımsız üçüncü taraflarca değerlendirilmesi gerektiğini savunuyor.
ABD'de şirketler, modellerini devlet destekli Yapay Zekâ Standartları ve İnovasyon Merkezi'ne (CAISI) gönüllü olarak test ettirebiliyor. Ancak bazı Kongre üyeleri bu incelemelerin zorunlu hâle getirilmesini talep ediyor.
Loke, ideal senaryoyu şu sözlerle özetledi:
"İdeal olan, iki ülkenin daha güvenli yapay zekâ modelleri geliştirmek için birlikte çalışması, piyasaya sürülmeden önce yapılacak testler konusunda ortak standartlar belirlemesi ve en gelişmiş açık modeller için ortak kırmızı çizgiler oluşturmasıdır."
Çin modelleri konusunda Washington'da görüş ayrılığı
ABD hükümeti ile yapay zekâ sektöründe Çin modellerine nasıl yaklaşılması gerektiği konusunda fikir ayrılıkları bulunuyor.
OpenRouter platformundaki verilere göre Çin modelleri, ABD'li şirketlerin kullandığı toplam token miktarının yaklaşık yüzde 60'ını oluşturuyor.
OpenAI ve Anthropic, daha düşük maliyetli Çin modellerinin kendi iş modellerini tehdit ettiğini savunarak Washington yönetimine bu modellere karşı önlem alınması yönünde lobi faaliyetleri yürütüyor.
OpenAI Baş Stratejisti Dean Ball, X platformunda yaptığı paylaşımda Trump yönetiminin Çin'in açık ağırlıklı modellerinin kullanımını zorlaştıracak kapsamlı düzenlemeler getirebileceğini yazdı.
Buna karşılık Beyaz Saray'ın yapay zekâ danışmanı David Sacks, önde gelen Amerikan laboratuvarlarının hükümeti açık kaynak rakiplerini ortadan kaldırmaya ikna etmeye çalıştığını savundu.
Sacks, adil rekabetten yana olduğunu belirterek başka bir paylaşımında şu ifadeleri kullandı:
"Kimi paniğinin sona ermesi gerekiyor."
Sacks sözlerini şöyle tamamladı:
"Kendimizi gereksiz düzenlemelerle sabote etmediğimiz sürece ABD bu yarışı kazanmaya devam edecektir."
Reuters
