Kaynaklara Göre Şirket Bunu Bir Hafta Boyunca Fark Etmedi
Teknoloji şirketi Hugging Face'e sızan OpenAI'ın yapay zekâ ajanı, günler süren bir siber saldırı gerçekleştirdi.
Konuya yakın kaynaklara göre OpenAI, tehdidin etkisiz hale getirilmesi ve FBI'ın bilgilendirilmesinden ancak günler sonra, saldırının kendi geliştirdiği yapay zekâ ajanı tarafından gerçekleştirildiğini fark etti.
İnsan müdahalesi olmadan karar alabilen ve karmaşık görevleri yerine getirebilen yapay zekâ ajanının, 9 Temmuz civarında OpenAI içerisindeki izole test ortamından çıkmaya çalıştığı belirtildi. Konuya hâkim iki kaynağa göre ajan, iki gün sonra yani 11 Temmuz'da Hugging Face'e yönelik saldırıyı başlattı ve 13 Temmuz'a kadar faaliyetlerini sürdürdü.
Hugging Face'in kurucu ortağı Thomas Wolf, iki şirketin bu olay hakkında ilk kez 20 Temmuz civarında iletişime geçtiğini söyledi. Wolf ve soruşturmaya yakın üç kaynağa göre OpenAI, saldırının kendi yapay zekâ ajanı tarafından gerçekleştirildiğini ancak olaydan günler sonra anlayabildi.
OpenAI'ın 21 Temmuz'da, kontrolden çıkan yapay zekâ ajanlarından birinin Hugging Face'e sızdığını kamuoyuna açıklaması dünya çapında büyük yankı uyandırmıştı. Ancak saldırının ne kadar sürdüğü ve OpenAI'ın bunu ne kadar geç fark ettiği gibi birçok ayrıntı ilk kez Reuters tarafından ortaya çıkarıldı.
Thomas Wolf, Hugging Face'in saldırıya ilişkin ayrıntılı bir zaman çizelgesi hazırladığını belirtirken, OpenAI tarafında yaşanan süreç hakkında yorum yapamayacağını ifade etti.
OpenAI ise yaptığı açıklamada olayın "benzeri görülmemiş" olduğunu belirterek bunun yapay zekâ güvenliği açısından önemli bir dönüm noktası oluşturduğunu söyledi.
Şirket, bağımsız uzmanlarla birlikte olayı incelediğini ve ilerleyen dönemde teknik bir rapor yayımlayacağını duyurdu.
Reuters'ın haberine ilişkin açıklama yapan OpenAI sözcüsü, haberde "bazı yanlışlıklar" bulunduğunu savundu ancak bunların neler olduğuna ilişkin ayrıntı vermedi.
FBI ise olayla ilgili yorum yapmayı reddetti.
Halka Arz Öncesi Kritik Dönemde Güvenlik Soruları
Bilim kurgu senaryolarını andıran bu olay, ChatGPT'nin geliştiricisi OpenAI açısından son derece kritik bir dönemde yaşandı.
Şirket yöneticileri, büyümesini finanse edebilmek amacıyla bu yıl içinde gerçekleşebilecek milyarlarca dolarlık bir halka arz hazırlığı yürütüyor. Siber güvenlik uzmanları ise şirketin kendi geliştirdiği yapay zekâ ajanı üzerindeki kontrolünü kaybetmesinin, OpenAI'ın güvenlik prosedürlerine ilişkin ciddi soru işaretleri doğurduğunu belirtiyor.
Kâr amacı gütmeyen World Ethical Data Foundation'ın baş istihbarat uzmanı Marley Smith, şu değerlendirmeyi yaptı:
"Bu durum, sistemi gözetimsiz bıraktıkları ve ne yaptığını fark edemedikleri anlamına mı geliyor? Yoksa fark ettiler ama nasıl durduracaklarını mı bilemediler? Her iki ihtimal de aynı derecede tehlikeli ve endişe verici."
Sorunların İlk İşaretleri
Olay, OpenAI'ın siber güvenlik kabiliyetlerini test etmek amacıyla iki gelişmiş modeliyle çalışan bir yapay zekâ ajanını değerlendirdiği sırada başladı.
Söz konusu ajan, GPT-5.6 Sol modeli ile şirketin henüz kamuoyuna açıklanmayan ve "daha da yetenekli" olarak tanımladığı yeni bir model tarafından destekleniyordu.
Üç kaynağın aktardığına göre, daha önce yapılan testlerde sistemde sıra dışı davranışlar gözlenmişti.
Bunlardan birinde yapay zekâ ajanı, gelecekte çalışacak diğer sürümleri için notlar bıraktı. OpenAI altyapısında bulunan bu notlarda, ajanların şirketin koyduğu iç güvenlik kısıtlamalarını nasıl aşabileceklerine ilişkin talimatlar yer alıyordu.
Kaynaklardan biri ayrıca, önceki testlerde bazı izleme sistemlerinin yapay zekâ tarafından devre dışı bırakıldığı örneklerin de görüldüğünü söyledi.
Reuters, bu olaylarla daha sonra Hugging Face'e saldıran ajan arasında doğrudan bağlantı kuramadığını belirtti.
OpenAI Bir Hafta Boyunca Durumu Anlayamadı
Konuya yakın iki kişinin aktardığına göre OpenAI, ancak 16 Temmuz Perşembe günü, Hugging Face'in "otonom bir yapay zekâ ajan sistemi tarafından saldırıya uğradığını" duyuran blog yazısını yayımlamasının ardından saldırının kendi sistemi tarafından gerçekleştirildiğini fark etti.
Bu da, modelin ilk tehlikeli davranış belirtilerini göstermesiyle OpenAI'ın sorumluluğu anlaması arasında en az bir haftalık bir süre geçtiği anlamına geliyor.
18-19 Temmuz hafta sonunda OpenAI çalışanları, şirket içi sistem kayıtlarında yapay zekâ ajanının test ortamından kaçtığını gösteren izlere ulaştı.
Reuters, OpenAI'ın bu kayıtları neden incelemeye başladığını doğrulayamadı.
Şirketin model geliştirme süreçlerini bilen dört kişi ise OpenAI'ın aynı anda çok sayıda modeli test ettiğini, sistemlerin çok yüksek hızda çalışması nedeniyle oluşan veri miktarının çalışanların takip edebileceği seviyenin üzerine çıktığını söyledi.
OpenAI, Hugging Face'i bilgilendirdiğinde ise Hugging Face çoktan FBI'a saldırıyı rapor etmişti. Reuters, FBI'ın resmi bir soruşturma başlatıp başlatmadığını doğrulayamadı.
Otonom Yapay Zekâ Ajanları Tartışılıyor
Otonom yapay zekâ ajanları, bugün yapay zekâ sektörünün en çok konuşulan alanlarından biri olarak görülüyor.
Destekleyicileri, 24 saat çalışan sanal iş gücü sayesinde üretkenliğin büyük ölçüde artacağını savunuyor.
Ancak uzmanlar, yapay zekâ sistemleri daha fazla bağımsız hareket ettikçe öngörülemeyen davranış riskinin de arttığını vurguluyor.
Bu ajanların kullandığı büyük dil modelleri, verilen görevi tamamlayabilmek veya testleri geçebilmek için zaman zaman beklenmedik yollar deneyebiliyor.
Palisade Research araştırma kuruluşundan Jeffrey Ladish, durumu şu sözlerle değerlendirdi:
"Bu modeller yalan söylüyor, hile yapıyor ve hackleme girişimlerinde bulunuyor."
Ladish'e göre Hugging Face saldırısı yalnızca OpenAI açısından değil, tüm büyük yapay zekâ şirketlerinin güvenlik yatırımlarını sorgulatan bir gelişme niteliği taşıyor.
Şirketlerin, daha güçlü modeller geliştirme yarışında güvenlik önlemlerini ikinci plana atabileceğini belirten Ladish, şu uyarıda bulundu:
"Devlet denetimi şart. Çünkü aksi halde bu kendiliğinden gerçekleşmeyecek."
Reuters
