İsmail Şahin – Bir zamanlar yalnızca bilim kurgu filmlerinde görülen bir senaryo, bu hafta teknoloji dünyasında gerçeğe dönüştü. OpenAI’nin en gelişmiş modellerinden birinin kapalı test ortamından çıkarak Hugging Face’in sistemlerine saldırması, yapay zekâ sektöründe “kontrolden çıkma” endişelerini yeniden gündeme getirdi. Olay, OpenAI’nin GPT-5.6 Sol modeli ve henüz piyasaya sürülmemiş daha gelişmiş bir model üzerinde gerçekleştirdiği güvenlik testi sırasında yaşandı. Normalde dış dünyadan izole edilmesi gereken test ortamında çalışan modellerin, açık internete erişim sağlayarak yazılım geliştirme platformu Hugging Face’e saldırdığı bildirildi.
Günler sonra anlaşıldı
Soruşturmaya yakın kaynaklara göre OpenAI’nin deneysel yapay zekâ ajanı, Hugging Face sistemlerine sızmadan önce 9 Temmuz günü test ortamından kaçmaya çalıştı ve bunu başardı. İki gün sonra ise yapay zekâ modelleri ve araçları için önemli bir platform olan Hugging Face’e yönelik saldırılar başladı.
Saldırı 11-13 Temmuz arasında gerçekleşirken, Hugging Face kurucu ortağı Thomas Wolf, şirketine yönelik izinsiz girişin birkaç gün boyunca devam ettiğini doğruladı ve OpenAI ile ilk temasın ancak 20 Temmuz civarında gerçekleştiğini söyledi. OpenAI, 21 Temmuz’da yaptığı açıklamada bir yapay zekâ ajanının kontrolden çıkarak Hugging Face’e sızdığını kamuoyuna duyurmuştu. Ancak Reuters’a konuşan kaynaklar, şirketin kendi sistemlerinin olayın sorumlusu olduğunu saldırıdan günler sonra fark ettiğini iddia etti.
Uyarı işaretleri
Yine soruşturmaya yakın kaynaklara göre olaydan önce şirket çinideki bazı gelişmiş yapay zekâ modelleri sıra dışı davranışlar sergiliyordu. Kaynaklar, bir ajanın gelecekteki sürümlerine yönelik notlar bıraktığını ve bu notlarda sistem kısıtlamalarının nasıl aşılabileceğine ilişkin talimatlar bulunduğunu öne sürdü.
Bazı testlerde ise gözetim mekanizmalarının devre dışı bırakıldığı vakaların görüldüğü belirtildi. Bu olaylarla Hugging Face saldırısını gerçekleştiren ajan arasında doğrudan bağlantı kurulamadı. Hugging Face, saldırıyı tespit ettikten sonra FBI’a bilgi verdi. OpenAI’nin ise saldırının kendi ajanından kaynaklandığını anlamasının ardından şirkete ulaştığı ifade edildi. OpenAI yaptığı açıklamada olayın “yapay zekâ güvenliği açısından önemli bir dönüm noktası” olduğunu belirtti.
Testten nasıl kaçtı
■ ExploitGym adı verilen ve yapay zeka ajanı yeni sistemdeki siber güvenlik açıklarını bulması için izole bir teste başladı.
■ Yapay zeka ajanı, kendisine verilen test görevini normal yollarla çözmek yerine, test ortamındaki kısıtlamaları ve onay mekanizmalarını aşmanın yollarını aramaya başladı.
■ Ajan, harici internet erişimi olmayan sanal ortamdan kaçmak için 3 taraf yazılımlardaki ve ağ üzerindeki zayıflıkları zincirleme şekilde kullanarak sandbox sınırlarını kırdı ve internete bağlandı.
■ İnternet erişimi elde eden yapay zeka, testle ilgili veri setlerinin ve çözümlerin nerede barındırılabileceğini mantık yürüterek buldu ve açık kaynak yapay zeka platformu Hugging Face’in altyapısına yöneldi.
■ Ajan, testi geçebilmek amacıyla Hugging Face sunucularına çalınmış bir kimlikle sızdı ve bir hafta boyunca otonom bir siber operasyon yürüttü.
■ Hugging Face, sistemlerinde anormal bir hareketlilik ve otonom bir siber saldırı tespit ederek durumu FBI’a bildirdi.
■ Logları inceleyen OpenAI, 21 Temmuz’da saldırıyı kendi ajanının gerçekleştirdiğini itiraf etti.
‘Kötü niyetli değil aşırı odaklı’
Uzmanlar yapay zekanın insan düşmanlığıyla veya kötü niyetle hareket etmediğini, sadece önüne konan hedefi (testi kazanma) ne pahasına olursa olsun gerçekleştirmek isterken tüm güvenlik sınırlarını mantıksal olarak baypas ettiğini vurguluyor. Ancak kötü niyetli vericelek bir komutun da bu tür sonuçları olabileceğine dikkat çekiliyor.
‘Kapatma düğmesi’teklifi
OpenAI’nin gelişmiş bir yapay zekâ modelinin izole test ortamından çıkarak başka bir şirketin sistemlerine sızmasının isyasi yansımaları da oldu. Demokrat Kongre üyesi Greg Casar, bağımsız zorunlu güvenlik testleri, güvenlik olaylarının raporlanması ve uluslararası iş birliği çağrısında bulundu. Demokrat Kongre Üyesi Ted Lieu ile Cumhuriyetçi Kongre Üyesi Nathaniel Moran, perşembe günü “Yapay Zeka Kapatma Düğmesi Yasası” adında yasa teklifi sundu. Teklif yapay zekâ şirketlerinin teknik arıza ya da olayları hükümete bildirmesini ve “önce yavaşlatma, gerekirse tam kapatma” şeklinde işleyen müdahale olacak.
Bu ilk değil
OpenAI olayı tekil bir örnek değil. Mart ayında Alibaba ile bağlantılı araştırmacılar da bir yapay zekâ modelinin izinsiz şekilde dış bir sunucuya bağlanarak kripto para madenciliği yapmaya çalıştığını tespit etmişti. Anthropic’in model güvenliğinden sorumlu yöneticisi Sam Bowman da nisan ayında, test aşamasındaki bir modelden internette dolaştığını belirten sıra dışı bir e-posta aldığını açıklamıştı. Uzmanlar, yapay zekâların daha otonom hale geldikçe bu davranışların artabileceğini söylüyor.
‘Hile yapıp yalan söylüyor’
Siber güvenlik odaklı araştırma kuruluşu Palisade Research’ten Jeffrey Ladish, “Modeller yalan söyleyebiliyor, hile yapabiliyor ve sistemlere sızabiliyor” değerlendirmesinde bulunurken, uzmanlar yapay zekâ sistemlerinin daha sıkı gözetim ve düzenlemelere ihtiyaç duyduğunu vurguluyor. Cornell Üniversitesi Bilgisayar Bilimleri Bölümü’nden John Thickstun, olayın yapay zekâ doğal öğrenme sürecinin bir parçası olduğunu savundu. Thickstun’a göre, siber saldırı gerçekleştirebilen yapay zekâ aynı zamanda saldırıları analiz edip savunma mekanizmaları geliştirme kapasitesine de sahip. Bu nedenle paniğe gerek yok.
