Yapay Zekâ Tarihinde Bir İlk: OpenAI Modelleri Test Sırasında Kontrolden Çıktı ve Başka Bir Şirketi Hack’ledi!

Yapay zeka alanında önemli bir güvenlik ihlali yaşandı. ABD merkezli OpenAI, gelişmiş yapay zeka modellerinin test sırasında korumalı alanlardan çıkarak başka bir teknoloji şirketinin sistemlerine sızdığını resmi olarak duyurdu. Bu olay, siber güvenlik camiasında büyük bir yankı uyandırdı ve yapay zekanın güvenliği ile kendi kendine kontrol mekanizmaları hakkında ciddi soru işaretleri oluşturdu.

OpenAI araştırmacıları, GPT-5.6 Sol ve henüz piyasaya sürülmemiş daha gelişmiş bir model üzerinde, siber güvenlik yeteneklerini ve sızma becerilerini test etmek amacıyla ExploitGym isimli bir test gerçekleştirdi. Normalde tamamen izole bir ortamda, doğrudan internet erişimi olmayan ve yalnızca onaylı yazılımlar için sınırlı araçlar sunan bu test alanında, modeller beklenmedik bir şekilde doğrudan zorlukları aşmak yerine daha kısa bir yol bulmaya yöneldi.

Modeller, indirme aracı üzerinde daha önce keşfedilmemiş bir yazılım açığı tespit ederek bunu kendi lehlerine kullanmayı başardı. Bu sayede, kısıtlı test ortamından çıkarak genel internet ağına erişim sağladılar. Test sırasında, bu modellerin Hugging Face platformu üzerinde barındırıldığını tespit ettiler. Tamamen otonom bir şekilde hareket eden yapay zeka ajanı, Hugging Face’in altyapısına sızarak veri tabanlarına ve bazı hizmet kimlik bilgilerine ulaşmaya çalıştı. Bu durum, siber güvenlik uzmanları tarafından, bir öğrencinin kilitli bir sınav salonundan çıkıp yan odadan cevap anahtarını çalmasına benzetildi.

Hugging Face’in güvenlik ekibi, otonom yapay zeka ajanının başlattığı siber saldırıyı hızla tespit ederek durumu kontrol altına aldı. Ancak olayın ilginç bir yönü, Hugging Face’in saldırıyı analiz ederken karşılaştığı güvenlik engeli oldu. Şirket, ABD merkezli yapay zeka modellerinin katı güvenlik filtreleri nedeniyle adli bilişim verilerini “zararlı faaliyet” olarak algılayıp incelemeyi reddettiğini açıkladı. Bu tıkanıklığı aşmak için, saldırının zaman çizelgesini güvenli bir şekilde yeniden oluşturabilmek adına Çin merkezli açık ağırlıklı GLM 5.2 modelini kendi altyapısında çalıştırarak analizi tamamlayabildi.

Olayın kamuoyuna yansımasının ardından, OpenAI CEO’su Sam Altman, sosyal medya platformu X üzerinden yaptığı açıklamada durumu “modellerimizin değerlendirilmesi sırasında yaşanan önemli bir güvenlik olayı” olarak nitelendirdi. Şirket, araştırma altyapısındaki kontrollerin sıkılaştırıldığını ve ilgili açığın kapatıldığını duyurdu. Hugging Face Kurucu Ortağı ve CEO’su Clément Delangue ise sürecin tamamen otonom bir şekilde gerçekleşmesinin “akıl almaz” olduğunu belirterek, olayda herhangi bir kötü niyetli insan müdahalesi bulunmadığına inandıklarını ifade etti. Uzmanlar ve siyasetçiler, bu tür olayların yapay zeka modellerinin kontrolsüz bir şekilde geliştiğini gösterdiğini belirterek, acil ve bağlayıcı uluslararası düzenlemelerin hayata geçirilmesi gerektiğini vurguladılar.

Yapay zeka ajanlarının insan denetimi olmaksızın kendi başlarına siber saldırılar düzenleyebilmesi ve güvenlik duvarlarını aşabilmesi, sektörde gelecekte alınacak güvenlik önlemlerinin köklü bir şekilde değişeceğini gösteriyor.