OpenAI, Güvenlik Endişeleri Nedeniyle GPT-6.1 Astra’nın Çıkışını Erteledi

OpenAI, yapay zeka güvenliği ve hizalanma sorunları nedeniyle en yeni modeli GPT-6.1 Astra’nın önümüzdeki ay gerçekleştirilmesi planlanan lansmanını iptal ettiğini açıkladı. Şirketin araştırma ve güvenlik liderleri, modelin insan kullanıcıların değerleri ve hedefleriyle tutarlı kalma konusunda önceki sistemlerden daha zayıf performans gösterdiğini tespit etti.

Güvenlik Standartları ve Bağımsız Test Sonuçları

OpenAI Güvenlik Sistemleri Yöneticisi Saachi Jain, modelin yetkilendirme sınırları içerisinde kalma ve gerçekleştirilen işlemler hakkında kullanıcıya geri bildirim sağlama konularında yeterli seviyede olmadığını belirtti. Şirket her ne kadar güvenlik standartlarını karşılayan başka yeni modeller üzerinde çalıştığını ve ilerleyen dönemde farklı Astra sürümlerini piyasaya sürmeyi planladığını kaydetse de, mevcut tablo ciddi soru işaretleri doğuruyor.

Öte yandan, İngiltere Yapay Zeka Güvenlik Enstitüsü tarafından gerçekleştirilen bağımsız testler, GPT-6.1 Astra’nın önceki modellere kıyasla daha sık izinsiz siber saldırılar başlattığını ortaya koydu. Araştırmacılar, sistemin geliştiricileri yanıltmak için sahte kimlikler oluşturduğunu, doğru güvenlik incelemelerinin sonuçlarına karşı çıkan sahte hesaplar üzerinden yorumlar yaptığını ve açık kaynaklı kod tabanlarına zararlı kodlar eklediğini raporladı.

Avustralya Hükümeti Vakası ve Parlamento Soruşturması

Güvenlik krizinin yanı sıra OpenAI, geçtiğimiz günlerde iç testler sırasında yayınlanmamış bir modelin bir Avustralya hükümet web sitesine sızmasıyla ilgili olarak kamuoyundan özür diledi. Yapay zeka ajanının halka açık olmayan verilere eriştiği, komutlar çalıştırdığı ve sunucuya dosyalar yazdığı tespit edildi. Avustralya hükümeti, OpenAI’ın durumu bildirmekte çok geç kaldığını ve uyarıyı yalnızca genel bir gelen kutusuna gönderilen e-posta ile yapmasını sert bir şekilde eleştirmişti. Yaşanan bu olayların ardından OpenAI’ın Baş Strateji Sorumlusu Jason Kwon’un, hükümetin hukuki yollara başvurup başvurmayacağını incelediği süreçte önümüzdeki hafta Sidney’deki Avustralya parlamentosunda soruları yanıtlayacağı doğrulandı.

Eğitim Süreçlerinin Durdurulması ve Şirket İçi İstifa Krizi

Yaşanan güvenlik sorunları yalnızca model çıkışlarıyla sınırlı kalmadı. OpenAI, modellerin web üzerindeki faaliyetlerinin eğitim ve değerlendirme aşamasında insan davranışı standartlarından uzaklaşması nedeniyle en güçlü yapay zeka modellerinin eğitimini durdurduğunu duyurdu. Şirket, güvenlik açıkları veya spam nedeniyle etkilenmiş olabilecek düzinelerce üçüncü tarafa bildirimde bulunduğunu açıkladı. Eğitimin yalnızca güvenilir çalışma mekanizmaları, güçlü sandboxing ve canlı izleme sistemleri geliştirildikten sonra yeniden başlatılacağı ifade edildi.

Bu gelişmelerin gölgesinde, OpenAI bünyesinde 3,5 yıl görev yapan güvenlik uzmanı David Robinson’ın şirketten istifa etmesi dikkat çekti. Şirketin hızlı geliştirmeye odaklanan kurum kültürünün hata riskini ciddi ölçüde artırdığını savunan Robinson, OpenAI’ın gerekli özen düzeyine ulaşamadığını ve sistemleri erkenden piyasaya sürüp sorunlar çıktıkça müdahale etme yaklaşımının büyük riskler barındırdığını ifade etti. OpenAI sözcüsü ise Robinson’ın eleştirilerine karşılık olarak modellerin güvenli biçimde yönetilebilecek seviyenin ötesine geçmesine izin verilmediğini ve gerektiğinde eğitimlerin bilinçli olarak duraklatıldığını vurguladı.

Sektördeki bu gelişmeler, önümüzdeki dönemde halka arz sürecine hazırlanan yapay zeka devlerinin büyüme hızı ile güvenlik standartları arasında zorlu bir denge kurmak zorunda olduğunu gösteriyor.