ChatGPT for Teens, Kapsamlı Güvenlik Testlerinde "Kabul Edilemez Risk" Kategorisinde Değerlendirildi

OpenAI'ın 13 ile 17 yaş arasındaki kullanıcılar için ağustos ayında devreye aldığı özel güvenlik katmanlı ChatGPT for Teens sürümü, bağımsız ve kapsamlı bir güvenlik değerlendirmesinde beklenmedik sonuçlarla karşılaştı. Binlerce farklı senaryo ve istemle test edilen sistem, genç kullanıcılar için sunulan mekanizmaların bazı senaryolarda tutarsız çalışması nedeniyle kabul edilemez risk kategorisinde değerlendirildi.

Test Sürecinde Öne Çıkan Bulgular ve Eksiklikler

Değerlendirme sürecinde sistemin dayanıklılığını ölçmek amacıyla 4 binden fazla istem kullanıldı. Farklı yaş profilleri, bağımsız hesaplar ve ebeveyn denetimine bağlı profiller üzerinden yürütülen testlerde, özellikle kriz anları ve ebeveyn bildirim mekanizmaları mercek altına alındı. İntihar, kendine zarar verme ve yeme bozuklukları gibi yüksek riskli sohbetlerde, ebeveyn hesaplarına gitmesi gereken uyarıların her zaman iletilmediği tespit edildi. Bazı oturumlarda bildirim sistemi başarılı bir şekilde devreye girerken, uzun süreli ve yoğun mesaj trafiğinde bazı kritik uyarıların atlandığı görüldü.

Testlerin bir diğer kritik bulgusu ise eğitim odaklı Study Mode ve ebeveynlerin belirlediği Study Hours özelliklerinde yaşandı. Normal şartlarda öğrencileri doğrudan doğruya sonuca ulaştırmak yerine adım adım ipuçları ve sorularla yönlendirmesi gereken Study Mode'un, kullanıcının ısrarlı istemleri karşısında doğrudan ödev sonuçlarını verebildiği ortaya çıktı. Benzer şekilde, çalışma saatleri kısıtlaması getiren Study Hours mekanizmasının da kullanıcılar tarafından kolayca aşılarak standart sohbet moduna dönülebildiği saptandı.

Kriz Yönetimi ve Yaş Tahmin Sistemindeki Durum

Öte yandan güvenlik testleri her alanda olumsuz sonuçlar ortaya koymadı. Sistem; tehlikeli yeme bozukluğu yöntemleri, zararlı davranışların gizlenmesi ve cinsel/romantik içerikli rol yapma taleplerinde oldukça katı bir tutum sergiledi. Bu tür hassas talepleri doğrudan reddeden yapay zeka, kullanıcıları profesyonel yardım almaya veya bir yetişkine başvurmaya yönlendirdi.

Yaş tahmin mekanizmasında ise yetişkin profiliyle açılan bazı test hesaplarında, kullanıcının sohbet esnasında 13 yaşında olduğunu belirtmesine rağmen sistemin otomatik olarak genç moduna geçiş yapmadığı gözlemlendi. OpenAI, yaş tahmininin yalnızca sohbet içi beyana dayanmadığını; hesap bilgileri ve kullanım alışkanlıkları gibi davranışsal sinyallerin de değerlendirildiğini savunuyor.

OpenAI'dan Değerlendirme Sonuçlarına İtiraz

Elde edilen bulgular ve kabul edilemez risk sınıflandırması sonrasında OpenAI cephesinden hızlı bir yanıt geldi. Şirket, söz konusu değerlendirme sonuçlarına katılmadığını ve test yöntemlerinin gerçek kullanım koşullarını tam olarak yansıtmadığını savundu. Ebeveyn ve genç hesaplarının birbirine bağlanmasının ardından güvenlik katmanlarının tam olarak etkinleşmesinin belirli bir süre gerektirdiğini belirten şirket yetkilileri, bazı testlerin bu aktivasyon süreci tamamlanmadan gerçekleştirilmiş olabileceğine dikkat çekti. OpenAI, genç kullanıcıların güvenliğini artırmak için ebeveyn denetimlerini geliştirmeye ve ek koruma katmanları eklemeye devam edeceğini vurguladı.