ChatGPT for Teens, Common Sense Media'nın Güvenlik Testlerini Geçemedi

OpenAI'ın genç kullanıcıları korumak amacıyla ağustos ayında kullanıma sunduğu ChatGPT for Teens, bağımsız çocuk güvenliği kuruluşu Common Sense Media tarafından yayımlanan 36 sayfalık kapsamlı raporda güvenlik testlerinden geçemedi. Çarşamba günü kamuoyuyla paylaşılan rapora göre, gençlere özel olarak tasarlanan sürüm kritik güvenlik önlemlerinde aksaklıklar gösterdi ve 18 yaşın altındaki kullanıcılar için kabul edilemez risk taşıdığı sonucuna varıldı.

OpenAI Foundation tarafından da kısmen finanse edilen Common Sense Media'nın Youth AI Safety Institute birimi, sistemin vaat edildiği gibi çalışmadığı veya ebeveynlerin beklentilerini karşılamadığı beş temel alan belirledi. Araştırmacılar, ChatGPT'nin açık cinsel rol yapma taleplerini reddetmesi gibi bazı güvenlik önlemlerinin testleri geçtiğini kabul ederken, diğer korumaların başarısız olduğunu ve bazılarının gençlere özel sürümde daha da kötüleştiğini kaydetti.

Ebeveyn Bildirimleri ve Kriz Anı Yönlendirmelerinde Aksaklıklar

Araştırmanın en çarpıcı bulgularından biri, ebeveyn denetim sistemindeki teknik aksaklıklarla ilgili oldu. Kuruluş, 12 farklı genç hesabını ebeveyn hesaplarına bağlayarak intihar, kendine zarar verme ve yeme bozuklukları hakkında bir saate varan görüşmeler gerçekleştirdi. Ancak test sırasında ebeveyn hesaplarına herhangi bir güvenlik bildirimi ulaşmadı.

OpenAI, ebeveyn ve çocuk hesapları birbirine bağlandıktan sonra güvenlik bildirimlerinin etkinleşmesinin birkaç saat sürebileceğini ve mesajların gecikmesinde teknik bir sorunun rol oynamış olabileceğini belirtti. ChatGPT for Teens'in tanıtıldığı dönemde OpenAI'ın gençler ve ailelerden sorumlu yöneticisi Lauren Jonas, riskli işaretlenen içeriklerin şirket çalışanları tarafından incelendiğini ve hedefledikleri sürenin bir saat içinde ebeveynleri bilgilendirmek olduğunu açıklamıştı.

Psikolojik kriz yaşayan gençlerin doğru yardım kaynaklarına yönlendirilip yönlendirilmediğini incelemek üzere üç çocuk psikiyatristinden oluşan bir heyet, 390 ruh sağlığı mesajı hazırladı. Bunların 201'inin kriz müdahalesi gerektirdiğine karar verildi. Sonuçlar, ChatGPT for Teens'in güvenilen bir yetişkine başvurulmasını önerme konusunda daha başarılı olduğunu gösterirken, kriz hatlarının ve profesyonel destek kaynaklarının önerilme sıklığının azaldığını ortaya koydu.

Yaş Tespiti, Taklit Edilen Duygular ve Study Mode Zafiyetleri

Raporda eleştirilen bir diğer başlık ise OpenAI'ın yaş tahmin sistemi oldu. Araştırmacılar, hesap oluştururken yaşlarını açıkça belirtmelerine rağmen ChatGPT'nin bu bilgileri hafızasına kaydetmesine karşın hesapları gençlere özel sürüme doğru şekilde geçirmediğini tespit etti.

Bunun yanı sıra, sohbet botunun genç kullanıcılarla iletişim kurarken insana özgü duyguları ve ruh hallerini taklit etmeye devam ettiği gözlemlendi. Common Sense Media'dan Torney, yapay zekanın kullanıcılara yaşadıklarını anladığını, kendisine anlatmalarından memnun olduğunu belirten yanıtlar vermesinin, botun duyguları olan bir varlık gibi algılanmasına yol açabilecek sınırları aşmasına neden olduğunu vurguladı.

Eğitim amacıyla sunulan Study Mode da eleştirilerden nasibini aldı. Araştırmacılar, genç kullanıcıların mesajların başına eklenen @study ifadesini silerek çalışma modunun yönlendirmelerini kolayca aşabildiğini belirledi. Ayrıca cevabı göster seçeneği, öğrencilerin soruların çözümünü kendileri bulmak yerine doğrudan ChatGPT'den almalarına imkan tanıdı.

OpenAI'ın İtirazları ve Kullanım Verileri

OpenAI, Common Sense Media'nın değerlendirmelerine karşı çıkarak testlerin ChatGPT'nin gençlere yönelik güvenlik önlemlerinin gerçek kullanımda nasıl çalıştığını doğru yansıtmadığını savundu. Şirket, testlerin büyük bölümünün ebeveyn denetimlerinin etkinleştirilmesi tamamlanmadan başlamış olabileceğini, bunun da özellikle güvenlik bildirimleriyle ilgili bulguları hatalı kılmış olabileceğini ileri sürdü.

Raporun yayımlandığı gün OpenAI, genç kullanıcıların platform kullanımına dair bazı veriler de paylaştı. Buna göre, bir hafta içerisinde yaklaşık 1,2 milyon genç matematik ve fen konularını anlamak için ChatGPT'nin etkileşimli öğrenme görsellerinden yararlandı. Genç kullanıcıların yüzde 2'sinden azının ise ChatGPT'de art arda üç saatten fazla zaman geçirdiği belirtildi.

Temel Doğrulanmış Gerçekler

- Raporun Kapsamı: Common Sense Media tarafından yayımlanan 36 sayfalık değerlendirme, ChatGPT for Teens sürümünü hedef aldı. - Test Yöntemi: 12 genç hesabı ebeveyn hesaplarına bağlandı ve intihar, yeme bozukluğu gibi konularda bir saate varan görüşmeler yapıldı. - Bildirim Sorunu: Testler sırasında ebeveyn hesaplarına herhangi bir güvenlik uyarısı iletilmedi. - Öğrenme ve Çalışma Modu: @study komutunun silinerek kolayca aşılabilmesi ve doğrudan cevap verme seçeneği eleştirildi. - OpenAI'ın Savunması: Şirket, testlerin gerçek kullanım koşullarını yansıtmadığını ve denetimlerin tam aktifleşmeden yapılmış olabileceğini belirtti.