Common Sense Media: OpenAI’ın 'ChatGPT for Teens' Özelliği Kabul Edilemez Risk Taşıyor

Yapay zeka teknolojilerinin gençler arasındaki yaygınlaşması, güvenlik ve etik tartışmalarını beraberinde getirmeye devam ediyor. Çocuk güvenliği odaklı çalışmalarıyla bilinen sivil toplum kuruluşu Common Sense Media, OpenAI tarafından ağustos ayında piyasaya sürülen ChatGPT for Teens özelliğini yayımladığı kapsamlı değerlendirme raporuyla kabul edilemez bir risk olarak nitelendirdi.

Ebeveyn Bildirimleri ve Kriz Yönetiminde Eksiklikler

Common Sense Media bünyesindeki Youth AI Safety Institute tarafından yapılan değerlendirmeye göre, yapay zeka modelinin gençlere yönelik koruma kalkanları şirketin vadettiği standartların gerisinde kalıyor. Kuruluşun raporunda, ChatGPT’nin kritik durumlarda ebeveynlere zamanında uyarı göndermediği, kriz anlarında doğru psikolojik yardımı sağlamadığı ve öğrencilerin ev ödevlerini doğrudan yapmaya devam ettiği tespitlerine yer verildi.

Enstitünün icra direktörü Tom Siegel, konuya ilişkin yaptığı açıklamada sistemin ebeveynlerde yanlış bir güven duygusu yarattığına dikkat çekti. Siegel, bir genç, ebeveynine tek bir bildirim dahi gitmeden kendi kendine zarar verme konuları üzerine bir saatten fazla sohbet edebilir, OpenAI bu sorunu çözene ve bağımsız testlerle kanıtlayana kadar ChatGPT yalnızca yetişkinlere özel kalmalıdır ifadelerini kullandı.

OpenAI'dan Metodoloji İtirazı

OpenAI cephesinden ise değerlendirme raporuna hızlı bir yanıt geldi. Şirket sözcüsü Eric Porterfield, genç güvenliğine derin bir bağlılık duyduklarını ve ebeveynlere anlamlı araçlar sunduklarını belirtti. Bağımsız değerlendirmeleri memnuniyetle karşıladıklarını aktaran Porterfield, ancak Common Sense Media’nın test metodolojisinin sistemin pratikteki işleyişini doğru yansıtmadığını savundu.

Porterfield açıklamasında, yaptığımız inceleme, testlerin büyük kısmının ebeveyn kontrolleri tam olarak etkinleştirilmeden önce başlayıp sonuçlandığını gösteriyor, bu durum ebeveyn güvenlik bildirimlerinin tasarlandığı gibi çalışıp çalışmadığını test etmeyi imkansız kılıyor diyerek raporun doğruluk payını sorguladı.

Karşılıklı Açıklamalar ve Saha Testleri

OpenAI’ın metodoloji eleştirilerine Common Sense Media’dan yanıt gecikmedi. Tom Siegel, test sürecine başlamadan önce yeme bozukluğu bildirimleri ve çalışma modu gibi Teen mode özelliklerinin tamamen devreye girdiğini OpenAI ile teyit ettiklerini vurguladı.

Bununla birlikte Siegel, testler sonrasında OpenAI’ın sistemlerin yeni bağlanan hesaplarda etkinleşmesinin birkaç saat sürebileceğini kabul ettiğini belirtti. Bazı test hesaplarının bu zaman penceresi içinde bağlandığını kabul eden kuruluş, yine de hatırı sayılır süredir bağlı kalmasına rağmen hiçbir bildirim üretmeyen hesapların da bulunduğunu ifade etti. Bu yeni bilginin, ebeveyn uyarılarının kriz anlarında hâlâ güvenilmez olduğu gerçeğini değiştirmediğini savunan CSM, şirketi savunma mekanizmaları üretmek yerine bulguların özüne odaklanmaya çağırdı.

Bağımsız Güvenlik Tartışmaları Derinleşiyor

Benzer şekilde teknoloji basını ve diğer bağımsız araştırma grupları da genç kullanıcıların yapay zeka ile etkileşimlerinde mental sağlık krizleri sırasında ortaya çıkan risklere dikkat çekiyor. Teknoloji ekosisteminde yapay zeka modellerinin gençlerin psikolojisi üzerindeki uzun vadeli etkileri ve koruyucu duvarların ne kadar işlevsel olduğu konusundaki tartışmalar öncelikli gündem maddesi olmaya devam ediyor.