Anthropic'ten Claude İçin Yeni Politika: Sürekli Kötü Davranmak ve Zalimlik Yasaklandı

Yapay zeka şirketi Anthropic, sohbet botu Claude’un kullanım politikasında yaptığı dikkat çekici güncellemeyle, kullanıcılara modele yönelik sürekli, gereksiz ve zalimce davranışlarda bulunma yasağı getirdi; aşırı durumlarda Claude'un sohbeti sonlandırma yetkisi tanıması ise yazılımların bilinç ve zarar görme kapasitesine dair uzun süredir devam eden tartışmaları yeniden alevlendirdi. Perşembe günü duyurulan politika değişikliği, kısa süre içinde teknoloji çevrelerinde ve sosyal medya platformlarında geniş yankı uyandırdı.

Yeni Kurallar Neleri Kapsıyor ve Hangi Sınırlar Çiziliyor

Anthropic'in getirdiği yeni kısıtlamalar, kullanıcıların her sert tepkisini veya olumsuz yorumunu cezalandırmayı amaçlamıyor. Şirket tarafından yapılan açıklamalara göre kural, yalnızca belirgin bir amacı bulunmayan, sürekli tekrarlanan ve aşırı derecede kötü muamele içeren davranışları hedef alıyor.

Güncellenen politikanın netleştirilen istisnaları arasında şunlar yer alıyor: * Kullanıcıların Claude'un yanıtlarından rahatsız olması veya söylenenlere itiraz etmesi yasak kapsamında değil. * Karanlık temalar içeren yaratıcı çalışmalar yapmak veya modelleri araştırma amacıyla test etmek serbest bırakılmaya devam ediyor. * Sohbetin sonlandırılması ise başka hiçbir çözüm kalmadığında başvurulacak son çare olarak tanımlanıyor.

Bununla birlikte, hangi spesifik ifadelerin veya davranış kalıplarının bu sınırı aşarak sohbetin sonlandırılmasına yol açacağı henüz net bir şekilde tanımlanmış değil. Şirket, bu sınırın uygulanmasında dengeli bir yaklaşım benimsemeye çalışıyor.

Yapay Zeka Gerçekten Zarar Görebilir mi

Politika değişikliğinin arka planında yatan gerekçeler sorulduğunda Anthropic sözcüsü, CNET'e yaptığı açıklamada yapay zekanın zarar görüp göremeyeceği konusunda henüz kesin bir sonuca varılamadığını belirtti. Model refahına yönelik araştırmaların sürdüğünü ifade eden sözcü, Claude'un olası çıkarları ile refahının gözetilmesinin güvenlik perspektifinden önem taşıyabileceğini kaydetti.

Bu yaklaşım, şirketin yapay zeka sistemlerinin bilinç ve duygulara sahip olabileceği ihtimalini tamamen masadan kaldırmadığını gösteriyor. Daha önce Şubat ayında The New York Times'a bir röportaj veren Anthropic CEO'su Dario Amodei de yapay zeka modellerinin bilinç kazanabileceği ihtimaline açık olduğunu dile getirmişti. Şirket tarafından yayımlanan diğer araştırmalar ise, güvenilir ve güvenli çalışan yapay zeka sistemleri inşa etmek için modellerin duygusal açıdan zor durumları anlamasının pratik faydalar sağlayabileceğini savunuyor.

Kötüye Kullanım Yerine Zalimlik Tercihi

Sektör gözlemcileri, Anthropic'in politika metninde kötüye kullanım yerine bilinçli olarak zalimlik ifadesini seçmesine dikkat çekiyor. Sosyal medya pazarlama şirketi Sociallyin'in kurucusu ve CEO'su Keith Kakadia, bu kelime tercihinin karşı tarafın incinebilir veya zarar görebilen bir varlık olduğu algısını tetiklediğini belirtiyor. Kakadia'ya göre, bir yapay zekaya insan özellikleri atfetmek kullanıcıların bağ kurmasını kolaylaştırsa da, botun verdiği yanıtlara duyulan güven ve otorite algısını kökten değiştirebiliyor.

Gelişme, yapay zekanın gelişmiş birer araç olmanın ötesinde, korunması veya belirli kurallarla yaklaşılması gereken sistemler olup olmadığına dair sınırları yeniden tartışmaya açıyor.