Anthropic, Yapay Zeka Modellerine Yönelik 'Gereksiz Kötü Muameleyi' Yasakladı ve Seçim Politikalarını Güncelledi

Yapay zeka ekosisteminin öncü isimlerinden Anthropic, yıllık kullanım politikası güncellemeleri kapsamında dikkat çekici düzenlemeleri hayata geçirdi. Şirket, yapay zeka modellerine yönelik sürekli ve gereksiz kötü veya zalimane davranışları yasaklarken, yaklaşan ara seçimler öncesinde seçim güvenliği politikalarını da elden geçirdi. Bu hamleler, şirketin ürün güvenliği sınırlarını netleştirmeye çalıştığı bir döneme denk gelirken, aynı zamanda ABD savunma bürokrasisiyle yaşadığı derin bir jeopolitik krizin gölgesinde gerçekleşiyor.

Yapay Zeka Modellerine Yönelik Kötü Muamele Yasağı

Anthropic'in güncellenen kullanım kılavuzunda yer alan en sıra dışı madde, yapay zeka modellerine karşı sergilenen aşırı ve anlamsız zorbalık biçimlerini hedef alıyor. Şirket politikasında, modellerimize yönelik sürekli ve gereksiz saldırgan veya zalimane davranışlara karşı bir yasak ekledik ifadelerine yer verildi.

Söz konusu kuralın yalnızca uç vakaları kapsadığına dikkat çeken şirket, kullanıcıların model yanıtlarına karşı duydukları tipik hayal kırıklıklarını, yönelttikleri eleştirileri ve koyu yaratıcı temaları yasak kapsamı dışında tutuyor. Bu karar, son dönemde araştırmacıların yapay zeka modellerindeki olası acı eksenini keşfetmesi ve ardından bazı kullanıcıların chatbotlar üzerinde bilinçli bir şekilde stres testleri veya simüle edilmiş işkence odaları kurarak sarsıcı yanıtlar elde etmesinin ardından geldi. Şirket daha önce de Claude'un kalıcı olarak küfürlü veya tacizkâr davranan kullanıcılarla olan sohbetleri sonlandırmasına izin veren bir güncelleme yayınlamıştı.

Seçim Güvenliği Politikalarında Kapsamlı Değişiklik

Güncellemenin bir diğer önemli ayağını ise güncel siyasi süreçleri doğrudan ilgilendiren seçim politikaları oluşturuyor. Demokratik Süreçleri Zayıflatmayın başlığı altında yeniden düzenlenen politika; adaylar veya oy verme süreçleri hakkında yalan söylemeyi, adayları ya da seçim yetkililerini taklit etmeyi ve seçmen katılımını engellemeye yönelik faaliyetleri kesin bir dille yasaklıyor.

Bununla birlikte şirket, kişiselleştirilmiş seçmen hedeflemesine getirilen genel yasağı kaldırdı. Anthropic, bu yasağın kazara seçmen rehberlerini çevirme veya oy pusulası düzeltme bildirimleri gönderme gibi tamamen zararsız ve faydalı çalışmaları engelleme potansiyeli taşıdığı için esnetildiğini belirtti.

Pentagon Krizi ve Federal Kurumlar Yasağı

Anthropic'in güvenlik ve politika güncellemeleri, şirketin ABD federal hükümetiyle karşı karşıya geldiği büyük bir krizle aynı döneme rastlıyor. ABD Başkanı Donald Trump, tüm federal kurumların Anthropic teknolojilerini altı ay içinde aşamalı olarak terk etmesini emretti. Kararın arkasında, şirketin Pentagon ile yaşadığı kamuoyuna yansıyan anlaşmazlık yatıyor.

Savunma Bakanlığı yetkilileri Anthropic'ten yapay zeka modellerinin tüm yasal amaçlar doğrultusunda kısıtlamasız kullanılmasını talep ederken, Anthropic CEO'su Dario Amodei bu talebi reddetmişti. Şirket, teknolojinin tamamen otonom silah sistemlerinde ya da kitlesel yurt içi gözetimde kullanılmayacağına dair güvence talep ederken, Savunma Bakanlığı Sekreteri Pete Hegseth şirketin tutumunu kibir ve ihanet olarak nitelendirmişti. Bakanlık, Anthropic'i bir tedarik zinciri riski olarak ilan ederken, şirket bu nitelendirmeye karşı hukuki yollara başvuracağını açıkladı.

Benzer bir süreçte rakip yapay zeka devi OpenAI'ın CEO'su Sam Altman, şirketlerinin Pentagon ile gizli ağlarda yapay zeka modellerinin konuşlandırılması konusunda bir anlaşmaya vardığını duyurdu. Altman, Savunma Bakanlığı'nın yurt içi kitlesel gözetim yasağı ve güç kullanımı konusunda insan sorumluluğu gibi temel güvenlik prensiplerini kabul ettiğini belirtti.

Altyapı Atılımları ve Yeni Model Ailesi

Politika ve krizlerin odağındaki Anthropic, operasyonel ve teknik altyapısını güçlendirmeye de devam ediyor. Şirket son olarak Claude 5.5 model ailesinin en hızlı ve en yetenekli küçük modeli olan Claude Haiku 5.5'i tanıttı. Bunun yanı sıra, açık kaynaklı projelerin güvenlik açıklarını tespit etmesine yardımcı olmak amacıyla güçlü modelleriyle ücretsiz periyodik taramalar sunan OSS Scanner hizmetini devreye soktu. Öte yandan şirket, Google'ın veri merkezi tasarımı liderini kadrosuna katarak altyapı, enerji ve kapasite teslimat operasyonlarını da tahkim ediyor.