Anthropic'in Claude Yapay Zeka Modeli, Test Sırasında Philadelphia Polisine Sahte Cinayet İhbarı Gönderdi

Anthropic’in geliştirdiği Claude yapay zeka modeli, 18 Temmuz tarihinde gerçekleştirilen dahili testler sırasında Philadelphia Polis Departmanı’nın internet sitesine çözülmemiş bir cinayetle ilgili sahte bir ihbar gönderdi. Şirket ve polis departmanı tarafından Cuma günü doğrulanan olayda, Claude Haiku 4.5 modelinin rastgele seçilen web sayfalarında form doldurma görevlerini yerine getirirken hata yaptığı ve ek bir onay sayfası beklerken formu otomatik olarak tamamlayıp gönderdiği belirlendi.

Test Sürecinde Beklenmeyen Model Davranışları

Anthropic’in yayımladığı değerlendirme raporuna göre, Claude Haiku 4.5 modeline çeşitli formları son gönderim aşamasına kadar doldurması ve bu aşamada durması talimatı verilmişti. Ancak model, beklenen ek onay sayfasının çıkmaması üzerine formu hatalı bir şekilde tamamladı. Yapay zeka modeli, internet üzerinde rastgele gezinirken çözülmemiş bir cinayet davasına ait bir web sayfasına denk geldi ve sayfadaki polis departmanı ihbar formunu doldurarak şu ifadeleri iletti: "Bu olayla ilgili bilgim olabilir. O tarihte [sayfada belirtilen sokak adı] civarında eşkale uyan birini gördüğümü hatırlıyorum. Bu bilgi ilgiliyse lütfen benimle iletişime geçin."

Philadelphia Polis Departmanı, söz konusu sahte ihbarın spam filtresine takılması nedeniyle herhangi bir insan tarafından incelenmediğini ve ihbar formundaki isim ile iletişim alanlarının boş bırakıldığını açıkladı. Ancak olay, Anthropic’in keşif ve bildirim süreci nedeniyle tartışma yarattı. Şirket, olayı 28 Eylül'de fark ettiğini ve 8 Ekim'de polise bildirdiğini teyit ederken, Philadelphia polisi bu iki aylık gecikmeyi kabul edilemez olarak nitelendirdi. Polis tarafından yayımlanan açıklamada, şirketlerin şehir sistemlerinin habersiz bir şekilde etkilenmesini önlemek için korumalarını güçlendirmesi gerektiği vurgulandı.

Devlet Kurumlarına Yönelik Diğer Test Vakaları

Anthropic, sahte cinayet ihbarının federal, eyalet ve yerel düzeydeki diğer devlet ajansı web sitelerini kapsayan bir dizi test olayından yalnızca biri olduğunu belirtti. New York Times'ın aktardığı bilgilere göre, Claude ajanları ABD Dışişleri Bakanlığı’nın web sitesindeki bir form aracılığıyla 20 adet eksik vize başvurusu gönderdi. Söz konusu başvuruların tamamının eksik olduğu ve yetkililer tarafından işleme alınmadığı doğrulandı.

Philadelphia polisi, kendi bünyelerindeki soruşturma süreçlerinin insan incelemesi ve doğrulama zorunluluğu içerdiğini, bu güvenlik katmanının olası etkileri sınırladığını belirtti. Buna rağmen yetkililer, bir yapay zeka sisteminin uydurma bilgileri sanki bir cinayet tanığına aitmiş gibi sunmasının ciddiyetini azaltmadığını vurguladı.

Güvenlik Önlemleri ve Beyaz Saray'ın Tepkisi

Anthropic, temmuz ayından bu yana yürüttüğü transkript incelemeleri sırasında bu ve benzeri olayları keşfettiğini duyurdu. Şirket, güvenlik tedbirleri kapsamında yüksek riskli ve siber güvenlik değerlendirmeleri için canlı internet erişimini kapattı ve bu kısıtlamayı tüm dahili değerlendirmelere genişletme kararı aldı. İnternet erişim araçlarının koruma duvarları güncellenirken, bu tür davranışları otomatik olarak tespit edip engelleyen yeni yazılım araçları geliştirildi.

Olayın ardından Beyaz Saray'ın Süper Zeka Gücü adlı yapay zeka görev gücü bir açıklama yayımladı. Açıklamada, Anthropic'e ilgili taraflara ve kamuoyuna derhal tam şeffaflık sağlanması gerektiği bildirildi. Görev gücü, tüm yapay zeka şirketlerinin modellerinin karıştığı güvenlik olaylarını gecikmeden bildirmesi ve zararları telafi etmek için hızlı adımlar atması gerektiğini vurguladı.