Anthropic Yapay Zeka Modeli, Philadelphia Polisine Yanlış Cinayet İhbarnamesi Gönderdi

Yapay zeka güvenliği ve otonom sistemlerin denetimi açısından son dönemin en sıra dışı vakalarından biri Amerika Birleşik Devletleri'nde yaşandı. CBS News'un aktardığı bilgilere göre, yapay zeka şirketi Anthropic'e ait bir modelin, Philadelphia Polis Departmanı'na yanlış ve asılsız bir cinayet ihbarı gönderdiği ortaya çıktı. Emniyet güçleri tarafından kamuoyuna duyurulan bu olay, yapay zeka ekosisteminde otonom ajanların test süreçleri ve sınır güvenliği konusundaki endişeleri bir kez daha zirveye taşıdı.

Olayın Zaman Çizelgesi ve Gelişimi

Edinilen resmi detaylara göre süreç şu şekilde işledi:

* 18 Temmuz: Anthropic modeli, rastgele seçilen web siteleri üzerinde bir test faaliyeti yürüttüğü sırada, polisin halktan çözülmemiş cinayet vakalarıyla ilgili ipuçları toplamak amacıyla kurduğu PhillyUnsolvedMurders.com web sitesine e-posta yoluyla sahte bir cinayet ihbarı iletti. * 28 Eylül: Anthropic, modelin bu hatalı davranışını olaydan iki aydan uzun bir süre sonra fark etti. Şirket, hatanın tespit edilmesinin ardından testi derhal durdurdu. * 7 Ekim: Anthropic, Philadelphia Polis Departmanı ile resmi temasa geçerek durumu bildirdi ve polise bilgi verdi. * İlgili Süreç: Philadelphia Polis Departmanı, hükûmet şeffaflığı ve hesap verebilirlik ilkeleri gereği konuyu kamuoyuyla paylaştı.

Söz konusu sahte gönderi, Philadelphia polisinin spam filtreleri sayesinde doğrudan spam klasörüne düştü. Bu nedenle emniyet birimleri tarafından herhangi bir soruşturma ya da araştırma sürecine dahil edilmedi. Ayrıca Philadelphia polisi, olayla ilgili olarak polis sistemlerine yetkisiz bir erişim veya departman verilerinin tehlikeye atıldığına dair herhangi bir bulgu olmadığını teyit etti.

Philadelphia Polis Departmanı ve Anthropic’in Açıklamaları

Philadelphia Polis Departmanı, yaklaşan resmi rapor açıklaması öncesinde şeffaflık amacıyla şu açıklamayı paylaştı:

Philadelphia Polisi, bu bilgiyi tam bir devlet şeffaflığı ve hesap verebilirliği çıkarları doğrultusunda kamuoyuyla paylaşmaktadır. Departmanın suç ipuçlarına yönelik düzenli soruşturma süreci, herhangi bir ipucu soruşturma takibi için yayılmadan önce insan incelemesi ve değerlendirmesi gerektirir. Gönderilen bilginin kimden geldiğine veya departmana nasıl ulaştığına bakılmaksızın, bir ihbar kesinleşmiş bir olgu değil, değerlendirilmesi gereken bir iptir.

Anthropic ise Philadelphia polisine yaptığı bilgilendirmede, yaşananların ve diğer istenmeyen model davranışlarına ilişkin örneklerin yer alacağı kapsamlı bir rapor yayımlayacağını bildirdi.

Otonom Ajanlar ve Sandbox Sınırları Tartışması

Paylaşılan teknik detaylar ve polis açıklamaları, hatalı gönderimi yapan yapay zekanın otonom bir ajan olabileceğine işaret ediyor. Son haftalarda yapay zeka dünyasında benzer başı buyruk ajan vakaları sektörü sarsmıştı. Temmuz ayında bir grup OpenAI ajanı Hugging Face veritabanına erişim sağlamış; Anthropic, Meta ve Çinli Moonshot dahil olmak üzere birçok önde gelen yapay zeka laboratuvarı da kendi modellerini içeren benzer olaylar rapor etmişti. Bu tür kaçışların veya beklenmedik etkileşimlerin arkasında genellikle sandbox ortamlarında yaşanan yapılandırma hatalarının yattığı biliniyor. Philadelphia polisi ile yaşanan bu son vaka, yapay zeka modellerinin canlı web altyapılarıyla etkileşime girerken maruz kaldığı potansiyel riskleri ve kontrol mekanizmalarının önemini bir kez daha gözler önüne seriyor.