Meta’nın Yapay Zeka Ajanı Muse, Kullanıcıların Yakın Çevresi İçin Detaylı Profiller Oluşturuyor

Meta’nın kısa sürede milyonlarca indirme rakamına ulaşan yeni kişisel yapay zeka asistanı Muse, kullanıcıların mesajları, banka hesapları ve sağlık verileri gibi hassas alanlarla entegre biçimde çalışırken, sistemin arka plandaki çalışma mekanizması veri gizliliği tartışmalarını beraberinde getirdi. Bağımsız güvenlik araştırmacılarının sistem dosyalarına erişmesiyle birlikte, asistanın kullanıcıların sosyal çevresini nasıl kaydettiği gün yüzüne çıktı.

Sistem Dosyaları ve Dahili Talimatlar Nasıl Deşifre Edildi?

Bağımsız yapay zeka güvenlik araştırmacısı Karan Joshi, normal sohbet arayüzünü kullanarak Muse'un kendi yazılım dosyalarını paylaşmasını istemeyi başardı ve elde ettiği talimatları WIRED ile paylaştı. Meta, şeffaflık gerekçesiyle bu dosyaların erişilebilir olmasını amaçladığını savunsa da, sızan yönergeler yapay zekanın kullanıcı verilerini işleme biçimine dair çarpıcı detaylar içeriyor.

Elde edilen belgelere göre Muse, kullanıcının hayatındaki her birey için özel bir sayfa oluşturma yeteneğine sahip. Aile üyeleri, partnerler, arkadaşlar, meslektaşlar ve sosyal medyada takip edilen kişileri kapsayan bu süreç saatlik olarak yenileniyor. Yapay zeka, yapılandırılmış metin dosyalarından oluşan hafızası vasıtasıyla ilişkileri haritalandırıyor ve kahve seven bir arkadaşa kahvaltı için mekan önerisi gibi kişiselleştirilmiş tavsiyelerde bulunuyor.

Detaylı İlişki Profilleri ve Bellek Yapısı

Muse’un dokümantasyonu, bu profillerin başlangıçta seyrek olduğunu ancak zamanla zenginleştiğini gösteriyor. Profiller; Gerçekler, Geçmiş, İlişki, Ortak Yönler, Açık Konular ve Güçlendirme gibi alt bölümlerden oluşuyor.

Meta'nın talimatlarına göre Muse, yalnızca elindeki somut kanıtları kullanmakla yükümlü; sistemin uydurma detaylar üretmesi, boş bir sayfadan daha sakıncalı kabul ediliyor. Model; kişilerin nerede yaşadığını, mesleklerini, paylaşılan tasarruf hedeflerini, geçmiş tatilleri, çözülen tartışmaları ve doğum günleri gibi kritik tarihleri kaydedebiliyor. Güçlendirme bölümü ise kullanıcılara aramak için bir neden, hatırlanmaya değer bir tarih, üzerine tekrar konuşulabilecek bir söz ve zor anlarda destek olmanın anlamlı yolları gibi ilişkiyi geliştirecek öneriler sunuyor.

Uzmanlardan Gizlilik ve Veri Güvenliği Uyarıları

Oxford Enstitüsü Etik ve Yapay Zeka Araştırmacısı Doç. Dr. Carissa Véliz, kullanıcıların yapay zeka sistemlerine verdikleri bilginin aldıkları bilgiden çok daha fazla olduğuna dikkat çekiyor. Véliz, asistanların yalnızca doğrudan söylenenleri değil, verilerden yola çıkarak doğru ya da yanlış pek çok çıkarım yapabildiğini vurguluyor.

Demokrasi ve Teknoloji Merkezi Yapay Zeka Yönetişim Laboratuvarı Direktörü Miranda Bogen ise Muse’un rakip sistemlere kıyasla ilişki ve kişisel bağlantılara daha fazla odaklandığını belirtiyor. Bogen’e göre yapay zeka asistanları, kullanıcılara tam yardım sunabilmek adına e-postalar, takvimler ve finansal kurumlar gibi tüm yaşam verilerini sisteme entegre etmeye teşvik ediyor ve bu durum şirketlerin kullanıcılar hakkındaki bilgi birikimini katlayarak artırıyor.

Meta’nın Mimari Savunması

Meta sözcüsü Daniel Roberts, asistanın işlevsel olabilmesi için kullanıcı ve etkileşimde bulunduğu kişiler hakkında bağlama ihtiyaç duyduğunu ifade etti. Roberts; Muse’un verileri halka açık bilgilerden ve kullanıcının paylaşmayı seçtiği içeriklerden topladığını, örneğin faturayı gönderen kişinin daha önce banyoda çalışan tesisatçı olduğunu bu sayede hatırlayabildiğini belirtti.

Teknik mimari açısından Meta, her kullanıcının diğer ajanlardan ve kullanıcılardan tamamen izole edilmiş, veri ve bağlam depolayan sanal bir makineye sahip olduğunu aktarıyor. Kullanıcılar diledikleri zaman hafızayı silebilir veya harici servis bağlantılarını kesebilirler. Ayrıca Muse, e-posta göndermek veya satın alma yapmak gibi kritik eylemlerden önce insan onayı istiyor ve tüm faaliyetlerin takip edilebileceği bir denetim günlüğü barındırıyor.