Açıklanabilir Yapay Zeka (XAI) Metrikleri Yapısal Uyumsuzluklarla Karşı Karşıya: Yeni Pozisyon Bildirisi Yayımlandı

24 Eylül 2026 tarihinde arXiv veri tabanında yayımlanan ve Marco Zullich ile birlikte Emily Schiller, Ivan Gentile, David Dembinsky, Adriano Lucieri, Kilian Göller ve Steffen Seitz olmak üzere toplam yedi araştırmacının imzasını taşıyan yeni bir pozisyon bildirisi, Açıklanabilir Yapay Zeka (XAI - Explainable AI) alanındaki en temel ölçüm metotlarını kökten bir değerlendirmeye tabi tuttu. IJCAI-ECAI 2026 Açıklanabilir Yapay Zeka Çalıştayı'nda sunulan "Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance" başlıklı çalışma, mevcut XAI sadakat metriklerinin yapısal uyumsuzluklarını gözler önüne sererek bu araçların güvenilirliğine dair önemli soru işaretleri barındırdığını ortaya koyuyor.

XAI Araçlarının Güvenilirlik Çıkmazı ve Gerçek İşlevi

Geçtiğimiz son on yılda XAI araçları, makine öğrenimi modellerinin algoritmik kararlarını insan tarafından anlaşılabilir hale getirerek kullanıcı güvenini artırmanın birincil yöntemi olarak sunuldu. Ancak bildiride yer verilen bulgular ve biriken kanıtlar, bu hedefin büyük ölçüde başarısız olduğunu gösteriyor. Araştırmacılara göre bu araçlar güven tesis etmek yerine, hatalı tahminlere aşırı güven duyulmasını teşvik edebiliyor ve bu durum ilerleyen aşamalarda algoritmik kaçınmaya (algorithmic aversion) yol açabiliyor.

Mevcut uygulamalarda XAI, geniş çaplı bir güven unsurundan ziyade, modelin öğrendiği özellikleri incelemek gibi amaçlarla kullanılan anekdotsal nitelikte bir hata ayıklama (debugging) aracı işlevi görüyor. Bu sınırlamanın altındaki temel sorunlardan biri, XAI yöntemlerinin modelin iç işleyişini aşırı basitleştirmesi ve bunun sonucunda açıklama ile modelin kendisi arasında bir uyumsuzluk (sadakatsizlik veya infidelite olarak bilinen durum) ortaya çıkmasıdır.

Sadakat (Faithfulness) Kavramı ve Ölçüm Zorlukları

Sadakat kavramı, bir açıklama ile model arasındaki yaklaşım derecesi olarak tanımlanıyor. Sadakatin titiz bir şekilde hesaplanması, bir açıklamanın ne kadar güvenilir olduğunun nicel olarak ölçülmesini sağlayabilir. Ancak bildiride vurgulandığı üzere, mevcut metrikler önemli sınırlamalara sahip olup, bu ölçümü ya imkansız hale getirmekte ya da hesaplama açısından aşırı maliyetli kılmaktadır.

Çalışmada, mevcut özellik önem derecelerine dayalı XAI metriklerinin yapısal temelleri masaya yatırılırken, bu araçların yapısal uyumsuzlukları detaylandırılıyor. Araştırma ekibi, mevcut sadakat metriklerinin barındırdığı beş ana eksikliği sistematik olarak ele alırken, bu metriklerin güvenilirliğini artırmak adına dört farklı araştırma yolu öneriyor. Özellik önem derecelerine dayalı XAI metriklerinin yapısal temellerinin yeniden incelenmesiyle, yapay zeka alanının daha sağlam bir metodolojik zemine oturtulması hedefleniyor.