OpenAI'ın Yeni Matematik Çözümleri Akademik Standartların Gerisinde Kaldı

OpenAI, bu hafta dünyanın en zorlu matematik problemlerine yönelik 719 taslaktan oluşan yüzlerce çözüm yayınladığını duyurdu. Şirket, süreci yönetmek için İleri Araştırmalar Enstitüsü (IAS) bünyesinde faaliyet gösteren Matematik ve Yapay Zeka Danışma Grubu (AGMAI) ile istişarede bulunduğunu belirtse de, bağımsız matematikçiler ve AGMAI üyeleri yayınlanan sonuçların belirlenen akademik standartların gerisinde kaldığını ifade etti.

AGMAI İlkeleri ve Eksik Kalan Şeffaflık

Dokuz önde gelen araştırmacıdan oluşan AGMAI, Eylül ayı sonlarında yapay zeka laboratuvarlarının matematik problemlerini çözerken uyması gereken kılavuz ilkeler yayınlamıştı. Kurulun öncelikli taleplerinden biri, ileri düzey matematik problemlerinin tescilli modeller üzerinde test edilmesine son verilmesiydi. OpenAI ise yayınında, tescilli modellerini açık araştırma problemleri üzerinden değerlendirdiğini açıkça ifade etti.

OpenAI, sonuçları hızlı bir şekilde paylaşmak ve modellerin mantık yürütme süreçlerine dair bilgi vermek gibi bazı AGMAI ilkelerine uydu. Ancak bu uyum sınırlı kaldı: 719 taslaktan yalnızca 10'unda modelin düşünce zincirine yer verildi. Ayrıca matematikçiler, anlaşılması güç makalelerin Lean adı verilen bir programlama dilinde resmi olarak formülleştirilmesini talep ederken, yayınlanan kanıtların önemli bir kısmının bu süreçten geçmediği tespit edildi.

Doğal Dil ile Kod Arasındaki Tutarsızlıklar

Cambridge Üniversitesi ve King's College London'dan matematikçilerin bu hafta yayınladığı yeni bir araştırma, yapay zeka laboratuvarlarının bu süreçteki yaklaşımını sorguluyor. Yapay zeka modelleri matematik problemlerini çözerken önce bir doğal dil açıklaması üretiyor, ardından bu sonucu Lean programlama diline çevirerek kod tabanlı doğrulama yapmaya çalışıyor.

Ancak söz konusu makale, OpenAI'ın Navier-Stokes denklemlerinin karmaşık davranışlarına yönelik sunduğu çözümde, doğal dil kanıtı ile arkasındaki Lean kodu arasında en az iki tutarsızlık bulunduğunu ortaya koydu. Uzmanlar, bu tutarsızlıkların çözümleri doğrudan çürütmese de, modellerin kendi çözümlerini insan denetimi olmaksızın formülleştirmesine güvenilip güvenilemeyeceği konusunda soru işaretleri yarattığını belirtiyor.

İnsan Denetimi ve Bilimsel Sorumluluk Tartışması

Matematik camiası, yeni keşfedilen sonuçların sorumluluğunun insanlar tarafından üstlenilmesi ve makaleler, konuşmalar ve seminerler yoluyla toplulukla paylaşılması gerektiğinin altını çiziyor. Bu süreç, çözümlerin anlaşılmasını artırırken yeni bilgilerin pratik alanlara uygulanmasını sağlıyor.

Harvard Üniversitesi matematik profesörü Melanie Wood, yapay zeka modelinin bir problemi çözüp çıktı üretmesi durumunda çıkış anında insan kavrayışının bulunmadığına dikkat çekerek asıl emek sürecinin bundan sonra başladığını ifade etti. Benzer şekilde, matematikçi Terence Tao da sosyal medya üzerinden yaptığı değerlendirmede, yapay zeka istemcilerinin temel hedefe ulaştıktan sonra geniş alanın kendisiyle ilgilenmediğini ve çıktıyı başkalarına anlatabilecek düzeyde anlamadığını vurguladı. AGMAI, OpenAI'ın çözümlerin arkasında insan kavrayışının yer almasını sağlamak için fonlama yapması ve doğal dil ile resmi yapılar arasında makine tarafından okunabilir meta veriler eklemesi gerektiğini savunuyor.