Musubi, Gerçek Zamanlı İçerik Moderasyonu İçin PolicyLM-1.7B Modelini Duyurdu

Yapay zeka sektöründe büyük dil modellerinin (LLM) yanı sıra çıktı olasılıklarına odaklanan karar modelleri yaygınlaşmaya devam ederken, Musubi adlı girişim bu teknolojiyi içerik moderasyonuna uyarlayan yeni ürününü tanıttı. Salı günü yapılan duyuruya göre şirket, gerçek zamanlı moderasyon amacıyla geliştirilen ve açık ağırlıklarla (open weights) erişime açılan PolicyLM-1.7B modelini piyasaya sürdü.

Sistem, düz İngilizce ile kaleme alınmış bir içerik politikasını doğrudan mesajlara 50 milisaniyenin altında bir sürede uygulayabilme kapasitesiyle öne çıkıyor. Musubi'nin geliştirdiği model, sosyal platformlardaki mevcut moderasyon altyapılarını besleyen geleneksel yapay zeka sınıflandırıcı sistemleriyle benzer maliyet ve hız seviyelerini hedefliyor. Ancak modern bir dil modelinin esnekliğini barındırdığı için, özel bir eğitime ihtiyaç duymadan karmaşık politikaları işleyebiliyor.

Karar Modellerinin Çalışma Mantığı ve Sektördeki Yeri

Geçtiğimiz Eylül ayında TypeSafe AI tarafından piyasaya sürülen Jev adlı modelin ardından yapay zeka dünyasında sıcak bir tartışma konusu haline gelen karar modelleri; OpenAI ve Amazon gibi devlerin de benzer hamleleriyle ivme kazandı. Klasik büyük dil modellerinden farklı olarak metin üretmek yerine sonuç olasılıkları çıkartan bu yapılar, PolicyLM-1.7B özelinde ikili (binary) bir yargı üretiyor: İçeriğin ilgili kategoriye ait olup olmadığını net bir şekilde belirliyor.

Çıktıların önceden belirlenmiş seçeneklerle sınırlandırılması, karar modellerinin tam ölçekli LLM'lere kıyasla çok daha hızlı ve düşük maliyetle çalışmasını sağlarken, Transformer mimarisinin esnekliğinden ödün vermemesine olanak tanıyor. Yapay zeka ajanlarının denetlenmesinde erken dönem kullanım alanları bulan bu teknolojinin, şimdi insan kaynaklı davranışların denetlenmesine uyarlanması dikkat çekiyor.

Yeniden Eğitim Gerektirmeyen Esneklik

PolicyLM-1.7B'nin en kritik avantajlarından biri, politika kuralları değiştiğinde modelin sıfırdan eğitilmesine gerek bırakmaması. Bu özellik, insan politika belirleyicilerin kuralları istedikleri sıklıkta güncellemelerine ve yinelemelerine imkan tanıyor. Musubi kurucu ortağı ve baş yapay zeka sorumlusu Filip Jankovic, platformlardaki içerik hacminin katlanarak arttığına dikkat çekerek ürün ekiplerinin platformlarında neler olup bittiğini anlamaya duyduğu ihtiyacın önemini vurguluyor. Jankovic, tüm bu verileri son derece ölçeklenebilir ve özelleştirilebilir bir şekilde etiketleyebilmenin ürün yöneticileri için çok değerli olduğunu ifade ediyor.

Jankovic, karar modellerine olan ilgisinin Jev'den eskiye dayandığını, benzer tekniklerin kullanıldığı 2024 tarihli GLiNER (Generalist Model for Named Entity Recognition) projesinden geldiğini belirtiyor. Buna rağmen Musubi, sektördeki yeni dalgayı içerik moderasyonuna dikkat çekmek için bir fırsat olarak görüyor. Şirket tarafından yapılan açıklamada, Jev modeline ilgi duyan geliştiricilerin PolicyLM-1.7B'yi doğrudan kendilerinin çalıştırabileceği, içerik moderasyonuna özel eğitilmiş eşdeğer bir alternatif olarak değerlendirilebileceği belirtiliyor.