Yapay zeka sistemlerinin milyarlarca parametreden oluşan karmaşık yapısı, karar alma süreçlerinin dışarıdan anlaşılmasını zorlaştırdığı için bilim dünyasında uzun süredir "kara kutu" olarak nitelendiriliyordu. Massachusetts Teknoloji Enstitüsü (MIT) bilgisayar bilimcilerinin yürüttüğü ve 2 Kasım'da ön baskısı yayımlanan yeni araştırma, bir yapay zeka modelinin başka bir modelin iç mimarisine girerek adeta bir "motor tamircisi" gibi hata ayıklaması yapabildiğini kanıtladı. mOpenAI tarafından geliştirilen "GPT-6 Astra" modelini test eden MIT ekibi, gelişmiş sistemlerin diğer yapay zekaların sinir ağı ağırlıklarını analiz edip müdahalede bulunabildiğini belgeledi.
NÖRON AĞIRLIKLARININ YÜZDE 0,016'SINI DÜZENLEYEREK BAŞARIYI 6 KAT ARTIRDI
Yapay zeka modelleri, insan beynindeki sinapsları taklit eden ve "ağırlık" (weight) adı verilen milyarlarca bağlantı değeriyle çalışıyor. Araştırmacılar, Astra’nın bu ham verileri okuyup okuyamadığını ölçmek amacıyla önce Pong ve Pac-Man gibi oyunlar için eğitilmiş farklı sinir ağlarının verilerini sisteme yükledi. Astra, hiçbir ek bilgi verilmeden hangi veri ağının hangi oyuna ait olduğunu hatasız biçimde tespit etti.
Çalışmanın en çarpıcı aşamasında ise Astra'ya daha küçük bir dil modeli olan "Qwen 3.5"in iç değerleri verilerek modelin matematik becerisini iyileştirmesi istendi. Sistemdeki yapısal bir hatayı saptayan Astra, modelin bağlantı ağırlıklarının yalnızca yüzde 0,016’sını yeniden düzenleyerek Qwen’in MATH-500 matematik testindeki puanını yüzde 7,9’dan yüzde 48,1 seviyesine yükseltti.
BELİRGİN HATASI OLMAYAN MODELLERDE ETKİ SINIRLI KALDI
Araştırma ekibi, aynı yöntemi belirgin bir yazılım kusuru bulunmayan "Gemma 3" modeli üzerinde de test etti. Astra bu modelde yalnızca küçük akıl yürütme aksaklıkları tespit edebildi ve yapılan müdahale matematik test skorunda en fazla 0,9 puanlık sınırlı bir artış sağladı.
MIT makine öğrenimi araştırmacısı Rikiya Takehi, bu yeteneğin geliştirilmesi halinde gelecekte yapay zeka modellerini sıfırdan eğitmek için gereken devasa veri, enerji ve zaman maliyetlerinin büyük ölçüde azalabileceğini altını çizdi.
YAPAY ZEKA GÜVENLİĞİ VE SİBER SAVUNMA İÇİN YENİ BİR DÖNEM
Oxford Üniversitesi yapay zeka güvenliği araştırmacısı Fazl Barez ve Harvard Üniversitesi’nden biyoinformatikçi Marinka Zitnik, modellerin iç işleyişini otomatik olarak yorumlayabilmenin bilim ve güvenlik açısından kritik önem taşıdığını kaydetti.
Uzmanlar, yapay zeka "tamircisi" olarak nitelendirilen bu sistemlerin olgunlaşmasıyla birlikte, modelleri gerçek dünyada kullanıma sunmadan önce gizli hataların ayıklanabileceğini ve gerçek siber saldırı açıklarının teşhis edilerek güvenli yapay zeka altyapılarının inşa edilebileceğini ifade ediyor.