Ezberden Anlamaya: Ağın Aniden Kavradığı An

Bölüm metni

Bir sinir ağı, ezberlemesi gereken her şeyi çoktan ezberlemişti; testte hâlâ sınıfta kalıyordu. Araştırmacılar eğitimi kapatmayı unuttu — ve on binlerce adım sonra, tek bir gecede eğri yukarı fırladı. Makine, hiç kimse ona bir şey öğretmezken anlamıştı.

Bir masanın üzerinde tek bir soru kâğıdı var. Sorular birbirinin aynı biçimde: iki sayı veriliyor, bir işlem işareti konuyor, cevap isteniyor. Ama bu işlem bildiğimiz toplama değil. Saat aritmetiği diyebileceğimiz bir şey: sayılar belli bir noktadan sonra başa dönüyor. Saatte 10'a 5 eklediğinizde 15 demiyorsunuz, 3 diyorsunuz, çünkü 12'de çember kapanıyor. Aynısını 12 yerine asal bir sayıyla, mesela 97 ile yapın. 97'ye göre modüler aritmetikte 90 artı 20, 110 değil, 13'tür. Kural son derece basit, istisnası yok, gürültüsü yok, tartışmalı hiçbir yanı yok. Tam da bu yüzden bir laboratuvar için biçilmiş kaftan.

Bu tabloyu bir sinir ağına öğretmeye kalkıştığınızda ortaya, yapay zekâ araştırmasının son yıllarda gördüğü en tuhaf grafiklerden biri çıkıyor. Tablodaki bütün eşleşmelerin, diyelim, üçte birini modele gösteriyorsunuz. Geri kalanını saklıyorsunuz. Model gördüklerinde giderek iyileşiyor, hata payı düşüyor, birkaç bin adım sonra gösterdiğiniz her soruya kusursuz cevap veriyor. Yüzde 100. Bir tanesini bile kaçırmıyor. Sonra saklamış olduğunuz soruları soruyorsunuz ve model tökezlemiyor bile, çünkü tökezlemek için önce yürüyor olmak gerekir. Rastgele tahminden daha iyi bir performans göstermiyor. Sanki o soruları hiç görmemiş, sanki 97'ye göre toplamanın ne olduğuna dair aklında hiçbir şey yok.

Aslında yok da. Bu aşamada ağın içinde bir kural değil, bir liste var. Kendi kendine devasa bir arama tablosu kurmuş: şu sayıyla bu sayı geldiğinde şu cevabı ver. Bir öğrencinin çarpım tablosunu, çarpmanın ne demek olduğunu hiç kavramadan ezberlemesi gibi. Ezber son derece işlevsel bir stratejidir, sınırı da bellidir: ezberlenen listenin dışına bir adım attığınızda hiçbir şey kalmaz elinizde. Öğrenci 7 kere 8'i bilir, ama 13 kere 14'te çaresizdir, çünkü çarpmayı değil, çarpımların adlarını öğrenmiştir.

Makine öğrenmesinde bu duruma aşırı uyum deniyor ve on yıllardır teşhis kolay sayılıyordu. Eğitim başarısı tavan yapmış, sınama başarısı yerlerde sürünüyorsa hikâyenin sonuna gelmişsinizdir. Model veriyi içselleştirmemiş, üstünü örtmüştür. Klasik reçete de belliydi: erken durdurma. Sınama başarısı bir süre iyileşmiyorsa eğitimi kesin, elektrik parasını boşa harcamayın, elinizdeki en iyi kopyayı saklayın, yola devam edin. Bu, bir sezgi değil, neredeyse bir alışkanlıktı. Ders kitaplarına girmiş, kütüphanelere gömülmüş, her araştırmacının parmaklarına yerleşmiş bir refleks.

Refleksin arkasında makul bir varsayım vardı. Eğrilerin bize modelin içinde olup biteni gösterdiğini sanıyorduk. Sınama başarısı düz bir çizgi hâlinde ilerliyorsa, içeride de hiçbir şey ilerlemiyordur; öğrenme durmuştur; kalan tek şey ezberin biraz daha cilalanmasıdır. Grafiğin sessizliği, modelin sessizliği demekti.

Şimdi o iki eğriyi yan yana düşünün. Biri hızla yükselip tavana yapışıyor ve orada kalıyor. Diğeri dibe yakın bir yerde, gürültülü ama umutsuz bir düzlükte uzanıyor. Yatay eksende adımlar birikiyor: on bin, yirmi bin, elli bin. İki eğri arasındaki boşluk, bir modelin bildikleriyle anladıkları arasındaki mesafedir ve bu deneyde o mesafe kapanmak bilmiyor. Herhangi bir makul araştırmacı bu noktada bilgisayarı kapatır ve haklı olduğunu düşünür.

Çünkü bu tabloyu ezberlemek, kuralı bulmaktan çok daha kolaydır. Ağın önündeki en kısa yol, gördüğü her çifti ayrı ayrı işaretlemek, her birine bir raf açmaktır. Kuralı bulmak ise bambaşka bir şey ister: sayıları birer ad olmaktan çıkarıp birbirleriyle ilişkili konumlara dönüştürmeyi, çemberin kendisini icat etmeyi ister. Optimizasyon süreci böyle bir şeyi neden yapsın? Eğitim verisindeki hatası zaten sıfır. Gidecek yeri yok, düzeltecek bir şeyi yok. Görünüşe bakılırsa hikâye bitmiştir.

Görünüşe bakılırsa. Bu deneyde eğrinin düzlüğü bir bitiş değil, bir bekleme odasıydı ve bunu fark etmek için birinin, o refleksi bir kereliğine unutması gerekiyordu.

2022'nin başında OpenAI'da çalışan Alethea Power, Yuri Burda, Harri Edwards, Igor Babuschkin ve Vedant Misra, küçük ölçekli aritmetik görevlerde eğitilen ağlarla ilgili kısa bir bildiri yayımladı. Bildirinin anlattığı şey, o güne kadar biriken sezgiye açıkça ters düşüyordu. Ekip, tam da yukarıda tarif edilen düzlükte eğitimi kesmemişti. Adımlar on binleri geçti, yüz binlere tırmandı, ezber çoktan tamamlanmıştı, sınama başarısı hâlâ dipteydi ve süreç devam ediyordu. Aktarıldığına göre bu uzatmanın ilk örneği bilinçli bir tasarım değil, gözden kaçmış bir koşuydu: durdurulması gereken bir eğitim durdurulmamıştı. Anlatının ayrıntısı ne olursa olsun, işin özü değişmiyor. Bu bulguyu görebilmenin tek yolu, herkesin doğru bildiği kuralı çiğnemekti.

Sonra eğri kırıldı. Ezberin tamamlanmasından çok sonra, ölçeği büyüklük mertebeleriyle konuşulacak kadar geç bir noktada, dipteki o gürültülü düzlük yukarı doğru kıvrıldı. Önce birkaç puan, sonra bir ivme, sonra neredeyse dikey bir tırmanış. Model, daha önce hiç görmediği çiftlerde de doğru cevabı vermeye başladı ve durmadı: sınama başarısı da yüzde 100'e dayandı. Ağ, ezberlediği listenin dışına ilk kez adım atmıştı. Aradaki uçurum bir anda kapanmıştı ve bunu sağlayan hiçbir yeni veri, hiçbir yeni mimari, hiçbir müdahale yoktu. Sadece devam edilmişti.

Bu davranışa, İngilizcede yerleşen adıyla grokking dendi. Kelime Robert Heinlein'ın 1961 tarihli romanı Stranger in a Strange Land'den, yani Türkçedeki adıyla Yabancı Bir Diyarda Yabancı'dan geliyor. Romanda uydurulan bu fiil, bir şeyi öyle derinden anlamayı tarif ediyor ki anlayan ile anlaşılan artık birbirinden ayrılamıyor. Türkçede "kavrama" ya da "jetonun düşmesi" karşılıyor sanırım. Adın seçimi şairane, ama kastedilen şey son derece somut: modelin dışarıdan ölçülen davranışında, uzun bir sessizlikten sonra gelen ani bir nitelik sıçraması.

İlk tepki, haklı olarak, kuşku oldu. Bir hata mı, bir rastlantı mı, tek bir koşunun cilvesi mi? Değildi. Farklı işlemlerde, farklı asal sayılarda, farklı başlangıç noktalarında tekrar tekrar ortaya çıktı. Dahası, ne zaman ortaya çıkacağı gelişigüzel değildi; ayarlanabiliyordu. Modele tablonun ne kadarını gösterdiğiniz belirleyiciydi. Veri payını azalttıkça kavrama anı geriye doğru kayıyor, gecikme hızla büyüyordu; belli bir eşiğin altında ise hiç gelmiyordu. Yani ezberin listesi ne kadar seyrekse, kuralı bulmak o kadar zorlaşıyordu.

İkinci ve daha ilginç ayar, ağırlık sönümlemesiydi. Bu, eğitim sırasında modele sürekli uygulanan hafif bir baskıdır: parametrelerini büyütme, mümkün olduğunca küçük ve sade kal. Uzun süre bunun basit bir düzenleyici numara olduğu düşünülürdü. Bu deneylerde ise sönümlemenin şiddeti, kavrama anının ne zaman geleceğini doğrudan belirliyordu. Baskıyı artırdığınızda uçurumun kapanması dramatik biçimde hızlanıyordu. Baskı yokken kavrama, ulaşılamayacak kadar uzakta bir yerlere savruluyordu. Sadelik yönündeki o sessiz itki, ezberi yavaş yavaş pahalı hâle getiriyordu.

Buradaki gerilim, tuhaf bir sonucun ötesinde bir şeyle ilgiliydi. Eğer bir modelin içindeki değişimi dışarıdan ölçtüğümüz başarı eğrisiyle takip ediyorsak ve o eğri düzken içeride büyük bir inşaat sürebiliyorsa, elimizdeki ölçü aletine olan güvenimiz sarsılıyor demektir. Erken durdurma, kaç deneyde tam da olacak şeyin eşiğinde fişi çekmişti? Kaç kez "bu model bu işi öğrenemiyor" dedik ve aslında "biz yeterince beklemedik" demiş olduk? Sınama kaybının, kavramadan hemen önceki dönemde daha da kötüleşebildiği düşünülürse, tablo iyice rahatsız edici hâle geliyor: model, anlamaya en çok yaklaştığı anda dışarıdan bakana en umutsuz görünüyordu.

Ama bütün bunlar hâlâ dışarıdan bakmaktı. Eğriyi kaç kere çizerseniz çizin, size sadece ne zaman olduğunu söyler, ne olduğunu söylemez. O gece kırılan şeyi anlamak için ağın kapağını açmak, içeride ezberin yerini tam olarak neyin aldığına bakmak gerekiyordu.

Bu işi 2023'te Neel Nanda ve arkadaşları yaptı. Bilerek en sade kurulumu seçtiler: tek katmanlı küçük bir dönüştürücü ağ ve 113'e göre modüler toplama. Amaç, modelin ne yaptığını tahmin etmek değil, devresini sökmek, hangi parçanın hangi hesabı yaptığını tek tek göstermekti. Ortaya çıkan yanıt, hem şaşırtıcı hem de son derece zarifti.

Kavramış model, sayıları sayı olarak işlemiyordu. Her sayıyı bir çember üzerindeki bir açıya çeviriyor, o açının sinüs ve kosinüs değerlerini taşıyor, hesabı bu dalgalar üzerinden yapıyordu. İki açıyı toplamak için lisede öğretilen o eski özdeşlikleri kullanıyordu: iki açının toplamının kosinüsü, tek tek kosinüs ve sinüslerin belli bir birleşimidir. Ağ, girdilerini birkaç seçili frekansta dalgalara ayrıştırıyor, bu dalgaları çarpıp topluyor ve sonuçta her olası cevap için bir puan üretiyordu; doğru cevabın puanı, dalgalar tam olarak orada üst üste bindiği için diğerlerinin üzerine çıkıyordu. Bir bakıma model, sırf gradyan inişiyle itilerek, ayrık bir Fourier analizini yeniden keşfetmişti. Kimse ona çemberden söz etmemişti. Çemberi, tabloyu sıkıştırmanın en ucuz yolu olduğu için kurmuştu.

Asıl kritik bulgu ise zamanlamayla ilgiliydi. Araştırmacılar, bu dalga devresinin ne kadar oluştuğunu ölçen göstergeler tasarladılar: modelin cevabını yalnızca o birkaç frekansa dayanarak verdirdiğinizde performansı ne oluyor, tersine o frekansları devreden çıkardığınızda ne oluyor. Bu göstergelerle bakıldığında, sınama eğrisinin bomboş göründüğü o uzun düzlükte hiçbir şey durmuyordu. Dalga devresi ta baştan, yavaş yavaş, adım adım kuruluyordu. Süreç üç evreye ayrılıyordu: önce ezber, sonra ezberle yan yana ilerleyen devre oluşumu, en sonunda temizlik. Üçüncü evrede model, artık ihtiyaç duymadığı ezber devresini söküp atıyordu ve bu sökme işini yaptıran şey, tam olarak ağırlık sönümlemesinin sadelik baskısıydı. Genel doğruluk oranının aniden fırlaması, bir anda bir şeyin doğması değildi; çoktan çalışır hâle gelmiş bir mekanizmanın, üzerini örten molozdan kurtulduğu andı.

Buradan çıkan sonuç yalnızca modüler aritmetiği ilgilendirmiyordu. Ziming Liu, Eric Michaud ve Max Tegmark'ın çalışması, gecikmeli genellemenin oyuncak matematik problemlerine özgü bir tuhaflık olmadığını gösterdi. Başlangıçtaki ağırlıkların ölçeğini olağandan çok daha büyük seçtiklerinde, el yazısı rakamları tanımak gibi bildik bir görevde bile aynı desen ortaya çıkıyordu: erken ezber, uzun bir düzlük, ardından ani genelleme. Yani mesele işlemin cinsi değil, modelin başladığı yerle iyi çözümlerin bulunduğu bölge arasındaki mesafeydi.

Bu, bugün kullandığımız büyük modeller hakkında da bir uyarı taşıyor, ama dikkatli çerçevelenmesi gereken bir uyarı. Son yıllarda büyük dil modellerinde "ortaya çıkan yetenekler" başlığı altında tartışılan ani sıçramaların bir bölümünün, modelin içindeki gerçek bir dönüşüm değil, seçtiğimiz ölçütün keskinliğinden doğan bir yanılsama olduğu savunuldu; tamamen doğru ya kesinlikle yanlış diye puanlayan bir ölçüt, düzgün ilerleyen bir yetkinliği bile basamak gibi gösterebilir. Kavrama olayı ise bunun tersi bir örnek: orada içeride gerçekten yapısal bir değişim oluyor, üstelik bu değişim devre düzeyinde gösterilebiliyor. İkisinin ortak dersi aynı yere çıkıyor. Çizdiğimiz eğri, modelin kendisi değildir. Eğrinin düz olması içeride bir şey olmadığı anlamına gelmediği gibi, eğrinin dik olması da o anda bir mucize gerçekleştiği anlamına gelmez.

Kavramanın neden olduğuna dair tek bir yerleşik açıklama henüz yok, bunu açıkça söylemek gerek. Ağırlık büyüklüğüne dayanan açıklamalar, sadeliğe yönelik yapısal eğilimi öne çıkaranlar, sayısal kararlılığın sınırlarında işleyen mekanizmalara işaret edenler yan yana duruyor ve hangisinin genel resmi verdiği tartışmalı. Kesin olan şey, bunun mistik bir sıçrama olmadığı: her adımda sıradan bir eniyileme yürüyor, sadece ödüllendirdiği çözüm zamanla değişiyor.

Geriye kalan ise kavramsal bir kazanç. Ezber ile anlama arasındaki fark, uzun süre insana ait bulanık bir sezgi sayılırdı; artık bir sistemin içinde iki ayrı devre olarak, biri liste öteki kural olarak görülebiliyor, hangisinin ne zaman ağır bastığı ölçülebiliyor. Bir öğrencinin kafasında jetonun düştüğü ana ne yazık ki bakamıyoruz. Ama 113'e göre toplamayı öğrenen küçük bir ağın içinde o anın nasıl hazırlandığını, hangi çarkın ne zaman yerine oturduğunu ve gereksiz hâle gelen ezberin nasıl temizlendiğini artık adım adım izleyebiliyoruz.

Nöron Bilim'de bugünkü bölümün sonuna geldik. Yeni bir hikâyede yeniden buluşmak üzere.