Sinir Ağları Nasıl Öğrenir: ChatGPT ve Gemini'nin Ardındaki Matematik

Bir sohbet botu bir soruyu yanıtladığında veya bir fotoğraf uygulaması bir yüzü tanıdığında, bir sinir ağı, görev ne olursa olsun aynı temel adımları takip eden bir öğrenme sürecini çalıştırmaktadır. IBM'e göre bu süreç, birbirine bağlı iki teknik üzerine kuruludur: her bir içsel parametrenin bir hataya ne kadar katkıda bulunduğunu hesaplayan geri yayılım ve bu hesaplamaları parametreleri düzeltmek için kullanan optimizasyon yöntemi olan gradyan inişi.

Bir Sinir Ağı Tam Olarak Nedir

Stanford'un İnsan Merkezli Yapay Zeka Enstitüsü (HAI), bir sinir ağını, insan beyninin yapısından esinlenen, bilgiyi işleyen ve ileten birbirine bağlı yapay 'nöron' katmanlarından oluşan hesaplamalı bir model olarak tanımlıyor. IBM'in mimariyi anlatımına göre her nöron sayısal girdiler alır, bunları ağırlık denilen ayarlanabilir değerlerle çarpar, bir sapma (bias) terimi ekler ve sonucu bir sonraki katmana göndermeden önce doğrusal olmayan bir aktivasyon fonksiyonundan geçirir. Stanford HAI, bu katmanlı yapının sinir ağlarının büyük miktarda veriden örüntüler çıkarmasını sağlayan şey olduğunu ve derin öğrenmenin temelini oluşturduğunu belirtiyor.

Birinci Adım: İleri Geçiş

IBM'e göre eğitim, ağırlıkların ve sapmaların rastgele değerlere ayarlanmasıyla başlar. 'İleri geçiş' sırasında girdi verisi ağ boyunca katman katman ilerler: her nöron kendi ağırlıklı toplamını hesaplar, aktivasyon fonksiyonunu uygular ve çıktıyı iletir; bu, son katman bir tahmin üretene kadar sürer. Bu erken aşamada, ağırlıklar rastgele olduğundan, bu tahmin esasen bir kestirimden ibarettir.

İkinci Adım: Hatanın Ölçülmesi

IBM'e göre ağ, ardından tahminini doğru cevapla bir kayıp fonksiyonu kullanarak karşılaştırır; bu fonksiyon, çıktının ne kadar yanlış olduğunu sayısal olarak ifade eden bir formüldür. Farklı görevler farklı formüller kullanır — sayıları tahmin etmek için ortalama karesel hata (mean squared error) yaygındır, görüntüleri kategorilere ayırmak gibi sınıflandırma görevleri için ise çapraz entropi (cross-entropy) kullanılır.

Üçüncü Adım: Geri Yayılım Hatanın İzini Sürer

Öğrenmenin gerçekleştiği yer 'geriye geçiş'tir. IBM, geri yayılımı, çıktı katmanından girdi katmanına doğru çalışan, her bir ayrı ağırlığın genel hataya ne kadar katkıda bulunduğunu belirlemek için zincir kuralı denilen bir kalkülüs tekniğini kullanan bir süreç olarak tanımlıyor. Sonuç bir gradyandır: her ağırlık ve sapma için bir değer içeren, hatayı azaltacak ayarlamanın yönünü ve büyüklüğünü gösteren bir dizi değer.

IBM, bu yaklaşımın etkinliğine dikkat çekiyor: bir milyon ağırlığa sahip bir ağda, her parametreyi deneme-hata yoluyla tek tek test etmek, ağ üzerinden bir milyondan fazla ayrı ileri geçiş gerektirirdi. Geri yayılım, sadece iki geçişte — bir ileri, bir geri — aynı bilgiye ulaşır.

Dördüncü Adım: Gradyan İnişi Ağırlıkları Güncelliyor

IBM'e göre gradyan bilindiğinde, gradyan inişi her ağırlığı hatayı düşüren yönde küçük bir adım kaydırır. Bu adımın büyüklüğü 'öğrenme oranı' (learning rate) tarafından kontrol edilir: daha yüksek bir öğrenme oranı eğitimi hızlandırır ancak en iyi değerlerin aşılması riskini taşır, daha düşük bir oran ise daha hassastır ama yakınsaması daha yavaştır. Dört adım — ileri geçiş, kayıp hesaplaması, geri geçiş, ağırlık güncellemesi — kayıp anlamlı şekilde azalmayı durdurana kadar, genellikle milyonlarca örnek boyunca tekrar tekrar yinelenir.

Laboratuvar Tekniğinden ChatGPT ve Gemini'ye

Büyük dil modelleri, aynı geri yayılım ve gradyan inişi döngüsünü çok daha büyük bir ölçekte, iki ayrı aşama boyunca uygular. RBC Borealis'e göre ilk aşama olan ön eğitim (pretraining), modeli yüz milyarlarca jeton içeren etiketlenmemiş metin veri kümelerine maruz bırakır ve modelden bir dizideki bir sonraki kelimeyi tahmin etmesini tekrar tekrar ister. RBC Borealis'in bir araştırma blogu, bu temel modeli esasen 'kısmen tamamlanmış bir girdi dizisindeki bir sonraki kelimeyi tahmin etmek' üzere eğitilmiş bir ağ olarak tanımlıyor; bu, modele dilbilgisi, olgular ve genel örüntüleri öğretir ancak kendi başına onu güvenilir bir asistan yapmaz.

İkinci aşama olan ince ayar (fine-tuning), ön eğitimli ağı belirli bir davranışa uyarlar. RBC Borealis üç yaygın yaklaşım sıralıyor: insan tarafından yazılmış örnek cevaplar üzerinde denetimli ince ayar; insan tercihleri üzerinde eğitilmiş ayrı bir ödül modelinin daha sonraki ağırlık güncellemelerine yön verdiği insan geri bildiriminden pekiştirmeli öğrenme (RLHF); ve ayrı bir ödül modelini atlayan ancak yine de geri yayılıma dayanan doğrudan tercih optimizasyonu gibi daha yeni yöntemler. Bu ince ayar aşaması, genel bir sonraki-kelime tahmincisini, metni istatistiksel olarak olası herhangi bir yönde sürdürmek yerine talimatları takip eden ve belirli istekleri geri çeviren bir sisteme dönüştüren şeydir.

Bu Mekanizma Neden Önemli

Hem ön eğitim hem de ince ayar aynı temel geri yayılım ve gradyan inişi döngüsüne dayandığından, bu çekirdek tekniğe yapılan iyileştirmeler — daha hızlı donanım, daha iyi kayıp fonksiyonları, daha verimli optimizasyon — görüntü tanımadan sohbet asistanlarına kadar tüm aşağı yönlü uygulamaları aynı anda etkiler. Stanford HAI, sinir ağlarının artık yüz tanıma, sesli asistanlar ve otonom araçlarda kullanılan derin öğrenme sistemlerinin temelini oluşturduğunu ve bunların tümünün yukarıda açıklanan aynı dört adımlı döngünün çeşitlemeleri aracılığıyla eğitildiğini belirtiyor.