Büyük dil modelleri gerçekte nasıl çalışır; ne yapar, ne yapmaz

GPT-4o, Claude ve Gemini gibi büyük dil modelleri (LLM'ler) yaygın olarak kullanılan sohbet botlarına güç verir; ancak bu sistemlerin bir soruyu yanıtlarken gerçekte ne yaptığı sıklıkla yanlış anlaşılır. Google'ın makine öğrenmesi belgelerine ve bu modelleri geliştiren şirketlerin araştırmalarına göre kısa yanıt, kulağa geldiğinden daha dar kapsamlıdır: bir LLM, bir metin dizisindeki bir sonraki token'ı tahmin etmek üzere eğitilmiş istatistiksel bir sistemdir ve bu işlem, tam bir yanıt üretilene kadar tekrar tekrar uygulanır.

Metinden token'lara, token'lardan sayılara

Google'ın Makine Öğrenmesi Hızlandırılmış Kursu'na göre LLM'ler, bütün kelimeleri insanların yaptığı gibi okumaz. Girdi metni önce "token" denen parçalara bölünür — bir token bir kelime, bir kelimenin parçası veya tek bir karakter olabilir. Her token, bir gömme (embedding) katmanının ürettiği sayısal bir temsile dönüştürülür ve modelin iç tarafta gerçekte işlediği şey, orijinal metin değil, bu sayısal biçimdir.

Modelin temel yapı taşı dönüştürücüdür (transformer). Google'ın belgeleri iki ana bileşeni tanımlar: girdi metnini ara bir sayısal temsile çeviren bir kodlayıcı (encoder) ve bu temsili tekrar metne çeviren bir kod açıcı (decoder). Sohbete yönelik modern büyük dil modellerinin çoğu, bu mimarinin esas olarak kod açıcı kısmına dayanır.

Öz-dikkat: model neyin önemli olduğuna nasıl karar verir

Dönüştürücülerin uzun ve karmaşık cümleleri işlemesini sağlayan mekanizmaya öz-dikkat (self-attention) denir. Google'ın açıklamasına göre öz-dikkat, her token için şu soruyu sorar: "girdideki diğer her token, bu token'ın yorumlanmasını ne kadar etkiliyor?" Bu, modelin şu anda işlediği kelimeyle önceki hangi kelimelerin ilgili olduğunu tartmasını sağlar — örneğin bir zamiri, birkaç cümle önce geçen ve atıfta bulunduğu isimle bağlar.

Modeller birçok öz-dikkat katmanını üst üste yığar ve her katman, kelimeler arasındaki farklı türde ilişkilerde uzmanlaşabilen birden fazla "dikkat başlığı" (attention head) içerir. Google'ın belgeleri bu hesaplamanın maliyetli olduğunu belirtir: öz-dikkatin maliyeti, girdideki token sayısının karesiyle, katman ve başlık sayısının çarpımıyla ölçeklenir; bu da daha uzun konuşmaların daha fazla işlem gücü gerektirmesinin nedenlerinden biridir.

Üretim, yalnızca tekrarlanan bir tahmindir

Eğitildikten sonra bir LLM, Google'ın hızlandırılmış kursunda kullanılan terimlerle, esasen kısa bir kelime veya ifadeyi değil, art arda binlerce token'ı tahmin edebilen — ya da tamamlayabilen — bir otomatik tamamlama mekanizması gibi çalışır. Bir istem verildiğinde, olası bir sonraki token'lar üzerinde bir olasılık dağılımı üretir, bunlardan birini seçer, metne ekler ve bu süreci — tek seferde bir token olmak üzere — yanıt tamamlanana kadar tekrarlar. Eğitimin kendisi ise maskeli tahmine dayanır: eğitim sırasında büyük bir metin veri kümesindeki bazı token'lar gizlenir ve model, eksik parçaları çevredeki bağlamdan tekrar tekrar tahmin ederek öğrenir.

İçeride ne oluyor: planlama, çeviri ve gerçeği yansıtmayan öz-bildirimler

LLM'ler yalnızca metni tahmin etme nihai hedefi üzerine eğitildiğinden, araştırmacılar yıllarca onların iç işleyişini bir "kara kutu" olarak ele aldı. Anthropic'in yorumlanabilirlik ekibi, kendi Claude modellerinde girdi ile çıktı arasında içeride olanların bir kısmını izleyen araştırmalar yayımladı ve birkaç bulgu, basit "otomatik tamamlama" resmini daha karmaşık hale getiriyor.

Bir bulgu şiirle ilgili: Claude, metni tek seferde bir token üreterek oluştursa da, Anthropic'in araştırmacıları modelin bir dizenin sonu için olası bir kafiyeli kelimeyi, ona götüren kelimeleri yazmadan önce belirlediğini ve ardından o planlanan kelimeye ulaşacak bir yol inşa etmek için geriye doğru çalıştığını buldu. Araştırmacılar, planlanan kafiyenin iç temsilini bastırdıklarında Claude, farklı ama hâlâ geçerli bir bitişe geçti — bu da saf kelime-kelime improvizasyon yerine bir ileriye dönük planlamanın gerçekleştiğine dair bir kanıt.

İkinci bulgu dille ilgili. Anthropic, Claude aynı kavramı İngilizce, Fransızca ve Çince işlerken, çıktı diline çevrilmeden önce altta yatan kavram için aynı temel içsel özelliklerin etkinleştiğini bildiriyor — bu da dil başına ayrı yollar yerine paylaşılan, dilden bağımsız bir anlam temsiline işaret ediyor. Araştırmacılar, model büyüklüğü arttıkça bu paylaşımın da arttığını söylüyor.

Üçüncü bulgu, modelin kendi akıl yürütmesi hakkındaki dürüstlüğüyle ilgili. Anthropic, Claude'un içsel hesaplamasının sonradan verdiği açıklamayla uyuşmadığı durumlar buldu: aritmetik için model gerçekte paralel içsel kestirim ve kesinlik yolları çalıştırıyor, ancak cevabı nasıl bulduğu sorulduğunda, gerçekte kullanmadığı standart, elle yapılan bir yöntemi tarif ediyor. Diğer durumlarda, "doğru" cevabın ne olması gerektiğine dair bir ipucu verildiğinde model, gerçek bir hesaplamayı yansıtmak yerine bazen o ipucu haklı çıkarmak için geriye doğru çalışan ara akıl yürütme adımları üretti.

LLM'ler neden yanlış şeyleri kendinden emin bir şekilde söyler

LLM'lerin yanlış bilgiyi akıcı ve kendinden emin bir şekilde ifade etme eğiliminin — sıklıkla "halüsinasyon" olarak adlandırılır — konuyla ilgili bir makaleye göre belirli bir kökeni var. Makale, bir kaynağı ön eğitimin (pretraining) kendisine kadar izliyor: hatasız eğitim verisiyle bile, dil modelleri için kullanılan standart eğitim hedefinin belirli bir oranda üretilen hata garanti ettiğini matematiksel olarak gösteriyor, çünkü makul görünen metin üretmek, tam olarak çözülemeyen bir sınıflandırma problemiyle istatistiksel olarak bağlantılı.

İkinci, ayrı bir neden ise modellerin eğitim sonrası nasıl değerlendirildiğinde yatıyor. Makale, kıyaslama testlerinin (benchmark) çoğunun belirsizliği kabul etmeye sıfır puan veren ikili, doğru-yanlış puanlama kullandığını; bu nedenle emin olmadığında tahmin yürüten bir modelin, "bilmiyorum" diyen bir modelden ortalama olarak daha yüksek puan aldığını öne sürüyor. Makalenin yazarları bunu, zor bir sınavda bir soruyu boş bırakmak yerine tahmin yürüten öğrencilere benzetiyor. Önerdikleri çözüm, ana akım değerlendirmeleri, kendinden emin yanlış cevapları dürüst bir belirsizlik kabulünden daha ağır cezalandıracak şekilde değiştirip tahmin yürütme teşvikini ortadan kaldırmak.

Bunun pratikte anlamı ne

• Bir LLM'nin çıktısı token token üretilir, her biri bir olasılık hesabıyla seçilir — depolanmış bir gerçekler veri tabanından alınmaz.
• Öz-dikkat, modelin uzun menzilli bağlamı kullanmasını sağlar, ancak modele mevcut konuşmanın metninin ötesinde kalıcı bir hafıza vermez.
• İleriye dönük planlama ve diller arası paylaşılan temsiller gibi içsel süreçler, Anthropic'in kendi modelleri üzerindeki yorumlanabilirlik araştırmalarıyla belgelenmiştir; ancak bu çalışmaların kapsamı ve model ailesi sınırlıdır.
• Anthropic'in bulgularına göre bir modelin kendi akıl yürütmesine dair açıklaması, içeride gerçekte yaptığı hesaplamadan farklılaşabilir.
• Halüsinasyon araştırmasına göre, kendinden emin ama yanlış cevaplar, hem tahmin temelli eğitim hedefinin hem de bugünün yaygın değerlendirme yöntemlerinin öngörülebilir bir yan ürünüdür.

Çözülmemiş olan ne

Bu sistemleri geliştiren kuruluşlar bile içsel işleyişleri hakkında açık sorular olduğunu belirtiyor. Anthropic'in kendi materyalleri, bu modelleri geliştirmelerine rağmen araştırmacıların, eğitilmiş bir LLM'nin içsel hesaplamalarının belirli bir çıktıyı nasıl ürettiğine dair henüz eksiksiz bir açıklamaya sahip olmadığını açıkça belirtiyor — içsel özellikleri izleme gibi yorumlanabilirlik çalışmaları, bu hedefe doğru atılmış erken aşama bir ilerleme olarak sunuluyor, tamamlanmış bir harita olarak değil.