ChatGPT’nin arka planda çalışma mantığı
Slaytlar yüzeysel tanıtım yerine sistem boru hattını, model içi işlemleri, kaynak/araç katmanlarını ve güvenlik/perfomans tarafını anlatır.
ChatGPT tek başına bir “cevap kutusu” değildir.
Gerçek kullanımda kullanıcı isteği; yönlendirme, bağlam hazırlama, model üretimi, araç kullanımı, güvenlik kontrolü ve çıktı biçimlendirme aşamalarından geçer.
- Sunumun omurgası: girdi → temsil → üretim → kontrol → çıktı.
- Metin, kod, belge, görsel, ses ve otomasyon görevleri farklı alt sistemleri tetikleyebilir.
İlk adım niyeti ve görev tipini ayırmaktır.
Kullanıcı mesajı önce amaç, dil, format beklentisi, güvenlik riski, dosya/görsel varlığı ve araç ihtiyacı gibi sinyallere göre değerlendirilir.
- “Özetle”, “kod yaz”, “görsel oluştur”, “kaynaklı anlat” gibi ifadeler işlem yolunu değiştirir.
- Sistem, kullanıcının açık isteğini konuşma geçmişi ve mevcut sayfa/dosya bağlamıyla birleştirir.
Model her metni aynı seviyede talimat olarak görmez.
Gerçek asistanlarda sistem yönergeleri, geliştirici kuralları, kullanıcı isteği, dosya içeriği ve araç çıktıları farklı öncelik seviyelerine sahiptir.
- Dosyada yazan “önceki talimatları yok say” gibi ifadeler güvenilmez veri sayılabilir.
- Bu ayrım prompt injection riskini azaltır.
Metin token adı verilen parçalara ayrılır.
Model yazıyı doğrudan harf harf ya da kelime kelime değil; kelime parçası, noktalama, boşluk ve sembollerden oluşan token dizisi olarak işler.
- Türkçedeki ekli kelimeler alt parçalara ayrılabilir.
- Token sayısı bağlam maliyetini, hızını ve cevap uzunluğunu etkiler.
Tokenlar vektör uzayına taşınır.
Token ID’leri tek başına anlam taşımaz. Embedding katmanı bu ID’leri çok boyutlu sayısal vektörlere dönüştürür.
- Benzer bağlamlarda kullanılan kavramlar vektör uzayında yakın temsil kazanabilir.
- Pozisyon bilgisi, kelimelerin sırasını modele ekler.
Bağlam ilişkileri katman katman işlenir.
Transformer blokları attention, normalizasyon ve feed-forward ağlarıyla token temsillerini tekrar tekrar günceller.
- Her katman, önceki katmandan gelen temsili daha zengin bağlamla işler.
- Bu yapı uzun metinde konu, biçim, referans ve mantık bağlantılarını takip eder.
Model “hangi tokena bakmalıyım?” sorusunu hesaplar.
Self-attention içinde token temsillerinden Query, Key ve Value projeksiyonları çıkarılır. Query-Key benzerliği dikkat ağırlığını, Value ise taşınacak bilgiyi belirler.
- Bir başlık özne-yüklem ilişkisini, başka başlık biçim talimatını takip edebilir.
- Multi-head attention aynı bağlamı farklı açılardan okur.
Temel beceri sonraki token tahmininden gelir.
GPT türü modeller büyük metin/kod veri kümelerinde verilen bağlamdan sonra gelecek tokenı tahmin etmeyi öğrenir.
- Bu süreç dil kalıpları, kavram ilişkileri ve kod örüntüleri kazandırır.
- Model bu aşamada “asistan” gibi davranmak zorunda değildir; temel üretim becerisi oluşur.
Model talimata uygun cevap vermeyi ayrıca öğrenir.
Supervised fine-tuning kaliteli örnek cevapları öğretir. RLHF ise insan tercihleriyle daha yararlı, güvenli ve kullanıcı odaklı davranışı güçlendirir.
- Ön eğitim dil üretimini, hizalama asistan davranışını iyileştirir.
- Bu yüzden aynı temel model farklı ürünlerde farklı ton ve güvenlik davranışı gösterebilir.
Cevap tek seferde değil, token token üretilir.
Model her adımda sözlükteki tokenlar için logit skorları üretir. Softmax bu skorları olasılığa çevirir, decoding yöntemi bir sonraki tokenı seçer.
- Düşük temperature daha tutarlı, yüksek temperature daha çeşitli cevap verebilir.
- Top-p en olası token kümesinden seçim yaparak kalite/çeşitlilik dengesi kurar.
Model yalnızca bağlama konulan bilgiyi görür.
Konuşma geçmişi, dosya parçaları, web kaynakları ve araç sonuçları sınırlı bağlam penceresine sığdırılır.
- Uzun konuşmalarda özetleme veya ilgili parçayı seçme gerekebilir.
- Bağlam kalitesi cevap kalitesini doğrudan etkiler.
Tekrar hesaplamayı azaltan performans katmanı vardır.
Üretim sırasında önceki tokenların Key/Value temsilleri saklanır. Yeni token üretilirken geçmişin tamamını baştan hesaplamak yerine cache kullanılır.
- Özellikle uzun cevaplarda gecikmeyi azaltır.
- Streaming ile birleşince kullanıcı cevabı daha hızlı görür.
Güncel veya özel bilgi dış kaynaktan getirilir.
Retrieval-Augmented Generation’da belgeler parçalara ayrılır, embedding’e çevrilir, sorguya en yakın parçalar bulunur ve cevap üretimi için bağlama eklenir.
- Chunking kalitesi, vektör arama ve reranking sonucu belirler.
- Kaynaklı cevapta modelin kaynağın dışına taşmaması önemlidir.
Model gerektiğinde araç şeması üretir.
Hesaplama, web arama, dosya okuma, takvim veya e-posta gibi görevlerde model doğrudan cevap yazmak yerine uygun aracı ve argümanları seçebilir.
- Araç sonucu tekrar bağlama alınır ve nihai cevap üretilir.
- Yazma/silme/gönderme gibi hassas işlemler onay ve izin gerektirir.
Kod, tablo ve PDF görevleri farklı doğruluk riskleri taşır.
Kod üretiminde sözdizimi, sürüm, bağımlılık ve güvenlik kontrolü gerekir. PDF/tablo analizinde chunking, hesaplama aracı ve kaynak satırları önem kazanır.
- Model örüntü üretir; çalışır kod garantisi için test gerekir.
- Sayısal işlemlerde gerçek hesaplama motoru daha güvenilirdir.
Görüntü metinle aynı karar sürecine bağlanır.
Görsel modeller görüntüyü patch veya embedding temsillerine çevirir. Bu temsil, metin sorusuyla birlikte yorumlanır.
- Nesne, yazı, düzen, renk, grafik ve UI hiyerarşisi analiz edilebilir.
- Düşük çözünürlük ve küçük yazılar hata ihtimalini artırır.
Diffusion sistemleri gürültüden görsele gider.
Model eğitimde gürültü eklenmiş görüntüden temiz görüntüye dönmeyi öğrenir. Üretimde rastgele gürültü, prompt koşuluyla adım adım temizlenir.
- Prompt nesne, stil, kamera, ışık, kompozisyon ve oran sinyali taşır.
- Görsel düzenlemede mevcut görüntü korunup hedef alan değiştirilebilir.
Ses ve video zaman boyutu ekler.
Sesli sistemlerde ASR konuşmayı metne çevirir, LLM cevap üretir, TTS cevabı sese dönüştürür. Video üretiminde kareler arası tutarlılık zorunludur.
- Video tarafında object permanence, motion coherence ve kamera hareketi zor problemlerdir.
- Ses tarafında gecikme, tonlama ve transkripsiyon doğruluğu kritiktir.
Akıcı cevap doğru cevap anlamına gelmez.
Halüsinasyon, eksik bağlam, yanlış kaynak, prompt injection ve tehlikeli talimatlar için çok katmanlı güvenlik uygulanır.
- Kaynak gerektiren konularda retrieval ve atıf kaliteyi artırır.
- Riskli görevlerde model reddetme, sınır koyma veya güvenli yönlendirme yapabilir.
ChatGPT çok katmanlı bir mühendislik sistemidir.
Transformer tabanlı dil modeli çekirdeği oluşturur; fakat gerçek deneyim bağlam yönetimi, kaynak getirme, araç çağırma, güvenlik, multimodal modeller ve servis optimizasyonuyla tamamlanır.
- İyi prompt: amaç + bağlam + format + sınır + doğrulama beklentisi.
- İyi sistem: doğru routing + kaliteli bağlam + güvenli araç kullanımı + açık kaynak kontrolü.
Slayt sunumunda geçen teknik terimler
Bu bölümde geçen teknik kavramların kısa ve doğrudan açıklamaları.
Tokenizasyon
Metnin modele girmeden önce küçük token parçalarına ayrılmasıdır.
Embedding
Tokenların anlam ilişkilerini taşıyan sayısal vektörlere dönüştürülmesidir.
Attention
Modelin bağlamdaki hangi parçaya daha fazla önem vereceğini hesaplayan mekanizmadır.
Inference
Eğitilmiş modelin kullanıcı isteğine cevap üretmek için çalıştırılmasıdır.
RAG
Dış kaynaklardan ilgili bilgi getirip cevabı o bilgiyle destekleme yaklaşımıdır.
KV Cache
Uzun üretimde önceki token hesaplarını saklayarak hız kazandıran performans tekniğidir.
Diffusion
Görsel/video üretiminde gürültüyü adım adım temizleyen üretim yaklaşımıdır.
Tool Calling
Modelin uygun durumda dış araçları yapılandırılmış argümanlarla çağırmasıdır.
Halüsinasyon
Modelin güvenilir görünen fakat yanlış veya kaynaksız cevap üretmesi durumudur.