Ön Eğitim (Pretraining) Nedir?
Modelin geniş ve genel bir veri kümesi üzerinde temel dil veya görsel yetenekleri öğrenmesi sürecidir.
Perplexity (Şaşkınlık) Nedir?
Bir dil modelinin veri üzerindeki belirsizliğini ölçen ve daha düşük olduğunda daha iyi kabul edilen metriktir.