VNGRS tarafından sıfırdan geliştirilen yerli dil modeli Kumru AI’nin eğitim maliyeti ve geliştirme süreci merak ediliyordu. Şirketin ekipleri, projenin nihai eğitim maliyetinin yaklaşık 250.000 dolar olduğunu açıkladı. Finansal sebeplerle çalışma üç ay boyunca duraklasa da, süreç tamamlanarak model başarıyla eğitildi.
Kumru AI Nedir?
Kumru AI, VNGRS mühendisleri tarafından geliştirilen ve yaklaşık 7,4 milyar parametreye sahip bir Türkçe büyük dil modelidir. Model, tamamen Türkçe veri setleriyle ve Türkçeye özgü tokenizasyon ile optimize edilerek eğitildi. Amaç, Türkçe doğal dil üretimi ve görevlerinde güçlü, verimli bir yerli altyapı sunmaktır.
Eğitim Maliyeti Ne Kadar Oldu?
Resmî kaynaklara göre Kumru AI’nin eğitimine yapılan doğrudan yatırım yaklaşık 250.000 USD seviyesinde gerçekleşti (VBart dâhil). Bu tutar; GPU saatleri, veri hazırlığı, mühendislik çalışma saatleri ve altyapı giderlerini kapsayacak şekilde bildirildi. Proje sırasında kaynak yönetimi nedeniyle eğitim üç ay ara verdi; bu duraklama toplam takvim süresini uzattı fakat nihai maliyeti değiştirmediği belirtildi.
Eğitim Süreci Nasıl İlerledi?
Kumru AI’nin geliştirme süreci, ekip için daha önce hayata geçirilmiş VBart deneyiminin üzerine inşa edildi. VBart örneğinde olduğu gibi tokenizasyon, veri temizleme ve BART benzeri ön eğitim görevleri kullanıldı; VBart’ın blog yazısında da belirtildiği üzere önceki projede 8×A100 GPU ile yaklaşık 40 günlük bir eğitim ve 40.000 USD civarı bir bulut maliyeti kaydedilmişti. Kumru’da ölçek büyütüldü, veri seti genişletildi ve hem yazılım hem donanım optimizasyonları uygulandı.
Türkçe Yapay Zekâ Ekosistemine Katkısı Ne Olacak?
Uzmanlar Kumru AI’nin yerli Türkçe LLM ekosistemine önemli katkı sağlayacağını düşünüyor. Model, araştırma, ürün ve ticari uygulamalarda kullanılabilecek; token verimliliği ve Türkçeye özel optimizasyonlar sayesinde daha düşük işletme maliyetleriyle hizmet verebilecek. VNGRS’in ilerleyen dönemde paylaşım/erişim modeli hakkında açıklama yapması bekleniyor.
