Mobil ve Gömülü Sistemler için Hafif Dil Modeli Geliştirme ve Dağıtımı Projesi

Yüksek İrtifa

Yetenek Programı

Bu proje ile büyük dil modellerinin, sınırlı hesaplama kaynağına ve belleğe sahip mobil cihazlarda gerçek zamanlı olarak çalıştırılabilmesi amaçlanmaktadır. Sürece dahil olacak adaylarımız; niceleme (quantization), budama (pruning) ve bilgi damıtma (knowledge distillation) gibi model sıkıştırma tekniklerini sistematik biçimde araştıracak ve karşılaştırmalı olarak değerlendirecektir. Elde edilen optimize modeller, Android ve iOS platformlarına özgü çalışma zamanı ortamlarına aktarılarak cihaz üzerinde uçtan uca çıkarım (inference) pipeline'ları kurulacak ve doğruluk ile gecikme süresi arasındaki denge deneysel olarak ölçülecektir. Geliştirilecek bu modellerin nihai hedefi; Baykar'ın insansız hava araçları ve saha operasyon sistemleriyle entegre mobil uygulamalarda, internet bağlantısı gerektirmeden ve düşük enerji tüketimiyle doğal dil işleme yeteneklerinin güvenilir bir biçimde kullanıma sunulmasıdır. 

Kriterler ve Beklentiler 

İlgili proje kapsamında adaylardan hedeflenen kazanımlar doğrultusunda aşağıdaki yetkinlikler ve ilgi alanları beklenmektedir:

  • Doğal Dil İşleme (NLP) ve Büyük Dil Modelleri (LLM) konseptlerine ilgi duymak ve bu alanda kendini geliştirmeye motivasyonlu olmak. 
  • Niceleme, budama ve bilgi damıtma gibi yapay zeka model sıkıştırma ve optimizasyon teknikleri hakkında araştırma yapmaya hevesli olmak. 
  • Android ve/veya iOS platformları için mobil uygulama ekosistemlerine ve çalışma zamanı ortamlarına aşina olmak. 
  • Sınırlı hesaplama kaynağına sahip gömülü ve mobil cihazlarda doğruluk ile gecikme süresi optimizasyonları üzerine çalışabilmek. 
  • İnternet bağlantısının olmadığı operasyonel sahalarda çalışabilecek, enerji verimliliği yüksek yazılım mimarilerine ilgi duymak. 

İlgili Üniversite Bölümleri

  • Bilgisayar Mühendisliği
  • Yapay Zeka Mühendisliği / Yapay Zeka ve Veri Mühendisliği
  • Yazılım Mühendisliği
  • Bilişim Sistemleri Mühendisliği
  • Elektrik-Elektronik Mühendisliği