Dış API YOK.
"Attention Is All You Need" teorisini ve Transformer mimarisini saf kodla çalıştıran; tensör matematiği, attention mekanizması ve ileri yayılım (forward pass) motoru.
İşletim sisteminin ALU'su (Aritmetik Mantık Birimi) gibi çalışan düşük seviyeli bir neural engine.
Transformer mimarisinin çekirdeği.
- Q (Query): Ne arıyorum?
- K (Key): Hangi bilgi bana uygun?
- V (Value): Taşınacak gerçek bilgi
Sistem:
- Bilgiler arasındaki benzerliği hesaplar
- Hangi bilginin daha önemli olduğunu belirler
- En alakalı bilgiyi öne çıkarır
Detaylı matematik açıklaması:
- Saf Rust implementasyonu
- Düşük seviyeli tensör operasyonları
- Donanıma yakın attention sistemi
- Forward pass motoru
- Harici ML framework bağımlılığı olmadan çalışma
WIP (Work In Progress)