Модель содержит 314 млрд параметров.
Только в ближайшее время не надеемся у себя локально запустить, эта махина 300 Гб весит, это нам не llama
Ниче, быстро сделают облегченную версию, чуть тупее будет и легче в 10 раз и сможешь на своей 4080 4090 запускать.
обычная колда столько весит, или ты про жор оперативы?
Качаю сейчас, попробую запустить, посмотрим
Только в ближайшее время не надеемся у себя локально запустить, эта махина 300 Гб весит, это нам не llama
Ниче, быстро сделают облегченную версию, чуть тупее будет и легче в 10 раз и сможешь на своей 4080 4090 запускать.
обычная колда столько весит, или ты про жор оперативы?
Качаю сейчас, попробую запустить, посмотрим