Универсальный шаблон для всех ИИ-моделей. Кратко, емко, сильно углубляться не будем.
Привет. Ты вроде как-то писал про легковесные модели для cpu или я путаю?
Условные ллама3.1(и все ее мержи) имеют квантизированный размер в районе 8гбТо есть нужно около 10гб рам на это дело и достаточно шустрый проц.
Ну у меня был пост со сравнением, но там очень старые моделиСледующим постом на тему нейронок хочу как раз посвятить новым моделям, мб на этой неделе займусь
Привет. Ты вроде как-то писал про легковесные модели для cpu или я путаю?
Условные ллама3.1(и все ее мержи) имеют квантизированный размер в районе 8гб
То есть нужно около 10гб рам на это дело и достаточно шустрый проц.
Ну у меня был пост со сравнением, но там очень старые модели
Следующим постом на тему нейронок хочу как раз посвятить новым моделям, мб на этой неделе займусь