А локальный deepseek клёвый, но чутка медленно работает

1
17 комментариев

Комментарий удалён модератором

Я его заставил текст сагата анализировать а потом вбросил типа у него шиза и анализ заиграл новыми красками но что-то пошло не так и он перестал мне отвечать в этой ветке 🙃

1

Комментарий удалён модератором

Так есть же nsfw модели, скачай

1

Почти тюбой файнтюн mistral nemo

1

Эм.... А вопрос
Сколько памяти занимает, сколько токенов выдает в секунду, какое квантование и какой контекст?

2

Вот да. Из поста вообще ничего не понятно.

1