Используем локальные LLM для помощи в разработке
Я долгое время использовал IDE Cursor, которая предоставляет встроенную поддержку языковых моделей (LLM) для написания кода. Хотя это мощный инструмент, он накладывает слишком жесткие лимиты в бесплатной версии. Я решил изучить возможность использования локальных языковых моделей внутри Cursor, но, к сожалению, так и не смог найти подходящее решени…
Почему именно Т-Lite, а не LLama например?
Я как то пробовал заняться чем то подобным, но для этого надо было дообучить модель, чтобы она была заточена чисто под мои нужды. Стал разбираться, понял что нужно собрать и оформить датасет (на хаггингфейсе нужного не нашел). Как это грамотно сделать я так и не понял, везде по разному пишут. + после дообучения надо же ее как то настраивать еще, веса всякие и т.д.
в общем сложна
Как это грамотно сделать я так и не понял, везде по разному пишут. + после дообучения надо же ее как то настраивать еще, веса всякие и т.д.вам нужен маг-кудескник с зп 300к/наносек