Пошаговое руководство как установить большую языковую модель Vicuna 7B + llama.ccp на Steam Deck. Перевод
Некоторые из вас попросили составить руководство по использованию этой модели, и вот оно. С моделями LLM вы можете заниматься ролевыми играми, создавать истории в определенных жанрах и DD сценариях или получать ответы на свои вопросы, подобно ChatGPT, хотя и не так эффективно. Тем не менее, взаимодействие с AI может быть веселым, ваши данные будут…
Мануал спизжен, спасиб))
На днях попробую пострадать херней. Есть подобное для общей языковой модели?
Я по этому мануалу все настраивал, но использовал Venuca. Можно другие юзать, там есть ссылка последняя в статье, оттуда можно потыкать.