Штука весьма интересная, мне лично зашла, но есть одна проблема - производительность. На пресете OpenBLAS, который стоит по умолчанию и использует только CPU, после нескольких ходов на моем i5 8500 время ответа от нейросети увеличивается до 100-130 секунд (оно показано в KoboldAI Lite в самой нижней строке, которая "Last request served..."), при этом нейросеть довольно ощутимо ебет проц, даже кулер разгоняется. На CLBlast в среднем где-то 70-90 секунд и нагрузка именно на проц пониже. На более новом железе и с хорошей видюхой, на которую можно переложить часть слоев, все это будет намного быстрее, к тому же можно пробовать уже более совершенные модели, чем q4_0.
Фу, англехский
В SillyTavern есть машинный перевод диалогов на русский. И интерфейс на русском, по большей части
@Mao привет
Дочитала, прикольно. Шустро ты со всем разобрался (ну или разобрался настолько чтобы этого хватило для запуска)
У меня был неудачный опыт с этой темой после поста про character, там Мариса (вроде) дала мне ссылки на на подобное и одна была посвящена Sally tavern. Как бы объяснить, мне немного понимая системы не хватило чтобы понять почему после установки таверны у меня ничего не хотело запускаться и настраиваться. Пришлось лезть в оф фак таверны, где уже там меня лицом ткнули что это просто интерфейс и нужна модель для того чтоб работало. В итоге после нескольких часов танцев с бубном вокруг таверны я решила временно забить на это дело. Но чувствую если что,буду тебя аккуратно тыкать.
О, контент подвезли~
В телеге есть что-то подобное?
Не знаю насчет именно телеги, есть просто онлайновый AI Dungeon