Виртуальный ролеплей. Гайд по установке и первый запуск oobabooga + SillyTavern
Ролевые игры — это захватывающе и интересно. И если вы хотите иметь возможность ролеплеить везде и всегда, то для вас открывается прекрасный мир искусственного интеллекта.
А если простыми словами, то SillyTavern и Text generation web UI это просто фронт для работы с моделями?
Наткнулся на твой пост случайно, решил пофаниться с этим всем немного. Карточка у меня RTX 3070 Ti, вроде не то чтобы плохо генерирует.
Ни одна из ссылок на персонажей у меня не работает нормально почему-то, у chub ai сломан чанк в итоге список грузится, а переход на карточку персонажа уже нет.
В итоге я стащил персонажа с character ai (расширение для хрома CAI Tools) и попробовал MLewdBoros-L2-13B-GPTQ из топового комментария. Персонаж у меня довольно спокойный, потому ничего извращённого не происходит, просто пообщался немного
Да, web UI это фронт для использования моделей, а SillyTavern это фронт для использования web UI
В моем закрепленном посте есть ссылка на новый список моделей, которые я использую. Большинство на основе Mistral Nemo. Они поддерживают до 128к контекста и неплохо держат его, а также хорошо помнят окружение
MLewd тоже классная, но я использовал другой микс
Скачал lewd модель, в итоге побыл психологом и сам побыл у психолога, тоже неплохо. Был назван другом с первых сообщений, френдзона спидран