Виртуальный ролеплей. Гайд по установке и первый запуск oobabooga + SillyTavern
Ролевые игры — это захватывающе и интересно. И если вы хотите иметь возможность ролеплеить везде и всегда, то для вас открывается прекрасный мир искусственного интеллекта.
Можешь подсказать какую нибудь модель nsfw для gtx 1650 4g и intel i5-9400f, и есть ли вообще смысл заморачиваться с моделями на таких характеристиках, или дальше сидеть серфить ai проекты в инете?
Стоит попробовать 7b модели на базе Mistral (в миксованных в описании обычно указывается состав), что GPTQ (для видеокарты), что GGUF для процессора, а также играться с величиной контекста. Скорость зависит от объема модели и объема контекста в основном, а не конкретной модели
Если скорость или качество генерации не устраивает, то оставайся на онлайн решениях