Мухаммед Ибн Салах
так я вроде так и делал. Ну типа со своего компа (и в точности по гайду). Скачал mythomax-l2-13b.Q5_K_M.gguf, запускаю его через koboldcpp. Кстати пробовал в пресетах кобольда выставлять и через vulcan и через cpu (и oldcpu скачивал) - все одно и тоже. Ну и соответственно в SillyTavern коннект через запущенный koboldcpp. Ооочень медленно. Но то и не удивительно. Система очень древняя у меня.
Radeon RX 570 (8 ГБ), Ryzen 5 2600 (6 х 3.4 ГГц), 16 ГБ Озу.
В общем, то что мертво, умереть не может.
В общем, отличный гайд. Премного благодарен. До него вообще ничего не понимал, что к чему. Теперь вроде разобрался с основами. Но мой ПК вообще не справляется, уснуть можно пока получу ответ. 16 Гб Nwidia значит покупать? Любая печь подойдет, главная что бы ГБ побольше? АMD не стоит рассматривать?
Together-AI теперь предоставляет 1$ бесплатных кредитов. Есть какая нибудь альтернатива ему, что бы юзать нахаляву? (хотя бы через мультиаккинг)
Together.AI теперь предоставляет 1$ бесплатных кредитов. Есть какая нибудь альтернатива ему, что бы юзать нахаляву? (хотя бы через мультиаккинг)
https://habr.com/ru/articles/860700/ У тебя всё своровали или это ты выложил?