Развернул open-WEBUI с олламой, все заработало спустя часы мук в консоли (ниразу с докером не работал), смущает то что время отклика перед генерацией текста либо почти моментальное либо может занять десяток минут.
Все понимаю машинка рухлядь, но может кто че подскажет как делать правильно, что сейчас популярно в этой сфере? Какой апгрейд может машин…