Chat GPT
На обычном компе

Не так давно разлетелась новость о группе учёных из Стэнфордского университета, которая опубликовала модель ничем не уступающую Chat GPT и при этом затраты на её создание составили что-то около тысячи долларов. Что естественно не совсем правда. Во-первых: они всего лишь дообучили “Ламу” (LLaMA), во-вторых: сопоставить её можно только с версией чата…

1616

Ну даже Alpaca 7B уже лучше работает чем Алиса (ИМХО), если сделать скидку на язык. Запуск элементарный, взял здесь https://huggingface.co/Sosaka/Alpaca-native-4bit-ggml/tree/main
Качаешь образ сети + chat.exe Кидаешь в одну папку, запускаешь exe, говоришь в терминале. P.S. Кстати в официальном репе Alpaca удалили, вроде временно из-за "оскорбительного поведения" конечно же... Кто-то сомневался, что кто-нибудь быстро оскорбится? ;) P.P.S. Надо бы 30B скачать.