Как запустить свой Chat GPT на компьютере? Достаточно всего 4 ГБ оперативки

Недавно ИИ LLaMA от Meta слили на торренты и энтузиасты уже придумали, как запустить ее локально. Нейросеть максимально похожа на ChatGPT на базе GPT-3, но в ней нет цензуры, так как она практически не взаимодействовала с людьми.

Инструкция по запуску для владельцев Mac и Windows.

Также можно пользоваться Chat GPT-3.5 и Chat GPT-4 через бота в телеграмм.

1515
20 комментариев

Да она вроде и близко не лежит с GPT?

9
Ответить

Даже файнтюненые ламы 70б и близко не стоят с обоссаной бесполезной турбой

4
Ответить

Что ещё за турба?

Ответить

Недавно почти пол года назад, все уже давно запустили, поигрались и забили т.к до chatGPT там как пешком до Китая, особенно на русском языке

4
Ответить

Что за бред? Во-первых, llama2 это не chatgpt. Во-вторых, оперативы надо не менее 32 Гб и мощную видяху хотя бы для квантированного варианта на 30B параметров. В-третьих, она отцензуренная только в путь.

4
Ответить

Какой недавно, какой слили, чо ты несёшь...llama2 изначально open source релизнулась месяца полтора как уже.

3
Ответить