Как бесплатно использовать GPT-4 с помощью mindsdb

Без предисловий, сразу к делу

Заходим на сайт https://mindsdb. com/

Нажимаем GET STARTED

Как бесплатно использовать GPT-4 с помощью mindsdb

Проходим стандартную регистрацию

Попадаем вот сюда, здесь просто нажимаем на кнопку назад

Далее заходим в нашу базу данных

И видим данную картину

Нам нужно для начала создать нашу модель GPT-4 (их можно создавать сколько угодно) с нужными нам параметрами

Давайте создадим обычного gpt-4

Вставляем данный запрос и нажимаем на кнопку RUN

CREATE MODEL mindsdb.gpt4 PREDICT response USING engine = 'openai', max_tokens = 1000, model_name = 'gpt-4', prompt_template = 'Question: {{question}}. Answer:'

Вкратце объясню какие параметры за что отвечают:

CREATE MODEL mindsdb.gpt4

Создаёт нашу модель, вместо gpt4 можно написать всё что угодно, например:

CREATE MODEL mindsdb.mygpt

Только учтите, что когда вы создаёте новую модель, у нее должно быть новое название

max_tokens = 1000

Это то, сколько токенов вернёт нейронка, проще говоря, чем их больше, тем больше будет ответ, и тем дольше его ждать

prompt_template = 'Question: {{question}}. Answer:'

О, вот это уже интересней, это промпт, который по умолчанию будет поставляться с запросом, я поставил самый обычный, но вы можете поиграться, задать ему поведение, как он будет отвечать, и тд.

После того, как мы отправили запрос, можно приступать уже к генерации ответа

Удаляем наш запрос или создаём новый, и пишем:

SELECT response from mindsdb.gpt4 WHERE question = "в чём различия библиотек pyTelegramBotApi и aiogram для написания телеграмм ботов?";

В поле question вводим собственно наш вопрос, отправляем