Это языковая модель работающая с вероятностями. Он создана чтобы генерировать правдоподобный текст под заданный контекст. Прямо как студент троечник пытается сдать экзамен с установкой "главное уверенно отвечать". И из этого инструмента пытаются состряпать ИИ на костылях