GPT-4: Чему научилась новая нейросеть, и почему это немного жутковато
В этой статье мы разберем новые удивительные способности последней языковой модели из семейства GPT (от понимания мемов до программирования), немного покопаемся у нее под капотом, а также попробуем понять – насколько близко искусственный интеллект подошел к черте его безопасного применения?
Мысль первая. Чет я сомневаюсь что разработчики смогут бесконечно надувать этот шар. Уже сейчас модели очень дорого обучать и содержать. Но по мере прогресса старые модели по идее должны дешеветь и в будущем нас ждет новое расслоение: на тех у кого есть персональный интеллектуальный ассистент, и «бедных африканских детей» у которых нет ассистентов; на тех у кто может себе позволить дорого подвинутого ассистента на основе GPT-1080ti, и тех кто беден и пользуется старенькой «примитивненькой» GPT-750ti.
Мысль вторая. Выглядит так что науки связанные с тупой зубрёжкой больше не нужны. Нейросеть идеальный справочник который за мгновение выдаст всю необходимую энциклопедическую информацию (пока примем на веру что эта информация будет волшебным образом 100% валидирована на достоверных источниках). А освободившиеся ресурсы можно направить на решение более интеллектуальных задач.
Мысль третья. Раз GPT-4 умеет в картинки, значит её полноценно уже можно гонять в тестах на IQ. Собственно где результаты тестов? Почему их до сих пор не провели или скрывают результаты?
Сравнивать GPT-4 с человеком в экзаменах на «знания» уже бессмысленно. Пора переходить к натуральным интеллектуальным тестам и сравнивать динамику успешность прохождения таких тестов с первого подхода. Т.е. придумываем новую сложную задачу. Даем её решить человеку и нейросети. Сравниваем кто лучше справился. Повторно одну и ту же задачу не даем. Вот при таком подходе можно будет оценить насколько современная нейросеть обходит/отстает по интеллекту человека.
Зубрежка ненужна с момента появления доступного интернета. Достаточно знать поверхностно основные тезисы, а подробности даст гугл
Фейсбуковскую языковую модель Llama(открытый аналог GPT, что-то типа Stable Diffusion только от мира Natural Language Processing) кстати запустили на картошке, в смысле на Rapsberry Pi. Оно даже работает, правда токен по десять секунд генерируется. Чисто на процессоре, без GPU.
https://medium.com/@martin-thissen/llama-alpaca-chatgpt-on-your-local-computer-tutorial-17adda704c23
Суть в том, что модель GPT-4 прекрасная только на выделенных тестах
Пробовал написать тест на экономическом факультете МГУ (магистратура, менеджмент), я получил 30% баллов (отвечал не глядя). Перепрошел самостоятельно - 80% (без подготовки). То же самое в работе: пробовал в аналитике применить результаты GPT-3.5 и GPT-4, по итогу все приходило к тому, что ИИ, как и обычный человек, может тебе подсказать часть ответа, но не сам ответ. И какой смысл в получении 30% ответа, если тебе все равно надо полностью и заново делать свой собственный анализ, чтобы выкинуть половину того, что "порекомендовал" ИИ и добавлять ещё материала в 3 раза больше?
ИИ может и классный ассистент, но за ним надо все перепроверять, и в аналитике это недопустимо, скорее увеличивает твое затраченное время.
ИИ действительно перспективен в праве, программировании, прочих областях с прозрачными критериями, где есть четкий свод правил а-ля "Так - можно, так - нельзя"
Везде, где надо думать головой, он слишком много врет.
в будущем нас ждет новое расслоение: на тех у кого есть персональный интеллектуальный ассистент, и «бедных африканских детей» у которых нет ассистентов
OpenAI как раз создавалась с мыслью в голове, что подобные технологии должны быть доступны всем.
Пора переходить к натуральным интеллектуальным тестам и сравнивать динамику успешность прохождения таких тестов с первого подхода
Зачем? Все, что может нейросеть – решить несложную прикладную задачу или ответить на теоретический вопрос. Разработчики затолкали в нее кучу информации и по возможности запретили доступ к нежелательной части. У нее нет интеллекта, она не может думать самостоятельно, все что она умеет это отвечать на запрос, и то не всегда верно. Именно поэтому развитие идет в сторону совершенствования знаний, а не тестов на интеллект.
Давать IQ тесты нейросетям - дело довольно бессмысленное, но...
Собственно где результаты тестов? Почему их до сих пор не провели или скрывают результаты?
"А власти скрывают!"(с)
https://www.google.com/search?q=gpt-4+iq+test
Вы не поверите, но за 20 баксов (платная подписка) это может сделать любой желающий
Комментарий недоступен
GPT-750ti.
Моя видеокарта огорчилась((
Нейросеть идеальный справочник который за мгновение выдаст всю необходимую энциклопедическую информацию
С этим пока что полный швах. В смысле, даже в теории нет "контролера", который мог бы в общем виде проверять вывод от нейросеток на предмет бреда. Есть разные допущения, работающие на каких-то локальных случаях с разной степенью унылости. Так, вывод в виде кода можно компилировать, а ошибки кидать обратно в нейросетку. Но проверить, что итоговый компилирующийся код делает именно то, что требовалось и не делает ничего нежелательного - пока что только ручками.
И с кодом это самый хороший случай, как автоматически проверять какие-то там общечеловеческие знания - совершенно неясно.
Комментарий недоступен
на тех у кого есть персональный интеллектуальный ассистентТакой себе ассистент, в работе пытаемся активно внедрять нейросетки. В 80% задач она бесполезна, в оставшихся 20% выступает помощником работнику, но никак не заменой. Особенно в свете того, что пиздит она хлеще политиков.
Выглядит так что науки связанные с тупой зубрёжкой больше не нужны. Они не нужны со времён появления интернета.