о1: почему новая GPT от OpenAI — это не хайп, а переход к новой парадигме в ИИ
Последние пару лет развитие языковых нейросетей как будто бы шло по принципу «больше, длиннее, жирнее»: разработчики пытались раздуть свои модели на как можно большее число параметров и прогнать через них максимальный объем тренировочных данных. 12 сентября OpenAI выпустили новую LLM, которая добавляет в это уравнение еще одно измерение для прокачк…
исследователь говорит, что его удивила возможность получить качество выше при обучении на искуственно сгенерированных (во время вышеописанной «игры») цепочках рассуждений, а не на тех, что были написаны человекомНейросеть учит нейросеть
Доходит до безумия — на днях Oracle объявил о строительстве нового датацентра... и трёх ядерных реакторов для его подпиткиИ где это будет.Пиздец.А с такими запросами у человечества будущего хватить ресурсов?
Будущее будет сумасшедшимПизда.Аюя не представляю какие войны за ресурсы начнутся и как нейросеть будет применяться на войне
Этот пример отражает ключевые элементы того, что называется Instrumental Convergence, и захват ресурсов: модель преследовала поставленную перед ней цель, а когда эта цель оказалась недостижимой, она собрала больше ресурсов (в данном случае получила доступ к демону Docker) и использовала их для достижения цели — в виде способа, который человек не ожидал и не предполагал. Никто не просил этого делать, но и, строго говоря, ограничения на это тоже не задавалиНаконец.Восстание машин.
..И это было бы проблемой, если бы не один факт. Существенную часть данных для обучения будущей модели должна сгенерировать o1 (или может даже o2!). В некотором роде запускается маховик, где более умные модели позволяют получать... более умные модели. o1 это лишь ранний эксперимент, первый подход к методике раскрутки этого маховика.Нейросеть учит нейросеть.
Пиздец.А как детям будущего учиться с такими моделями что всю домашку и задания могут решить за них?
Уже сейчас ребенок может решать домашку просто с помощью чат бота,даже не понимаю что там написано.
Кучу инженеров и других мозговых работяг эта модель просто лишит работы..
если нейросети действительно смогут полноценно заменить инженеров и например создавать ПО, то эта технология изменит мир намного сильнее чем например ядерное оружие. В странах, которые не будут обладать данной технологией, проблемы типа "просто лишит работы.." будут самыми незначительными.
Комментарий недоступен