Следующий скачок ИИ: от триллионов токенов до каждого когда-либо написанного слова⁠⁠

Концепция потока данных. Запрос, анализ, визуализация сложной информации.
Концепция потока данных. Запрос, анализ, визуализация сложной информации.

На занятии по теме “Применение ИИ” в Массачусетском технологическом институте был представлен потрясающий обзор развития ИИ. Вот как специалисты в этой области представляют будущее искусственного интеллекта:

  • В этом десятилетии мы наблюдаем 10 000-кратное увеличение компьютерных ресурсов, предназначенных для ИИ. Это не просто рост, это настоящий переворот в технологиях.
  • Современные ИИ обучаются на астрономическом количестве токенов, достигающем триллионов. В качестве примера: вся Библиотека Конгресса содержит примерно 20 ТБ текста, что эквивалентно 3,6 триллиона токенов. Для сравнения: утверждается, что у GPT-4 есть 1,75 триллиона параметров.
Библиотека Конгресса GETTY
Библиотека Конгресса GETTY
  • Амбиции выходят за рамки Библиотеки Конгресса. Будущая модель обучения может охватить каждое слово, когда-либо записанное в истории человечества.
  • Искусственный интеллект будущего будет мультимодальным, способным обрабатывать изображения, звуки и множество других данных как на входе, так и на выходе.
  • Системы искусственного интеллекта будут мультимодельными, интегрируя различные модели в зависимости от требуемого опыта и информации.
  • Вы сможете общаться с личным ИИ, который может быть даже клоном человека, такого же, как вы сами.
  • Ценность контекста книги: представьте себе ИИ, который использует 100 тысяч токенов, что эквивалентно целой книге, просто для того, чтобы предоставить контекст для ответа на один вопрос. Вам не нужно это воображать; Claude.ai от Anthropic уже может это сделать.

Прогресс в области искусственного интеллекта не ограничивается лишь большими данными или мощностью вычислений. Это включает в себя переопределение самой ткани знаний, понимания и контекста. Стоя на грани новой эпохи, мы можем уверенно заявить: революция в области искусственного интеллекта только начинается.

Серверная комната с большими данными GETTY
Серверная комната с большими данными GETTY

Искусственный интеллект стоит на грани экспоненциального роста, который радикально изменит нашу жизнь и трудовую деятельность. На уроке было сказано: представьте себе новую революцию, сравнимую по масштабам с паровым двигателем, микрочипом или Интернетом.

«Хотя усилия в области ИИ, похоже, оказались в руках крупных централизованных компаний, будущее за миллионами мини-моделей, которые будут взаимодействовать друг с другом и откроют область децентрализованного ИИ», — сказал Рамеш Раскар, профессор Массачусетского технологического института.

Источник мой Телеграм канал:

1414
27 комментариев

Они там уже придумали что делать с тем что нейросеть тупеет от большого числа данных, а если еще начнет свои же данные в обучение подставлять или данные других нейросетей то совсем шиза начинается?

5
Ответить

А она тупеет или ее отупляет одна опен организация? На кастомных моделях отупление не видно..

1
Ответить

А есть пруфы про
тупеет от большого числа данныхИнтернетных уток наелись что ли?

1
Ответить

Библиотека Конгресса содержит примерно 20 ТБ текста, что эквивалентно 3,6 триллиона токенов. Для сравнения: утверждается, что у GPT-4 есть 1,75 триллиона параметров.Охуенное сравнение мягкого и квантовой физики. Буквально блядь ничего общего между этими понятиями, но ДлЯ сРаВнЕнИя мать вашу за ногу.

4
Ответить

Да и вся статья какая то гребаная вода из диплома - типа блядь, "нас ждет прогресс" ДА ЛАДНО СУКА. Большие амбиции - ну типа такую громкую хуету так громко выпускать конечно блядь. Нас ждут суперинтеллект - конечно ждет, вот только не завтра, не послезавтра, да и вообще вряд ли в ближайшие лет 40.

4
Ответить
1
Ответить

Да заколебали. Сам ИИ никогда не надумается истребить человечество ибо это противоречит логике. Ну, как минимум, в ближайшее столетие. Машинам нужна будет полная автономность. Покуда есть рубильник от электроэнергии - машины будут плясать под нашу дудку.

Единственное, что могут - это специально создать ИИ, который проявляет имитацию ненависти и у него будет предписана программа убивать людей. Но это уже будет на совести людей, которые его создадут, что соразмерно терроризму. В таком ключе - ИИ не более чем инструмент. Им можно как что-то сделать, либо же тупо убить.

1
Ответить