Следующий скачок ИИ: от триллионов токенов до каждого когда-либо написанного слова
На занятии по теме “Применение ИИ” в Массачусетском технологическом институте был представлен потрясающий обзор развития ИИ. Вот как специалисты в этой области представляют будущее искусственного интеллекта:
- В этом десятилетии мы наблюдаем 10 000-кратное увеличение компьютерных ресурсов, предназначенных для ИИ. Это не просто рост, это настоящий переворот в технологиях.
- Современные ИИ обучаются на астрономическом количестве токенов, достигающем триллионов. В качестве примера: вся Библиотека Конгресса содержит примерно 20 ТБ текста, что эквивалентно 3,6 триллиона токенов. Для сравнения: утверждается, что у GPT-4 есть 1,75 триллиона параметров.
- Амбиции выходят за рамки Библиотеки Конгресса. Будущая модель обучения может охватить каждое слово, когда-либо записанное в истории человечества.
- Искусственный интеллект будущего будет мультимодальным, способным обрабатывать изображения, звуки и множество других данных как на входе, так и на выходе.
- Системы искусственного интеллекта будут мультимодельными, интегрируя различные модели в зависимости от требуемого опыта и информации.
- Вы сможете общаться с личным ИИ, который может быть даже клоном человека, такого же, как вы сами.
- Ценность контекста книги: представьте себе ИИ, который использует 100 тысяч токенов, что эквивалентно целой книге, просто для того, чтобы предоставить контекст для ответа на один вопрос. Вам не нужно это воображать; Claude.ai от Anthropic уже может это сделать.
Прогресс в области искусственного интеллекта не ограничивается лишь большими данными или мощностью вычислений. Это включает в себя переопределение самой ткани знаний, понимания и контекста. Стоя на грани новой эпохи, мы можем уверенно заявить: революция в области искусственного интеллекта только начинается.
Искусственный интеллект стоит на грани экспоненциального роста, который радикально изменит нашу жизнь и трудовую деятельность. На уроке было сказано: представьте себе новую революцию, сравнимую по масштабам с паровым двигателем, микрочипом или Интернетом.
«Хотя усилия в области ИИ, похоже, оказались в руках крупных централизованных компаний, будущее за миллионами мини-моделей, которые будут взаимодействовать друг с другом и откроют область децентрализованного ИИ», — сказал Рамеш Раскар, профессор Массачусетского технологического института.
Источник мой Телеграм канал: