xAI опубликовала исходный код чат-бота Grok
Модель содержит 314 млрд параметров.
- Компания xAI, которую Илон Маск запустил летом 2023 года, опубликовала исходный код чат-бота Grok.
- В сообщении xAI говорится, что языковая модель Grok-1 содержит 314 млрд параметров, а опубликованные данные включают «веса базовой модели и сетевую архитектуру». Её обучение завершилось в октябре 2023 года.
- Grok-1 распространяется по лицензии Apache 2.0, которая позволяет использовать модель в коммерческих целях, но не включает данные, используемые для обучения.
- xAI представила чат-бота Grok в ноябре 2023 года. Он доступен пользователям X с подпиской Premium+ за $16 в месяц. Бот может генерировать тексты по запросу и отвечать на вопросы в режиме реального времени. Разработчики заявляли, что Grok способен отвечать на «острые» вопросы, которые блокируются большинством ИИ-систем.
- 11 марта 2024 года Илон Маск пообещал опубликовать исходный код Grok. Он объяснил шаг стремление сделать платформу «самой прозрачной и ориентированной на поиск истины».
- До этого он подал иск к OpenAI и её сооснователям Сэму Альтману и Грегу Брокману — из-за того, что компания якобы пренебрегла условием работать как некоммерческая организация и «на благо человечества».
он подал иск к OpenAI и её сооснователям Сэму Альтману и Грегу Брокману — из-за того, что компания якобы пренебрегла условием работать как некоммерческая организация и «на благо человечества».
Корпорации прикидываются нашими друзьями, хотя на самом деле их единственная цель - получение прибыли. Никогда такого не было и вот опять.
Изначально OpenAI была как раз НКО и все строилась вокруг "мы двигаемся человечество вперёд".
Так в этом и смысл. OpenAI действует как типичная корпорация такие как Microsoft, Facebook и другие. Не боится извлекать прибыль из своей деятельности через формально компании-прослойки, хотя делают всё от лица некоммерческой компании.
Свои технологии они не открывают, GPT-4 не открывают, даже если какие-то старые технологии якобы открывают, то веса моделей не публикуют. Их некоммерческая организация должна была называться ClosedAI, потому что открытого там ничего толком нет. Данные для обучения тоже остаются приватными – ну данные ладно, там такие тонны гигабайт и террабайт что на данные обучения допустим пофиг. Но веса нейронки должны быть по-любому, они не весят столько как сами данные. Но веса не выкладывают.
Даже GPT-3 который они якобы открыли, у них есть репозиторий на гитхабе, 4 года назад выложили маленькую кучку файлов, но это просто какой-то маркетинговый булщит: весов там нет, а вместо данных там файл 175b-samples знаешь сколько весит? Меньше 4 мегабайт. Это наверное 0.01% от необходимых данных.
Так что этот юмор, «корпорация зарабатывает бабки никогда такого не было и вот опять» – неприменим к OpenAI. Это некоммерческая организация. Она не может от лица некоммерческой организации вести свою публичную жизнь, хвастаться какая она открытая, а всю кухню делать коммерческими прослойками и ничего не открывать. Фактически только экономит на налогах за счёт некоммерческого статуса, а в остальном это такая же компания как Фейсбук. Это незаконно.
Это подковерные игры. Маск основал OpenAI и дал им дохуище денег в самом старте. Потом его оттуда выперли, а OpenAI подмели Microsoft. Потом они выставили ChatGPT за подписку, хотя изначально они подписывали договор в том числе Сэм Альтман ТАКОГО НЕ БУДЕТ. И это прямое нарушение договора. Скорее всего из-за этого пытались уволить Сэма, чтобы потом этого иска не было.
Комитет прикидываются нашими друзьями, хотя на самом деле их единственная цель - получение прибыли и разработка редизайнов. Никогда такого не было и вот опять.
Так. И что это значит?
Что теперь кто угодно в интернете может оказаться ботом.