Илон Маск представил чат-бота Grok, созданного на основе данных X для пользователей X-Premium. В отличие от OpenAI с ChatGPT, Маск предоставляет чатботу большую свободу творчества в ответах.
Маск и его компания описывают Grok как юмористический, остроумный и бунтарский чат-бот, который может ответить практически на любой вопрос. Для получения ответов Grok использует свои модельные знания, основанные на данных из интернета и X, а также информацию, поступающую от X в режиме реального времени. По словам представителей xAI, чатбот также отвечает на “пикантные вопросы”, которые были бы отвергнуты большинством других систем искусственного интеллекта.
Маск доволен саркастическим ответом своего чатбота об истории Сэма Бэнкмана-Фрида, в котором содержится актуальная информация.
В настоящее время Grok – это только текстовый чатбот. Он не предлагает мультимодальных возможностей, таких как распознавание речи или изображений, но эти возможности находятся в разработке. xAI подчеркивает, что Grok – это пока “очень ранняя бета-версия продукта”.
Необычное название навеяно научно-фантастическим рассказом “Путеводитель автостопщика по Галактике” (The Hitchhiker’s Guide to the Galaxy). Оно означает, в частности, эмпатию и дружеское общение.
Grok-1 был создан всего за четыре месяца
В основе Grok лежит большая языковая модель Grok-1, которая была построена за четыре месяца с использованием стека обучения и вывода, разработанного компанией xAI на базе Kubernetes, Rust и JA, с целью максимизации полезной вычислительной мощности на ватт. Обучение модели заняло два месяца.
По данным xAI, ранний прототип Grok-0 с 33 млрд параметров показал производительность, близкую к LLaMA 2 (70B) в стандартных бенчмарках языковых моделей. При этом, по сравнению с открытым исходным кодом Meta LLM, он потребовал вдвое меньше ресурсов для обучения, утверждает компания.
Длина контекста составляет 8192 лексемы, а данные интернет-обучения и отзывы людей заканчиваются в третьем квартале 2023 года.
По данным xAI, за последние два месяца были произведены дополнительные “значительные улучшения” в области логики и программирования, что привело к улучшению производительности Grok-1 в соответствующих бенчмарках.
В опубликованных бенчмарках Grok-1 явно отстает от GPT-4, но демонстрирует лучшие результаты, чем GPT-3.5, и достигает уровня Anthropics Claude 2 в бенчмарке MMLU для понимания языка с пятью примерами (“5-shot”).
В несколько необычном бенчмарке Hungarian National High School Finals in Mathematics Grok-1 занял второе место, значительно опередив GPT-3.5 и сравнительно недалеко от GPT-4. xAI обосновывает выбор бенчмарка тем, что он был опубликован в конце мая и поэтому гарантированно не попал в обучающие данные модели. xAI считает, что ее языковая модель превосходит другие модели в своем классе.
В карточке модели Grok-1 xAI указывает, что языковая модель, как и все остальные, может придумывать (“галлюцинировать”) информацию. Поэтому это еще не TruthGPT.
Эксклюзив для платных клиентов X
Тоби Фолен, один из основателей xAI, дает представление о пользовательском интерфейсе Grok на X. Программа может обрабатывать несколько запросов одновременно, и вы можете переключаться между ответами в древовидном интерфейсе. Генерации кода могут быть открыты непосредственно в редакторе VS, а текстовые ответы могут быть сохранены в редакторе markdown для последующего использования.
xAI предлагает ранний доступ к прототипу Grok ограниченному числу пользователей Premium Plus в США, чтобы собрать отзывы для улучшения функциональности перед более широким выпуском. Стоимость членства в программе Premium Plus составляет 16 долл. в месяц.
Заинтересованные пользователи Premium Plus в США могут присоединиться к списку ожидания Grok. В ближайшие месяцы компания планирует представить новые функции и возможности.
Исследования и разработки xAI сосредоточены на таких дополнительных областях, как масштабируемое управление с помощью инструментов, интеграция с формальной верификацией для обеспечения безопасности, понимание и поиск длинных контекстов, надежная защита от атак и мультимодальные возможности.
По словам Маска, xAI фокусируется на глубоких научных вопросах, таких как темная материя, гравитация, парадокс Ферми и т.д., и стремится понять “истинную природу Вселенной”. Компания собрала команду экспертов из ведущих исследовательских институтов в области ИИ, таких как OpenAI, Google Research, Microsoft Research и DeepMind.
Маск и его команда считают, что сверхинтеллектуальный ИИ станет реальной возможностью к 2029 году и поможет обществу понять, “что, черт возьми, происходит на самом деле”. Помимо научной направленности, xAI будет конкурировать с OpenAI и предлагать предложения для потребителей и бизнеса.
18 Апр 2024
908