Стартап xAI, основанный Илоном Маском, открыл исходники языковой модели Grok-1 под лицензией Apache 2.0. Эта мощная модель с 314 миллиардами параметров использует технологию Mixture-of-Experts и была обучена с нуля без адаптации под конкретные задачи.
Основные характеристики Grok-1:
- Масштаб: Модель содержит 314 миллиардов параметров, что делает ее одной из самых крупных в мире.
- Языковая мощь: Grok-1 способен обрабатывать сложные тексты, генерировать ответы и анализировать контекст.
- Исходники доступны: Стартап предоставил веса модели через торрент, что позволяет исследователям и разработчикам использовать Grok-1 для разнообразных задач.
Эта модель может стать мощным инструментом для разработки искусственного интеллекта и решения сложных задач в области обработки естественного языка.
Если хотите попробовать смотрите на GitHub