Yi-Lightning

Yi-Lightning — флагманская языковая модель компании 01.AI, основанной известным исследователем ИИ Кай-Фу Ли. Выпущенная в октябре 2024 года, модель с первых дней привлекла внимание исключительным соотношением скорости инференса и качества ответов. На момент выпуска она заняла место в топ-10 Chatbot Arena Leaderboard от LMSYS, конкурируя с моделями, которые стоят в 10–20 раз дороже.

Главное отличие Yi-Lightning от конкурентов — скорость генерации. Модель оптимизирована специально для low-latency инференса и способна генерировать сотни токенов в секунду при работе через официальный API. Это делает её особенно привлекательной для приложений реального времени: чат-ботов, ассистентов в IDE, систем с потоковой передачей ответов.

Ценовая политика Yi-Lightning выделяется на фоне рынка: $0.14 за миллион токенов как на вход, так и на выход. По состоянию на конец 2024 года это делало её одной из самых дешёвых моделей топ-класса. Разработчики, которые строят продукты с высокими объёмами запросов, получают возможность снизить расходы на AI в разы по сравнению с использованием GPT-4o или Claude 3.5 Sonnet.

Несмотря на скромные 16K токенов контекста, Yi-Lightning уверенно справляется с задачами в рамках этого ограничения: суммаризацией документов, анализом кода, написанием текстов и переводом. Особенно сильна модель в задачах с участием китайского языка, что ожидаемо для компании с корнями в китайской технологической экосистеме. Переводы между русским, английским и китайским языками получаются естественными и точными.

Модель доступна через официальную платформу 01.AI (platform.lingyiwanwu.com) и ряд агрегаторов, включая OpenRouter. API совместим со стандартом OpenAI, что упрощает интеграцию в существующие приложения без изменения кода — достаточно поменять base_url и название модели. Это делает Yi-Lightning удобным вариантом для тестирования cost-reduction стратегий в production-системах.