Phi-4

Phi-4 — языковая модель компании Microsoft из серии Phi, которая демонстрирует, что небольшие модели при правильном подходе к обучению могут конкурировать с гораздо более крупными аналогами. Модель содержит 14 миллиардов параметров и распространяется под открытой лицензией MIT.

Ключевое отличие Phi-4 от конкурентов — ставка на качество обучающих данных вместо увеличения размера модели. Microsoft использовала большой объём синтетически сгенерированных данных, специально созданных для обучения логическому мышлению, математике и программированию. Это позволило достичь результатов, превосходящих модели в 3–5 раз большего размера.

На бенчмарке MATH (олимпийская математика) Phi-4 набирает 80.4%, опережая значительно более крупные модели, включая Llama 3.1 70B. На GPQA Diamond (сложные вопросы по физике, химии, биологии) результат составляет 56.1% — сопоставимо с GPT-4o Mini при гораздо меньшем размере.

Phi-4 поддерживает мультимодальный ввод: модель может анализировать изображения, графики, таблицы и математические выражения в визуальной форме. Это открывает возможности для образовательных приложений, автоматической проверки решений и анализа научных материалов.

Для разработчиков Phi-4 доступна через Azure AI Studio, Hugging Face и Ollama для локального запуска. На современном ПК с GPU NVIDIA RTX 4070 или выше модель работает с приемлемой скоростью без квантизации.