DeepSeek-V3: Китайская языковая модель обошла Claude 3.5 Sonnet в написании кода.

Главное:

• Компания DeepSeek представила новую языковую модель DeepSeek-V3 с 685 миллиардами параметров.
• DeepSeek-V3 показала впечатляющие результаты на тестах по программированию, заняв второе место в Aider Polyglot Benchmark.
• Модель демонстрирует мультимодальные способности, включая анализ диаграмм и работу с изображениями.

Технические характеристики и архитектура DeepSeek-V3

DeepSeek-V3, разработанная компанией DeepSeek, представляет собой серьезный прорыв в области языковых моделей. С количеством 685 миллиардов параметров, данная модель значительно превосходит своего предшественника. Архитектурный подход Mixture of Experts (MoE) позволяет использовать 256 экспертов, из которых активируется 8 для каждого токена. Подобная структура обеспечивает более глубокое понимание контекста, что важно для задач программирования и генерации текстов. Учитывая статистические данные, модели, обладающие большим количеством параметров, как правило, демонстрируют улучшенные характеристики. Например, исследования показывают, что увеличение числа параметров на 100% может приводить к улучшению качества ответов на 20-40%.

Результаты тестирования в Aider Polyglot Benchmark

DeepSeek-V3 продемонстрировала выдающиеся результаты в тесте Aider Polyglot, где была проверена способность языковых моделей решать задачи на различных языках программирования, таких как C++, Java и Python. Модель смогла успешно решить 48.4% предъявленных задач, что помещает её на второе место после o1-2024-12-17. Тем не менее, в отличие от своих конкурентов, таких как Claude-3-5-sonnet и Gemini-exp-1206, DeepSeek-V3 обошла их на значительные проценты. Особенно стоит отметить, что модель продемонстрировала выдающиеся результаты в 98.7% случаев корректного форматирования изменений в коде, что является важным аспектом для разработчиков программного обеспечения.

Мультимодальные возможности модели

Помимо отличных показателей в программировании, DeepSeek-V3 также обладает мультимодальными навыками. Она способна интерпретировать и анализировать диаграммы, работать с научными текстами и даже создавать различные виды контента. На сайте chat.deepseek.com доступна возможность взаимодействия с моделью, где пользователи могут оценить её способности. Парадоксально, что модель демонстрирует разные самоидентификации в зависимости от языка, на котором она отвечает. Это поднимает вопросы о культурных и языковых различиях в восприятии искусственного интеллекта, которые становятся всё более актуальными в глобальном мире технологий.

DeepSeek-V3 показала, что языковые модели продолжают развиваться с невероятной скоростью, и с каждым новым релизом они становятся всё более гибкими и мощными. Это открывает широкие горизонты для будущих инноваций и применения в различных сферах, включая программирование, образование и научные исследования.