NEW BOT Телеграм, страница

Russian OSINT

🤖В мире open-source ИИ-моделей появился новый лидер с cерьёзными амбициями — 🇨🇳DeepSeek-V3

Artificialanalysis AI пишет, что независимые тесты показывают удивительное: модель DeepSeek-V3 от китайской компании 🚤 DeepSeek V3 опережает все выпущенные на сегодняшний день модели с открытым исходным кодом по ключевым метрикам.

Модель использует оптимизированную архитектуру DeepSeekMoE и Multi-head Latent Attention (MLA), что позволяет повысить эффективность как тренировки, так и вывода. Впервые была применена стратегия балансировки нагрузки без вспомогательных потерь (auxiliary-loss-free), минимизирующая деградацию производительности при равномерном распределении нагрузки между экспертами.

Модель построена на архитектуре Mixture of Experts (MoE) с общим числом параметров — 671 миллиарда, из которых 37 миллиардов активно используются в процессе работы. Показатель примерно в 2,8 раза превышает объём параметров её предшественника, DeepSeek V2.5.

➕ DeepSeek V3 получила самый высокий балл в Artificial Analysis Quality Index — 80 баллов, обогнав такие модели, как Llama 3.3 70B и Qwen2.5 72B от Alibaba.

Модель сравнима с Anthropic’s Claude 3.5 Sonnet (октябрь) и лишь немного уступает лидерам — Google Gemini 2.0 Flash и OpenAI o1. Особого внимания заслуживают её способности в области кодирования и математического анализа, где она набрала 92% в HumanEval и 85% в MATH-500.

API для DeepSeek-V3 демонстрирует скорость вывода в 89 токенов в секунду, что в четыре раза быстрее предыдущей версии (V2.5) при скорости 18 токенов в секунду. Это стало возможным благодаря оптимизации процессов вывода на кластерной инфраструктуре H800.

🤯И теперь самое интересное:

DeepSeek-V3 была обучена на массиве данных объёмом 14,8 триллионов токенов, используя 2,788 миллиона часов работы 🖥GPU NVIDIA H800. Оценочная стоимость обучения составила $5,6 миллиона при расчёте аренды GPU по $2 в час. Обучение длилось всего 57 дней на кластере из 2048 GPU.

🏆В Арене скоро должны обновить leaderboard. Ранее Deepseek-v2.5-1210 занимала почётное 8 место в общем рейтинге.

🤞Китайцы пишут, что DeepSeek-V3 является 💬мощным шагом вперёд с точки зрения развития открытых моделей искусственного интеллекта, укрепляя позиции Китая в условиях конкуренции с 🇺🇸США.

⬇️

https://huggingface.co/deepseek-ai/DeepSeek-V3-Base

⬇️

https://huggingface.co/deepseek-ai/DeepSeek-V3

⬇️

https://github.com/deepseek-ai/DeepSeek-V3

✋ @Russian_OSINT

Please open Telegram to view this post