DeepSeek відкрила код DeepInfer: движок для Nvidia і Huawei
DeepSeek опублікувала відкритий код інференс‑движка DeepInfer, що прискорює обслуговування запитів і знижує витрати, працюючи на GPU Nvidia та Huawei.
DeepSeek відкрила вихідний код DeepInfer, движка інференса, який вона використовує для масштабного запуску V4.1‑Flash.
Саме цей код допомагає швидше обслуговувати запити до моделей і знижувати витрати на їх роботу.
Для компаній, що розгортають власні ІІ‑сервіси, DeepInfer може виявитися навіть ціннішим за самі ваги моделі.
Ще одна важлива деталь: движок працює не лише на чіпах Nvidia, а й на Huawei.
Коментарі
Дайджест щотижня
Найкраще про vibe coding, AI-агентів та open source — раз на тиждень, без спаму.
Схожі статті
Всі статтіDeepSeek знизив ціну на DeepSeek V4 Pro на 75% назавжди
DeepSeek назавжди знизив ціну DeepSeek V4 Pro на 75%: $0.003625/млн вхідних (кеш), $0.435/млн вхідних, $0.87/млн вихідних.
DeepSeek випустила десктопний клієнт Harness для Windows і macOS
DeepSeek представила офіційний десктопний клієнт Harness для Windows 64‑bit та macOS Apple Silicon. Інсталятор працює одним кліком, без Node та терміналу.
DeepSeek 4.1-1017: нова китайська модель, що зрівнялася з Opus 5
DeepSeek 4.1‑1017 досягає 42,8 у Terminal‑Bench, зрівняна з Opus 5, підтримує 1 млн токенів, краще в 3D, програмуванні та візуальній обробці, доступна через API та локально.