DeepSeek открывает код своего «движка» DeepInfer

Компания DeepSeek выложила в открытый доступ DeepInfer — мощную систему, которая отвечает за работу их нейросетей. Теперь любой разработчик может использовать технологии, которые делают ИИ невероятно быстрым и дешевым в обслуживании.

• Супер-кэширование: система может «помнить» контекст запроса до 72 часов. Это в разы дольше, чем у конкурентов, и позволяет не перерабатывать одни и те же данные снова и снова.
• Колоссальная мощность: стек способен обрабатывать 155 триллионов токенов в день. При этом эффективность настолько высока, что приносит компании миллионы $ прибыли ежедневно.
• Реальная выгода: открытый код поможет всему сообществу снизить затраты на оборудование и электроэнергию, делая продвинутый ИИ доступнее для всех.