证券时报快讯·· 13 天前AI 评分45
DeepSeek宣布将内部推理框架DeepInfer全面开源
AI 导读
DeepSeek于10月20日宣布将内部推理框架DeepInfer全面开源。
摘要与补充说明
DeepSeek称，希望通过分享内部部署经验，帮助开发者与企业组织优化大规模推理的吞吐与延迟，高效构建私有化及公有云部署，降低算力成本、减少能源消耗。基于DeepInfer，DeepSeek已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来，DeepSeek新模型的推理代码及后续优化也将在此持续更新。
此来源暂仅展示摘要。