#DSA
0 人感兴趣 · 1 次引用
- 最新
- 推荐
DeepSeek-V3.2 128K 推理秒开?百度百舸开源 CP 上下文并行方案
DeepSeek V3.2 的 DSA 架构是算法效率的创新探索,而 CP 方案则是其在长文本场景下必不可少的 AI Infra 协同组件。DSA 通过动态稀疏机制降低了整体计算量,CP 使多卡能协同、均衡地分摊显存与计算负载,从而实现长文本的 TTFT 显著降低。
0 人感兴趣 · 1 次引用
DeepSeek V3.2 的 DSA 架构是算法效率的创新探索,而 CP 方案则是其在长文本场景下必不可少的 AI Infra 协同组件。DSA 通过动态稀疏机制降低了整体计算量,CP 使多卡能协同、均衡地分摊显存与计算负载,从而实现长文本的 TTFT 显著降低。