#GPU_#GPU技术文章_InfoQ写作社区

#GPU

0 人感兴趣 · 5 次引用

关注

01-16

大模型推理引擎是生成式语言模型运转的发动机，是接受客户输入 prompt 和生成返回 response 的枢纽，也是拉起异构硬件，将物理电能转换为人类知识的变形金刚。

2024-11-21

近似最近邻（ANN）向量检索的CPU方案已被广泛地应用于在线检索等多种场景中并取得了不错的效果。GPU相比CPU拥有更强大的并行计算能力，如何将GPU引入ANN检索获取更大收益，成为了业界重点研究的难题之一。百度与NVIDIA技术团队，基于 RAFT[1]开源代码库设计并

2024-10-11

苹果放弃英伟达 GPU 转向谷歌 TPU 的战略选择，在科技界投下了一枚震撼弹。苹果此次选择依赖谷歌的云基础设施、使用谷歌 TPU 进行其 AI 模型训练，充分反映了科技巨头们在尖端 AI 训练方面开始寻求更多元化的解决方案的趋势。

2024-09-29

Volcano是业界首个云原生批量计算社区，也是 CNCF 首个及唯一孵化级批量计算项目。Volcano主要用于 AI、大数据、基因、渲染等诸多高性能计算场景，对主流通用计算框架均有很好的支持。

2024-07-19

显卡作为推动游戏、设计、影视制作等领域不断前行的核心动力，其性能的提升始终牵动着每一位专业用户及游戏爱好者的心。随着4K乃至8K分辨率的普及，以及虚拟现实（VR）、光线追踪等技术的兴起，用户对显卡性能的需求达到了前所未有的高度。2022年9月20日发布