写点什么

推理算力

0 人感兴趣 · 2 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/89/89b59b77b071df9fca2fe8124cebb399.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

超越跑分:新一代 AI 基准与模型评测的范式转变

本文围绕 AI 模型评测的范式转变展开,指出传统 “单纯跑分” 已无法全面反映模型价值,新一代评测正走向 “深度理解与场景适配”。文章先介绍 ARC-AGI(侧重泛化推理)、GPQA(侧重深度专业知识)等新型基准的独特优势...

案例|蓝耘科技×焱融 YRCache 共同打造新一代 AI 推理算力平台

用户头像
焱融科技
2025-12-08

蓝耘科技携手焱融科技,基于焱融 YRCache 推理存储,共同打造新一代 AI 推理算力平台。在实际应用中,相较开源推理框架,平台性能大幅跃升:单服务器 Token 吞吐量提升 68.2%,并发能力提升 3 倍,为用户带来更低延迟、更稳定、更流畅的推理体验。

推理算力_推理算力技术文章_InfoQ写作社区