案例｜蓝耘科技×焱融 YRCache 共同打造新一代 AI 推理算力平台

焱融科技

12-08

蓝耘科技携手焱融科技，基于焱融 YRCache 推理存储，共同打造新一代 AI 推理算力平台。在实际应用中，相较开源推理框架，平台性能大幅跃升：单服务器 Token 吞吐量提升 68.2%，并发能力提升 3 倍，为用户带来更低延迟、更稳定、更流畅的推理体验。