写点什么

企业级AI工程化

0 人感兴趣 · 2 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/fe/fe15089ee3afb1f503282184a9794b43.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

企业 AI 成功落地的关键:生产级 AI 应用背后的“脏活累活”

构建企业级AI应用除了核心AI技术之外,还需要做大量的系统工程化的“脏活累活”来满足安全合规、高可用、系统集成等非业务功能需求。UniverAI苍穹智能平台封装技术复杂性,帮助企业开发者处理企业级系统工程化问题,让他们专注于AI本身。

https://static001.geekbang.org/infoq/af/afaf1dade1ae8a83aebd31f0140feede.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

AIBrix: 专为 vLLM 打造的可扩展、高性价比控制面

由字节跳动开发的vllm-project/aibrix项目正式发布。AIBrix是基于Kubernetes的推理系统项目,旨在提供可扩展且高性价比的vLLM控制平面。AIBrix自2024年初开始研发,已成功部署到字节跳动的多个业务场景,展示其在大规模部署中的可扩展性和高效性。

企业级AI工程化_企业级AI工程化技术文章_InfoQ写作社区