写点什么

Agents

0 人感兴趣 · 1 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/cf/cfe2cbfb1c96d2f62f4bfd5ba704525a.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

突破瓶颈:如何优化 LLMs 的落地成本和延迟

编者按: LLMs 被视为 AI 领域的一个里程碑式的突破,但要将其应用于实际生产环境,并且还能用对、用好并非易事。模型的使用成本和响应延迟是目前将大语言模型(LLMs)应用于生产环境中的核心难题之一。

Agents_Agents技术文章_InfoQ写作社区