写点什么

INT8

0 人感兴趣 · 1 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/45/457c5a64c350251bc988b36cbd0bd086.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

搜索语义模型的大规模量化实践

目前大模型正在被研究和应用,算力资源已经成为瓶颈,如何以更低地成本进行落地是一个非常热点的问题。基于对模型压缩技术的实践和积累,我们能够更好地助力大模型的探索和应用。

INT8_INT8技术文章_InfoQ写作社区