写点什么

GPU算力

1 人感兴趣 · 37 次引用

  • 最新
  • 推荐
https://static001.geekbang.org/infoq/bf/bf26c75bd403c54cf18756267e053b02.webp?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

京东广告稀疏大模型训练与推理 GPU 优化实践

本文作者李健针对京东广告的业务场景,分享了在 GPU 吞吐和低延时优化方面的实践工作。

为什么 AI 大模型离不开 GPU?

AI大模型和GPU之间确实存在着密切的关系。

https://static001.geekbang.org/infoq/c2/c2165f56bacc272fc1442e29e2595a4f.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

超算互联网统一存储平台技术研究

用户头像
Alluxio
03-08

大家好,我是来自山东省计算中心(国家超级计算济南中心)的王春晓,我从2022年开始参与超算互联网的项目,主要负责算网统一存储平台的研发,在存储基座方面也做了很多调研,最后选择了Alluxio平台,经过一年多的努力,也取得了一定的进展,非常感谢Alluxio公

https://static001.geekbang.org/infoq/97/973ffb2204e90c3bdf2e2d55e6202886.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

稀疏场景高性能训练方案演变|京东广告算法架构体系最佳实践

为解决模型规模和算力升级带来的存储、计算和IO方面的挑战,京东零售广告技术团队基于新型硬件设计多机多卡全GPU计算全同步训练机制,助力大规模模型落地。

https://static001.geekbang.org/infoq/97/973ffb2204e90c3bdf2e2d55e6202886.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

京东广告算法架构体系 - 高性能计算最佳实践

场域变革背景下,为了应对更复杂算法的高算力需求,京东零售广告技术团队针对高并发、低延时的在线推理场景特点,从异构计算框架和GPU高性能推理计算方面,进行深度算力优化探索实践。

大模型训练中的同步与异步模式

在深度学习领域,GPU(图形处理器)因其高效的并行计算能力而成为训练深度神经网络的常用硬件。当我们在一个GPU上训练模型时,我们通常会使用一种称为“数据并行”(Data Parallelism)的技术,将数据集分成多个小块,并在多个GPU上并行处理。

为什么 GPU 引领加速计算时代

目前,人工智能(图像语音识别、无人驾驶等)、视频处理、VR、生命化学、金融证券数据分析等是GPU 运用的优先爆发领域。可以说,GPU并行计算是时下最流行的方式,简而言之,GPU可以同时做N件比较简单的事情,因此效率比较高。

一文读懂 GPU 参数选择

目前, GPU 服务器主要应用于科学计算、视频编解码等不同场景领域。它可以为应用提供非凡的加速计算能力,将应用程序计算密集的工作负载转移到GPU。根据Market Growth Insight的数据,到2026年底,应用于人工智能市场的GPU份额预计将达到20亿美元。

人工智能、GPU 与云计算的关系和应用

近年来,人工智能已经渗透不同行业不同领域,随着人工智能算法突飞猛进地发展,越来越多的模型训练需要巨量的算力支撑才能快速有效地实施,算力是未来人工智能应用取得突破的决定性因素,GPU的运用加速了人工智能的计算速度。

人工智能的催化剂:GPU 高性能计算

如今,人工智能(AI)广泛应用于生活各个方面,细数如AI音箱、自动驾驶、社交媒体平台智能推荐等,都与我们的生活息息相关,但大部分人并不清楚人工智能的定义,以及GPU如何催化AI计算。

探索神秘的算力市场:你不知道的国内算力资源售卖揭秘

在当下这个数字化、信息化的时代,算力资源已经成为了推动社会进步,支持新兴行业发展的重要燃料。不论是云计算、大数据分析,还是人工智能、区块链技术,它们的运行和发展都离不开算力的支持。然而,尽管算力资源对于我们的生活和工作有着如此重要的影响,大

https://static001.geekbang.org/infoq/7c/7c26def9ac1072e896169917ee4be467.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

渲染与云渲染——渲染行业的新趋势

用户头像
Finovy Cloud
2022-08-17

可能很多人想不到,即使到了现在,CGI(电脑三维动画)设计师们有时仍可能需要等待近1个月的时间完成一秒钟视频的渲染,或者用24小时来等一张静态图片的渲染。

https://static001.geekbang.org/infoq/58/587f48a14bd1fe4f9f6e700870d79137.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

Gpushare.com | 如何使用 TensorBoardX 可视化工具?

用户头像
恒源云
2022-07-22

TensorBoardX是基于TensorBoard,一款可以用于Pytorch数据可视化的工具,对TensorBoard比较了解的用户,也能够轻松上手TensorBoardX~

https://static001.geekbang.org/infoq/64/64f788ba69696031b3e729d61ac89767.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

云渲染,设计行业的“新贵”

用户头像
Finovy Cloud
2022-07-20

虽然云渲染已经不是新鲜事物,但很多设计工作室和公司仍对它不怎么了解。

XGRIDS 三维重建服务,构建云上数字孪生世界

基于阿里云建设三维重建云平台,搭建云端仿真资源池

https://static001.geekbang.org/infoq/32/32220fedbffb4cc157a1fa0f457dfb5b.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

渲大师携手向日葵,远控赋能云渲染及 GPU 算力服务

用户头像
Finovy Cloud
2022-07-06

今年年初,在深圳遭遇疫情突袭,多地实行封闭式管理,不少企业员工连夜返岗/搬电脑的慌忙时刻,提前做好了准备的渲大师显得格外从容。

https://static001.geekbang.org/infoq/64/64f788ba69696031b3e729d61ac89767.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

影视作品制作中不可或缺的技术支撑——云渲染技术

用户头像
Finovy Cloud
2022-05-31

近年来,云计算已经成为影视作品制作中不可或缺的技术支撑,像《复仇者联盟》、《变形金刚》系列、《头号玩家》、《盗梦空间》等高品质电影中高渲染量的艰巨任务,只有具备超强计算能力的云渲染技术才能顺利解决。

https://static001.geekbang.org/infoq/2b/2bb5e70b7a6033d81483173a5f400ba4.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

服务器 CPU 和普通 CPU 有什么区别?常用的服务器有六大区别

用户头像
Finovy Cloud
2022-05-13

其实现在很多人都听说或者接触过服务器,众所周知,服务器是网络中的重要设备,要接受少至几十人、多至成千上万人的访问,因此对服务器具有大数据量的快速吞吐、超强的稳定性、长时间运行等严格要求。

https://static001.geekbang.org/infoq/0a/0a52eab4b89294f7a01b01d5bf0e9828.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

显卡只是为游戏而生吗?GPU 服务器了解一下

用户头像
Finovy Cloud
2022-05-05

说到显卡,估计90%以上的人都认为这就是一个游戏工具。现在高性能的显卡难道只是为游戏而生吗?目前不少公司已经认识到GPU大规模并行计算带来的优势,开始用强大的多GPU服务器进行各种方向的研究,而这些研究除了能给公司带来巨大收益外,其研究成果也开始应

https://static001.geekbang.org/infoq/7c/7c26def9ac1072e896169917ee4be467.jpeg?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

如何选择不同类型的 AI 服务器?

用户头像
Finovy Cloud
2022-04-29

不同类型AI服务器之比较分析,通过下面这张二维图中我们可以对不同架构的服务器进行简单的比较。

https://static001.geekbang.org/infoq/47/47242d3305ea43e7e885c98b4a705b66.png?x-oss-process=image%2Fresize%2Cw_416%2Ch_234

GPU 微架构回顾

用户头像
Finovy Cloud
2022-04-24

一、GPU定义和内部结构

GPU算力_GPU算力技术文章_InfoQ写作社区