设为首页 | 收藏本站
科学视点

郑纬民院士：改善国产AI芯片生态系统 需做好“十个软件

近日，中国工程院院士、清华大学计算机系教授郑纬民在信百会2024年会上进行了题为《算力和存储是人工智能大模型的基座》的发言，对如何在英伟达算力管制的前提下更好运用国内算力阐述了自己的观点。
中国工程院院士、清华大学教授郑纬民。
郑纬民院士表示，算力是大模型产业的主要开销，占到了大模型训练成本的70%，大模型推理成本的95%。基于英伟达公司的GPU系统硬件性能好、生态好，而基于国产AI芯片的系统用户不太喜欢用，原因在于国产的生态系统不太好。
“国产AI芯片只要达到国外芯片60％的性能，如果生态做好了，客户也会满意。大多数任务不会因为芯片性能只有60％而有明显感知，大家感觉到的不好用还是生态不行。”郑纬民说。
什么叫生态好？郑纬民院士下了一个定义：如果原来用英伟达写了一个人工智能软件，现在很容易移植到国产系统上去，这叫生态好。如果移植起来没有这个库，没有一年、两年移不过来，生态就不好。
他表示，改变过程生态系统不好的局面，要做好十个软件：编程框架、并行加速、通信库、算子库、AI编译器、编程语言、调度器、内存分配系统、容错系统、存储系统。


文章分类： 科学视点
分享到：

qrcode_for_gh_ec1c01e62fac_258.jpg

　　官方微信

分享网站