快科技11月9日消息,长期以来,NVIDIA凭借其强大的CUDA生态系统,在AI领域占据主导地位,而竞争对手如AMD的ROCm等相对不够成熟,不过这一格局正迎来新的破局者微软。
据一位"高级别"微软员工透露,其已开发出"工具包",能够将NVIDIA CUDA模型转换或转译为ROCm兼容代码,使其能在AMD的GPU上运行。
此举旨在打破CUDA的"生态锁定",为微软日益增长的AI推理工作负载寻找更具成本效益的替代方案。
微软此番行动的核心驱动力在于,他们观察到AI推理工作负载的需求正在大幅增加,与昂贵的NVIDIA GPU相比,AMD的AI芯片在推理场景中具备更佳的性价比。
通过软件转换,微软可以利用AMD的硬件优势来降低运营成本。
据推测,该工具包可能采用类似ZLUDA的运行时兼容层技术,在不修改源代码的情况下,将CUDA API调用实时翻译成ROCm指令。
不过由于ROCm相对"不成熟",部分CUDA代码仍缺乏对应的映射,可能导致性能下降,这在大型数据中心环境中仍是一个挑战。
![]()




关于我们|版权声明| 违法和不良信息举报电话:010-84151598 | 网络敲诈和有偿删帖举报电话:010-84151598
Copyright © 2008-2024 by {当前域名}. all rights reserved



×