使用Ryzen AI软件平台推动AI开发

Ryzen AI

在过去的几年里，人工智能已经从科幻小说领域发展到部署在一系列不同的系统和软件应用程序中。在许多情况下，这些应用程序在云中，或者在大型计算系统上运行为佳。AMD 则旨在通过Ryzen AI和AMD XDNA架构将先进的人工智能处理引入本地端PC，扩大人工智能的可接入性和人工智能软件的开发。

将人工智能工作负载从云端转移到本地硬件可以减少延迟，有助于将敏感数据排除在云端之外，并且与排队等待使用基于云的服务相比，可以加快处理速度。部分锐龙 7000系列移动处理器内置的锐龙人工智能引擎提供了一个专用的片上加速器来运行这些工作负载，但我们还没有太多探讨关于此的软件方面问题。

Ryzen AI软件平台将于今年晚些时候全面推出，它将为开发人员提供将AI添加到现有应用程序所需的工具，并创建全新的程序，以新的、令人兴奋的方式利用这一新兴领域。

我们在5月份首次公开展示了这一软件，提供了开发人员可以试用的demo和代码样本。今年夏天，我们通过临时版本推动了这一进程，增加了对运行在IPU上的新操作符的支持，并提供了对ONNX、PyTorch和TensorFlow模型的量化支持。如果您打算开始使用，请访问Ryzen AI软件文档页面。

当完整版Ryzen AI软件平台在今年晚些时候首次亮相时，这些早期预览和有限的开发合作伙伴将扩展为对AI开发者和相关生态系统的更广泛支持。未来的版本将支持更多在AMD XDNA上运行的操作。ONNXRT Execution Provider （EP）对Vitis AI执行提供程序提供上游支持，将根据工作负载的特性自动决定是在CPU上还是在AMD XDNA AI引擎上调度工作负载。

开发人员可以采用PT、TF和ONNX格式的训练模型，使用AMD Vitis AI Quantizer或者Microsoft Olive Quantizer将这些模型量化为INT8，并使用带有Vitis AI Execution Provider的ONNX Runtime进行部署。前者将对代码进行分区和编译，以运行在AMD XDNA AI引擎或CPU上。

今年晚些时候，AMD将发布更多的工具链、库和指南，以简化人工智能开发。这些都是我们在各个层面简化人工智能战略的一部分，从训练模型到在由Ryzen AI驱动的系统上对其进行本地部署。我们还计划增加对Generative AI模型的支持。

AMD对Ryzen AI软件平台的目标是尽可能缩小硬件首次亮相和终端用户软件可用性之间的差距，让程序员和终端用户即使在这个相对初级的开发阶段也能看到AI处理的好处。今年夏天的临时发布以及AMD将在今年晚些时候提供的扩展功能，将加快人工智能生态系统的开发，并使开发者受益于这种新型处理能力。