三张图解析FPGA/ACAP在AI推理中的优势

三张图

在Xilinx官网找资料无意中在应用—>AI推断加速中看到了下面三张图，顿觉“众里寻他千百度,蓦然回首,那人却在灯火阑珊处”的意思了。三张图非常通俗易懂的介绍了FPGA/ACAP这样的体系结构在AI推理中的优势。

1. CPU/GPU实现中为了达到高吞吐量高性能，必须（要一次输入足够多的数据，但这会因为数据的准备和同步而增加延时）从而导致只能在高吞吐量或低延时中选择其一。

2. FPGA/ACAP 覆盖的应用极其广泛在IT,CT,OT中都深耕多年，积累的IP和应用也非常丰富。在目前AI渗透到各个行业的时代，通过FPGA的自定义AI加速器可以快速，紧密耦合到已有的应用。同时不仅仅是在AI部分加速，还可以在网络，存储等等对应用整体进行加速提高效能。

3. 人工智能/深度学习的模型在快速变化，利用新的Domain Specific Architecture的平台，可以快速完成新的模型设计，快速完成迭代。

遗珠

无独有偶，在Apple的开发者大会相关的报道中，当大家在讨论iPad OS，惊叹Mac 价格和配置时，往往漏掉了一则重要的信息，在Mac Pro中，除了CPU, GPU用户还可以选装FPGA加速卡，帮助Mac Pro视频编辑的用户同时处理3路8K视频流或者12路4K视频流。开个小脑洞，也许在未来的某一年，突然发现每个工作站都会配备的FPGA 加速卡，利用FPGA加速特定的应用服务。将来的APP Store中会不会顺便卖卖加速的Overlay呢？

编辑：hfy