高通公司于2019年4月发布了QualcommCloudAI100，这是一款专门用于云AI加速的处理器。它使用7纳米工艺，其性能比当时业界最先进的AI推理解决方案高出10倍以上。 2020年9月16日，高通宣布AI推理加速器CloudAI100已交付给全球一些客户。 Qualcomm CloudAI100加速器具有先进的信号处理能力和领先的能源效率，并且可以满足许多操作环境（包括数据中心，云边缘，边缘设备和5G基础架构）中AI解决方案的需求。新发布的QualcommCloudAI100边缘解决方案开发套件为AI处理提供了一套完整的系统级解决方案，支持多达24个1080p视频流和5G连接通道，旨在加速边缘应用的普及。在硬件方面，QualcommCloudAI100支持多达400TOPS的AI计算能力。同时，在7nm工艺的支持下，它具有出色的性能功耗比，旨在提供行业领先的AI推理效率。 QualcommCloudAI100还支持从15W到75W功率的多种设备形式，包括PCI-E卡。至于QualcommCloudAI100软件套件，它包含完整的工具堆栈，并支持Tensorflow，PyTorch和Caffe等主流框架，以及GLOW和ONNX等运行时。该软件套件包括带有编译器和模拟器的QualcommCloudAI100应用程序SDK，以及带有运行时，API，内核驱动程序和工具的平台SDK，旨在支持在多种操作环境中开发，测试和部署QualcommCloudAI100平台。 QualcommCloudAI100开发套件包括三个Qualcomm模块化组件：QualcommCloudAI100-支持低功耗，高性能AI推理Qualcomm Snapdragon 865模块化平台-支持应用程序和视频处理Snapdragon X55调制解调器和射频系统模块。预先认证的模块，以实现领先的5G连接。一般而言，Qualcomm CloudAI100边缘解决方案开发套件是经过优化的系统级解决方案，可提供高性能的AI推理，视频处理和5G连接。计算和边缘云业务高级副总裁兼总经理Keith Kressin表示：``高通处于提供从边缘到云的行业领先的性能与功率比的高性能AI解决方案的绝佳位置。目前，QualcommCloudAI100面向全球市场。我们预计使用该产品的商业设备将在2021年上半年面市.``随着AI技术在社会生产和生活中的应用越来越深入，AI行业的规模也在不断扩大。像工业生产设备一样，我们拥有的智能手机越来越需要AI。在这些AI中，有在终端设备上本地进行数据收集，计算和决策的终端AI，还有在云中进行数据训练和处理的云AI。未来，终端AI和云AI不可能孤立地存在，两者的无缝协调是大势所趋。在这种情况下，在终端端AI领域具有强大吸引力的Qualcomm已通过易于理解的QualcommCloudAI100加速器和开发套件将其AI功能扩展到了云端。过去，高通一直给人以它是终端AI的坚定执行者的印象。高通基于Snapdragon AIEngine人工智能引擎，使用终端AI向地球上超过一半的智能手机提供AI计算，以改善人们的生活。但是我们不知道的是，除了终端端AI之外，高通在计算AI方面也有深厚的积累。实际上，高通一直在促进终端AI和云AI之间的合作与协作，并且是分布式AI的先驱和实践。经过。这次交付的Qualcomm CloudAI100加速器和边缘解决方案开发套件可以达到Snapdragon 855和Snapdragon 820最高性能的3到50倍，这是高通在云AI中强大实力的最好例证。随着5G商业部署的不断深入，高通将在计算领域推广AI，以进行大规模培训和推理，然后通过高速和低延迟的5G网络在边缘终端侧实现AI的特定功能和执行，从而实现边缘计算和云中的实时计算协作具有强大的计算性能和极低的延迟，因此AI可以增强社交生产和生活的方方面面，并彻底改变我们的生活方式。