在12月初举行的NeurIPS会议上，IBM展示了一种新的人工智能芯片。 IBM研究人员声称他们已经开发出了一种用于处理神经网络的更有效的模型。该模型只需要8位浮点精度即可进行训练，而推理则只需要4位浮点精度即可。这项研究的结果发表在2018年12月上旬的国际电子设备大会（IEDM）和神经信息处理系统大会（NeurIPS）上。简而言之，IBM展示了专用于减少精密处理单元的定制硬件，以及新的硬件。可以使用此硬件进行深度神经网络（DNN）训练和推理的算法。其主要目标是提高硬件的能效，以便将其应用于更广泛的人工智能解决方案。下一代人工智能应用程序需要更快的响应时间，更大的人工智能工作量以及来自众多数据流的多模式数据。为了释放人工智能的全部潜能，我们重新设计了考虑到人工智能的硬件：从加速器到用于人工智能工作负载的专用硬件（例如我们的新芯片），最后是用于人工智能计算技术的量子技术。 。使用新的硬件解决方案扩展人工智能是IBM Research所做的一项广泛努力的一部分，该研究旨在从狭窄的人工智能（通常用于处理特定的，定义明确的任务）过渡到广泛的人工智能（在所有学科中，它可以帮助人类解决最多的问题）。紧迫的问题）。具体来说，IBM研究院提出了可以为训练神经网络提供8位浮点（FP8）精度的硬件。 8位浮点精度是16位浮点精度（FP16）的一半，而16位浮点精度自2015年以来一直是深度神经网络工作的事实上的标准。（建议的硬件将依赖于FP16用于累积点积，而不是今天使用的FP32。）在后来推出的新算法技术的帮助下，IBM研究人员表示，他们可以在各种深度学习模型中保持准确性。实际上，他们记录了使用FP8精度对基于图像，语音和文本数据集的深度神经网络的训练，并获得了与基于FP32的训练相当的模型精度。降低精度的模型基于以下三项软件创新：一种新的FP8格式，允许进行矩阵乘法和卷积计算，以进行深度神经网络训练，而不会损失精度； “基于块的计算”技术使得仅通过使用FP8乘法和FP16加法来处理神经网络成为可能；并在加权更新过程中使用浮点随机舍入，从而允许以16位浮点精度（而不是32位浮点精度）进行计算。 IBM展示的硬件是基于“新数据流核心”的14纳米处理器。该处理器包括一个精度降低的数据流引擎，一个16位浮点精度块加法引擎以及一个核心内存和内存访问引擎。研究人员声称，与当前平台相比，该设计具有将训练速度提高2到4倍的潜力。其中的一些改进是用于训练模型的位宽减少了2倍的结果，但是其余的改进归因于用于利用降低的精度的软件技术。也许更重要的是，IBM研究院表示，由于其FP8 / FP16模型比标准FP16 / FP32模型需要更少的内存带宽和存储空间，并且由于其硬件是为处理这些神经网络而定制的，因此可以将能源效率提高更多。超过2到4倍。研究人员说，这将使深度神经网络模型能够在某些边缘设备上进行训练，而不仅仅是在数据中心服务器上。研究人员还发表了一篇论文，介绍了在多个深度学习应用程序中使用4位浮点精度推理而又不损失准确性的方法（当前，大多数推论是基于使用8位浮点精度或更高的Point精度计算得出的）。此处的意义在于减少位宽将再次提高吞吐量和能效。对降低精度的需求还使基于训练过程中优化的位精度构建用于训练和推理的统一体系结构变得更加自然。研究人员认为，由于减少了专用于计算的处理器面积以及将模型和激活数据保留在内存中的能力，因此此类硬件可以在推理性能方面带来超线性的改进。相关的研究领域需要与这种降低精度的模型在模拟芯片中的应用有关。