如今,有两种可能的深度学习技术部署:直接在云中的设备上和边缘上。由于对处理能力和内存消耗的广泛需求以及AI模型的规模,这些部署大多数都依赖于云。尽管云部署使AI可以从高性能计算系统的功能中受益,但挑战仍然存在。从设备到云之间来回发送数据进行处理的需求可能会导致隐私问题,并且由于延迟,带宽和连接性而受到限制。这促使业界将重点放在边缘AI的开发上,这是我在上一篇文章中谈到的主题。这些工作主要围绕引入用于训练AI模型的新方法进行,这些方法可以减少占用空间,因此可以将这些模型直接部署在边缘设备上。 Edge AI将使智能设备实时做出真正自主的决策,从而促进深度学习,从而解决深层云的不足。具体而言,这将消除了向云或从云连续发送所有数据的需求,从而改善了隐私,带宽和延迟限制。此外,新兴的边缘AI部署方法极大地提高了速度,功耗和内存消耗,从而可以降低成本并限制对环境的影响。一个人的利益不能完全被另一个人取代。因此,最具影响力的现实世界AI部署将是使用混合方法的部署:在云中和边缘。但是混合方法是什么样的呢?混合部署免费工作流以获取更好的结果第一步是通过识别必须在边缘实时生成的用例,并通过可以在云中进行处理以进行长期分析和改进的解决方案来消除最大效率。可扩展的工作流程。如果您在智能边缘设备上部署深度学习,则在需要实时决策的情况下,例如无人驾驶汽车,农业无人机和系统,摄像头,移动设备等。同时,系统可以将数据上传到云端进行存储以及进一步的处理和分析,而这些处理和分析可以由功能更强大的引擎执行。这将确保该系统可以实现大功率计算的优势,并允许将云中的数据与其他系统中的数据合并。使用这些组合数据,可以对模型进行再训练以进行持续改进。一旦在云中进行了重新培训,就可以在边缘重新部署新模型。与采用单一方法相比,整合云AI和边缘部署的优势更加强大。具体来说,云AI的处理能力和高性能可以补充边缘AI的效率,速度和自主性。混合方法在自动驾驶汽车的移动人工智能中的应用是一个特定的用例,它说明了互补方法的好处。在这种用例中,至关重要的是AI模型必须在边缘运行,直接在设备和车辆上运行,以确保汽车可以安全行驶。如果汽车在将数据发送到云并对其进行处理之前无法采取行动,它将无法做出反应并迅速做出决定以确保安全。此外,不能保证车辆将保持连续的Internet连接。但是,汽车制造商也可以从捕获数据中受益,而不仅仅是实时决策所必需的。将收集到的数据发送到云进行处理是持续改进和重新训练模型的关键。这不仅可以彻底处理设备数据,而且还可以将深度学习见识与从其他边缘设备收集的数据相结合,以提供更多的输入和理解。基于此见识,可以不断改进算法以开发自动驾驶汽车系统。下一步是什么?边缘AI和云AI的发展随着越来越多的组织在云或边缘中使用AI的力量,我们将看到更多可以提供真实价值的深度学习应用程序。 5G的兴起将继续推动深度学习的发展。随着5G越来越普遍,它将增强超级计算的可访问性。具体来说,5G将使从边缘到云的数据共享更加无缝和高效,从而促进更高效的数据处理。但是,即使使用5G,仍然需要在边缘进行实时决策。云仍将无法即时满足边缘应用程序的数据处理需求。因此,在计划部署模型时,边缘AI必须继续成为AI公司关注的焦点。对于采用互补方法进行云和边缘部署的公司,无论是模型的短期处理能力还是有效存储,处理,
