边缘AI通过将AI直接引入IT设备和系统，有望大幅减少延迟并加快响应时间。
如果你还没听说过边缘AI，那么你很快就会了解到的。听从其众多支持者的说法，这项技术即将简化AI的处理流程。
德勤科技、媒体和电信领域AI业务全球负责人巴里斯·萨雷尔表示，边缘AI带来了一次激动人心的转变。“我们不再依赖云服务器(需要数据来回传输)，而是将AI模型战略性地直接部署到用户的设备上，包括智能手机、个人电脑、物联网设备和其他本地硬件，”他通过电子邮件解释道。“因此，数据是在本地生成和处理的，从而能够在没有公有云连接所带来的延迟、成本和隐私顾虑的情况下，实现实时处理和决策。”
多重优势
由于数据是在收集点附近处理的，边缘AI通过减少延迟并加快响应时间，提供了显著优势，凯捷咨询旗下Synapse部门的AI和数据负责人马特·吉尔伯特说。他还指出，边缘AI还最大限度地减少了网络上的数据传输，提高了隐私和安全性。“这使得边缘AI对于需要快速响应时间的应用程序或在连接有限或连接成本高昂的环境中运行的应用程序至关重要。”当收集到大量数据，或需要保护隐私和/或将关键数据保留在本地时，情况更是如此。
首批采用者
边缘AI是一项基础技术，能够促进未来增长、推动运营转型并提高效率。萨雷尔说：“它使设备能够独立处理复杂任务，改变数据处理方式，并减少对云的依赖。”例子包括：
• 医疗保健。增强便携式诊断设备和实时健康监测，提供即时见解和潜在的生命拯救警报。
• 自动驾驶汽车。实现实时决策和导航，确保安全和运营效率。
• 工业物联网系统。促进现场数据处理，简化运营并提高生产力。
• 零售。提升客户体验并优化库存管理。
• 消费电子产品。通过改进摄影、语音助手和个性化推荐，提高用户参与度。
• 智慧城市。边缘AI可以在实时管理交通流量和城市基础设施方面发挥关键作用，从而有助于改进城市规划。
第一步
在考虑采用边缘AI的企业中，云计算公司Nutanix的AI工程副总裁德博吉奥蒂·杜塔建议，应从具体的业务用例开始。“例如，在零售业，需要使用计算机视觉来分析视觉数据，以便进行补货、防盗检测和结账优化，”他在一次在线采访中说。关键绩效指标可能包括由于补货增加而产生的收入(更快速的补货会带来更多收入和减少购物车遗弃率)，以及防盗检测。杜塔说，下一步应该是选择合适的AI模型和工作流程，确保它们满足每个用例的需求。
最后，杜塔表示，在实施边缘AI时，定义基于边缘的数据/AI架构和堆栈非常重要，该架构/堆栈可能由于业务结构而具有层次结构。“在零售业，我们可以在每家商店使用低成本/低功耗的AI基础设施，在配送中心使用更强大的边缘设备。”
采用挑战
虽然边缘AI带来了诸多优势，但也存在一些重要的缺点。“主要挑战之一是，与集中式云服务器相比，边缘设备的计算资源往往有限，因此在这些设备上部署和管理AI模型的复杂性很高，”萨雷尔说。“这可能需要大量的优化工作，以确保模型在这些设备上高效运行。”
另一个潜在的障碍是构建边缘基础设施的初始成本，以及开发和维护边缘AI解决方案所需的专业人才。“还应考虑安全问题，因为边缘AI需要额外的端点安全措施，因为工作负载是分布的。”萨雷尔说。
尽管存在这些挑战，但边缘AI的实时数据处理、减少延迟和增强数据隐私等优势通常大于缺点，萨雷尔说。“通过仔细规划和解决这些潜在问题，企业可以成功利用边缘AI来推动创新并实现其战略目标。”
也许潜在采用者面临的最大挑战是边缘设备固有的计算限制。根据定义，边缘AI模型在资源受限的硬件上运行，因此部署的模型通常需要根据特定的用例和环境进行调整，吉尔伯特说。“这些模型可能需要大量电力才能有效运行，这对于电池供电的设备来说可能是一个挑战。”此外，在响应时间需求与高准确性需求之间取得平衡需要仔细管理。
未来展望
吉尔伯特表示，随着硬件变得越来越强大，软件进步继续降低AI模型的复杂性和大小，边缘AI正在迅速发展。“这些发展正在降低入门门槛，预示着在不久的将来以及以后将出现越来越多样化的应用。”
