康奈尔大学的研究人员发布了一个名为Cascade的新开源平台，该平台可以运行人工智能(AI)模型，在大幅提高性能的同时大幅削减开支和能源成本。
Cascade专为智能交通十字路口、医疗诊断、使用增强现实的设备维修、数字农业、智能电网和制造过程中的自动产品检测等设置而设计，这些情况下，人工智能模型必须在几分之一秒内做出反应。它已经被兽医学院的研究人员用于监测奶牛患乳腺炎的风险。
随着人工智能的崛起，许多公司渴望利用新功能，但担心相关的计算成本，以及与人工智能公司共享私人数据或将敏感信息发送到通过互联网访问的远程云服务器的风险。
此外，今天的人工智能模型速度很慢，限制了它们在数据必须来回传输或模型控制自动化系统的情况下的使用。康奈尔大学安·s·鲍尔斯计算与信息科学学院计算机科学教授肯·伯曼(Ken Birman)领导的一个团队结合了几项创新来解决这些问题。
伯曼与高级研究员宋维佳(Weijia Song)合作开发了一个边缘计算系统，他们将其命名为Cascade。边缘计算是一种将计算和数据存储放置在更靠近数据源的地方，从而保护敏感信息的方法。宋的“零复制”边缘计算设计最大限度地减少了数据移动。研究人员表示，人工智能模型在对事件做出反应时不必等待获取数据，这可以实现更快的反应。
伯曼说:“Cascade让用户能够将机器学习和数据融合真正地接近互联网的边缘，因此人工智能的行动可以立即发生。”“这与标准的云计算方法形成对比，在标准的云计算方法中，数据在机器之间的频繁移动迫使相同的人工智能等待，导致用户可以察觉到的长时间延迟。”
Cascade给出了令人印象深刻的结果，大多数程序的运行速度比基于云的应用程序快2到10倍，一些计算机视觉任务的速度提高了20倍甚至更多。更大的人工智能模型受益最大。
此外，该方法易于使用:“Cascade通常不需要对人工智能软件进行任何更改，”Birman说。
计算机科学领域的博士生艾丽西亚·杨(Alicia Yang)是参与这项工作的几名学生研究人员之一。她开发了Navigator，这是一个内存管理器和人工智能工作流的任务调度程序，可以进一步提高性能。“当许多应用程序需要共享昂贵的硬件时，Navigator确实是值得的，”Yang说。“与基于云的方法相比，Navigator在更短的时间内完成相同的工作，并且更有效地使用硬件。”
在CVM，临床科学系的医学肿瘤学副教授Parminder Basran和人口医学和诊断科学系的助理教授Matthias Wieland正在使用Cascade来监测奶牛是否有乳腺炎增加的迹象——乳腺炎是一种常见的乳腺感染，会减少产奶量。
通过在每次挤奶过程中对数千头奶牛的乳房进行成像，并将新照片与过去挤奶时的照片进行比较，在Cascade上运行的人工智能模型可以识别皮肤干燥、开放病变、粗糙的乳头末端和其他可能预示疾病的变化。如果发现早期症状，奶牛可以在挤奶站接受药物冲洗，以潜在地阻止全面感染。
来自奥斯陆大学的访问研究员蒂亚戈·加勒特(Thiago Garrett)使用Cascade构建了一个“智能交通路口”的原型。他的解决方案跟踪挤满了人、汽车、自行车和其他物体的拥挤环境，预测可能发生的碰撞，并在捕捉图像后几毫秒内发出风险警告。当他在云计算基础设施上运行同样的人工智能模型时，它只花了几秒钟就察觉到可能发生的事故，而发出警告为时已晚。
随着新的开源版本的发布，Birman的团队希望其他研究人员能够探索Cascade的可能用途，使人工智能应用程序更广泛地可访问。
“我们的目标是看到它被使用，”伯曼说。“这个开源版本将让公众从我们创造的东西中受益。”
康奈尔大学提供 引用:新的开源平台降低运行人工智能的成本(2023,12月7日)2023年12月7日检索自https://techxplore.com/news/2023-12-open-source-platform-ai.html本文档 作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司 内容仅供参考之用。
