2024-10-19 16:22:24

Qualcomm AI Stack 到来 开启从云到边缘的智能新时代

导读 高通人工智能堆栈如果您没有注意到,从智能手机和混合现实耳机到大量物联网设备和汽车(以及介于两者之间的一切),以一种或另一种形式出现的...

高通人工智能堆栈

如果您没有注意到,从智能手机和混合现实耳机到大量物联网设备和汽车(以及介于两者之间的一切),以一种或另一种形式出现的人工智能已成为各种设备和机器的关键齿轮. AI甚至已经找到了用于烤面包机的方法,这是一种看似简单的厨房用具。

我们之所以提到这一切,是因为它是高通新的 AI Stack 软件工具组合背后的驱动力,它本质上是面向从数据中心到智能边缘设备等各行各业的开发人员的端到端 AI 基础种。或者换一种说法,高通公司邀请开发人员“来一个,全部使用你的原生 AI 框架,我们的工具将接受你的东西”,以解释该公告。

Qualcomm Technologies, Inc. 产品管理副总裁 Ziad Asghar 表示:“这一全面的 Qualcomm AI Stack 产品组合在改进 OEM 和开发人员的 AI 开发以及在我们的产品组合中实现高性能方面迈出了真正的革命性一步。我们很高兴用这个新的产品组合扩展我们的一个技术路线图,并扩大我们在互联智能边缘的领导地位。”

这需要一个全面的产品组合,为开发人员提供对 Qualcomm 的 AI 引擎和其硅解决方案组合中的专用 AI 内核的优化访问。作为这一新产品的一部分,高通优化的人工智能模型现在可以扩展到每个人工智能加速器和公司的广泛技术。

“Qualcomm AI Engine direct 是一个 AI 库,可将现有模型直接委托和部署到 Qualcomm Technologies 平台上的 AI 加速器,现在将为 OEM 和开发人员提供开发一个功能,然后在不同产品和层级之间移动相同模型的能力,”高通解释道。

回到我们之前所说的,人工智能如今无处不在,但它并不是全面的技术集合。例如,您的智能手机会处理语音识别以将命令转换为提醒或查找方向,而 XR 耳机则具有传感器来跟踪您的动作。在汽车领域,有一套完全不同的传感器,例如激光雷达、雷达和其他机器视觉技术。

从上到下,Qualcomm AI Stack 据说支持流行的 AI 框架,如 TensorFlow、PyTorch、ONNX,以及包括 TensorFlow Lite、TensorFlow Lite Micro、ONNX 运行时在内的运行时。它还包括推理 SDK,例如 Qualcomm 的 Android 神经处理 SDK,以及最近的 Windows。