
Hailo推出用于边缘设备的GenAI芯片 功耗仅为2.5瓦
Hailo推出了一款适用于边缘设备的GenAI芯片,功耗仅为2.5瓦,这款芯片采用先进的节能技术,能够在低功耗状态下提供高效的计算能力,适用于各种需要智能处理能力的边缘设备,如物联网设备、机器人等,该芯片的推出将极大地促进边缘计算领域的发展,为智能设备的普及和应用带来更多可能性。
相比之下,英伟达的 Jetson Orin Nano 芯片的 INT8 运算性能最高可达 67 万亿次,是 INT4 的两倍,但功耗范围为 7-25 瓦。
Hailo-10H 专为消费、企业和汽车市场的边缘设备而设计,结合了“高效率、高成本效益和强大的软件生态系统”,并由其“成熟且广泛采用的软件堆栈”提供支持,据该初创公司称,每月有超过 10000 名用户使用该软件堆栈。
采用 Hailo-10H 的公司包括惠普公司,该公司使用该芯片作为HP AI Accelerator M.2 卡的基础,该卡可以与 HP 点对点销售服务以及 HP 工作站和商用 PC“无缝”集成。
该初创公司表示,Hailo-10H 可以实现自然语言人机交互、视觉感知和多模式人工智能等高级用例在边缘环境典型的功率和成本限制内无缝运行。”
该初创公司表示,在 Hailo 进行的性能基准测试中,该芯片在各种 20 亿参数语言和视觉语言模型中实现了“第一个词元延迟低于 1 秒,每秒超过 10 个词元”。
Hailo 是挑战 NVIDIA 的几家 AI 芯片初创公司之一,其合作伙伴范围广泛,包括惠普、戴尔和研华等 OEM 厂商,以及 J-Squared Technologies 和 Kaga Fei America 等分销商。