浪潮突破高能效人工智能物联网(AIoT)系统关键技术

· 588次阅读 · 2022-12-02

近日，浪潮突破高能效人工智能物联网(AIoT)系统关键技术。该技术成果通过控制、计算、存储三方面的软硬协同设计，结合数据流优化、计算通路复用等技术，提供低功耗、高实时性的人工智能物联网系统解决方案，功耗、性能等指标达到国际先进水平。当前，物联网已实现从机器联网发展到物物联网的跨越，但要解决具体场景的实际应用，真正实现万物智联，需要一个智能大脑以发挥更大的价值。未来，人工智能与物联网结合将成为其主要发展方向，即人工智能物联网(AIoT)。国际数据公司(IDC)在《IDC FutureScape:全球人工智能(AI)及自动化市场2022预测——中国启示》中预测，到2024年，近20%的物联网系统将支持人工智能，而近30%的边缘基础设施系统、超过35%的数据中心系统和近90%的IT客户端系统将支持人工智能。可以预见，未来十年，集合人工智能和终端设备的人工智能物联网将加速发展，甚至掀起足以改变社会生产方式的技术革命。面对目前人工智能物联网在市场应用中遇到的问题和瓶颈，浪潮研发团队重点针对现有解决方案能效不高、实时性不高的问题，研发了第五代精简指令集（RISC-V）微控制器、神经网络加速器以及相匹配的LightML推理框架、多源实时操作系统关键技术，实现了更低功耗、更高效率、更低内存占用三方面的重要突破。

▶ 实现更低功耗。系统基于高效总线架构，采用 16/32 位混合编码系统。指令系统与流水线硬件结构精简高效，具备极低成本、极低功耗和高代码密度等优点。

▶ 实现更高效率。通过细粒度计算阵列控制、软硬件协同计算优化、数据存储时域瓦片化等技术，对神经网络模型剪枝、量化等轻量化技术提供硬件支持，提升硬件计算并行度和流水化程度，降低访存成本，从根本上解决神经网络计算在物联网领域软硬件优化技术割裂、硬件计算力有限等问题。

▶ 实现更低内存占用。浪潮自研人工智能物联网推理框架，通过使用该框架的模型压缩工具，在保证模型精度的前提下，对机器学习模型进行剪枝和量化。模型剪枝主要采用结构化剪枝，裁剪掉部分模型冗余网络，降低模型规模。模型量化通过采用INT7、INT8、UINT8或INT32的数据类型替换浮点数据，降低模型内存占用，提高模型推理效率。未来，浪潮将持续加大研发投入，提升科技创新能力，重点突破人工智能物联网等领域关键技术，赋能制造、水利、交通、家居等领域智慧化发展。

【免责声明】自媒体用户发布在亚太财经网评论发表的所有信息、言论等仅代表个人观点，与本网站立场无关，不对您构成任何投资建议。用户应基于自己的独立判断，自行决策投资行为并承担全部风险。任何用户私加自媒体用户发布的联系方式由此带来的损失都由用户自行承担。