主要技术内容
1 范围
2 规范性引用文件
3 术语、定义和缩略语
3.1 术语和定义
3.2 缩略语
4 智能终端深度学习推理引擎
4.1 概述
4.2 智能终端深度学习推理引擎分层架构
4.3 智能终端深度学习推理引擎执行过程
5 智能终端深度学习推理引擎分层技术要求
5.1 硬件抽象层技术要求
5.2 计算层技术要求
5.3 全图层技术要求
5.4 硬件平台支持要求
5.5 深度学习模型支持要求
5.6 图形程序接口支持要求
5.7 操作系统支持要求
6 智能终端深度学习推理引擎对外接口要求
6.1 硬件接口要求
6.2 应用接口要求
7 智能终端深度学习推理引擎安全技术要求
7.1 智能终端总体安全技术要求
7.2 深度学习推理引擎安全技术要求
7.3 深度学习应用服务安全技术要求
附 录 A (规范性附录) 智能终端深度学习推理引擎在终端软件平台中的位置
附 录 B (规范性附录) 算子、子图与硬件的映射流程
适用范围
本标准规定了智能终端深度学习推理引擎技术要求,包括:推理引擎技术要求,与推理引擎交互的接口要求以及安全技术要求。本标准仅对端侧推理引擎作出技术要求,对于终端软件平台的其他模块不在本标准研究范围之内。
本标准适用于部署了深度学习推理引擎的智能终端,个别条款不适用于特殊行业,专业应用。
是否包含专利
否