9b0e35e3创建于 4月28日历史提交

ONNX Runtime NAPI 变更日志

概要

本文档记录 ONNX Runtime NAPI 项目的版本变更,包括功能新增、Bug 修复、性能优化等核心改动,便于开发者和使用者追踪版本迭代内容。

v1.0.0

  • 鸿蒙NAPI接口:提供标准NAPI接口进行模型加载、推理执行和资源管理
  • 多架构支持:鸿蒙OHOS平台(armv8a、armeabi-v7a、x86_64)
  • CPU后端推理:基于CPU的高性能算子推理功能
  • 标准ONNX格式:支持标准ONNX v1.14+ 模型格式导入
  • 丰富算子集:内置ONNX标准算子库(Conv、MatMul、LSTM、Attention等)
  • 图优化:常量折叠、算子融合、死代码消除等模型优化Pass
  • 内存优化:动态内存池管理,支持Arena内存分配器减少内存碎片
  • 线程控制:支持设置Intra-op和Inter-op线程数,优化多核CPU利用率
  • 动态Shape支持:支持动态输入尺寸(Dynamic Shape)推理
  • 静态Shape优化:固定输入尺寸下的常量折叠和预分配优化
  • 模型缓存:支持优化后的模型序列化到磁盘,加速下次加载
  • 输入输出管理:支持张量数据类型自动转换、内存零拷贝(Zero-Copy)
  • 量化支持:支持INT8/UINT8量化模型推理
  • 错误处理:完善的错误码和异常处理机制