TensorFlow 2.6.5模型迁移

• 前言

• TF Adapter简介

• 环境准备

• 自动迁移

• 手工迁移

• compat.v1脚本手工迁移

  • 迁移背景
  • Estimator迁移
  • sess.run迁移
  • Keras迁移
  • Horovod脚本迁移

• 模型训练

  • 执行单Device训练
  • 执行分布式训练

• 精度调试

  • 精度调试流程
  • 调优前检查
  • 精度分析工具部署
  • 浮点异常检测
  • 融合异常检测
  • 整网数据比对
  • 随机错误检测
  • 跨版本精度问题检测
  • 参考
    • precision_tool命令参考
    • 整网精度比对结果文件说明

• 性能调优

  • 性能调优流程

  • 基本调优

    • 混合精度训练
    • 替换GELU激活函数
    • AOE自动调优
    • 亲和性CPU自动绑核调优

  • Profiling数据采集与分析

  • 进阶调优

• 模型固化

• 模型推理

  • 离线推理
  • 在线推理

• 更多特性

  • 调整梯度切分策略
  • 自定义算子开发

• 样例参考

  • 自动迁移与训练
  • 手工迁移与训练

• 常用操作

  • 调用TensorFlow的C++接口在NPU设备执行方法
  • 安装Python版本的proto

• FAQ

  • compat.v1模式下使用工具迁移Horovod脚本后，执行失败
  • 网络调测时ReduceSum算子性能差
  • 安装TensorFlow 2.6.5后，执行import tensorflow时报错
  • 多Device上执行模型不同导致应用程序出错

• TF Adapter 2.x API