Skip to content

Commit

Permalink
Merge pull request #182 from ealiums/ealiums-patch-1
Browse files Browse the repository at this point in the history
Update 03architecture.md
  • Loading branch information
chenzomi12 authored May 23, 2024
2 parents 142a372 + 0059661 commit 5a36586
Showing 1 changed file with 1 addition and 1 deletion.
2 changes: 1 addition & 1 deletion 01Introduction/03architecture.md
Original file line number Diff line number Diff line change
Expand Up @@ -92,7 +92,7 @@ AI 系统自身设计挑战较高(如更大的规模、更大的超参数搜

- 生命周期管理:数据读取,训练与推理等流程开发与管理。机器学习领域的 DevOps 也就是 MLOps 的基础工具支持。其可以让重复模块被复用,同时让底层工具有精确的信息进行模块间的调度与多任务的优化,同时让各个环节模块化解耦,独立和更为快速的演进。

2. ** AI 框架层**:AI 框架不仅仅是指如 PyTorch 等训练框架,还包括推理框架。负责静态程序分析与计算图构建,编译优化等工作。AI 框架本身通过提供供用户编程的 API 获取用户表达的模型,数据读取等意图,在静态程序分析阶段完成尽可能的自动前向计算图构建,自动求导补全反向传播计算图,计算图整体编译优化,算子内循环编译优化等。包括并不限于以下领域:
2. **AI 框架层**:AI 框架不仅仅是指如 PyTorch 等训练框架,还包括推理框架。负责静态程序分析与计算图构建,编译优化等工作。AI 框架本身通过提供供用户编程的 API 获取用户表达的模型,数据读取等意图,在静态程序分析阶段完成尽可能的自动前向计算图构建,自动求导补全反向传播计算图,计算图整体编译优化,算子内循环编译优化等。包括并不限于以下领域:

- 计算图构建:静态计算图、动态计算图构建等。不同的 AI 框架类型决定了其使用静态还是动态图进行构建,静态图有利于获取更多信息做全图优化,动态图有利于调试,目前实际处于一个融合的状态,如 PyTorch2.X 版本后推出 Dynamo 特性支持原生静态图。

Expand Down

0 comments on commit 5a36586

Please sign in to comment.