Skip to content

Commit

Permalink
Merge branch 'task10' of https://github.com/Anleeos/tvm-cn into task10
Browse files Browse the repository at this point in the history
  • Loading branch information
Anleeos committed Dec 1, 2023
2 parents b4a0e9b + 8ced380 commit 7911acb
Show file tree
Hide file tree
Showing 2 changed files with 7 additions and 7 deletions.
10 changes: 5 additions & 5 deletions docs/how_to/deploy/deploy_models/10-depoly_adreno.md
Original file line number Diff line number Diff line change
Expand Up @@ -10,7 +10,7 @@ title: 在 Adreno™ 上部署预训练模型

本文是一个逐步教程,演示如何在 Adreno 上(不同精度)部署预训练的 PyTorch ResNet-18 模型。

首先,我们需要安装 PyTorch 与 TorchVision ,因为我们将使用它作为我们的模型库。
首先,我们需要安装 PyTorch 与 TorchVision,因为我们将使用它作为我们的模型库。

可以通过 pip 快速安装:

Expand All @@ -23,7 +23,7 @@ pip install torchvision

[在 Adreno GPU 上部署](https://tvm.hyper.ai/docs/how_to/deploy/deploy_adreno)

在构建部分之后,构建目录中应该有两个文件: “libtvm_runtime.so” 和 “tvm_rpc”。让我们将它们推送到设备上并运行 TVM RPC 服务器。
在构建部分之后,构建目录中应该有两个文件:“libtvm_runtime.so” 和 “tvm_rpc”。让我们将它们推送到设备上并运行 TVM RPC 服务器。

## TVM RPC 服务器

Expand Down Expand Up @@ -208,7 +208,7 @@ img = np.expand_dims(img, 0)
![cat](https://tvm.apache.org/docs/_images/sphx_glr_from_keras_001.png)

## 将 PyTorch 模型转换为 Relay 模块
TVM 具有用于各种框架 的在 relay.frontend 中的前端 API 。现在对于 PyTorch 模型导入,我们有 relay.frontend.from_pytorch API 。输入名称可以是任意的
TVM 具有用于各种框架 的在 relay.frontend 中的前端 API。现在对于 PyTorch 模型导入,我们有 relay.frontend.from_pytorch API。输入名称可以是任意的

```python
input_name = "input0"
Expand Down Expand Up @@ -253,7 +253,7 @@ mod = apply_graph_transforms(

```

正如您在 IR 中所看到的那样,该架构现在包含强制转换操作,这些操作是为了将精度转换为 FP16 。您还可以使用 "float16" 或 "float32" 作为其他 dtype 选项。
正如您在 IR 中所看到的那样,该架构现在包含强制转换操作,这些操作是为了将精度转换为 FP16。您还可以使用 "float16" 或 "float32" 作为其他 dtype 选项。

## 准备 TVM 目标

Expand Down Expand Up @@ -374,7 +374,7 @@ if local_demo:
remote = rpc.LocalSession()
else:
tracker = rpc.connect_tracker(rpc_tracker_host, rpc_tracker_port)
# 运行大模型时, 应该增加 `session_timeout`
# 运行大模型时应该增加 `session_timeout`
remote = tracker.request(key, priority=0, session_timeout=60)

if local_demo:
Expand Down
4 changes: 2 additions & 2 deletions docs/how_to/deploy/deploy_models/11-depoly_adreno_tvmc.md
Original file line number Diff line number Diff line change
Expand Up @@ -8,11 +8,11 @@ title: 使用 tvmc 接口在 Adreno™ 上部署预训练模型
单击 [此处](https://tvm.apache.org/docs/how_to/deploy_models/deploy_model_on_adreno_tvmc.html#sphx-glr-download-how-to-deploy-models-deploy-model-on-adreno-tvmc-py) 下载完整的示例代码
:::

**作者**: Siva Rama Krishna
**作者**Siva Rama Krishna

本文是一篇关于在 Adreno™ 上部署预训练 Keras resnet50 模型的逐步教程。

此外,您应该已经为 Android 构建了 TVM 。请参阅以下说明,了解如何构建它并设置 RPC 环境。
此外,您应该已经为 Android 构建了 TVM。请参阅以下说明,了解如何构建它并设置 RPC 环境。

[在 Adreno GPU 上部署](https://tvm.hyper.ai/docs/how_to/deploy/deploy_adreno)

Expand Down

0 comments on commit 7911acb

Please sign in to comment.