28
28
29
29
## News 📢
30
30
31
- * 🔥 2022.6.30 B站[ 飞桨直播课] ( https://space.bilibili.com/476867757 ) ,FastDeploy天使用户邀测沟通会,与开发者共同讨论推理部署痛点问题。
31
+ * 🔥 2022.6.30 晚20:30,FastDeploy天使用户邀测沟通会,与开发者共同讨论推理部署痛点问题,欢迎大家扫码报名入群获取会议链接。
32
+ <div align =" center " >
33
+ <img src =" https://user-images.githubusercontent.com/54695910/175854075-2c0f9997-ed18-4b17-9aaf-1b43266d3996.jpeg " width = " 150 " height = " 200 " />
34
+ </div >
32
35
33
- * 🔥 2022.6.27 [ ** FastDeploy v0.1** ] ( https://github.com/PaddlePaddle/FastDeploy/releases/tag/v0.1 ) 邀测版发布 !🎉
34
- * 💎 第一批发布对于40个重点模型在8种重点软硬件环境的支持的SDK
36
+ * 🔥 2022.6.27 [ ** FastDeploy v0.1.0 ** ] ( https://github.com/PaddlePaddle/FastDeploy/releases/tag/release%2F0.1.0 ) 测试版发布 !🎉
37
+ * 💎 发布40个重点模型在8种重点软硬件环境的支持的SDK
35
38
* 😊 支持网页端、pip包两种下载使用方式
36
39
37
40
38
41
## 特性
39
42
40
43
41
- ### 📦开箱即用的推理部署工具链,支持云边端、多硬件、多平台部署
44
+ ### 📦** 开箱即用的推理部署工具链,支持云边端、多硬件、多平台部署**
42
45
- 网页端点选下载、PIP 安装一行命令,快速下载多种类型SDK安装包
43
46
- 云端(含服务器、数据中心):
44
47
- 支持一行命令启动 Serving 服务(含网页图形化展示)
55
58
- 支持 ARM CPU 全系(含高通、MTK、RK等)
56
59
- 支持 NVIDIA GPU 全系(含 V100、T4、Jetson 等)
57
60
58
- ### 🤗丰富的预训练模型,轻松下载SDK搞定推理部署
61
+ ### 🤗** 丰富的预训练模型,轻松下载SDK搞定推理部署**
59
62
60
63
61
64
<font size =0.5 >
62
65
63
- | <font size =2 > 模型| <font size =2 > 任务 | <font size =2 > 大小(MB) | <font size =2 >端侧 | <font size =2 >移动端 | <font size =2 > 移动端 | <font size =2 >边缘端 | <font size =2 >服务器+云端 | <font size =2 >服务器+云端 | <font size =2 > 服务器+云端 | <font size =2 > 服务器+云端 |
66
+ | <font size =2 > 模型| <font size =2 > 任务 | <font size =2 > 大小(MB) | <font size =2 >端侧 | <font size =2 >移动端 | <font size =2 > 移动端 | <font size =2 >边缘端 | <font size =2 >服务器+云端 | <font size =2 >服务器+云端 | <font size =2 > 服务器+云端 | <font size =2 > 服务器+云端 |
64
67
| ---| ---| ---| ---| ---| ---| ---| ---| ---| ---| ---|
65
68
| ----- | ---- | ----- | <font size =2 > Linux | <font size =2 > Android | <font size =2 > iOS | <font size =2 > Linux | <font size =2 > Linux | <font size =2 > Linux | <font size =2 > Windows | <font size =2 > Windows |
66
69
| ----- | ---- | --- | <font size =2 > ARM CPU | <font size =2 > ARM CPU | <font size =2 > ARM CPU | <font size =2 > Jetson | <font size =2 > X86 CPU | <font size =2 > GPU | <font size =2 > X86 CPU | <font size =2 > GPU |
107
110
108
111
109
112
## SDK安装
110
-
113
+
111
114
### 方式1:网页版下载安装
112
-
113
- - 可以登录[ EasyEdge网页端] ( https://ai.baidu.com/easyedge/app/openSource ) 下载SDK
114
-
115
+
116
+ - 可以登录[ EasyEdge网页端] ( https://ai.baidu.com/easyedge/app/openSource ) 下载SDK
117
+
115
118
### 方式2:pip安装
116
119
117
120
开发者可以通过pip安装` fastdeploy-python ` 来获取最新的下载链接
118
121
119
122
- 环境依赖
120
-
121
- python >= 3.6
123
+
124
+ python >= 3.6
122
125
123
126
- 安装方式
124
-
127
+
125
128
```
126
129
pip install fastdeploy-python --upgrade
127
130
```
128
-
131
+
129
132
- 使用方式
130
133
131
134
- 列出FastDeploy当前支持的所有模型
@@ -137,7 +140,7 @@ pip install fastdeploy-python --upgrade
137
140
fastdeploy --download_sdk \
138
141
--model PP-PicoDet-s_320 \
139
142
--platform Linux \
140
- --soc x86-NVIDIA-GPU \
143
+ --soc Intel-x86_64 \
141
144
--save_dir .
142
145
```
143
146
@@ -168,28 +171,28 @@ pip install fastdeploy-python --upgrade
168
171
- [C++ 服务化部署](./docs/Jetson-Linux-CPP-SDK-Serving.md)
169
172
170
173
### 3 端侧部署
171
- - ArmLinux 系统(ARM CPU)
174
+ - ArmLinux 系统(ARM CPU)
172
175
- [C++ Inference部署(含视频流)](./docs/ARM-Linux-CPP-SDK-Inference.md)
173
176
- [C++ 服务化部署](./docs/ARM-Linux-CPP-SDK-Serving.md)
174
177
- [Python Inference部署](./docs/ARM-Linux-Python-SDK-Inference.md)
175
178
- [Python 服务化部署](./docs/ARM-Linux-Python-SDK-Serving.md)
176
-
179
+
177
180
### 4 移动端部署
178
181
- [iOS 系统部署](./docs/iOS-SDK.md)
179
- - [Android 系统部署](./docs/Android-SDK.md)
180
-
182
+ - [Android 系统部署](./docs/Android-SDK.md)
183
+
181
184
### 5 自定义模型部署
182
185
- [快速实现个性化模型替换](./docs/Replace-Model-With-Anther-One.md)
183
-
186
+
184
187
## 社区交流
185
188
- **加入社区👬:** 微信扫描二维码后,填写问卷加入交流群,与开发者共同讨论推理部署痛点问题
186
-
189
+
187
190
<div align="center">
188
191
<img src="https://user-images.githubusercontent.com/54695910/175854075-2c0f9997-ed18-4b17-9aaf-1b43266d3996.jpeg" width = "200" height = "200" />
189
192
</div>
190
-
191
-
192
-
193
+
194
+
195
+
193
196
## Acknowledge
194
197
195
198
本项目中SDK生成和下载使用了[EasyEdge](https://ai.baidu.com/easyedge/app/openSource)中的免费开放能力,再次表示感谢。
0 commit comments