解码器&模型上传
为保障解码器&模型在传输过程中文件的完整性,ASE提供OBS对象存储供用户存储解码器&模型,用户仅需提供存储后生成的云存储地址,ASE将直接从地址中下载并解压打包。
上传流程介绍
- 获取对象存储密钥及存储空间地址:登录引擎托管平台,前往控制台右上角:资源管理-密钥管理(前往查看);
存储空间地址: oss.xfyun.cn
- OBS对象存储提供的接口为标准的S3接口,可采用客户端工具如(DragonDisk、s3brower),或命令行工具,登录账号并连接存储空间。
- 打包已开发完成的解码器及模型,格式支持:tar.gz,解码器开发说明详见: 解码器开发
- 上传打包后的解码器及模型,并获取存储地址及对应的MD5校验值;
- 解码器最大支持5GB,模型最大支持50GB
工具使用介绍
OBS对象存储提供的接口为标准的 S3 接口,Windows 下可采用 Amazon 提供的S3 Browser 客户端工具,Linux 下可以使用s3cmd 命令行工具。
Windows下S3 Browser使用说明
1、下载并安装客户端软件
下载S3 Browser软件(需下载7.6以上的版本),解压压缩包后,双击 S3 客户端软件后执行安装程序,安装完成后打开软件。 注:该软件依赖框架:.Net Framework 4,如果没有,则需先安装该软件。
2、添加账号
安装完成后需添加账号信息。
Account Name // 账号的名称,可自行填写,该字段不影响认证
Account Type // 账户类型,请选择:S3 Compatible Storage
REST Endpoint // 连接存储的域名或IP地址,可在引擎托管平台控制台-密钥管理页面查看,地址: oss.xfyun.cn
Access Key // 访问存储空间的账号ID,与引擎托管平台账号绑定,可在控制台-资源管理-密钥管理页面查看
Secret Key // 访问存储空间的私钥密码,与引擎托管平台账号绑定,可在控制台-资源管理-密钥管理页面查看
Encrypt Access Keys with a password // 无需勾选
Use secure transfer(SSL/TLS)// 无需勾选
全部填写完成后,保存配置,完成账号创建
3、上传文件
Bucket 由平台自动为用户创建,每个用户独享一个Bucket。点击 File 按钮,选择 Upload files 选项,选择需要上传的文件,也可以上传文件夹,注意:如果有太多的小文件可以打包成压缩包后上传,现支持增量上传。
4、解码器云存储地址
用s3Browser工具上传打包后的解码器及模型文件后,获取存储URL地址如下图:
通过对上传后的文件右单击,选择【Generate Web URL】功能进入【Web URL Generator】即可查看文件下载地址。
5、数据完整性校验
打开工具最上沿的工具菜单,选择Tools 下面的 Options , 打开后显示的页面如下 , 选择Data lntegrity 勾选第一行表示在上传文件时进行MD5 数据完整性校验, 勾选第二行表示在下载文件时进行MD5 数据完整性校验。勾选后,如果上传下载后 数据校验不完整会返回error。
Linux下s3cmd使用说明
1、安装s3cmd (以centos系统为例)
yum -y install s3cmd
2、配置s3cmd
执行 $ s3cmd --configure
生成配置文件,一路Enter
,注意跳过认证并保存配置
......
...
Test access with supplied credentials? [Y/n] n
Save settings? [y/N] y
Configuration saved to '/root/.s3cfg'
修改.s3cfg中以下几项,也可只保留以下几项
[default]
access_key =
secret_key =
host_base = oss.xfyun.cn
host_bucket = %(bucket)oss.xfyun.cn
use_https = False
- Access Key // 访问存储空间的账号ID,与引擎托管平台账号绑定,可在控制台-资源管理-密钥管理页面查看
- Secret Key // 访问存储空间的私钥密码,与引擎托管平台账号绑定,可在控制台-资源管理-密钥管理页面查看
- host_base //连接存储的域名或IP地址,可在引擎托管平台控制台-密钥管理页面查看,域名: oss.xfyun.cn
3、使用s3cmd查看上传文件
+ 列举所有 Buckets
$ s3cmd ls --signature-v2
- 上传引擎资源和模型到某个 bucket
s3cmd put dev.tar.gz s3://my-bucket-name/dev.tar.gz --signature-v2
4、查看bucket下文件,获取引擎和模型资源路径
注意:此处获取的路径在引擎平台填写时需转换为 http://my-bucket-name.oss.xfyun.cn/dev.tar.gz 格式
s3cmd ls s3://my-bucket-name --signature-v2