推理服务

最近更新时间: 2019-11-13 06:14:43

在模型列表中创建推理服务,可以把指定模型发布为推理服务。 新建推理服务时需要填写模型的相关信息,例如服务的名称、服务类型是实时推理服务还是离线推理服务。 平台通过在模型信息中的校验数据来获得模型输入的schema,预测列以外的字段都会被作为模型输入,可以对输入的类型和样例值参数说明进行修改。 选择推理服务对应的资源信息后会创建对应的推理服务。测试环境中发布推理服务不需要审批,生产环境中发布推理服务需要项目管理员审批。 推理服务列表页可以对推理服务进行相关操作: 中止:中止当前推理服务 删除:删除当前推理服务 API说明:查看当前推理服务的API说明 推理服务API说明 实时推理服务的API说明中包含推理服务的模型输入信息、接口地址信息。 同时也提供了API调试的窗口以及API调用代码样例,用户可以在API说明页面了解实时API的调用方式。 批量推理服务的API说明页面包含在线提交的页面,用户可以在页面上直接使用我的数据中的数据进行离线推理,相关推理结果会写入指定的COS数据目录中。 实时推理服务注册到API网关 数据挖掘组件提供实时推理服务供外部应用程序调用,可以将实时推理服务注册到API网关,相关应用的鉴权需要通过API网关来实现。 在推理服务列表中,点击实时推理类目右侧的操作,从操作中选择注册到API网关。 填写API网关相关信息。API名称用于标识具体的API,可以选择现有的API也可以新建API。API版本默认为推理服务名称,API主题为实验名称。 注册成功的API网关会显示在API网关列中,点击API网关名称可以跳转到API网关详情页。