#404 部署模型提供公网可访问接口

Closed
created 1 year ago by nlp_future · 5 comments
<!-- 为了更有效地识别与解决您的问题,请尽可能的补充如下信息 --> ### 问题描述 需要部署深度学习模型,作为云服务器应用平台gpu计算推理能力。目前部署的模型没办法通过接口访问到。 ### 相关环境(GPU/NPU) ### 相关集群(启智/智算) ### 任务类型(调试/训练/推理) ### 任务名 ### 日志说明或问题截图 ### 期望的解决方案或建议
tanglj was assigned by zeizei 1 year ago
tanglj added the
need review
label 1 year ago
tortois commented 1 year ago
同问,是否可以支持模型发布接口到公网?
tortois commented 1 year ago
如果能支持发布公网接口就完美了。
fisheryu commented 1 year ago
Owner
> 如果能支持发布公网接口就完美了。 主要是国家监管不允许。看是否可以用户自己提供部署地址,通过配置,我们提供工具和服务直接部署到用户自己的的服务器和域名上面。
tortois commented 1 year ago
> > 如果能支持发布公网接口就完美了。 > > 主要是国家监管不允许。看是否可以用户自己提供部署地址,通过配置,我们提供工具和服务直接部署到用户自己的的服务器和域名上面。 请问有具体的实现方案吗?
liuzx commented 3 months ago
Collaborator
目前可以通过在线推理进行部署了
liuzx closed this issue 3 months ago
Sign in to join this conversation.
Loading…
There is no content yet.