• GPT2聊天机器人
• • 模型应用开发和部署
  • • 模型服务化
    • 直接源代码运行
    • 本地容器化部署
    • 云原生网络部署
    • 更多CubeAI模型服务，参见： 《CubeAI服务原生模型示范库》
  • API接口

GPT2聊天机器人

基于OpenAI的大语言模型GPT2的聊天机器人。由于GPT2的能力有限，聊天效果仅供娱乐。

• 本模型参考文章《GPT in 60 Lines of NumPy》 。
• 本模型改编自开源项目： https://github.com/jaymody/picoGPT.
• 用到的预训练模型来自：https://openaipublic.blob.core.windows.net/gpt-2/models

模型应用开发和部署

模型服务化

本模型基于 ServiceBoot微服务引擎 进行服务化封装，参见： 《CubeAI模型开发指南》

直接源代码运行

$ sh pip-install-reqs.sh
$ serviceboot start
或
$ python3 run_model_server.py

本地容器化部署

一键式本地容器化部署和运行，参见： 《CubeAI模型独立部署指南》 或 CubeAI Docker Builder

云原生网络部署

本模型服务可一键发布至 CubeAI智立方平台 进行共享和部署，参见： 《CubeAI模型发布指南》

更多CubeAI模型服务，参见： 《CubeAI服务原生模型示范库》

API接口

本模型提供了1个API接口：

• API接口1：

  • API端点： /api/data

  • HTTP方法： POST

  • HTTP请求体：

    {
        "action": "predict",
        "args": {
            "msg": "<输入的问题>",
            "length": "<回答的长度>"
        }
    }
    

  • HTTP响应体：

    {
        "status": "ok"|"err",
        "value": "回答的内容"
    }