flask发送pytorch模型

**简介** 在利用flask框架传输pytorch模型时,由于模型参数过于庞大,采用序列化-反序列化的形式进行传输会有着极大的时间开销,如序列化一个ResNet-18模型会花费近10s的时间。而以文件形式...

简介

在利用flask框架传输pytorch模型时,由于模型参数过于庞大,采用序列化-反序列化的形式进行传输会有着极大的时间开销,如序列化一个ResNet-18模型会花费近10s的时间。而以文件形式发送,发送模型的相关信息会变得较为麻烦,因此借助Python的pickle模块直接将Python字典转换为字节流进行发送。

功能

向flask接口发送pytorch模型

代码

import pickle
def send_model():
    net = torch.load("model_path")
send_data = {
        "net":net,
        "model_name":name
        "model_size":size
    }
    
    send_data = pickle.dumps(send_data)
    url = "http://{:s}:{:s}/server/test_url".format(
        SERVER_IP,SERVER_PORT)
    
    requests.post(url=url,data=send_data)

联系

lxcwuwang365@163.com

  • 发表于 2023-02-13 16:37
  • 阅读 ( 245 )

你可能感兴趣的文章

相关问题

0 条评论

请先 登录 后评论
雾望
雾望

3 篇文章

作家榜 »

  1. 解弘艺 17 文章
  2. 高曾谊 16 文章
  3. 胡中天 14 文章
  4. 旺仔牛奶opo 14 文章
  5. LH 14 文章
  6. 罗柏荣 13 文章
  7. Panda-admin 13 文章
  8. 林晨 12 文章