herozzm

普通的 Linux 服务器怎么跑 tensorflow?

  •  
  •   herozzm · Apr 9, 2020 · 7412 views
    This topic created in 2404 days ago, the information mentioned may be changed or developed.

    已经是训练好的模型了,投入生产环境也很吃算力,一般的服务器没有独立显卡啊,难道只能跑 cpu 版本,cpu 速度很慢,没法用啊,或者给服务器搞一块强劲显卡?

    9 replies  •  2020-04-15 11:37:29 +08:00
    ZRS
    ZRS
    Apr 9, 2020❤️1
    1
    配显卡或者专门做 Inference 的硬件,有不少做解决方案的公司
    herozzm
    herozzm
    OP
    Apr 9, 2020
    2
    @ZRS 有专门的 gpu 服务器吗?二手的是否可用?
    ZRS
    ZRS
    Apr 9, 2020❤️1
    3
    @herozzm 有啊,不过生产环境捡二手不合适吧...有生产环境有需求不如考虑租云服务商的服务,比自己配硬件弹性好也更可靠
    tomczhen
    tomczhen
    Apr 9, 2020 via Android❤️1
    4
    老黄不让数据中心用游戏卡,捡二手专业卡真的性价比有点低,虚拟化也是一堆坑等着。
    herozzm
    herozzm
    OP
    Apr 9, 2020
    5
    @tomczhen
    @ZRS
    准备上一个 Quadro K620 二手显卡试试
    formaxin
    formaxin
    Apr 9, 2020 via Android
    6
    cpu 慢那就只能上 gpu 了,nvidia-docker 蛮香的
    formaxin
    formaxin
    Apr 9, 2020 via Android❤️1
    7
    再就是优化下模型,减枝蒸馏之类的
    herozzm
    herozzm
    OP
    Apr 9, 2020
    8
    @formaxin docker 19.3 以后都集成了,不用单独 nvidia-docker
    q428202849
    q428202849
    Apr 15, 2020
    9
    独立显卡服务器了解一下
    1 、I3-2100 8G 500G 5M 2IP GTX730 2G 显卡
    2 、I5-3470 8G 1T 10M 2IP GTX730 2G 显卡
    3 、I7-3770 8G 1T 10M 2IP GTX730 2G 显卡
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1480 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 10:45 · PVG 18:45 · LAX 02:45 · JFK 05:45
    ♥ Do have faith in what you're doing.