w1573007
V2EX  ›  问与答

搭建实验室使用的深度学习服务器

  •  1
     
  •   w1573007 · Sep 16, 2020 via Android · 3790 views
    This topic created in 2257 days ago, the information mentioned may be changed or developed.

    实验室资金有限只买了一台服务器。128 的内存,i5cpu,v100 卡。现在想让多人使用计算。

    我想的方案是 dock,但不知道性能怎么样。老师给出的方案是 Jupiter 多用户多虚拟环境。

    主要大家都要跑 bert,怕内存爆了导致所有人的实验都爆了。

    大佬们有什么建议或者方案嘛。

    13 replies  •  2020-09-17 11:08:21 +08:00
    yangyaofei
    yangyaofei
    Sep 16, 2020
    1
    v100 单卡? 那只够一两个人跑 BERT 吧.... 怎么都会爆的感觉
    w1573007
    w1573007
    OP
    Sep 16, 2020 via Android
    2
    @yangyaofei 实验室好多少人,cpu,gpu 都用
    sleeepyy
    sleeepyy
    Sep 16, 2020
    3
    直接多用户 ssh 进去自己匀时间用啊,炼丹的机器还搞那么复杂干什么。
    另外单卡可能真的不太行,gpu 的多任务其实挺难受的
    Tony042
    Tony042
    Sep 16, 2020
    4
    可以搞个 slurm 系统,所有人上去按先后和权重一个一个任务算,和 hpc 一样管理就行了
    Vanquish5419
    Vanquish5419
    Sep 16, 2020
    5
    让领导加预算
    我公司的服务器 Xeon(R) Gold 6240, 内存 512,P100 * 2,我一个人炼丹都嫌不够
    实在不行,2080Ti 多买几张,多人用比单卡方便
    misaka19000
    misaka19000
    Sep 16, 2020
    6
    加预算
    chizuo
    chizuo
    Sep 16, 2020
    7
    搞个服务器管理系统,貌似有这种适用于 gpu 管理的,联系你买服务器的供应商,找他们要
    yangyaofei
    yangyaofei
    Sep 16, 2020
    8
    @w1573007 那基本只能每次一个人了
    w1573007
    w1573007
    OP
    Sep 16, 2020 via Android
    9
    @Tony042 大佬有教程么
    594duck
    594duck
    Sep 16, 2020 via iPhone
    10
    你老师的意见是对的。

    最烦干什么都上 docker
    Andiry
    Andiry
    Sep 16, 2020
    11
    多买几张 V100,跑的时候用 CUDA_VISIBLE_DEVICES 指定 GPU
    Tony042
    Tony042
    Sep 16, 2020
    12
    s0ne4ver
    s0ne4ver
    Sep 17, 2020
    13
    实验室导师让我们自己找云主机然后报销,我们用过比较实惠的是 mistgpu.com 的,体验挺好。
    阿里云华为云滴滴云腾讯云等等各大云服务提供商也都有带 gpu 的服务器,只是价格可能贵一些,像宽带存储都得单独扣费。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2077 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 44ms · UTC 01:57 · PVG 09:57 · LAX 17:57 · JFK 20:57
    ♥ Do have faith in what you're doing.