DIY最强指南,搭建属于自己的深度学习GPU服务器 您所在的位置:网站首页 服务器显卡品牌 DIY最强指南,搭建属于自己的深度学习GPU服务器

DIY最强指南,搭建属于自己的深度学习GPU服务器

2024-05-29 22:43| 来源: 网络整理| 查看: 265

同学们肯定遇到过这样的问题,做深度学习肯定就需要魔改模型,堆叠数据。

这些操作都需要显卡的支持,特别是做CV、NL的童鞋肯定深有体会,不管是Resnet还是Bert,少了显卡就玩不转了,至少目前英伟达的CUDA(Compute Unified Device Architecture)平台还是深度学习的主流,谁叫AMD之前不给力呢哈哈。

然而,实验室的资源往往是有限的,一台服务器好几万,整个实验室也没有几台(忽略大佬实验室),平时用用还好,一到赶论文的时候就捉襟见肘了,严重影响生产力,人民群众日益增长的发论文需求和有限的算力资源之间的矛盾成为了大家的主要矛盾(手动滑稽)。

今天,小智算就来给大家带来搭建属于自己的深度学习GPU服务器的教程,用最便宜的价格实现主流GPU服务器的性能(比如48核256G内存4卡2080Ti走起)!先来上个图,大家可以数框框了

废话不多说,直接来干货

1.确定你的需求

能够做深度学习的显卡有很多,从入门级别的RTX 2060到最高端的Telsa V100 32G都可以,但是最重要的还是挑选出满足自己需求的显卡,这块就不再赘述了,可以参考下面的文章。

当然,如果是深度学习专业的硕士研究生或者博士研究生,那么,小智算推荐2080Ti,保证大家用到毕业时paper发到手抽筋。之所以推荐2080Ti是因为价格、显存和运算速度的综合考量。

1080Ti因为已经停产了,现在市面上流通的主要是矿卡,有很大的翻车可能。而2080Ti的半精度浮点性能提升特别大2080或者2080super显存只有8GB,加两千上11GB的2080Ti显然更合适跑大模型。Titan RTX虽然有24GB的显存,但是同样的价格可以买到2.5张2080Ti了,而且还买不到。

其次是CPU,现在的CPU可谓是形式逆转(AMD YES!),同样的价格下,AMD的CPU性能和功耗吊打祖传14nm++++++++++的Intel两圈,所以,这里就推荐AMD的CPU了。一般来说,价格三千多的三代锐龙3900X(24个框框)就足够大家使用了。另外一个优势在于其频率(4.6/3.8Ghz)还能够保证大家在学习的同时可以办办公打游戏(服务器秒变游戏机)。



【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

    专题文章
      CopyRight 2018-2019 实验室设备网 版权所有