本文的作者详细介绍了自己组装深度学习服务器的过程,从选择CPU,GPU,主板,电源,机箱等,到组件的安装,再到硬件的设置。服务器。作者指出,组装商必须首先了解自己的需求,然后根据预算做出合理的选择。我刚刚开始学习fast.ai课程的第一部分-“面向程序员的实用深度学习”。我想构建自己的服务器来训练模型,以作为对AWS p2和存储的使用的升级。我将使用更大的数据集,并且由于训练模型时缺乏足够的处理能力而不想等待数小时,因此从长远来看,构建自己的DL rig服务器对我来说是个不错的选择,这将为我节省大量时间和金钱,并且我可以在组装服务器方面积累良好的经验。组装零件清单。在准备零件之前,您必须确定要从机器中得到什么。我个人希望获得以下改进:比Amazon p2更强大,可以容纳更多的GPU,RAM,存储和自定义液体冷却空间,可以长时间使用,以将硬件预算控制在3,000美元左右。我使用pcpartpicker。 com来完善每个组件,因为它可以非常轻松地比较和组装其他零件,并且还具有很好的零件兼容性检查器。我将详细解释选择每个组件的原因以及它们如何与整个系统一起工作。 GPU:GTX 1080 TI Hybrid,因为您使用图形卡来训练模型,所以这是组装过程中最重要的部分。因此,GPU功能越强大,处理大型数据集的速度就越快。 GPU内存越大,处理能力越强(例如:更快的训练速度,更大的批处理大小...)。我为服务器选择了其中两个图形卡,因为我在预算中为它们保留了空间,因此我可以使用其中一个图形卡来训练模型,而让另一个用户在第二张卡上训练模型。您可以根据预算减少GPU内存(1070、1060等),以防止预算与其他组件竞争。 Hybrid 1080 GPU也很不错,因为除了大多数GPU具有常规风扇冷却功能外,它还预装了aio水冷系统。 1080 TI在满负荷运行时会过热,因此在训练模型时,良好的冷却系统对于延长图形卡的寿命和保持其性能至关重要。有关显卡选择的更多详细信息,请参阅。本文帮助我真正了解了如何选择适合深度学习环境的图形卡。 CPU:AMD Threadripper 1900x尽管您使用图形卡训练神经网络,但是CPU仍然非常重要,因为您需要将其用于数据准备和其他操作,因此这些多核CPU将有助于加快速度。我使用“ Thread Ripper” Treadripper,因为这是市场上一个非常新的多核CPU(ThreadRipper 2具有32核!),它比Intel便宜得多。 1900x是去年发布的基本TR。它只有8个核心,但是我对该服务器的总体目标是保持其可伸缩性。要注意的一件事是,在选择CPU时,请确保图形卡有8或16个pcie插槽,以确保它们在低负载下的最佳性能,否则有堵塞系统的风险。在高端CPU上,如果服务器中有4个图形卡,则您有足够的PCIe插槽。主板:MSI X399 SLI Plus选择该主板是因为它是完整的ATX主板,可以容纳4个GPU和高达128GB的RAM。就像我之前说的,该服务器的主要目标之一是保持其可升级性。内存:32GB Corsair Vengeance LPX DDR4(2 x 16GB)内存越大,处理大数据集就越容易。我的下一个升级计划是再增加两个16GB RAM记忆棒,这就是为什么我没有安装四通道内存(4个8GB记忆棒)的原因,尽管这会提高服务器的性能。储存空间:256GB Samsung SSD& 2TB HDD我将Ubuntu,我的所有库,正在使用的数据集存储在SSD上,以及所有其他数据都存储在2TB机械硬盘上。冷却器:Corsair H100i v2液体冷却器“ Thread Ripper”没有备用冷却器(如果您有30美元的余额,您至少应该买一个便宜的二手冷却器),所以我希望可以使用24/7便宜且易于维护的冷却器。这种具有各种优点的冷却器非常易于安装,并且非常可靠(在成千上万个单元中,只有一到两个冷却液可能泄漏)且安静。电源:EVGA SuperNOVA 1000w 80 +金牌认证,最好使用电源超过技术要求的PSU。 PCPartpicker的功率计算器可以大致计算出您需要多少功率(我的服务器为824w),但是它经常会在数量上出错,