實驗室有一筆三十萬左右的預算,現在想配兩到三颱深度學習伺服器,如何配?

時間 2021-05-06 18:45:35

1樓:木頭龍

這種專業應用,直接給你配置是不負責任的。按照現在的行業情況,建議初步開發完畢後,先短期租用雲伺服器做乙個測試,記錄下應用需求和效能瓶頸後,有針對性的選擇配置。如果有必要的話,還需要針對不同的模型,不同的引數,不同的資料量分別做測試和記錄。

首先是多大的資料量,必須用單精度還是可以用半精度,對視訊記憶體容量要求如何。這個決定了你要選擇什麼樣的計算卡,是必須用專業的計算卡,還是可以用普通遊戲卡也能達到相同的效能。

其次是對CPU和記憶體容量的要求。雖然說一般的深度學習大概是一張GPU對應2個核心,記憶體容量不低於視訊記憶體容量。但這個不是100%適用的。

有的可以通過調整IO策略,使用更低容量的記憶體,而有的因為資料相關性問題,需要使用更大容量的記憶體。與此相關的還需要考慮儲存系統的效能和容量問題。這個決定了是必須上昂貴的雙路系統,還是價效比更高的單路系統也能獲得相近的效能。

再次是既然是配置不止一台,那麼還要考慮並行的效率以及互聯問題。模型並行度好的,可以考慮配多台低效能的節點。資料互動頻繁的,則需要單個節點的效能盡可能的高。

節點之間是千兆網路夠用還是需要上10G甚至40G網路,對於不同的模型,或者相同的模型只是引數不同/資料量不同可能都會有不同的最佳選擇。

所以,最後的最佳配置可能是完全不同的。單純算計算能力,可能是4~6臺Core X/Xeon-W搭配四張2080能獲得最高的整體效能。也可能因為視訊記憶體瓶頸、互動瓶頸,你只能配置雙路Xeon-5115/6126搭配8張大視訊記憶體的Tesla計算卡,單個節點就能把這三十萬預算花完。

有一筆五十萬的拆遷款怎麼投資?

mary 北極 復讀重新高考吧,有這五十萬,好好上個大學 能上研究生最好上研究生,一年七萬足夠了 學好了投資理財。這會改變你一生的命運的 一藍乾坤 同是天涯淪落人,相逢何必曾相識?曾經的我就好像是現在的你,有書讀不起 50萬人民幣對現在的生活水平來說,的確是個小數目。如果是以前,我也會像你一樣想盡辦...

手裡有三十萬左右,做什麼東西能一年能有15萬回報?

Sunday 有呀,那30萬整成彭于晏,鍛鍊好自己身體,去高檔的健身房,做教練,別說年入15萬,月入30萬都可以,只不過你可能要頻繁參加你女朋友們的60大壽而已,恩,什麼鋼絲球的安排上,紅色的枸杞,藍色的wg安排上。其實關了燈都一樣 上海明亞朱榮輝 你能不能我不知道,但是我有個方法可以讓你和你的孫子...

在乙個實驗室當大師兄 或大師姐 有多累?

累不累看不同人的為人處世風格吧。我想問問大家,如果乙個大師兄 姐不想帶 教下面的師弟師妹們實驗,是不是很自私?前提 大師兄 姐是那種比較孤僻的人,不會讓師弟師妹幫忙幹任何活,喜歡自己乙個人 尤其晚上 做實驗,課題自己想自己設計自己完成,如果有比較看得上的師弟師妹會分享課題幫助其畢業,不喜歡的就根本不...