1樓：Shijie XU
總結：三個不同的名詞，側重點不一樣， 又有重疊,
分布式計算： 側重多個程序（位於同乙個機器，不同機器，甚至雲上的主機）相互通訊，交流，然後共同完成乙個任務，請求等。分布式計算的概念出來很早，從80,90年代那個時候的RPC, CORBA通訊開始， 通訊協議也多種多樣，比如底層的TCP, IP開始，也可以上層的如Web services, Grid, Rest, Http.
等。。。
雲計算（從目前已有的工業界，非學術界，如Platform as Service, Infrasture as service, Software as Service）：實在08年左右的概念，強調將物理主機分割多個主機, 並在上面做儲存，計算方面的概念。Software as service稍微強調在這些虛擬主機上部署軟體應用服務（這個已有SOA的概念了），而其他兩個則更多是物理主機的概念。
從實際應用角度上， 現在普通的說雲計算就是我自己的應用部署到EC2等虛擬主機（通過租用或者自建）上。
SOA是一種軟體設計概念，強調的是軟體的各個模組的介面以Service的方式暴露，這個介面可以是Http Service, COrba Service, Cloud Service 等等。
以上僅自己從業的感受和一點總結。
也可以參考下：http://www.
2樓：
分布式計算和雲
注意分布式計算僅僅是雲計算裡面涉及到的一項技術而已，雲的核心還是終端計算和儲存能力朝雲端的遷移和集中化，並能夠彈性和水平無限擴充套件能力。分布式計算更多解決的是多個計算節點共同提供更強計算能力的問題；而雲裡面還有一部分即首先是要把大的計算單元能夠打散為更細粒度的計算單元，即常說的虛擬化部分的內容。
其次分布式計算往往更加強調是單個Request請求的拆分，如果這樣的話則針對不同的Request請求都可能涉及到要單獨寫MapReduce的演算法程式。而常規雲平台的PaaS層往往並不會拆分單個Request，而是將使用者訪問的多Request併發通過排程規則進行Retouer分發。
雲計算不僅僅是基礎設施，這個只是雲計算的IaaS層，而PaaS層談的即中介軟體資源池，應用的託管和資源的動態排程，這個是在基礎設施之上的一層。
雲計算和SOA
SOA不能理解為雲計算上的應用架構，因為基於雲平台上構建的應用不一定就必須遵循SOA參考架構標準，而是只需要符合PaaS平台的接入規範。同時SOA不是應用架構，只是應用構建的架構方法和思想。這個思想核心是業務元件化，元件能力服務化，可重用，通過服務松耦合。
對於SOA和雲，兩者的關鍵結合點在於對於雲平台集中化後的資源或平台層能力，最終需要通過可復用的服務方式朝應用層提供。通過SOA服務層來實現上層應用和雲平台間的松耦合。
海量資料，分布式計算，平行計算 ，虛擬化與雲計算的關係是怎樣的？
億方雲 海量資料涉及到一些方面。我給你介紹一下 第一點涉及到雲儲存和分布式儲存。第二點涉及到分布式計算和平行計算。分布式計算和平行計算 平行計算偏科學領域，偏單使用者，單請求，在配置多處理機的伺服器下處理。分布式計算偏多使用者，多請求，涉及多台伺服器多個計算單元的分布式處理。分布式計算本身又分為兩種...
有了分布式計算平台後，像天河這種超級計算機還有存在的必要嗎？
山梔 超算中心會雲計算化，雲計算平台也會提供越來越多的超算部署。雲計算和超算本質上沒有區別，兩者的趨同是商業模式適應時代大勢的不斷優化。這裡時代大勢指的是大資料量高效能的計算越來越普及。舊時王謝堂前燕，飛入尋常百姓家 時至今日，乙個普通的本科生可能都能把1000個CPU或者100張GPU充分利用起來...
pytorch 分布式計算 你們都遇到過哪些 坑 bug？
謝永斌 在DistributedDataParallel模式中，dataloader增加DistributedSampler，發現訓練中記憶體 記憶體！非視訊記憶體 會緩慢增加，直到最後出現OSError Errno 12 Cannot allocate memory。到現在也沒解決這個坑。如果有大...