1樓：JuLec
在伺服器上部署，可以採用TensorRT加速；在CPU或FPGA上部署可以採用OpenVINO加速；或者也可以採用框架對應的C++庫，比如pytorch提供的libtorch庫；針對這些方案的部署方式可以參考我的文章。這些方式都可以採用C++實現，而且難度不大，效果又極好。對於C++的知識量而言，大多數是C++的基本語法，還有一些標準模板庫的知識，比如vector等等，入門不難
2樓：gaojing
一般部署深度學習模型會要用到模型加速推理框架，這裡所說的是模型服務化，並不是整合SDK方式，SDK方式可以呼叫深度學習框架如何讀入graph 權值再通過cudnn或者其他構建，單純服務部署，可以借鑑一些框架比如tensorserving tensorrt等或者在tesnsorrt基礎來開發自己加速推理框架！！深度學習模型訓練與部署是兩碼事情喲！！
3樓：
提取碼: di7u
特點，支援batch inference，稍微優化了點後處理效能。
使用第三方庫為OpenCV4.5.1，Intel TBB，因為是cuda支援的，所以opencv請自己編譯。
OpenCV確實越來越好用，支援的模型也越來越多
4樓：日月
C++ 如果要對這門語言非常精通，摸清楚裡面的很多坑的確需要比較長的時間。但是心並不是說你先專門學一年兩年C++才能做事情。我們學習任何東西都是從淺入深的乙個過程。
逐步認識精進的。
所以在你有了c的基礎上先達到cpp入門水平，兩三個就夠了。這時候，你就可以用cpp做一些基本的開發工作了。包括呼叫一些深度學習的cpp api。
等你熟練了之後，如果想更深層次的理解一些內部實現機制，就需要cpp包括計算機系統更深的知識，你接著學習精進就好了，別上來就要先把一門語言整多精通，那是沒有意義的，也是錯誤的學習方法，事倍功半。
至於怎麼學
日月：學習完c++primer，離找工作還有多遠？
5樓：Focus
會C語言再學C++沒啥大問題吧，不可能要學個3-5年這麼久，3個月就足夠了，畢竟有C語言基礎，可以拿本C++ Primer看起來。
模型部署的話一般公司都有自己的推理框架，有些框架也是基於C語言的，這個倒不用怕，進了公司看看sample code很快就能用起來。開源庫的話可以用libtorch，onnxruntime這些庫，都有C++ API。
概率圖模型與深度學習能夠如何結合？
David 9 這篇文章我想能幫到你 Stanford教授Daphne Koller 概率圖模型 終極入門第三講馬爾可夫網路 Markov Networks PGM不新，Judea Pearl 八幾年就開始了 深度學習也不新，就是神經網路換了個名字，CNN是Fukushima的Neocognitio...
深度學習裡，如何判斷模型陷入區域性最優？
鄧康康 一階導為零的點稱為穩定點，可以分為以下三類 區域性最小，區域性最大，鞍點。這些點根據二階資訊去區分。當Hessian矩陣特徵值全部大於零，這時稱之為區域性最小 也包含了全域性最小 當Hessian矩陣特徵值全部大於等於零，並且存在0特徵值，這時可能為區域性最小，也可能是鞍點。當Hessian...
用Flask部署Pytorch模型如何處理併發問題？
在PyTorch文件https pytorch.org tutorials intermediate flask rest api tutorial.html 裡提到了關於實際生產中使用的幾個建議 參考Flask給出的一些建議，這裡要注意，這裡提到的一些工具可能和你使用的系統平台有關，要自己選擇合適...