1樓：柏韻寒
用TensorFlow的C++ api，tf serving只是在上面加了個比較彆扭的殼，二次開發可以直接從C++的api開始，實現基本功能不會花太多時間。
簡單模型可以自己開發inference庫來實現，比如像yolo那樣純c的庫，不用tf的粒度的op應該可以快不少。
2樓：無敵小想法
我們經常會有個擔心：乙個演算法模型做好之後，是否就over了？如何將對模型進行線上迭代呢？
其實思路也很簡單，就是構造新訓練資料，和老訓練資料做一定的融合，然後重新構造特徵詞庫，最後用總的資料重新訓練再上線即可。 具體操作就是，從線上資料庫里拉取下來相應的最近資料（包含了一些我們需要的特徵），然後用已有的分類器去分類，用多個分類器投票法方法取樣出其中置信度高的資料，當做我們新的標註資料加入到總的訓練資料中來。
當然這裡會存在一些細節，比如取多少資料，每個類別資料樣本量，因此我們需要對線上model做回歸測試，確保以前構建的線下驗證測試集的效果是沒有明顯下降的。（用了新的內容資料和特徵訓練的模型，必然會影響以前的用老資料構建的驗證集的效能，所以其實對於驗證集也需要定時更新才是） 這個工作如果是線上業務的話，基本是要持續不斷地更新去做的，所以如何把它寫成乙個自動化的工程，這個其實是乙個必須考慮的問題
3樓：鄒大爺
題主啥模型？後台啟兩個，乙個做服務，乙個不斷取資料更新不行麼？然後按時更新服務的模型；
如果資料太大，集群，或者資料定量線下訓練？
報錯還沒遇到過，線下調好
機器學習的解釋模型存在嘛？
摘抄 機器學習的解釋模型存在嘛？桔了個仔的回答 知乎 https www.zhihu.com question 315999018 answer 623354828目前human understandable的模型有幾種 你可以說CNN運作原理是通過Conv，Pooling等層提取特徵，但我給你乙個...
機器學習模型在工業界的應用？
哈哈哈 參照另乙個回答 基於神經網路的現實中的應用？哈哈哈的回答 知乎 基於神經網路的現實中的應用？機器學習大多是應用在影象 語音和文字，也能用於旋轉機械故障診斷。在本質上，旋轉機械故障診斷是乙個分類的問題。例如，常見的機械故障包括軸承滾動體故障 外圈道故障 內圈道故障，齒根裂紋 齒麵點蝕 缺齒故障...
機器學習中的模型到底是指什麼？
林高遠 舉乙個最簡化的例子 樣本集 A 類 1,3,4,5 樣本集 B 類 7,8,9 分類目標 大於 x 為 A類 小於 x 類為 B類 具體 x 可以等於任意實數，但不一定都能達成 100 正確分類目標。x 0，無法正確分類 x 10，無法正確分類 x 8，部分正確分類 x 4.5，部分正確分類...