Windows下的tensorflow模型如何量化?

時間 2021-06-08 13:44:59

1樓:jojo

跟Windows Linux無關,你去找量化的教程,官網也有。tf有兩種量化方式,一種加入偽量化節點,一種post_training量化。

2樓:上善

這跟環境有什麼關係?

import tensorflow as tf

from tensorflow.tools.graph_transforms import TransformGraph

from tensorflow.python.framework import dtypes

if __name__ == '__main__':

in_graph = 'erinesim.pb'

out_graph = 'erinesim_int8.pb'

inputs = ['input_ids','input_mask','segment_ids']

outputs = ['loss/Softmax']

transforms = ["quantize_weights"]

# Read input_graph

input_graph_def = tf.GraphDef()

with open(in_graph, "rb") as f:

input_graph_def.ParseFromString(f.read())

output_graph_def = TransformGraph(input_graph_def, inputs, outputstransforms)

with tf.gfile.FastGFile(out_graph, 'wb') as f:

f.write(output_graph_def.SerializeToString())

Windows下TensorBoard的使用

Wxz seeking 瀉藥。因為我本身沒有考研的意向,也沒有過多的了解考研的各項事宜。所以在是否能夠跨專業考研這個問題上,我木有辦法給出答案。至於在專業選擇和學習上,我不清楚你所選擇的護理專業是否有學前相關的方向o o?還是說是傳統的護理專業?如果是傳統的護理專業的話,又是在沒有任何教育學 營養學...

Windows 下用 Git,Mercurial,Bazaar 哪個分布式 VCS 管理 SVN Repo 最好?

輕揚 的這個回答完全是答非所問!題主問的是 3 種常見的分布式版本控制系統對於管理 SVN 倉庫支援怎樣,不是問誰好誰差誰流行。吐槽完畢,開始答題。其實上面 3 個我只對 Git 較熟悉,當然談不上精通 Mercurial Hg,python 寫的 嘗試過,放棄了,發現入門 Git 之後,有些不理解...

如何評價google新發布的tensorflow的新版本1 5 0?

預編譯包只支援CUDA9 害我還得編譯乙個CUDA8的湊合用,Pascal卡懶得更新了 這兩天在改分布式的程式,剛好發現1.5加了replicate model fn跟現有的estimator搭配,最新的master分支裡面又加了TowerOptimizer,不用以前那種手動reduce每個towe...