toco生成tflite模型

2021-10-23 03:37:15 字數 1126 閱讀 9742

模型量化有兩種方式:python api和toco工具,這兩種方式都可以進行tflite模型轉換,包括float16、int8兩種資料格式的tflite模型

下面介紹使用toco工具進行模型轉換的步驟:

1.從tensorflow官方clone tensorflow原始碼,我使用的是tensorflow==1.13

git clone 

2.安裝bazel工具,詳細步驟可以根據bazel官網進行安裝

3.編譯toco工具,編譯方式

bazel build //tensorflow/lite/toco:toco

4.量化訓練後的模型(帶有虛節點)生成float16tflite模型

./bazel-bin/tensorflow/lite/toco/toco --input_file=model.pb   --output_file=pl.tflite   --input_format=tensorflow_graphdef   --output_format=tflite   --inference_type=float --input_shape=1,768,768,3   --input_array=placeholder   --output_arrays=strided_slice_11,strided_slice_12   --drop_fake_quant   --mean_value=0   --std_value=1

5.量化訓練後的模型(帶有虛節點)生成int8 tflite模型

./bazel-bin/tensorflow/lite/toco/toco --input_file=pixel_link_quan_sigmoid_split64_big_768_x4.pb   --output_file=pl2.tflite   --input_format=tensorflow_graphdef   --output_format=tflite   --inference_type=quantized_uint8   --input_shape=1,768,768,3   --input_array=placeholder   --output_arrays=strided_slice_11,strided_slice_12   --drop_fake_quant   --mean_value=0   --std_value=1

參考:

判別模型,生成模型

父親有兩個孩子,孩子a和孩子b。孩子a具有特殊的能力,他可以深入學習所有東西。小孩子b也具有特殊的能力他只能學習所見事物之間的差異。晴天,父親將兩個孩子 孩子a和孩子b 帶到動物園。這個動物園很小,只有獅子和大象兩種動物。他們從動物園出來後,父親給他們看了乙隻動物,問他們 這只動物是獅子還是大象?孩...

生成模型和判別模型

監督學習的結果是得到乙個分類或 模型,應用該模型可以對給定輸入 x 得到相應的輸出 y,即 y f x 或者p y x 根據不 同類對應 的後驗概 率判斷所 屬類別 根據模型是否表示了x 到 y的生成過程將模型分為兩種,生成方式 判別方式。生成模型p y x p x y p x 如樸素貝葉斯法 隱馬...

生成模型與判別模型

監督學習的任務就是學習乙個模型,應用這個模型,對給定的輸入 相應的輸出。這個模型一般為決策函式 y f x 或 條件概率分布 p y x 生成方法 定義 由資料學習聯合概率分布 p x,y 然後由p y x p x,y p x 求出概率分布p y x 基本思想是首先建立樣本的聯合概率密度模型p x,...