使用BERT fine tuning記錄

2021-09-02 18:45:05 字數 1029 閱讀 2884

bert:

tensorflow版本:

pytorch版本:

在readme中清楚地說明了bert的fine-tuning的方式,在此記錄實際使用的過程。

檔案前一百行

flags = tf.flags

flags = flags.flags

flags.define_string( "data_dir", none, "the input data dir. should contain the .tsv files (or other data files) " "for the task.")

這些的作用是:新增命令列的可選引數。

利用該函式可以實現在命令列中選擇需要設定的引數來執行程式,

可以不用反覆修改源**中的引數,直接在命令列中進行引數的設定。

這樣就明白我們在命令列裡輸入的命令的作用了。

例如:

flags.define_string(

"data_dir", none,

"the input data dir. should contain the .tsv files (or other data files) "

"for the task.")

第乙個是引數名稱,第二個引數是預設值,第三個是引數描述。

如果一些引數沒有被輸入,那麼使用預設引數。

對應命令列中的輸入是:(在這裡是使用的glue資料集的路徑)

--data_dir=$glue_dir/mrpc \
這樣做的好處是,通過輸入不同的檔名、引數,可以快速完成程式的調參和更換訓練集的操作,不需要進入原始碼中更改。

學習到了。

此外,在檔案的最後:

#使用這種方式保證了,如果此檔案被其他檔案 import的時候,不會執行main 函式

if __name__ == '__main__':

使用GraphEdit使用

1 註冊元件。其實乙個filter就是乙個com元件,所以使用之前需要註冊,可以有兩種方法對元件進行註冊。1.直接使用命令。命令列下輸入 regsvr32 hqtlystd.ax 編譯之後你會在工程目錄下的debug中找到hqtlystd.ax,這個就是要用的filter 即可註冊成功。2.vc6....

MySQL使用學習使用 mysql學習使用

1 mysql學習 1 安裝 ubuntu下直接安裝 apt get install mysql server 2 檢查伺服器是否啟動 sudo netstat tap grep mysql,如果啟動成功,出現以下資訊 tcp00localhost.localdomain mysql listen ...

學習使用CSDN markdown使用

建立乙個自定義列表 如何建立乙個註腳 注釋也是必不可少的 katex數學公式 新的甘特圖功能,豐富你的文章 uml 圖表 flowchart流程圖 匯出與匯入 你好!這是你第一次使用markdown編輯器所展示的歡迎頁。如果你想學習如何使用markdown編輯器,可以仔細閱讀這篇文章,了解一下mar...