摘要:近日在中國召開了。軟件工程師馮亦菲為我們帶來了題為用高層來進行模型原型設計訓練和生產投入的精彩報告。馮亦菲姐姐給我們講了一些的新的的變動,最重要的是提出了一些使用的建議。但是如果沒有,就會報對象不能解釋為的錯誤。
Google Development Days China 2018近日在中國召開了。非常遺憾,小編因為不可抗性因素滯留在合肥,沒辦法去參加。但是小編的朋友有幸參加了會議,帶來了關于tensorlfow的一手資料。這里跟隨小編來關注tensorflow在生產環境下的最佳應用情況。
Google Brain軟件工程師馮亦菲為我們帶來了題為“用Tensorflow高層API來進行模型原型設計、訓練和生產投入”的精彩報告。
馮亦菲姐姐給我們講了一些tensorflwo的新的API的變動,最重要的是提出了一些使用tensorflow的建議。
用Eager模式搭建原型
用Datasets處理數據
用Feature Columns提取特征
用Keras搭建模型
借用Canned Estimators
用SavedModel打包模型
下面我們依次來了解下這六個方面。
作為計算機界的一份子,我們知道靜態圖的效率自然是快快的,但是動態圖的使用為我們的使用帶來的很多方便。17年的時候,各大框架動態圖大行其道,于是Google提出了tf.contrib.eager應對挑戰。
使用Eager有什么好處呢?回想之前我們在調試tensorflow的程序時,不得不使用sess.run(),麻煩的要死,而使用Eager就可以直接的將變量打印出來,大大方便了我們的調試;好處不止這么多,在進行模型搭建的時候,以前我們需要仔細考慮下Tensor的shape,一旦出錯要定位也很不容易。而使用Eager可以一邊搭建網絡結構,一邊將shape打印出來確認下是否正確。這就使我們在搭建網絡時更加方面快捷了;此外,使用Eager后,自定義Operation和Gradient也會方便很多。
下面舉個簡單的小例子。首先使用pip install tf-nightly(或GPU版本pip install tf-nightly-gpu)來安裝Eager。
import tensorflow?as?tfimport tensorflow.contrib.eager?as?tfetfe.enable_eager_execution() #開啟Eager模式a?=?tf.constant([5], dtype=tf.int32)for?i in?range(a):? ?print?(i)
使用Eager后我們可以很順利的執行上述代碼。但是如果沒有Eager,就會報Tensor對象不能解釋為integer的錯誤。從缺點上來講,Eager的引入也勢必造成額外的成本。
tensorflow的數據讀入有三種方式:通過feeding的方式;通過管道(pipeline)的方式;直接讀取變量或常量中保存的數據。Datasets屬于上面提出的第二種方式,可以簡化數據輸入過程,而且能夠提高數據的讀入效率。
Datasets的組成如上如所示。其中:
Dataset:創建和轉換數據集的基本;
TextLineDataset:從文本文件中讀取行;
TFRecordDataset:讀取TFRecord文件;
FixedLengthRecordDataset:從二進制文件讀取固定大小的記錄;
Iterator:提供一種一次訪問一個數據集元素的方法。
對于Datasets的使用,我們可以使用Dataset的子類提供的方法,也可以直接使用基類的方法:tf.data.Dataset.from_tensors()或者tf.data.Dataset.from_tensor_slices()。
Feature Columns實際上是一個數據結構,一個用于描述特征的數據結構。利用Feature Columns可以很方便的對輸入訓練模型前的特征進行處理。比如鳶尾花的識別,對于輸入數據,每列表示不同的特征,如花瓣的長度,花萼的長度等等,我們想要對不同的列分別進行處理(或者對所有的列進行處理),使用Feature Columns就可以輕松的實現。
如上圖所示,Feature Columns形成了對輸入數據集的結構性描述。可以方便我們對每列數據進行處理,而且使得代碼的可讀性更強。
想必大家對Keras已經比較了解了,使用Keras來構建一個神經網絡,簡直是飛一般地速度,而且完美的兼容tensorflow。
simple_model=Sequential()simple_model.add(Dense(3,input_shape=(x.shape[1],),activation="relu",name="layer1"))simple_model.add(Dense(5,activation="relu",name="layer2"))simple_model.add(Dense(1,activation="sigmoid",name="layer3"))
構建一個模型就是如上面這么簡單,而且調用API中定義好的模型更是只需要一句話,極其的方便。
借用Canned Estimators
Estimators API提供了模型選擇、評估、訓練等一些列功能。在1.3版本后,Google又增加了一層,稱之為Canned Estimators。只需要一行代碼就能夠創建深度模型。Estimators可以結合上面提到的Feature Columns一起使用。
tf.estimator.Estimator是基類;Pre-made Estimators是基類的子類,是已經定義好的模型,我們可以直接拿來使用;Custom Estimators是基類的實列,并不是定義好的,需要我們自己實現模型的定義。
對于這里的模型,由三部分組成:
Input function:輸入函數,即我們前面所說的Datasets,對于數據進行表示;
Model function: 實驗模型的訓練、驗證、測試以及監控模型的參數;
Estimators: 控制數據流以及模型的各種運算。
相比于tensorflow原版的tf.train.Saver保存模型的方式,SavedModel提供了更好的將模型部署到生成環境的手段,更適用于商業目的。
如上圖右下方部分,在使用SavedModel打包模型時,可以產生兩種模型:
對應于第一種模型,Tensorflow Model Analysis可以方便我們對模型進行分析,是不是存在參數的問題,抑或是模型哪里設計的不合適等等;通過分析后,感覺模型不錯,我們就可以通過Tensorflow Serving進行部署。
此外,相比于Saver的方式,我們在inference時不需要再重新定義Graph(模型),如果使用Saver的話,在使用該模型時就需要再定義該模型,如果是一個程序猿設計并使用的還好,如果換成另一個猿去用這個模型,他又不知道模型的tensor的情況,那就尷尬了。所以使用SavedModel可以讓我們更輕松地去使用模型。
總結Google Developer Days給我們提供了一場盛宴,希望和大家一起學習其中的知識。如果可以,請為這篇文章點個贊吧。據說點贊的都能進Google。
閱讀更多react-native技術的優劣
?一招教你讀懂JVM和Dalvik之間的區別
NDK項目實戰—高仿360手機助手之卸載監聽
(Android)面試題級答案(精選版)
非科班出身程序員:如何獲取職業資源、進入好公司?
相信自己,沒有做不到的,只有想不到的在這里獲得的不僅僅是技術!
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/97967.html
摘要:近日在中國召開了。軟件工程師馮亦菲為我們帶來了題為用高層來進行模型原型設計訓練和生產投入的精彩報告。馮亦菲姐姐給我們講了一些的新的的變動,最重要的是提出了一些使用的建議。但是如果沒有,就會報對象不能解釋為的錯誤。 showImg(https://segmentfault.com/img/remote/1460000016518243); Google Development Days ...
摘要:容器包的大小和完整性使得團隊成員能夠在幾秒鐘內部署完整的環境。由的前安全主管美國總統執行辦公室網絡安全高級總監聯合創立的,目前正在準備類似的容器安全產品。在年,在美國召開了兩個大型會議和個小型會議。 軟件容器技術影響著從開發人員、測試人員、運維人員到分析人員的IT團隊中的每一個人,它不像虛擬化一樣只是系統管理員的工具。容器包的大小和完整性使得團隊成員能夠在幾秒鐘內部署完整的環境。 容器...
摘要:谷歌表示,與搜索并列,是谷歌機器學習技術最重要的產品服務載體。谷歌宣布了基于機器學習技術的全面升級,很可能是其誕生以來的最大升級。在去年的大會上,谷歌宣布了其第一代。 showImg(https://segmentfault.com/img/bVNTKT?w=900&h=385); Google I/O Google I/O 是由 Google 舉行的網絡開發者年會,討論的焦點是用 G...
閱讀 1536·2023-04-25 18:56
閱讀 1483·2021-09-29 09:34
閱讀 1709·2021-09-22 15:51
閱讀 3482·2021-09-14 18:03
閱讀 1159·2021-07-23 17:54
閱讀 2017·2019-08-29 18:38
閱讀 2899·2019-08-29 12:38
閱讀 609·2019-08-26 13:41