TensorFlow Model Garden 提供許多適用於視覺和自然語言處理 (NLP) 的最新機器學習 (ML) 模型實作,以及工作流程工具,讓您可以在標準資料集上快速設定和執行這些模型。無論您是想為知名的模型基準化效能、驗證最近發布的研究結果,還是擴充現有模型,Model Garden 都能協助您推動 ML 研究和應用向前發展。
Model Garden 包含下列適用於機器學習開發人員的資源
- 官方模型,適用於視覺和 NLP,由 Google 工程師維護
- 研究模型,發布為 ML 研究論文的一部分
- 訓練實驗架構,適用於官方模型的快速宣告式訓練設定
- 專門的 ML 運算,適用於視覺和自然語言處理 (NLP)
- 模型訓練迴圈管理,透過 Orbit
這些資源旨在與 TensorFlow Core 架構搭配使用,並與您現有的 TensorFlow 開發專案整合。Model Garden 資源也根據 開放原始碼授權提供,因此您可以自由擴充和散布模型和工具。
實務 ML 模型在訓練和執行時需要大量運算,而且可能需要加速器,例如圖形處理單元 (GPU) 和張量處理單元 (TPU)。Model Garden 中的大多數模型都是使用 TPU 在大型資料集上訓練的。不過,您也可以在 GPU 和 CPU 處理器上訓練和執行這些模型。
Model Garden 模型
Model Garden 中的機器學習模型包含完整程式碼,因此您可以測試、訓練或重新訓練模型,以進行研究和實驗。Model Garden 包含兩個主要模型類別:官方模型和研究模型。
官方模型
官方模型存放區是最新模型的集合,重點在於視覺和自然語言處理 (NLP)。這些模型是使用目前的 TensorFlow 2.x 高階 API 實作的。此存放區中的模型程式庫已針對快速效能進行最佳化,並由 Google 工程師積極維護。官方模型包含額外的中繼資料,您可以使用這些中繼資料,透過 Model Garden 訓練實驗架構快速設定實驗。
研究模型
研究模型存放區是模型集合,發布為研究論文的程式碼資源。這些模型是使用 TensorFlow 1.x 和 2.x 實作的。研究資料夾中的模型程式庫由程式碼擁有者和研究社群支援。
訓練實驗架構
Model Garden 訓練實驗架構可讓您使用其官方模型和標準資料集,快速組裝和執行訓練實驗。訓練架構使用 Model Garden 官方模型隨附的額外中繼資料,讓您可以使用宣告式程式設計模型快速設定模型。您可以使用 TensorFlow Model 程式庫中的 Python 指令定義訓練實驗,或使用 YAML 設定檔設定訓練,例如此範例。
訓練架構使用 tfm.core.base_trainer.ExperimentConfig
作為設定物件,其中包含下列頂層設定物件
如需使用 Model Garden 訓練實驗架構的完整範例,請參閱使用 Model Garden 進行圖片分類教學課程。如需訓練實驗架構的相關資訊,請查看 TensorFlow Models API 文件。如果您正在尋找管理模型訓練實驗訓練迴圈的解決方案,請查看 Orbit。
專門的 ML 運算
Model Garden 包含許多視覺和 NLP 運算,專門設計用於執行在 GPU 和 TPU 上有效率執行的最新模型。請查看 TensorFlow Models Vision 程式庫 API 文件,以取得專門視覺運算的清單。請查看 TensorFlow Models NLP 程式庫 API 文件,以取得 NLP 運算的清單。這些程式庫也包含用於視覺和 NLP 資料處理、訓練和模型執行的其他公用程式函式。
透過 Orbit 進行訓練迴圈
訓練 TensorFlow 模型有兩個預設選項
- 使用高階 Keras Model.fit 函式。如果您的模型和訓練程序符合 Keras
Model.fit
(以資料批次進行增量梯度下降) 方法的假設,這會非常方便。 - 編寫自訂訓練迴圈,使用 keras 或不使用。您可以使用低階 TensorFlow 方法 (例如
tf.GradientTape
或tf.function
) 編寫自訂訓練迴圈。不過,此方法需要大量重複程式碼,而且無法簡化分散式訓練。
Orbit 嘗試在上述兩種極端選項之間提供第三種選項。
Orbit 是一個彈性、輕量的程式庫,旨在讓在 TensorFlow 2.x 中編寫自訂訓練迴圈更輕鬆,而且與 Model Garden 訓練實驗架構搭配使用效果良好。Orbit 會處理常見的模型訓練工作,例如儲存檢查點、執行模型評估和設定摘要寫入。它可以與 tf.distribute
無縫整合,並支援在不同的裝置類型 (包括 CPU、GPU 和 TPU 硬體) 上執行。Orbit 工具也是開放原始碼,因此您可以擴充和調整以符合您的模型訓練需求。
Orbit 指南可在此處取得。