TensorFlow Lite 推論與中繼資料

推論 具有中繼資料的模型可以像幾行程式碼一樣簡單。TensorFlow Lite 中繼資料包含模型用途和使用方式的豐富說明。它可以讓程式碼產生器自動為您產生推論程式碼，例如使用 Android Studio ML Binding 功能或 TensorFlow Lite Android 程式碼產生器。它也可以用來設定您的自訂推論管線。

工具和程式庫

TensorFlow Lite 提供各種工具和程式庫，以滿足不同層級的部署需求，如下所示

使用 Android 程式碼產生器產生模型介面

有兩種方法可以自動產生具有中繼資料之 TensorFlow Lite 模型的必要 Android 封裝程式碼

  1. Android Studio ML Model Binding 是 Android Studio 內提供的工具，可透過圖形介面匯入 TensorFlow Lite 模型。Android Studio 會根據模型中繼資料自動設定專案設定並產生封裝類別。

  2. TensorFlow Lite Code Generator 是一種可執行檔，可根據中繼資料自動產生模型介面。目前支援具有 Java 的 Android。封裝程式碼免除了直接與 ByteBuffer 互動的需求。相反地，開發人員可以使用類型物件 (例如 Bitmap 和 Rect) 與 TensorFlow Lite 模型互動。Android Studio 使用者也可以透過 Android Studio ML Binding 存取程式碼產生器功能。

透過 TensorFlow Lite Task Library 運用現成可用的 API

TensorFlow Lite Task Library 為熱門的機器學習工作 (例如圖片分類、問答等) 提供最佳化的現成可用模型介面。模型介面是針對每個工作量身設計，以達到最佳效能和可用性。Task Library 具有跨平台功能，並支援 Java、C++ 和 Swift。

使用 TensorFlow Lite Support Library 建構自訂推論管線

TensorFlow Lite Support Library 是一個跨平台程式庫，可協助自訂模型介面並建構推論管線。它包含各種公用程式方法和資料結構，可執行預先/後續處理和資料轉換。它也旨在比對 TensorFlow 模組 (例如 TF.Image 和 TF.Text) 的行為，確保從訓練到推論的一致性。

探索具有中繼資料的預先訓練模型

瀏覽 TensorFlow Lite 託管模型和 TensorFlow Hub，以下載適用於視覺和文字工作的具有中繼資料的預先訓練模型。另請參閱 視覺化中繼資料的不同選項。

TensorFlow Lite Support GitHub 存放區

造訪 TensorFlow Lite Support GitHub 存放區以取得更多範例和原始碼。建立新的 GitHub 問題，讓我們知道您的意見回饋。