BulkInferrer TFX 管線元件

BulkInferrer TFX 元件會對未標記資料執行批次推論。產生的 InferenceResult (tensorflow_serving.apis.prediction_log_pb2.PredictionLog) 包含原始特徵和預測結果。

BulkInferrer 取用

SavedModel 格式的已訓練模型。
包含特徵的未標記 tf.Examples。
(選用) 來自 Evaluator 元件的驗證結果。

BulkInferrer 產生

InferenceResult

使用 BulkInferrer 元件

BulkInferrer TFX 元件用於對未標記的 tf.Examples 執行批次推論。通常部署在 Evaluator 元件之後，以使用已驗證的模型執行推論；或部署在 Trainer 元件之後，以直接對匯出的模型執行推論。

目前執行記憶體內模型推論和遠端推論。遠端推論需要模型託管於 Cloud AI Platform 上。

典型的程式碼如下所示

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

如需更多詳細資訊，請參閱 BulkInferrer API 參考資料。