Компонент BulkInferrer TFX Pipeline

Компонент BulkInferrer TFX выполняет пакетный вывод на немаркированных данных. Сгенерированный InferenceResult( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) содержит исходные функции и результаты прогнозирования.

BulkInferrer потребляет:

• Обученная модель в формате SavedModel .
• Немаркированный tf.Примеры, содержащие функции.
• (Необязательно) Результат проверки компонента Evaluator .

BulkInferrer выдает:

• Результат вывода

Использование компонента BulkInferrer

Компонент BulkInferrer TFX используется для выполнения пакетного вывода на немаркированных tf.Examples. Обычно он развертывается после компонента Evaluator для выполнения вывода на основе проверенной модели или после компонента Trainer для непосредственного выполнения вывода на экспортированной модели.

В настоящее время он выполняет вывод модели в памяти и удаленный вывод. Для удаленного вывода требуется, чтобы модель размещалась на платформе Cloud AI.

Типичный код выглядит так:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

Более подробная информация доступна в справочнике по API BulkInferrer .