El componente de canalización TFX de BulkInferrer

El componente BulkInferrer TFX realiza inferencia por lotes en datos sin etiquetar. El InferenceResult generado ( tensorflow_serving.apis.prediction_log_pb2.PredictionLog ) contiene las características originales y los resultados de la predicción.

BulkInferrer consume:

• Un modelo entrenado en formato SavedModel .
• Tf sin etiqueta. Ejemplos que contienen características.
• (Opcional) Resultado de la validación del componente Evaluador .

BulkInferrer emite:

• InferenciaResultado

Usando el componente BulkInferrer

Se utiliza un componente BulkInferrer TFX para realizar inferencia por lotes en tf.Examples sin etiquetar. Por lo general, se implementa después de un componente Evaluador para realizar inferencia con un modelo validado, o después de un componente Entrenador para realizar inferencia directamente en el modelo exportado.

Actualmente realiza inferencia de modelos en memoria e inferencia remota. La inferencia remota requiere que el modelo esté alojado en Cloud AI Platform.

El código típico se ve así:

bulk_inferrer = BulkInferrer(
    examples=examples_gen.outputs['examples'],
    model=trainer.outputs['model'],
    model_blessing=evaluator.outputs['blessing'],
    data_spec=bulk_inferrer_pb2.DataSpec(),
    model_spec=bulk_inferrer_pb2.ModelSpec()
)

Más detalles están disponibles en la referencia de la API de BulkInferrer .