Una IA responsable

Aplicaciones de IA permite a los desarrolladores aprovechar el potencial de los modelos básicos, la experiencia en búsqueda y las tecnologías de IA conversacional de Google para crear aplicaciones de IA generativa de nivel empresarial. Dado a que la IA es una tecnología en etapa inicial de desarrollo, sus funciones y usos en constante evolución pueden conducir a aplicaciones incorrectas, usos inadecuados y consecuencias no deseadas o imprevistas. Por ejemplo, las aplicaciones de IA pueden generar resultados inesperados, como texto ofensivo, insensible o incorrecto.

Teniendo en cuenta estos riesgos y complejidades, la API AI Applications se ha diseñado siguiendo los principios de IA de Google. Sin embargo, es importante que los desarrolladores comprendan y prueben sus modelos para implementarlos de forma segura y responsable. Para ayudar a los desarrolladores, AI Applications ha integrado filtros de seguridad para que los clientes puedan bloquear resultados potencialmente dañinos en sus casos prácticos. Para obtener más información, consulta el artículo Configuración de seguridad de Vertex AI Search.

Cuando se integra AI Applications en el caso práctico y el contexto únicos de un cliente, es posible que deban tenerse en cuenta consideraciones adicionales sobre la IA responsable y las limitaciones del modelo. Animamos a los clientes a que aprovechen las prácticas recomendadas sobre equidad, interpretabilidad, privacidad y seguridad.

Vertex AI Search ofrece filtros de Búsqueda Segura para filtrar los resultados de búsqueda de sitios web con contenido explícito. Los resultados explícitos pueden incluir contenido como pornografía, violencia y violencia sangrienta. El filtrado de Búsqueda Segura no está disponible para el contenido privado.

La función de resumen (tanto para la búsqueda en sitios web como para el contenido privado) filtra las respuestas que contengan información despectiva, sexualmente explícita, tóxica o violenta. Además, la respuesta de resumen contiene atributos de seguridad, que incluyen "categorías dañinas" y temas que pueden considerarse sensibles.

Búsqueda en el sitio web

Búsqueda Segura se puede aplicar al contenido público indexado por Vertex AI Search, como los sitios web. Cuando Búsqueda Segura está activada, Vertex AI Search ayuda a filtrar el contenido explícito en los resultados de búsqueda de Vertex AI de un cliente para todas las consultas de imágenes, vídeos y sitios web. Aunque estos filtros no son 100% precisos, evaluamos y actualizamos continuamente las funciones de filtrado.

En determinados contextos y casos prácticos, los clientes pueden necesitar acceder a una amplia gama de información, aunque incluya contenido explícito, para obtener estadísticas y resultados completos de Vertex AI Search. Los clientes pueden habilitar e inhabilitar los filtros de seguridad mediante la API asignando a safe_search el valor "true" o "false".

Para habilitar Búsqueda segura en Vertex AI Search, usa la siguiente llamada a la API:

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para habilitar SafeSearch en la búsqueda con seguimiento en Vertex AI Search, usa la siguiente llamada a la API:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

El ajuste safe_search se aplica a los resultados de búsqueda y a las salidas de Vertex AI Search, como la creación de resúmenes (que se basa en los resultados de búsqueda).

Las salidas de Vertex AI Search, como los resúmenes, se evalúan en función de una lista de atributos de seguridad que filtran el contenido potencialmente dañino incluso cuando safe_search está desactivado.

Resumen de contenido privado y búsqueda en sitios web

Las salidas de Vertex AI Search, como los resúmenes, se evalúan en función de una lista de atributos de seguridad, que filtra el contenido potencialmente dañino, como la información denigrante, sexualmente explícita, tóxica o violenta, incluso cuando la safe_search de búsqueda en sitios web está desactivada. Además, puede filtrar las respuestas que incluyan "categorías dañinas" y temas que puedan considerarse sensibles mediante safetyAttributes en la respuesta de la API Vertex AI Search.

Respuestas alternativas

Si el modelo de resumen responde a una solicitud con una cadena vacía o una respuesta genérica, significa que la entrada o la salida activan un filtro de seguridad. En la respuesta de la API Vertex AI Search, SummarySkippedReason se define como BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION si se detecta una posible infracción de las políticas.

Si crees que un filtro de seguridad se activa de forma inapropiada, informa de este problema a través de laGoogle Cloud consola.

Recursos adicionales