IA responsável

As aplicações de IA permitem que os programadores tirem partido do poder dos modelos de base da Google, dos conhecimentos especializados em pesquisa e das tecnologias de IA conversacional para criar aplicações de IA generativa de nível empresarial. Como tecnologia em fase inicial, as suas capacidades e utilizações em evolução criam potencial para aplicação indevida, utilização indevida e consequências não intencionais ou imprevistas. Por exemplo, as aplicações de IA podem gerar resultados inesperados, incluindo texto ofensivo, insensível ou factualmente incorreto.

Tendo em conta estes riscos e complexidades, as aplicações de IA são concebidas com os princípios de IA da Google em mente. No entanto, é importante que os programadores compreendam e testem os respetivos modelos para os implementar em segurança e de forma responsável. Para ajudar os programadores, as aplicações de IA têm filtros de segurança incorporados para ajudar os clientes a bloquear resultados potencialmente prejudiciais no respetivo exemplo de utilização. Para mais informações, consulte o artigo Definições de segurança para a Pesquisa do Vertex AI.

Quando as aplicações de IA são integradas no exemplo de utilização e no contexto únicos de um cliente, podem ter de ser consideradas outras considerações de IA responsável e limitações do modelo. Incentivamos os clientes a tirarem partido da equidade, da interpretabilidade, da privacidade e da segurança das práticas recomendadas.

O Vertex AI Search oferece filtros da Pesquisa segura para filtrar resultados da pesquisa de Websites explícitos. Os resultados explícitos podem incluir conteúdo como pornografia, violência e agressividade. A filtragem da Pesquisa segura não está disponível para conteúdo privado.

A geração de resumos (tanto para a pesquisa de Websites como para conteúdo privado) filtra respostas como informações depreciativas, sexualmente explícitas, tóxicas ou violentas. Além disso, a resposta de resumo contém atributos de segurança, que incluem "categorias prejudiciais" e tópicos que podem ser considerados sensíveis.

Pesquisa de Websites

A Pesquisa segura pode ser aplicada a conteúdo público indexado pela Pesquisa do Vertex AI, como Websites. Quando a Pesquisa segura está ativada, a Pesquisa do Vertex AI ajuda a filtrar conteúdo explícito nos resultados da Pesquisa do Vertex AI de um cliente para todas as consultas de imagens, vídeos e Websites. Embora esses filtros não sejam 100% precisos, avaliamos e atualizamos continuamente as capacidades de filtragem.

Em determinados contextos e exemplos de utilização, os clientes podem precisar de aceder a uma vasta gama de informações, mesmo que incluam conteúdo explícito, para recolher estatísticas e resultados abrangentes da Pesquisa do Vertex AI. Os clientes podem ativar e desativar os filtros de segurança através da API definindo safe_search como "true" ou "false".

Para ativar a Pesquisa Segura para a Vertex AI Search, use a seguinte chamada de API:

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para ativar a Pesquisa Segura para a pesquisa com seguimentos no Vertex AI Search, use a seguinte chamada de API:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

A definição safe_search aplica-se aos resultados da pesquisa e também às saídas da pesquisa da Vertex AI, como a geração de resumos (que se baseia nos resultados da pesquisa).

Os resultados do Vertex AI Search, como a geração de resumos, são avaliados com base numa lista de atributos de segurança que filtram conteúdo potencialmente prejudicial, mesmo quando a safe_search está desativada.

Resumo para conteúdo privado e pesquisa de Websites

As saídas da Vertex AI Search, como a geração de resumos, são avaliadas em função de uma lista de atributos de segurança, que filtra conteúdo potencialmente prejudicial, como informações depreciativas, sexualmente explícitas, tóxicas ou violentas, mesmo quando a safe_search para a pesquisa de Websites está desativada. Além disso, pode filtrar respostas que incluam "categorias prejudiciais" e tópicos que possam ser considerados sensíveis através da utilização de safetyAttributes na resposta da API Vertex AI Search.

Respostas alternativas

Se o modelo de resumo responder a um pedido com uma string vazia ou uma resposta genérica, significa que a entrada ou a saída está a acionar um filtro de segurança. Na resposta da API Vertex AI Search, o valor de SummarySkippedReason é definido como BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION se for detetada uma potencial violação de política.

Se considerar que um filtro de segurança está a ser acionado de forma inadequada, comunique este problema através daGoogle Cloud consola.

Recursos adicionais