IA responsável

Com os aplicativos de IA, os desenvolvedores aproveitam o poder dos modelos de fundação, da experiência em pesquisa e das tecnologias de IA de conversação do Google para criar aplicativos de IA generativa de nível empresarial. Por ser uma tecnologia em estágio inicial, os recursos e usos em evolução criam potencial para aplicação incorreta, uso indevido e consequências não intencionais ou imprevistas. Por exemplo, os aplicativos de IA podem gerar resultados inesperados, incluindo texto ofensivo, insensível ou incorreto.

Considerando esses riscos e complexidades, o AI Applications foi projetado com base nos Princípios de IA do Google. No entanto, é importante que os desenvolvedores entendam e testem os modelos para implantá-los com segurança e responsabilidade. Para ajudar os desenvolvedores, os aplicativos de IA têm filtros de segurança integrados para ajudar os clientes a bloquear resultados potencialmente prejudiciais nos casos de uso. Para mais informações, consulte Configurações de segurança da Pesquisa da Vertex AI.

Quando o AI Applications é integrado ao contexto e ao caso de uso exclusivo de um cliente, outras considerações de IA responsável e limitações de modelo podem precisar ser consideradas. Incentivamos os clientes a aproveitar as práticas recomendadas de imparcialidade, interpretabilidade, privacidade e segurança.

A Vertex AI para Pesquisa oferece filtros do SafeSearch para filtrar resultados de pesquisa de sites com conteúdo explícito. Os resultados explícitos podem incluir conteúdo como pornografia, violência e imagens sangrentas. A filtragem do SafeSearch não está disponível para conteúdo particular.

O resumo (para pesquisa na Web e conteúdo particular) filtra respostas depreciativas, sexualmente explícitas, tóxicas ou violentas. Além disso, a resposta do resumo contém atributos de segurança, que incluem "categorias prejudiciais" e tópicos que podem ser considerados sensíveis.

Pesquisa de sites

O SafeSearch pode ser aplicado a conteúdo público indexado pela Vertex AI para Pesquisa, como sites. Quando o SafeSearch está ativado, a Pesquisa da Vertex AI ajuda a filtrar conteúdo explícito nos resultados da pesquisa da Vertex AI de um cliente para todas as consultas de imagens, vídeos e sites. Embora esses filtros não sejam 100% precisos, avaliamos e atualizamos continuamente os recursos de filtragem.

Em determinados contextos e casos de uso, os clientes podem precisar acessar uma ampla variedade de informações, mesmo que incluam conteúdo explícito, para coletar insights e resultados abrangentes da Vertex AI para Pesquisa. Os clientes podem ativar e desativar os filtros de segurança usando a API ao definir safe_search como "true" ou "false".

Para ativar o SafeSearch na Vertex AI Search, use a seguinte chamada de API:

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para ativar o SafeSearch na Pesquisa com acompanhamento na Vertex AI para Pesquisa, use a seguinte chamada de API:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

A configuração safe_search se aplica aos resultados da pesquisa e também às saídas da Vertex AI para Pesquisa, como a geração de resumos (que se baseia nos resultados da pesquisa).

As saídas da Pesquisa da Vertex AI, como resumos, são avaliadas em relação a uma lista de atributos de segurança que filtram conteúdo potencialmente prejudicial, mesmo quando o safe_search está desativado.

Resumo de conteúdo particular e pesquisa em sites

As saídas da Pesquisa da Vertex AI, como o resumo, são avaliadas com base em uma lista de atributos de segurança, que filtra conteúdo potencialmente prejudicial, como informações depreciativas, sexualmente explícitas, tóxicas ou violentas, mesmo quando safe_search para pesquisa de sites está desativado. Além disso, é possível filtrar respostas que incluem "categorias prejudiciais" e tópicos que podem ser considerados sensíveis usando safetyAttributes na resposta da API Vertex AI Search.

Respostas substitutas

Se o modelo de resumo responder a uma solicitação com uma string vazia ou uma resposta genérica, isso significa que a entrada ou a saída estão acionando um filtro de segurança. Na resposta da API Vertex AI Search, SummarySkippedReason é definido como BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION se uma possível violação da política for detectada.

Se você achar que um filtro de segurança está sendo acionado de maneira inadequada, informe o problema pelo consoleGoogle Cloud .

Outros recursos