Deployment ed endpoint

I modelli e le funzionalità di AI generativa di Google e dei partner su Vertex AI sono esposti come endpoint regionali specifici e un endpoint globale. Gli endpoint globali coprono il mondo intero e offrono disponibilità e affidabilità superiori rispetto alle singole regioni.

Tieni presente che gli endpoint del modello non garantiscono la disponibilità della regione o l'elaborazione ML nella regione. Per informazioni sulla residenza dei dati, consulta Residenza dei dati.

Endpoint globale

Selezionare un endpoint globale per le richieste può migliorare la disponibilità complessiva riducendo gli errori di esaurimento delle risorse (429). Non utilizzare l'endpoint globale se hai requisiti di elaborazione ML, perché non puoi controllare o sapere a quale regione vengono inviate le tue richieste di elaborazione ML quando viene effettuata una richiesta.

Modelli supportati

L'utilizzo dell'endpoint globale è supportato per i seguenti modelli Google:

• Anteprima delle immagini di Gemini 2.5 Flash
• Gemini 2.5 Flash-Lite
• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash
• Gemini 2.0 Flash-Lite

Per saperne di più sui modelli partner, consulta Google Cloud posizioni degli endpoint del modello partner

Utilizzare l'endpoint globale

Per utilizzare l'endpoint globale, escludi la località dal nome dell'endpoint e configura la località della risorsa su global. Ad esempio, il seguente è l'URL dell'endpoint globale:

https://aiplatform.googleapis.com/v1/projects/test-project/locations/global/publishers/google/models/gemini-2.0-flash-001:generateContent

Per l'SDK Google Gen AI, crea un client che utilizzi la località global:

client = genai.Client(
    vertexai=True, project='PROJECT_ID', location='global'
)

Per SDK Vertex AI Python, inizializza l'SDK utilizzando la località global:

import vertexai
from vertexai.generative_models import GenerativeModel

vertexai.init(project='PROJECT_ID', location='global')

Limitazioni

Le seguenti funzionalità non sono disponibili quando utilizzi l'endpoint globale:

• Ottimizzazione
• Previsione batch
• Corpus di Retrieval-Augmented Generation (RAG) (le richieste RAG sono supportate)

L'utilizzo dell'endpoint globale con il throughput riservato è disponibile solo per i seguenti modelli:

Posizioni degli endpoint dei modelli Google

Gli endpoint dei modelli Google per l'AI generativa su Vertex AI sono disponibili nelle seguenti regioni.

* La regione è disponibile solo quando utilizzi il throughput riservato di una singola zona

+ Il perfezionamento supervisionato non è supportato in questa regione.

Google Cloud posizioni degli endpoint del modello partner

Google gestisce le richieste provenienti dalla regione che hai specificato. Per alcuni modelli, Google offre anche un endpoint globale per migliorare la disponibilità complessiva e ridurre i tassi di errore. L'endpoint globale può avere un insieme separato di quote rispetto all'endpoint regionale e non supporta i requisiti di residenza dei dati. Per saperne di più, consulta la sezione "Endpoint regionali e globali" in Modelli partner di Vertex AI per MaaS.

Gli endpoint dei modelli partner per l'AI generativa su Vertex AI sono disponibili nelle seguenti regioni:

Passaggi successivi

• Per un tutorial sui blocchi note che illustra l'endpoint globale, consulta Introduzione all'endpoint globale Vertex AI.
• Scopri di più sulla residenza dei dati dell'AI generativa su Vertex AI.
• Scopri di più sulle regioni diGoogle Cloud .
• Scopri di più sui controlli di sicurezza per funzionalità.
• Scopri di più sui modelli che forniscono il supporto dell'IA generativa su Vertex AI. Consulta il riferimento al modello di base di AI generativa.
• Scopri di più sulle località di Vertex AI.