생성형 AI 초보자 가이드

생성형 AI 워크플로는 일반적으로 프롬프트로 시작합니다. 프롬프트는 응답을 얻기 위해 생성형 AI 모델로 전송되는 자연어 요청입니다. 모델에 따라 프롬프트에는 텍스트, 이미지, 동영상, 오디오, 문서 및 기타 형식은 물론 여러 형식(멀티모달)도 포함될 수 있습니다.

모델에서 원하는 응답을 얻기 위해 프롬프트를 만드는 과정을 프롬프트 설계라고 부릅니다. 프롬프트 설계는 시행착오를 반복하는 과정이지만 원하는 방식으로 작동하도록 모델을 잘 다루기 위해 사용할 수 있는 프롬프트 설계 원칙과 전략이 있습니다. Vertex AI Studio는 프롬프트 관리에 도움이 되는 프롬프트 관리 도구를 제공합니다.

프롬프트는 응답 생성을 위해 생성형 AI 모델에 전송됩니다. Vertex AI에는 다음을 포함해서 관리형 API를 통해 액세스할 수 있는 다양한 생성형 AI 기반 모델이 포함됩니다.

• Gemini API: 고급 추론, 멀티턴 채팅, 코드 생성, 멀티모달 프롬프트
• Imagen API: 이미지 생성, 이미지 수정, 이미지 캡셔닝
• MedLM: 의료 질의 응답 및 요약 (비공개 GA)

모델은 크기, 형식, 비용이 다릅니다. Google 모델과 오픈 모델, Google 파트너의 모델은 Model Garden에서 살펴볼 수 있습니다.

복잡한 프롬프트를 사용하지 않아도 원하는 결과를 지속적으로 생성할 수 있도록 Google 파운데이션 모델의 기본 동작을 맞춤설정할 수 있습니다. 이러한 맞춤설정 프로세스를 모델 조정이라고 부릅니다. 모델 조정을 사용하면 프롬프트를 단순화함으로써 요청 비용과 지연 시간을 줄일 수 있습니다.

Vertex AI는 또한 조정된 모델의 성능을 평가할 수 있도록 모델 평가 도구를 제공합니다. 조정된 모델이 프로덕션에 사용할 준비가 되면 이를 엔드포인트에 배포하고 표준 MLOps 워크플로에서 성능을 모니터링할 수 있습니다.

Vertex AI는 모델이 외부 API 및 실시간 정보에 액세스할 수 있는 여러 방법을 제공합니다.

• 그라운딩: 자체 데이터 또는 웹 검색과 같이 정보원에 모델 응답을 연결하여 할루시네이션을 줄여줍니다.
• RAG: 문서 및 데이터베이스와 같은 외부 지식 소스에 모델을 연결하여 보다 정확하고 유용한 응답을 생성합니다.
• 함수 호출: 모델이 외부 API와 상호작용해서 실시간 정보를 얻고 실제 태스크를 수행할 수 있게 해줍니다.

응답이 생성된 후 Vertex AI는 응답에 인용을 포함할지 여부를 확인합니다. 응답에 포함된 텍스트 상당량을 특정 출처에서 가져온 경우 해당 출처가 응답의 인용 메타데이터에 추가됩니다.

프롬프트와 응답이 반환되기 전에 통과하는 마지막 검사는 안전 필터입니다. Vertex AI는 프롬프트와 응답 모두에서 프롬프트 또는 응답이 얼마나 안전 카테고리에 속하는지 확인합니다. 하나 이상의 카테고리에 기준점이 초과되면 응답이 차단되고 Vertex AI가 대체 응답을 반환합니다.

프롬프트와 응답이 안전 필터 검사를 통과하면 응답이 반환됩니다. 일반적으로 응답은 모두 한 번에 반환됩니다. 하지만 Vertex AI에서는 스트리밍을 사용 설정하여 응답이 생성됨에 따라 점진적으로 표시되도록 할 수 있습니다.