GitHub 모델에서 사용자 고유의 API 키 사용

BYOK(사용자 고유의 API 키)를 GitHub Models로 가져오고, 팀에서 프롬프트, 플레이그라운드, 작업의 모델과 같은 도구에서 원하는 LLM(대규모 언어 모델) 공급자를 사용할 수 있도록 할 수 있습니다. GitHub Models에 대한 자세한 내용은 GitHub Models 정보을(를) 참조하세요.

청구 및 가격 책정에 대한 자세한 내용은 GitHub Models 청구을(를) 참조하세요.

사용자 고유의 API 키를 가져오는 이유는 무엇인가요?

조직 소유자는 거버넌스, 데이터 보안, 규정 준수에 대한 특정 요구 사항이 있을 수 있습니다. 사용자 고유의 API 키를 설정하여 다음을 수행할 수 있습니다.

• 거버넌스 및 규정 준수: 조직의 정책 및 규정 요구 사항을 준수하는 LLM 공급자를 선택합니다.
• 비용 관리: 기존 결제 방법, 계약, 크레딧, 협상된 요금에 맞게 조정하고 사용량 초과를 방지합니다.
• 가시성 및 제어: 팀이 액세스할 수 있는 모델을 관리하고 공급자의 기존 대시보드 및 청구를 통해 사용량을 모니터링합니다.
• 유연성: 조직에서 이미 사용하고 있는 사용자 지정 또는 특수 모델을 지원합니다.

사용자 지정 모델을 추가하도록 API 키 설정

먼저 조직에 대한 관련 API 키를 추가해야 합니다. 그런 다음, 사용자가 사용할 수 있도록 하려는 사용자 지정 모델을 지정하거나 사용하도록 설정할 수 있습니다.

API 키 추가

1. GitHub의 오른쪽 위 모서리에서 프로필 사진을 선택한 다음, Your organizations를 클릭합니다.
2. 조직 옆에 있는 설정을 클릭합니다.
3. 사이드바의 "Code, planning, and automation" 섹션에서 Models 드롭다운을 클릭합니다. 그런 다음, Custom models를 클릭합니다. "Custom Models" 페이지에는 조직에 추가된 API 키와 사용자 지정 모델이 표시됩니다.
4. Add API key를 클릭하세요.
5. "Add the API key" 대화 상자에서 키에 대한 세부 정보를 제공합니다. Name 및 API key는 필수 필드입니다.
6. 저장을 클릭합니다.

사용자 지정 모델 사용

1. GitHub의 오른쪽 위 모서리에서 프로필 사진을 선택한 다음, Your organizations를 클릭합니다.
2. 조직 옆에 있는 설정을 클릭합니다.
3. 사이드바의 "Code, planning, and automation" 섹션에서 Models 드롭다운을 클릭합니다. 그런 다음, Development를 클릭합니다.
4. "Models permissions"에서 All publishers를 선택하여 API 키에 의해 추가된 모델을 사용하도록 설정하세요.
   • 이 옵션을 사용할 수 없는 경우 조직에서 모델을 사용하도록 허용해야 합니다. 팀의 모델 사용 관리을(를) 참조하세요.
5. 필요에 따라 Only select models를 선택하여 사용하거나 사용하지 않도록 설정된 모델의 사용자 지정 목록을 만듭니다. 이렇게 하면 조직에서 사용할 수 있는 모델을 제어할 수 있습니다.

사용하거나 사용하지 않도록 설정된 모델 목록 만들기

조직에서 사용할 수 있는 모델을 제어하려면 다음과 같이 사용하거나 사용하지 않도록 설정된 모델 목록을 만듭니다.

1. GitHub의 오른쪽 위 모서리에서 프로필 사진을 선택한 다음, Your organizations를 클릭합니다.
2. 조직 옆에 있는 설정을 클릭합니다.
3. 사이드바의 "Code, planning, and automation" 섹션에서 Models 드롭다운을 클릭합니다. 그런 다음, Development를 클릭합니다.
4. "Models permissions"에서 Only select models를 선택한 다음, 드롭다운에서 Enabled list를 선택하여 허용된 모델 목록을 만듭니다.
5. 필요에 따라 차단된 모델 목록을 만들려면 드롭다운에서 Disabled list를 선택합니다.
6. 모델 테이블 위에서 Add models or publishers를 클릭하세요.
7. "Select models and publishers to allow" 대화 상자에서 목록에 포함할 모델 및 게시자를 선택합니다.
8. Update enabled list를 클릭하여 변경 내용을 저장합니다.

다음 단계

GitHub Models에서 사용자 지정 모델을 사용하도록 설정했으므로 다음 방법을 알아봅니다.

• 플레이그라운드에서 사용자 지정 모델을 실험합니다. 플레이그라운드에서 AI 모델 실험을 참조하세요.

• GitHub에 프롬프트를 저장하여 프롬프트를 미세 조정하고 이를 관련자와 공유할 수 있습니다. Storing prompts in GitHub repositories을(를) 참조하세요.

• AI 애플리케이션을 시작합니다. 프로덕션으로 진행을 참조하세요.