사용자 지정 모델

내 계정 → 사용자 지정 모델 을 열면 이 팀의 모든 프로젝트가 사용할 수 있는 사용자 지정 LLM 연결을 추가할 수 있습니다.

여기서 추가한 모델은 팀 범위 입니다. 팀의 모든 프로젝트에서 에이전트에게 표시됩니다. 프로젝트 전용 사용자 지정 모델은 여전히 에이전트에서 구성합니다. 미리 정의된 모델 및 사용자 지정 모델을 참조하세요.

모델을 저장하기 전에 엔드포인트가 검증됩니다.

사용자 지정 모델 인터페이스

정보

팀 관리자만 이 탭을 열고 팀 사용자 지정 모델을 추가, 편집 또는 삭제할 수 있습니다.

빈 상태

팀에 아직 사용자 지정 모델이 없으면 페이지에 아직 사용자 지정 모델이 없습니다 와 사용자 지정 모델 추가 가 표시됩니다.

필드를 입력합니다

새 연결 대화 상자

필드	설명
모델 이름	API가 기대하는 식별자(예: `gpt-4o`)
모델 공급자	드롭다운에서 선택하는 공급자(예: Open AI)
kong 게이트웨이를 통해 구성하시겠습니까?	선택 사항. 연결을 Kong 게이트웨이를 통해 라우팅합니다.
API 키	공급자 키. 안전하게 저장됩니다.
API URL	API 엔드포인트
시간 제한(초)	기본값은 300 입니다. 장시간 실행되는 추론 모델의 경우 늘리세요.
temperature(창의성) 무시	일부 최신 모델은 temperature/창의성 매개변수를 보내는 요청을 거부합니다. 이를 활성화하면 공급자와 관계없이 이 모델에 temperature를 보내지 않습니다.
사고 태그(`<think>`/`</think>`) 구문 분석	일부 추론 모델은 메시지 내용에 사고의 연쇄를 `<think>…</think>` 로 인라인으로 포함합니다(예: `merge_reasoning_content_in_choices` 를 활성화한 LiteLLM 프록시). 이를 활성화하면 답변에서 해당 태그를 제거하고 추론을 별도로 표시합니다.
최대 입력 토큰	기본값 3000
최대 응답 토큰	기본값 1000
사고	이 모델에 대해 공급자의 사고/추론을 활성화합니다.
사고 예산	사고 가 켜져 있을 때 사고에 사용할 토큰 예산입니다.
사고 포함	응답에 모델의 사고를 포함합니다.

기타 공급자별 필드(Azure API 버전, AWS 시간 제한, 사용자 지정 인증 헤더, 동적 토큰 가져오기)는 해당 공급자를 선택할 때 표시됩니다.

만들기
만들기 를 클릭합니다. EKB가 엔드포인트를 검증하고, 성공하면 모델이 팀용으로 저장됩니다. 취소 는 저장하지 않고 대화 상자를 닫습니다.

모델이 하나 이상 있으면 페이지에 검색 상자(이름 또는 공급자로 검색...)와 표가 표시됩니다.

검색과 일치하는 항목이 없으면: 검색과 일치하는 모델이 없습니다.

팀 모델은 프로젝트의 사용자 지정 모델 목록에서 편집할 수 없습니다. 그곳에서는 팀 설정에서 관리됨 과 함께 읽기 전용으로 표시됩니다.