본문으로 건너뛰기

KO

연결

멀티 모델 라우팅

생성 시 제공업체와 모델을 지정해 런타임을 단일 제공업체에 묶지 않습니다.

문서 콘솔 열기

호출자가 생성 시 제공업체와 모델을 지정합니다.

제공업체와 모델

호출자가 생성 시 제공업체와 모델을 지정합니다.

01
생성 시 제공업체와 모델 지정
02
런타임이 구성된 모델 요청
03
에이전트 활동과 모델 사용량 확인

활용 사례

요청을 구성된 모델로 보내고 추론은 런타임이 담당합니다.

여러 모델 제공업체
런타임이 추론 모델 선택
제품의 제공업체 종속성 감소

기능

제공업체와 모델

호출자가 생성 시 제공업체와 모델을 지정합니다.

호출자가 생성 시 제공업체와 모델을 지정합니다.

호출자가 생성 시 제공업체와 모델을 지정합니다.

통합 시작

통합 시작

통합 가이드를 읽고 런타임과 백엔드를 연결하세요.