클라우드플레어는 2026년 9월 30일 AI Gateway의 Auto Router를 공개 베타로 출시했다. AI Gateway는 앱과 AI 모델 제공사 사이에서 요청을 중계하는 서비스다. 모델 이름에 cloudflare/auto를 지정하면 요청별로 모델을 선택한다. 라우터 사용료는 베타 기간에 무료이며 모델 실행 비용은 별도로 발생한다. 출처

도입에 필요한 계정과 결제 경로

Cloudflare 계정과 AI Gateway를 준비하고, AI Gateway Run 권한을 가진 API 토큰으로 인증해야 한다. 이 실행 권한은 계정 수준이므로 토큰을 다룰 때 특정 게이트웨이만 접근한다고 가정하지 말아야 한다. 출처

모델 비용은 자신의 제공사 키를 쓰는 BYOK 또는 크레딧을 미리 충전하는 Unified Billing으로 처리한다. Unified Billing에는 인증과 충분한 크레딧이 필요하다. 해당 엔드포인트는 요청에 넣은 제공사 키, 기본 별칭의 저장된 BYOK 키, Cloudflare 관리 키 순서로 결제 경로를 선택한다. 자체 키만 쓰려는 경우에는 Require provider credentials 설정을 확인해야 한다. 출처

호환성과 사용량 제한

현재 Auto Router 문서는 Chat Completions와 Responses 형식을 지원하고 WebSockets는 지원하지 않는다고 안내한다. 반면 출시 글은 Responses의 완전한 지원을 후속 과제로 적었다. 편집부는 Responses의 구체적인 기능 호환성을 도입 전 확인 항목으로 본다. 허용 모델·제공사는 요청 설정으로 제한할 수 있으며, 여러 차례 이어지는 대화에는 cf-aig-session-id를 사용해 캐시 연결성을 유지할 수 있다. 출처 출처

Cloudflare 관리 키를 사용하는 Unified Billing에는 게이트웨이당 60초에 200회 제한이 있고, 초과하면 429 오류가 반환된다. 이 특정 제한은 BYOK 요청에는 적용되지 않는다. 2026년 9월 24일 이후 첫 게이트웨이를 만든 계정에는 Workers Logs의 한도와 요금이 적용되므로, 로그 저장 비용도 따로 확인해야 한다. 출처

공급업체의 절감 수치를 읽는 법

Cloudflare는 사내 OpenCode 사용에서 최대 30% 절감을 보고했다. 별도의 지식 업무 평가에서는 97개 과제를 세 번씩 수행해 Auto Router가 291회 중 252회 성공하고 총 2.10달러, Opus 5.5가 281회 성공하고 5.91달러를 기록했다고 밝혔다. 두 평가는 구분해서 읽어야 한다. 출처

자신의 서비스에서 절감과 품질을 판단하려면 이 수치에 더해 실제 업무 결과가 필요하다. 특히 두 번째 평가에서는 성공 횟수에도 차이가 있으므로 호출당 가격과 검수를 통과한 결과당 비용을 함께 비교할 필요가 있다. OYOPICK은 공식 문서와 공급업체 결과를 검토했으며, Auto Router를 직접 벤치마크하지 않았다.

공개 요금으로 계산한 가상 비용 예시

2026년 10월 1일 확인한 Cloudflare 모델 안내에서 Claude Opus 5의 100만 토큰당 입력·출력 요금은 각각 5달러·25달러, Sonnet 5는 2달러·10달러다. 토큰은 모델이 처리하는 텍스트의 과금 단위다. 아래의 요청량과 배분 비율은 계산을 위한 가정이다. 출처 출처

요청 1만 건에 건당 캐시되지 않은 입력 2,000토큰과 과금되는 출력 500토큰이 발생한다고 가정하자. 두 모델의 토큰 수는 같고, 재시도·도구·추가 추론 토큰·캐시 읽기와 쓰기·세금·로그 비용은 제외한다.

  • 모두 Opus 5: 입력 2,000만 × 5달러/100만 + 출력 500만 × 25달러/100만 = 225달러
  • Sonnet 5에 40% 배분: 입력 800만 × 2달러/100만 + 출력 200만 × 10달러/100만 = 36달러
  • 나머지 60%를 Opus 5에 배분: 입력 1,200만 × 5달러/100만 + 출력 300만 × 25달러/100만 = 135달러
  • 가상 혼합 구성의 모델 실행비: 36 + 135 = 171달러

Unified Billing 크레딧 구매에는 5% 수수료가 붙는다. 두 구성 모두 필요한 크레딧을 새로 구매해 전부 쓴다는 가정이면 225 × 1.05 = 236.25달러, 171 × 1.05 = 179.55달러다. 차이는 56.70달러, 24%다. 실제 구매 단위, 남은 크레딧과 추가 비용은 별도다. 출처

40:60 배분은 Auto Router가 실제로 선택한 비율과 무관한 가정이며, 이 계산은 공급업체의 30% 발표를 재현하지 않는다. 실제 비용은 선택 모델, 토큰 수, 캐시와 재시도에 따라 달라진다.

편집부가 권하는 도입 판단 기준

대표 업무를 제한된 범위에서 기존 고정 모델과 비교하는 편이 합리적이다. 작업 성공률, 검수 통과 결과당 비용, 느린 요청의 응답 시간, 재시도와 캐시 동작을 기록하고, 문제가 생기면 기존 모델로 되돌릴 경로를 마련하자. 라우팅된 모델과 이유는 응답의 cf-aig-routed-model, cf-aig-routing-reason 등으로 확인할 수 있다. 출처

민감한 요청을 다룬다면 허용 제공사와 데이터 처리 조건을 먼저 검토하자. 출시 글의 무보관 모델 필터와 추론 수준 선택은 향후 계획이며, 제공사의 데이터 보관 정책과 AI Gateway의 로그 설정은 별도로 확인해야 한다. 출처 출처