실리태번에서 '프록시'란 무슨 뜻인가요?

AI 롤플레잉 커뮤니티에서 말하는 **프록시(Proxy)**란 내 채팅 프론트엔드(실리태번(SillyTavern)이나 JanitorAI 등)와 Anthropic, Google, DeepSeek 같은 상위 AI 모델 제공사 사이를 이어주는 API 엔드포인트 URL을 뜻합니다. 전송 버튼을 누르면 프론트엔드가 조립한 프롬프트를 그 URL로 보내고, 해당 서비스가 모델에게 요청을 전달한 뒤 답변을 다시 화면으로 스트리밍해 줍니다.

유저들이 거의 모든 외부 API 주소를 '프록시'라고 부르게 된 이유는 앱 자체의 설정 메뉴 이름 때문입니다. 실리태번의 기본 Claude 및 Google AI Studio 연결 패널에서는 외부 주소를 넣는 칸에 Reverse Proxy(리버스 프록시)라는 제목이 붙어 있고, JanitorAI에서도 개인 API를 연결하는 탭 이름이 Proxy로 되어 있습니다.

동시에 커뮤니티 게시판이나 디스코드 서버를 5분만 둘러보면, 고인물 유저들이 입문자들에게 "프록시는 근처에도 가지 마라"고 말리는 모습을 흔히 볼 수 있습니다. 그렇게 경계하는 데는 다 이유가 있습니다. 롤플레잉 판에서 '프록시'라는 단어는 익명 공유 페이지에 돌아다니는 무료 커뮤니티 링크를 가리키는 경우가 많기 때문입니다. 이런 곳은 유출되거나 도난당한 API 키로 돌아가면서 남의 사적인 채팅을 몰래 기록하고, 비싼 모델 대신 값싼 모델로 몰래 바꿔치기하다가, 하루아침에 소리 소문 없이 증발하곤 합니다.

헷갈리지 않으려면 화면에 적힌 메뉴 이름과 실제 서비스의 운영 방식을 구분해서 봐야 합니다:

  • 무료 또는 키 공유형 프록시: 명확한 과금 체계나 신원이 확인된 운영자 없이 공개 URL 하나(또는 단톡방에서 돌려 쓰는 비밀번호)만 던져주는 곳으로, 보통 악용된 무료 체험 계정이나 해킹된 키로 운영됩니다.
  • 유료 API 프록시(또는 API 게이트웨이): 일반적인 클라우드 API 서비스처럼 작동합니다. 내 계정에 직접 로그인해 개인 전용 API 키를 발급받고, 출처가 명시된 상위 모델을 쓴 만큼만 토큰 단위로 요금을 냅니다.

이 가이드의 나머지 부분에서는 앱 화면에 해당 단어가 그대로 적힌 곳(Reverse Proxy, Proxy URL)을 설명할 때는 프록시라고 부르고, 연결해서 쓰는 서비스 자체는 원래 명칭인 API로 부르겠습니다.


나에게 필요한 프록시는 어떤 종류인가요?

설정 파일을 건드리기 전에, 지금 읽고 있는 가이드나 게시글이 내가 찾는 그 프록시를 말하는 게 맞는지부터 확인하세요. 실리태번 공식 문서와 커뮤니티 글에서는 완전히 다른 네 가지 도구를 모두 '프록시'라는 한 단어로 부릅니다:

흔히 부르는 이름어디서 보이는지실제 하는 역할AI 모델과 채팅할 때 필요한가요?
1. 모델 API 프록시 (Custom Endpoint / Reverse Proxy)실리태번 API Connections 패널; JanitorAI API Settings → ProxyAPI 키를 사용해 내 롤플레잉 프롬프트를 HTTPS로 AI 모델 제공사(Claude, Gemini, DeepSeek)에 전달합니다.네 — 모델 제작사의 공식 API 키를 직접 발급받아 쓰거나 내 그래픽카드(GPU)로 로컬 모델을 돌리는 경우가 아니라면 필요합니다.
2. 외부 발신 네트워크 프록시 (config.yaml)실리태번 루트 폴더의 config.yaml 파일 (HTTP / SOCKS 프록시 설정)실리태번이 밖으로 보내는 인터넷 요청을 기기의 네트워크 터널이나 VPN류 클라이언트를 거치도록 우회시킵니다.아니요 — 사용 중인 인터넷 환경이 외부 접속을 차단해서 시스템 네트워크 프록시가 꼭 필요한 경우가 아니면 건드리지 마세요.
3. 자체 호스팅용 웹 리버스 프록시 (nginx, Caddy)리눅스 VPS 및 외부 원격 접속 호스팅 가이드집 밖에서 내 실리태번 서버(localhost:8000)를 열 때 HTTPS 암호화와 도메인 주소를 붙이기 위해 서버 앞단에 세우는 프로그램입니다.아니요 — 내 실리태번 서버를 공인 인터넷에 직접 노출할 때만 필요합니다(대부분의 유저는 대신 Tailscale을 씁니다. 설치 가이드를 참고하세요).
4. 구버전 로컬 미들웨어 (simple-proxy-for-tavern)2023~2024년 시절의 옛날 세팅 튜토리얼실리태번이 기본 연동을 지원하기 전에, API 형식을 변환하려고 PC에서 따로 켜 두던 별도 로컬 스크립트입니다.아니요 — 최신 실리태번은 OpenAI 호환, Claude, Gemini API에 직접 연결되므로 이제는 쓰이지 않는 구시대 도구입니다.

팁: 방금 실리태번을 설치했거나 JanitorAI를 열어서 Claude, Gemini, DeepSeek로 롤플레잉을 시작하려는 거라면 **1번(모델 API 엔드포인트)**만 있으면 됩니다. 실리태번 config.yaml의 네트워크 프록시 설정은 그대로 두고, nginx나 로컬 프록시 스크립트를 켜라고 하는 옛날 가이드는 무시하세요.


프록시 URL은 어디에 입력하나요?

모든 롤플레잉 앱이 요구하는 정보는 엔드포인트 URL, API 키, 모델 ID 딱 세 가지로 같지만, 앱마다 URL 경로를 어디까지 적어야 하는지가 조금씩 다릅니다. 아래는 TavernAPI와 다섯 가지 모델 ID(claude-opus-5-5, claude-sonnet-5-5, gemini-4-argon, gemini-3.8-flash, deepseek-v4-pro)를 예시로 각 클라이언트에서 어디에 무엇을 넣는지 정리한 방법입니다.

실리태번: Chat Completion → Custom (OpenAI-compatible)

실리태번에서는 **Custom (OpenAI-compatible)**으로 연결하는 것이 가장 깔끔합니다. 엔드포인트 주소 하나와 키 하나만 넣어 두면 드롭다운 메뉴에서 Claude, Gemini, DeepSeek를 바로바로 바꿔가며 쓸 수 있기 때문입니다:

  1. 상단 바의 API Connections 아이콘(전기 플러그 모양)을 클릭합니다.
  2. API를 Chat Completion으로 설정합니다.
  3. Chat Completion Source를 Custom (OpenAI-compatible)으로 설정합니다.
  4. 연결 정보 칸을 채웁니다:
    • Custom Endpoint (Base URL): https://tavernapi.com/v1
    • Custom API Key: 본인의 sk-tav-... 키 (사용자 콘솔의 API 키 메뉴에서 생성하며, 생성 직후 한 번만 표시되니 바로 복사해 두세요).
  5. Connect를 누르고 Available Models 드롭다운을 열어 gemini-4-argon, claude-opus-5-5, gemini-3.8-flash, deepseek-v4-pro, claude-sonnet-5-5 중 원하는 모델을 고릅니다.

Custom Endpoint (Base URL) 끝에는 /chat/completions를 붙이지 마세요—실리태번이 메시지를 보낼 때 그 뒷부분을 자동으로 붙여서 전송합니다.

실리태번: Claude 및 Google AI Studio의 Reverse Proxy 칸

실리태번의 기본 Claude나 Google AI Studio 소스에 맞춰 제작된 로컬 프리셋을 쓰거나, Claude·Gemini 전용 UI 설정 항목을 직접 만지고 싶다면 Custom (OpenAI-compatible) 대신 실리태번의 Reverse Proxy 칸을 쓰면 됩니다.

  1. API Connections(플러그 아이콘)를 열고 API는 Chat Completion으로 그대로 둡니다.
  2. Chat Completion Source를 Claude 또는 Google AI Studio로 바꿉니다.
  3. Reverse Proxy를 눌러 프록시 입력칸을 펼친 뒤, 선택한 소스에 맞는 URL을 넣습니다:
    • Claude 소스일 때: Proxy Server URL에 https://tavernapi.com/v1 입력
    • Google AI Studio 소스일 때: Proxy Server URL에 https://tavernapi.com 입력 (실리태번이 Google의 버전 경로를 자체적으로 덧붙이므로 끝에 /v1을 적지 않습니다)
  4. Proxy Password(프록시 비밀번호) 칸에 본인의 sk-tav-... API 키를 붙여넣습니다. (실리태번 화면에는 비밀번호라고 적혀 있지만 실제로는 API 키를 넣는 자리입니다.)
  5. Connect를 누르고 Claude에서는 claude-opus-5-5 또는 claude-sonnet-5-5를, Google AI Studio에서는 gemini-4-argon 또는 gemini-3.8-flash를 선택합니다.

두 연결 방식과 프리셋 임포트에 대한 전체 과정은 실리태번 연동 가이드에서 자세히 볼 수 있습니다. 만약 프롬프트를 보낼 때 402 오류가 뜬다면 402 잔액 부족(Insufficient Balance) 해결 방법을 확인해 보세요.

JanitorAI: API Settings → Proxy

JanitorAI는 자체 내장 모델을 제공하는 호스팅형 캐릭터 사이트이지만, 외부 OpenAI 호환 API로 대화를 연결해 쓸 수도 있습니다:

  1. JanitorAI에서 아무 캐릭터 채팅방이나 열고 화면 상단의 API Settings를 누른 뒤 Proxy 탭을 선택합니다.
  2. 세 가지 필수 항목을 입력합니다:
    • Proxy URL: https://tavernapi.com/v1/chat/completions
    • API Key: 본인의 sk-tav-... 키
    • Model: 사용할 모델 ID(gemini-4-argon, claude-opus-5-5, gemini-3.8-flash, deepseek-v4-pro, claude-sonnet-5-5 중 하나)를 정확히 직접 입력합니다.
  3. 설정을 저장하고 대화를 시작합니다.

주의: 실리태번과 JanitorAI를 오갈 때 가장 많이 하는 실수가 URL 끝부분입니다. 실리태번의 Custom 소스는 기본 주소(https://tavernapi.com/v1)만 넣어야 하지만, JanitorAI의 Proxy URL 칸은 끝의 채팅 완성 경로까지 포함된 전체 주소(https://tavernapi.com/v1/chat/completions)를 요구합니다.

리스AI(RisuAI), Agnaistic 및 기타 OpenAI 호환 앱

**리스AI(RisuAI)**나 Agnaistic (Agnai) 같은 다른 롤플레잉 프론트엔드 역시 커스텀 OpenAI 호환 엔드포인트를 모두 지원합니다(각 앱의 특징은 AI 롤플레잉 툴 비교 가이드를 참고하세요).

클라이언트가 어떤 URL 형식을 요구하는지 헷갈릴 때는 URL 입력칸 안에 흐린 회색 글씨로 적힌 예시(Placeholder)를 보면 바로 알 수 있습니다:

  • 회색 예시가 /v1로 끝나면 https://tavernapi.com/v1을 입력하세요.
  • 회색 예시가 /v1/chat/completions로 끝나면 https://tavernapi.com/v1/chat/completions를 입력하세요.

그다음 본인의 sk-tav-... API 키를 붙여넣고 다섯 가지 모델 ID(gemini-4-argon, claude-opus-5-5, gemini-3.8-flash, deepseek-v4-pro, claude-sonnet-5-5) 중 하나를 입력하면 됩니다.


무료 프록시는 왜 위험한가요?

Claude나 Gemini 같은 대형 언어 모델을 돌리는 데는 매 턴마다 실제 비용이 발생합니다—특히 답변을 주고받을 때마다 캐릭터 설정과 이전 대화 기록 수천 토큰을 매번 다시 전송하는 롤플레잉에서는 더욱 그렇습니다. 실리태번 공식 문서와 Chub의 공식 문서 모두 검증되지 않은 제3자 프록시를 사용할 때의 위험성을 거듭 경고하고 있습니다.

누군가 뚜렷한 수익 구조도 없이 무료이거나 수상할 만큼 값싼 프록시 링크를 뿌리고 있다면, 사용하는 사람은 네 가지 구체적인 위험을 고스란히 떠안게 됩니다:

  1. 유출되거나 도난당한 키가 예고 없이 막힙니다: 무료 프록시가 자기 돈으로 상위 서버 비용을 정식 결제하는 일은 거의 없습니다. 실제로는 공개 코드 저장소에서 긁어모은 유출 키, 도난당한 결제 정보로 판 계정, 혹은 클라우드 무료 체험 계정을 돌려막기하며 키 풀(Pool)을 굴리는 경우가 대부분입니다. 상위 모델 제공사가 비정상 트래픽을 감지하는 즉시 키가 폐기되고, 한창 몰입하던 장면 한가운데서 프록시가 그대로 죽어버립니다.
  2. 운영자가 내 사적인 채팅을 기록하고 읽을 수 있습니다: 프록시를 통해 보내는 모든 메시지는 모델에게 전달되기 전에 운영자의 서버를 읽을 수 있는 평문 형태로 지나갑니다. 개인정보 처리방침도 없는 익명 운영자는 내 프롬프트, 캐릭터 카드, 유저 페르소나, IP 주소를 고스란히 로그로 남길 수 있으며, 그 기록이 어디로 흘러가는지 확인할 방법이 없습니다.
  3. 이름만 플래그십이고 뒤에서는 값싼 모델로 바꿔치기할 수 있습니다: 밖으로 나가는 요청을 프록시 서버가 통제하기 때문에, 불성실한 운영자는 플래그십 Claude나 Gemini 모델로 들어온 요청을 뒤에서 훨씬 저렴한 소형 모델로 몰래 돌릴 수 있습니다. 최상위 모델이라는데 갑자기 기본적인 상황 앞뒤도 못 맞추거나 밋밋하고 똑같은 문장만 반복한다면, 엔드포인트 뒤에서 모델을 바꿔치기하고 있을 가능성이 높습니다.
  4. 고객지원도, 책임 소재도, 환불도 없습니다: 비공식 프록시나 이른바 '후원자 전용' 디스코드 서버는 키 공급이 끊기면 하룻밤 사이에 문을 닫고 사라질 수 있습니다. 공개된 이용약관도, 문의 창구도 없으며, 공유 슬롯 값을 냈더라도 돈을 돌려받을 길이 없습니다.

결제하기 전에 안전한 프록시인지 어떻게 확인하나요?

네트워크 전문가가 아니더라도 정상적인 API 서비스와 수상한 업체를 구분하는 법은 어렵지 않습니다. 잔액을 충전하기 전에 아래 7가지 체크리스트로 먼저 점검해 보세요:

  1. 모델별 상위 공급 채널(Upstream)을 명확히 밝히는가: 믿을 수 있는 서비스는 '비공개 전용 루트' 같은 모호한 말 뒤에 숨지 않고, 각 모델을 어떤 공식 클라우드나 API 채널(AWS, Google Cloud, Google AI Studio, 공식 DeepSeek API 등)로 공급하는지 투명하게 적시합니다.
  2. 업데이트 날짜가 적힌 공개 요금표에 따라 내가 쓴 만큼만 내는가: '최종 업데이트일'이 명시된 공개 요금표가 있는지, 그리고 본인 전용 API 키로 사용한 토큰만큼(또는 조건이 명확히 설명된 크레딧 팩으로) 정산되는지 확인하세요.
  3. 무엇을 저장하고 무엇을 저장하지 않는지 적힌 개인정보 처리방침이 있는가: 정산용 메타데이터(토큰 수, 모델명, 시각, 비용)와 개인 프롬프트 원문 및 캐릭터 카드를 명확히 구분해 설명하는 정식 개인정보 처리방침 페이지가 있는지 살펴보세요.
  4. 연락 가능한 운영팀과 공개된 이용약관이 있는가: 사이트에 서비스 이용약관이 공개되어 있고, 충전이나 결제에 문제가 생겼을 때 실제 담당자에게 연락할 수 있는 창구(이메일, Telegram, Discord 등)가 여러 개 열려 있는지 확인하세요.
  5. 선택한 모델과 실제 답변 품질이 일치하는가: 평소 잘 아는 캐릭터 카드나 등장인물이 여러 명 나오는 까다로운 장면으로 엔드포인트를 테스트해 보고, 문체와 추론 깊이, 응답 속도가 실제 정품 모델과 일치하는지 확인하세요.
  6. '클로드 무제한 무료' 같은 비현실적인 가격이 아닌가: 기업용 대량 약정 할인과 서버 단 프롬프트 캐싱으로 토큰당 단가를 합리적인 수준까지 낮추는 것은 가능하지만, 정액제로 '무제한 무료 Claude'를 내거는 곳은 내 계정에 엮이고 싶지 않은 편법을 쓰고 있을 확률이 높습니다.
  7. 소액 충전이나 무료 체험으로 시작해 사용량 로그를 대조해 볼 수 있는가: 처음 보는 서비스에 첫날부터 큰 금액을 넣지 마세요. 무료 체험 크레딧이나 최소 금액 충전으로 시작해 테스트 답변을 몇 번 주고받은 뒤, 콘솔의 사용량 내역에 찍히는 숫자가 공개된 토큰당 단가와 정확히 맞는지 확인해 보세요.

같은 기준으로 본 TavernAPI는 어떤가요?

공정한 비교를 위해 방금 살펴본 7가지 체크리스트를 TavernAPI에 그대로 대입해 보고, 우리 서비스의 솔직한 한계점도 함께 말씀드리겠습니다:

  • 명시된 공식 상위 채널: 우리는 롤플레잉을 위해 엄선한 1M(100만) 컨텍스트 모델 5종만 운영합니다(실전 테스트 기반 모델 순위 보기). claude-opus-5-5와 claude-sonnet-5-5는 AWS 및 Google Cloud를 통해, gemini-4-argon과 gemini-3.8-flash는 Google AI Studio를 통해, deepseek-v4-pro는 공식 DeepSeek API를 통해 공급됩니다.
  • 업데이트 날짜가 명시된 USD 토큰당 단가: 모든 모델의 입력, 출력, 캐시 단가는 100만 토큰당 USD 기준으로 요금 안내 페이지에 투명하게 공개되어 있습니다. 또한 모든 연결에 서버 단 자동 프롬프트 캐싱을 기본 적용해 장문 채팅의 입력 비용을 낮추고, 캐싱으로 아낀 정확한 달러 금액을 사용자 콘솔의 사용량 페이지에서 바로 보여드립니다.
  • 채팅 내용 무저장 원칙: 개인정보 처리방침에 명시된 대로 TavernAPI는 메시지 원문, 캐릭터 카드, 로어북, AI 답변을 저장하지 않습니다. 과금 정산을 위해 토큰 수, 요청 시각, 모델 ID, 비용만 기록합니다.
  • 연락 가능한 운영팀과 명확한 약관: 전체 서비스 이용약관을 공개하고 있으며, 문의 페이지를 통해 Telegram, Discord, 이메일로 직접 문의를 받습니다.
  • 결제 전 무료 테스트 지원: 신규 계정은 gemini-4-argon과 gemini-3.8-flash에서 바로 쓸 수 있는 $0.30 무료 체험 크레딧을 받으므로, 돈을 한 푼도 쓰기 전에 모델 품질을 직접 확인하고 콘솔에서 요청별 토큰 로그를 점검해 볼 수 있습니다. 실리태번 유저를 위해 로컬 토글과 서버 확장 핵심 지시문을 결합한 선택형 스토리텔링 프리셋도 함께 제공합니다.

우리의 솔직한 한계: TavernAPI는 $0.30 체험 크레딧을 다 쓰고 나면 무료가 아닙니다. 또한 모든 요청이 공식 상위 제공사를 거치기 때문에 각 모델 제작사의 자체 안전 필터가 그대로 적용됩니다(다만 상위 모델이 응답을 거절했다는 이유만으로 우리가 계정을 정지시키는 일은 절대 없습니다). 마지막으로 우리는 위에 나열한 Claude, Gemini, DeepSeek 5개 모델만 다룹니다—만약 OpenAI의 GPT 모델이나 수십 가지 소형 오픈웨이트 파인튜닝 모델을 원하신다면 다른 게이트웨이가 더 잘 맞을 것입니다.