F&B 플랫폼 · 5,800명F&B platform · 5,800 employees 웍스AI 비즈라우터 메모리허브

사내 LLM 비용을
18일 만에 42% 줄였어요.
Cut monthly LLM cost by 42%
in 18 days.

전 직원 5,800명이 매일 ChatGPT, Claude, 제미나이를 따로따로 쓰던 회사. 한 화면에서 다 쓰게 만들고, 일상 질문은 한국형 모델로 자동 라우팅하니 한 달 모델값이 42% 줄었어요. 5,800 employees were each paying separately for ChatGPT, Claude, and Gemini. We unified them into one screen and auto-routed daily queries to Korean models — monthly bill down 42%.

42%
월 모델값Monthly model bill
18d
PoC → 전사 도입PoC → full rollout
3.2×
기획·CX팀 답변 속도Planning·CX response speed

왜 우리한테 왔어요?

이 고객사는 5,800명 임직원이 마케팅·기획·CS·운영 어디에서나 AI를 매일 쓰고 있었어요. 그런데 각자 다른 도구로 결제하고, 보안팀은 ChatGPT 직접 접속을 막아 둔 상태. 한 분기 모델값이 1억 7천만 원에 달하면서 임원 회의에서 빨간불이 켜졌어요.

"한 화면에서 다 쓰게 하면서도 보안은 그대로 가져가는 방법"이 첫 요청이었어요. 둘째는 "모델값 좀 줄여 달라"였고요.

"ChatGPT 직접 쓰지 말라고 막아 두긴 했는데, 실제론 사원들이 다 우회해서 쓰고 있었어요. 막을 게 아니라 안전하게 깔아주는 게 답이라고 판단했어요."
IT 보안팀 리드IT Security Lead

같이 만든 것

  • 웍스AI 사내 포털을 SSO에 연결했어요. 사원이 자기 사번으로 로그인하면 ChatGPT, Claude, 제미나이, 그리고 Corepin 한국어 모델까지 한 화면에서 다 떠요.
  • 비즈라우터가 모든 질문 앞에서 모델을 골라줘요. "메일 답장 초안 좀 써줘" 같은 일상 질문 80%는 한국어 모델로, 어려운 추론은 Claude로 자동 분기되도록 설정했어요.
  • 메모리허브가 팀별 맥락을 저장해요. 마케팅팀은 마케팅대로, CS팀은 CS대로 자기 컨텍스트가 다음 대화에 자연스럽게 떠오르도록.
  • 민감 정보는 외부 모델로 가기 전에 한국어 도메인 모델이 사전에 잡아 가려요. 보안팀이 SIEM으로 모든 활동을 실시간으로 봐요.

3개월 후 측정해 보니

한 부서(기획팀 약 200명)에서 1주일 A/B 테스트를 먼저 돌렸어요. 라우팅 적용 그룹의 답변 만족도가 4.31점에서 4.27점으로 거의 그대로였는데, 비용은 일 4,200원에서 2,440원으로 떨어졌어요. 만족도는 지키면서 비용은 42% 줄었어요.

"원래는 ChatGPT 못 쓰니 답답하다는 불만이 많았는데, 웍스AI 깔고 나서는 오히려 '이제 이거 없으면 일 못 한다'고 하더라고요."
기획팀 시니어 매니저Senior Planning Manager

전사 5,800명에게 펼친 다음에도 운영자가 새벽에 깨는 일이 없었어요. 자동 폴백·정책 전환이 모두 백엔드에서 처리되거든요.

자주 듣는 질문

도입까지 진짜 18일이면 끝나요?

SSO 연동 + 보안팀 검수 + 부서 PoC 다 포함해서 18일이에요. 회사 규모와 보안 검토 단계에 따라 2~6주 사이로 보세요. 12일 안에 정착한 분도 있고, 6주 걸린 분도 있어요.

비용 42% 절감, 다른 회사에서도 비슷한가요?

도입 후 4주 안에 평균 30~50% 절감을 만들어요. 사내 질문 패턴에 따라 다른데, 일상 질문 비중이 높을수록 절감 폭이 커요. 도입 상담 때 실제 로그로 시뮬레이션해 드려요.

고객 데이터를 모델 학습에 쓰진 않죠?

전혀 안 써요. 약관에 명시되어 있어요. 모든 데이터는 한국 데이터센터(Onpod KR region)에 저장되고, 외부 모델로 보내질 때도 민감 정보는 사전에 가려진 후 전송돼요.

회사가 망하면 우리 데이터는 어떻게 되나요?

계약서에 데이터 백업 + 마이그레이션 조항이 있어요. 6개월 이내 데이터 전체 export + 30일 grace period를 보장해요. 8년 동안 한 번도 회사가 사라진 적은 없었어요.

저희도 비슷한 일을 풀고 싶은데, 어떻게 시작하나요?

30분 무료 상담부터 시작이에요. 영업이 아니라 같이 이 사례를 만든 엔지니어가 직접 받아요. 우리 제품이 안 맞는 길까지 같이 검토해요.

Why they came to us

5,800 employees were using AI daily across marketing, planning, CS, and operations. But each team paid separately, and the security team had blocked direct ChatGPT access. Quarterly model spend hit ₩170M, and the executive team flagged it as critical.

The brief: "Put it all in one screen, keep security intact, and cut the bill."

"We'd blocked ChatGPT, but employees were just bypassing it anyway. The answer was to deploy it safely, not block it."
IT Security Lead

What we shipped together

  • WrksAI portal connected to their SSO. Employees log in with their company ID and see ChatGPT, Claude, Gemini, and Corepin Korean models in one screen.
  • BizRouter sits in front of every request — 80% of daily queries auto-route to Korean models, hard reasoning to Claude.
  • MemoryHub holds per-team context — marketing's context stays with marketing, CS's with CS, surfacing in the next conversation.
  • Sensitive data is screened by a Korean domain model before reaching any external API. The security team watches everything via SIEM.

What we measured at 3 months

Before rollout we ran a 1-week A/B in the planning team (~200 people). Answer satisfaction barely moved (4.31 → 4.27) while cost dropped from ₩4,200/day to ₩2,440/day. Quality held, bill down 42%.

"People used to complain we couldn't use ChatGPT. Now they say they can't work without WrksAI."
Senior Planning Manager

Even after rolling out to all 5,800, nobody got paged. Auto-fallback and policy switching all happen in the backend.

Common questions

Is 18 days realistic?

SSO + security review + departmental PoC included — 18 days. Plan for 2-6 weeks based on company size and security review depth. We've seen 12-day rollouts and 6-week ones.

Will we see 42% savings too?

Average savings within 4 weeks: 30-50%. Depends on your query mix — higher daily-query share = bigger savings. We simulate it with your actual logs during the discovery call.

Will our data train your models?

Never. Written into the contract. All data stays in Korea (Onpod KR region), and sensitive content is masked before leaving the boundary.

What happens to our data if you fold?

Contract guarantees 6-month export + 30-day grace period. We've been operating for 8 years without going dark.

How do we get started?

Free 30-minute call. An engineer (not sales) takes it. We'll also discuss paths that don't involve AI3.

우리 회사에서도 비슷한 일을
만들어 볼 수 있을까요?
Curious if this could
work at your company?

엔지니어가 직접 30분 무료 상담해요. AI3가 안 맞는 길까지 솔직하게 알려드려요. Free 30-minute call with an engineer — we'll tell you honestly if AI3 isn't the right fit.

상담 신청Book a call 다른 사례 보기More cases