자체 하드웨어에서 동작하는 AI 고객지원 에이전트
고객이 WhatsApp, Telegram, WeChat으로 연락한다면 문제의 형태는 이미 알고 계실 겁니다. 새벽 2시에 메시지가 오고, 같은 여섯 가지 질문이 하루 종일 반복되며, 더 빨리 답하는 유일한 방법은 사람을 더 뽑는 것입니다. 자체 박스에서 동작하는 지원 에이전트는 이 계산을 바꿉니다. 고객이 이미 쓰고 있는 채널에서 답하고, 대화 기록은 자사 내에 남습니다.
오늘 실제로 비용이 나가는 부분
| 방식 | 월 비용 | 무너지는 지점 |
|---|---|---|
| 직접 응대 | $0 | 확장되지 않음. 야간과 주말의 병목은 본인 |
| 1차 응대 인력 채용 | 1인당 급여 | 채용 주기, 교육, 이직. 커버되지 않는 시간대가 남음 |
| 콜센터에 위탁 | 좌석당 또는 티켓당 | 정형화된 답변만. 자사 맥락은 전달되지 않음 |
| SaaS 챗봇 플랫폼 | 좌석당 + 대화당 | 고객 대화가 다른 회사 서버에 저장됨 |
| 자체 박스 위의 에이전트 | 크레딧만 | 초기 설정과 지식베이스가 필요. 어려운 건에서 사람을 대체하지는 않음 |
동작 방식
- 박스를 연결합니다 — 전원과 네트워크. 부팅하면 에이전트 런타임이 시작됩니다.
- 채널을 연결합니다 — WhatsApp, Telegram, WeChat. 코드를 스캔해 페어링합니다.
- 자사 문서를 지정합니다 — 제품 정보, 정책, 가격표, FAQ. 이것이 답변을 일반적인 것이 아니라 자사의 것으로 만듭니다.
- 에스컬레이션 규칙을 정합니다 — 확신도가 낮거나 고객이 사람을 요청하면 넘깁니다. 운영을 시작하기 전에 정하세요. 후로 미루지 마세요.
잘하는 것과 그렇지 않은 것
이 점을 처음에 분명히 해두면 모두가 잘못된 도입을 겪지 않습니다.
| 적합 | 부적합 |
|---|---|
| 같은 질문에 정확하게 24시간 내내 답하기 | 가격 협상이나 화난 고객의 에스컬레이션 대응 |
| 리드 검증과 예약 접수 | 문서화하지 않은 판단이 필요한 모든 것 |
| 자사 시스템에서 주문 상태 조회 | 고가 고객의 인간 관계를 대체하는 것 |
| 사람이 승인할 답변 초안 작성 | 허가하지 않은 자율적 약속 |
현실적인 운영 방식은 에이전트가 반복 문의를 흡수하고 나머지를 에스컬레이션하는 것입니다. 그래서 작은 팀도 품질 저하 없이 더 많은 물량을 처리합니다.
여기서 로컬이 특히 중요한 이유
고객 대화는 소규모 사업자가 보유한 가장 민감한 데이터입니다. 이름, 주문 내역, 불만, 때로는 결제 참조가 들어 있습니다. SaaS 챗봇에서는 이 모든 것이 제3자 인프라를 거치고 그들의 보존 정책을 따릅니다.
로컬 박스에서는 대화 기록, 메모리, 에이전트가 읽는 문서가 자사가 소유한 하드웨어에 남습니다. 외부로 나가는 것은 모델 호출뿐입니다. 고객이 데이터가 어디 있느냐고 물으면 구체적으로 답할 수 있습니다.
운영 비용
본체 소비전력은 10W 미만이라 전기료는 반올림 오차 수준입니다. 실제 반복 비용은 크레딧이며, 에이전트가 답변에 사용한 토큰만큼 차감됩니다. 예측 가능하게 유지하는 방법은 두 가지입니다.
- 간단한 질문은 저렴한 모델로 보냅니다. 지원 문의의 대부분은 분류와 검색이며, 최첨단 모델이 필요하지 않습니다.
- 변하지 않는 답변은 캐시합니다. 배송 정책, 반품 기간, 운영 시간은 매번 다시 도출하지 말고 자사 문서에서 답합니다.
자주 묻는 질문
어떤 채널을 지원하나요?
WeChat, WeCom, WhatsApp, Telegram입니다. 채널은 전송 수단일 뿐이고 에이전트는 어디서나 동일합니다.
사람에게 넘길 수 있나요?
네, 트리거는 직접 설정합니다. 확신도가 낮을 때, 사람을 명시적으로 요청할 때, 또는 지정한 키워드일 때 넘깁니다. 대화 이력도 함께 전달되므로 처음부터 다시 시작할 필요가 없습니다.
코드를 작성해야 하나요?
아니요. 설정은 채널 페어링과 에이전트에 문서를 지정하는 것입니다. 그 외에 반드시 해야 할 작업은 없습니다.
인터넷이 끊기면 어떻게 되나요?
에이전트 런타임과 저장된 대화는 로컬에서 계속 동작합니다. 모델 추론은 연결이 돌아올 때까지 멈추므로 초안 작성과 검색 품질은 떨어지지만 손실되는 것은 없습니다.
여러 명이 동시에 사용할 수 있나요?
네. 연락처와 이력은 기기에 저장되고, 엔터프라이즈 에디션은 프라이빗 배포와 SLA와 함께 더 높은 동시성을 지원합니다.
자체 하드웨어에 지원 에이전트를 두세요
Luz AIbox Pro — WhatsApp, Telegram, WeChat을 연결하고 자사 문서를 지정하면 반복 문의를 대신 처리합니다.
가격 보기 →