전화 AI를 처음 써 본 분들이 가끔 이런 말씀을 하세요. "AI가 대답을 너무 빨리 해서 오히려 어색했어요." 그런데 또 어떤 분은 "살짝 기다리는 느낌이 있어서 사람 같았어요"라고도 하세요. 어느 쪽이 맞는 걸까요?
커피숍 직원을 생각해 보세요
손님이 "아메리카노 한 잔 주세요"라고 말이 채 끝나기도 전에 직원이 이미 "네 따뜻하게요 차갑게요?"를 외친다면 어떤 느낌일까요? 빠르긴 한데 뭔가 내 말을 제대로 들었나? 싶어 불안해집니다. 반대로 직원이 너무 오래 멍하니 있어도 답답하죠.
전화 AI도 똑같은 고민을 합니다. 고객이 말을 끝낸 뒤 아주 짧은 시간 동안 '진짜 다 말한 건지'를 확인하는 과정이 필요합니다. 이 구간을 업계에서는 '엔드포인트 감지(endpoint detection)'라고 부르는데, 쉽게 말하면 "고객이 말을 멈춘 건지, 숨 쉬는 건지 구별하는 귀"입니다.
너무 빠르면 생기는 문제
만약 AI가 0.01초 만에 바로 대답한다면 어떻게 될까요?
- 고객이 말을 다 마치지 않았는데 AI가 끊어버립니다.
- "아, 그리고요—" 하려던 말을 못 하게 됩니다.
- 고객은 "내 말을 무시당한 느낌"을 받습니다.
반대로 너무 늦으면 "혹시 연결이 끊겼나요?" 하고 고객이 먼저 끊어버립니다. 그래서 전화 AI는 침묵의 길이·목소리의 톤·문장 끝의 억양 같은 신호를 종합해 '이제 내 차례다'를 판단합니다. 마치 대화 중에 상대방의 눈빛과 숨소리를 읽는 것과 같아요.
응답 속도는 '빠름'보다 '적절함'이 목표
결국 전화 AI가 추구하는 건 가장 빠른 대답이 아니라 가장 자연스러운 타이밍입니다. 사람과 사람이 대화할 때도 완벽한 타이밍이 있듯이, AI도 그 리듬을 배우고 있는 중입니다. 작은 식당이든 동네 세탁소든, 전화를 건 고객이 "아, 사람이랑 통화하는 것 같네"라고 느끼게 만드는 것 — 그게 응답 속도 설계의 진짜 목표입니다.