처음 만드는 대화형 AI 에이전트: 입문 가이드

Gartner의 최근 연구에 따르면 대화형 AI는 빠르게 고객 서비스 분야에서 가장 큰 비용 절감 및 효율성 향상 수단 중 하나가 되고 있습니다.

Gartner는 2029년까지 대화형 AI가 일반적인 고객 서비스 문제의 80%를 사람의 개입 없이 자율적으로 해결하고, 더 많은 기업이 음성과 채팅 전반의 고객 상호작용을 자동화하면서 운영 비용을 30% 절감할 것으로 예측합니다.

내부 비즈니스 문서를 이해하고, 상황에 맞춰 추론하며, 미묘한 흐름의 대화를 이어갈 수 있는 에이전트 솔루션은 지원, 프런트 데스크 접수, 영업, 내부 운영 등 다양한 용도로 활용할 수 있습니다. 

하지만 기술 지식이 없는 팀에는 엔드투엔드 대화형 에이전트를 구축한다는 생각이 부담스럽게 느껴질 수 있습니다. 이 가이드가 그 격차를 줄여 드립니다. 

기술 지식이 없는 제작자가 시작하는 데 필요한 모든 내용을 안내합니다. 대화형 AI 에이전트의 개념과 작동 방식, 구축 전 준비 사항, 그리고 코딩 없이 초보자가 대화형 AI 에이전트를 만드는 단계를 살펴봅니다.

요약 

• 대화형 AI 에이전트는 대규모 언어 모델, 검색 증강 생성(RAG)이 적용된 지식 베이스, 도구 호출, 가드레일을 결합해 사용자와 현실적이고 맥락을 이해하는 대화를 나눕니다. 
• 에이전트는 채팅, 음성 또는 둘 다로 작동할 수 있습니다. 음성 에이전트는 사용자의 말을 이해하기 위한 음성 텍스트 변환(STT)과 소리 내어 답변하기 위한 텍스트 음성 변환(TTS)을 추가합니다. 
• 초보자도 ElevenAgents와 같은 플랫폼을 사용하면 인프라를 대신 관리해 주므로 대화형 AI 에이전트를 구축하기 위해 코드를 작성할 필요가 없습니다.
• 흔한 실수를 피하려면 구축 전에 에이전트의 목적과 대상을 최대한 구체적으로 정의하세요.
• 출시 전에는 실제 사용자를 포함해 가급적 품질 보증을 진행하세요.

대화형 AI 에이전트란 무엇인가요?

대화형 AI 에이전트는 인공지능을 사용해 자연어로 된 사용자 입력을 이해하고 실시간으로 응답을 생성하는 시스템입니다. 내부 지식 베이스에 연결해 자체 컨텍스트를 넘어선 정보를 검색하고 사용자에게 응답을 제공합니다. 

음성 기반 대화형 AI에서는 전용 음성 레이어가 말로 이루어지는 상호작용을 처리합니다. STT는 사용자의 음성을 텍스트로 변환하고, TTS는 AI의 응답을 자연스러운 음성으로 생성합니다.

대화형 AI 시스템은 음성과 텍스트 전반에 걸친 방대한 양의 데이터로 학습합니다. 시간이 지나면서 이 데이터는 모델이 인간의 언어를 어떻게 처리해야 하는지 이해하도록 돕고, 모델은 이를 바탕으로 사람과 논리적인 대화를 나눕니다. 

모든 대화형 AI 에이전트는 음성, 채팅 또는 둘 다 여부와 관계없이 이를 가능하게 하는 동일한 핵심 기술을 사용합니다. 

• 대규모 언어 모델(LLM): 일관성 있고 맥락에 적합한 응답을 생성합니다.
• 지식 베이스 및 검색 증강 생성(RAG): 에이전트의 답변이 모델이 이미 알고 있는 정보에만 의존하지 않고 자체 내부 지식 베이스에 기반하도록 합니다.
• 도구 호출: AI 시스템이 작업에 대해서만 이야기하는 대신 주문 상태 확인이나 캘린더 일정 예약과 같은 작업을 수행할 수 있도록 합니다.
• 가드레일: 모델과 병렬로 실행되며, 에이전트가 해야 할 일과 하지 말아야 할 일에 대해 설정한 경계 안에서 주제를 벗어나지 않고 브랜드에 맞게 작동하도록 합니다. 
• 배포 채널: 전화 통화, 웹사이트, 모바일 앱, 메시징 플랫폼 등 대화형 AI 에이전트가 사용자와 상호작용할 수 있는 다양한 방식입니다.

이 외에도 음성 에이전트는 동일한 핵심 기술 위에 실시간 음성 레이어를 더합니다.

• 음성 텍스트 변환: 사용자의 말을 LLM이 처리할 수 있는 텍스트로 변환합니다. 
• 텍스트 음성 변환: TTS 엔진은 에이전트의 응답을 자연스러운 음성으로 변환하고, 사용자는 이를 듣게 됩니다. 
• 턴 테이킹: 언제 듣고, 언제 말하며, 끼어들기를 어떻게 처리할지 등을 포함해 실시간 대화의 주고받음을 관리하는 시스템입니다.

가장 발전된 대화형 에이전트는 하나의 구성으로 채팅과 음성을 모두 운영하면서 두 채널 간 컨텍스트를 공유할 수 있습니다. 그 기능은 기존 챗봇이 할 수 있는 범위를 훨씬 뛰어넘습니다.

기존 챗봇은 사용자가 입력한 내용을 미리 작성된 의사결정 트리에서 가장 가까운 분기에 매칭하며, 설계된 정확한 입력만 처리할 수 있습니다. 대화형 AI 에이전트는 앞서 설명한 시스템을 활용해 스크립트 경로를 넘어 추론하고, 작업을 수행하며, 사용자와 실시간 대화를 나눕니다. 

대화형 AI 에이전트는 어디에 활용할 수 있나요?

사용자의 고객 서비스 문제를 해결하는 에이전트부터 영업팀의 신규 기회를 찾는 아웃바운드 AI SDR까지, 대화형 AI 에이전트는 기존 workflow에 자연스럽게 통합됩니다.

비즈니스가 어느 산업에 속하든 활용할 수 있는 대화형 AI 사례가 있을 가능성이 높습니다. 다양한 분야에서 AI 에이전트를 활용하는 방식을 간단히 살펴보겠습니다. 

• 고객 지원: 웹사이트의 AI 에이전트는 자주 묻는 질문을 해결하고, 주문 상태를 확인하며, 반품을 처리하거나 복잡한 문의를 상담원에게 전달할 수 있습니다. Klarna는 대화형 AI 에이전트로 고객 지원을 크게 확장한 여러 기업 중 하나입니다.
• 영업 아웃리치: 아웃바운드 AI SDR 에이전트는 리드를 검증하고 담당 영업사원을 위한 미팅을 예약할 수 있습니다. 연중무휴로 작동하며, 일관되게 높은 수준의 통화 품질과 대화 경험을 제공합니다. Employment Hero는 ElevenAgents를 활용해 기존 고객에게 새로운 AI 채용 에이전트를 알리는 전화를 걸었으며, 33%의 응답률을 달성하고 사람 상담원만으로는 불가능한 규모의 제품 활성화를 이끌었습니다. 
• 일정 예약: 기업은 예약을 처리하고 고객이 음성으로 직접 온보딩할 수 있도록 돕는 완전 자동화 AI 접수 에이전트를 만들 수 있습니다. Reception.ai를 사용하면 초보자도 엔드투엔드 일정 예약 시스템을 손쉽게 구축할 수 있습니다. 
• 교육: AI 튜터는 학습 자료를 생생하게 만들고, 개인화된 지원을 통해 학습자의 역량을 높입니다. Brilliant는 플랫폼에 대화형 AI 튜터를 도입해 학생들이 복잡한 문제를 실시간으로 풀도록 안내하며 학습 경험에 완전히 새로운 수준의 상호작용을 더했습니다. 
• 헬스케어 지원: 의료 서비스 제공자는 HIPAA 규정을 준수하면서 다국어 환자 온보딩을 지원하는 대화형 AI 에이전트를 웹사이트에 구현할 수 있습니다. Everlywell은 ElevenAgents를 사용해 기존 대화형 음성 응답(IVR) 대비 스페인어 사용 회원의 전환율을 3.5배 높였습니다.
• 물류 및 배송 운영: 대화형 AI 에이전트는 아웃바운드 통화, 배송 확인, 상태 업데이트, 예외 관리를 처리할 수 있습니다. Deliveroo는 ElevenAgents를 사용해 비활성 라이더의 80% 이상을 다시 참여시키고, 라이더 체크인 활성화를 위해 파트너 사이트의 86%에 연락했습니다.
• 내부 어시스턴트: AI 에이전트는 HR 온보딩 프로세스에 직접 통합되어 전체 온보딩 시간을 줄이고 교육 workflow를 확장합니다. TELUS는 ElevenAgents를 사용해 90,000건 이상의 시뮬레이션 고객 대화로 신규 사용자를 교육하며 신입 직원의 교육 시간을 20% 줄였습니다. 

활용 사례의 유연성을 높이는 요인 중 하나는 ElevenAgents와 같은 플랫폼에서 구현할 수 있는 방대한 범위의 통합 기능입니다. 일정 예약 에이전트에 Google Calendar와 Calendly를 연결하거나, Twilio 및 SIP를 활용해 복잡한 전화 workflow를 구축할 수 있습니다. 

ElevenAgents를 사용하면 대화형 AI 에이전트를 빈 페이지에서부터 구축할 필요가 없습니다. ElevenAgents 템플릿 라이브러리에는 바로 활용할 수 있는 사전 구축 에이전트 60개가 포함되어 있어, 한 줄의 코드도 작성하지 않고 비즈니스용 AI 에이전트를 만들 수 있습니다.

대화형 AI 에이전트 구축 전 필요한 사항

경험이 전혀 없어도 ElevenAgents에서 바로 시작해 처음부터 대화형 AI 에이전트를 만들 수 있지만, 명확한 계획이 있으면 더 빠르게 실용적인 에이전트를 만들 수 있습니다.

특히 처음 시작한다면 다음 항목을 미리 정리해 두세요.

• 명확한 활용 사례: 왜 이 에이전트가 필요한가요? 어떤 구체적인 문제를 해결하기를 바라며, 어떻게 해결할 수 있나요? 맞춤화되고 구체적인 활용 사례는 최대한 빠르게 프로덕션 준비가 된 결과물을 구축하는 데 도움이 됩니다.
• 대상 사용자에 대한 이해: 일반적인 사용자가 AI 에이전트와 상호작용할 때 어떤 경험을 원하나요? 답은 비즈니스 유형과 산업에 따라 크게 달라집니다. 예를 들어 금융 앱용 에이전트는 해변 호텔 예약을 돕는 에이전트보다 훨씬 진지하고 데이터 중심적인 말투를 사용할 수 있습니다.
• 플랫폼: 초보자는 모든 인프라를 대신 관리해 주는 플랫폼을 선택해야 합니다. ElevenAgents를 사용하면 인프라 코드를 관리하지 않고 하나의 플랫폼에서 대화형 AI 에이전트를 구축, 배포, 관리할 수 있습니다. 실시간 오디오부터 멀티채널 배포까지 모든 것을 처리하므로 기술 엔지니어링 대신 사용자 경험 설계에 집중할 수 있습니다.
• 음성: 무엇을 만들고 누구를 위한 것인지 명확히 정리했다면, 이제 브랜드에 어울리는 음성을 생각할 차례입니다. 따뜻하고 지적인 느낌? 전문적이고 직관적인 느낌? ElevenLabs 보이스 라이브러리에서 완벽한 음성을 찾을 수 있습니다.
• 지식 베이스: 특히 고객 지원 에이전트를 구축한다면, 질문에 답할 때 에이전트가 어떤 정보를 사용해야 하는지 설명하는 문서를 업로드하거나 연결할 수 있도록 준비해야 합니다. 더 자세한 정보를 제공할수록 답변도 더 풍부해집니다. RAG 활성화에 대해 자세히 알아보고 지식 베이스로 에이전트를 강화하세요.

이 5가지 영역에서 명확한 방향을 정했다면, 노코드 음성 AI 에이전트를 구축하는 데 필요한 모든 준비가 완료된 것입니다. 

대화형 AI 에이전트 구축 방법: 개요

처음부터 대화형 AI 에이전트를 구축하는 일은 처음에는 어렵게 느껴질 수 있지만, 생각보다 훨씬 쉽습니다. ElevenAgents는 코딩이나 인프라 유지 관리가 전혀 필요 없도록 초보자를 위한 과정을 최대한 간단하게 만들었습니다.

과정은 4가지 간단한 단계로 나뉩니다.

1. ElevenAgents에서 에이전트 만들기: ElevenAgents의 설정 workflow를 사용해 구축하려는 에이전트를 선택하세요.
2. 에이전트 구성: 시스템 프롬프트, 첫 메시지, 기본 음성, 언어 기능을 추가하세요.
3. 지식 베이스 업로드: 파일 업로드, 플랫폼에서 직접 작성, URL 붙여넣기로 정보를 추가하세요.
4. 테스트 및 출시: Tests 탭에서 시뮬레이션을 실행해 예외적인 문제를 해결하세요.

바로 시작할 준비가 되었다면 에이전트를 만들고 셀프서비스 플랫폼에서 즉시 구축을 시작할 수 있습니다.

더 큰 규모의 배포를 계획하거나 전문가의 안내가 필요한 팀이라면 영업팀에 문의하여 활용 사례, 아키텍처, 출시 전략을 검토하는 데 도움을 받으세요. 

아래에서 대화형 AI 에이전트를 만드는 단계별 과정을 살펴보세요.

1단계: 에이전트 만들기

Agents 작업 공간에 로그인한 후 왼쪽 메뉴에서 Agents 옆의 플러스 아이콘을 클릭하세요. 

설정 과정에서 몇 가지 사항을 물어볼 수 있습니다.

• 구축하려는 에이전트 유형(빈 에이전트, 개인 어시스턴트 또는 비즈니스 에이전트)
• 비즈니스가 속한 산업
• 연결하려는 도구 및 지식 베이스
• 필요한 활용 사례와 주요 목표
• 에이전트 이름

다양한 활용 사례에 맞는 기존 템플릿도 둘러볼 수 있어, 몇 가지 단계를 바로 건너뛸 수 있습니다. 이 60개 템플릿 중 하나를 사용하면 고객 지원, 교육, 접수, 영업 및 아웃리치 활용 사례의 구축 과정을 빠르게 진행할 수 있습니다.

안내에 따라 모든 정보를 입력하거나 템플릿을 선택했다면, “에이전트 만들기”를 클릭하세요. ElevenAgents가 테스트해 볼 수 있는 작동하는 초안을 생성합니다.

2단계: 에이전트 구성

몇 가지 설정이 에이전트의 동작 방식과 직원 및 고객과 상호작용하는 방식을 정의합니다. 시스템 프롬프트가 가장 중요한 요소이지만, ElevenAgents는 구축 과정에서 살펴볼 만한 다양한 설정을 제공합니다. 

이러한 구성은 진행 중에도 언제든 변경할 수 있습니다. 과정 전반에서 정보를 수정하고 변경 사항을 미리 볼 수 있으므로, 어떤 결정에도 얽매이지 않습니다.

다음 구성은 모두 메인 대시보드에서 수정할 수 있으며(왼쪽에서 Agent로 이동), 코딩이 전혀 필요하지 않습니다.

• 시스템 프롬프트: 에이전트의 성격, 어조, 목표, 가드레일을 정의하는 핵심 지침 세트입니다. ElevenAgents는 1단계에서 입력한 정보를 바탕으로 시작 프롬프트를 생성합니다. 브랜드에 맞게 편집하거나 처음부터 다시 작성하세요. 성격, 환경, 어조, 목표, 가드레일로 구성된 명확한 5가지 구조는 플랫폼의 작동 방식을 설명합니다. 훌륭한 시스템 프롬프트 작성 가이드를 확인하세요.
• 첫 메시지: 대화가 시작될 때 에이전트가 말하는 내용입니다. 짧게 작성하고, 에이전트가 처리하는 일을 구체적으로 밝히며, 따뜻한 어조를 유지하세요. 
• 음성: ElevenAgents는 사용할 수 있는 11,000개 이상의 자연스러운 음성 라이브러리를 제공합니다. 비즈니스에 가장 적합한 음성을 선택하기 전에 전체 샘플 대화 맥락에서 몇 가지를 들어 보세요. 
• 언어: 에이전트가 소통할 기본 언어와 추가 언어를 선택할 수 있습니다. 자동 언어 감지는 발신자가 실제로 사용하는 언어로 에이전트를 전환하므로, 매 대화마다 수동으로 설정할 필요가 없습니다. 

이 단계에서는 에이전트를 구동할 LLM 구성 요소도 선택할 수 있습니다. ElevenLabs는 선택 가능한 모델의 세부 정보와 각 모델의 지연 시간 및 분당 비용을 제공합니다.

더 복잡한 흐름을 위해서는 Tools 탭에 추가 도구를 포함하고, 절차를 사용할 수 있습니다. 절차는 환불용 절차와 계정 복구용 절차처럼 관련 상황에서만 에이전트가 불러오는 작업별 지침입니다.

또한 에이전트 워크플로우를 구축할 수 있습니다. 이는 하나의 선형 스크립트를 따르는 대신 사용자의 필요에 맞춰 대화가 분기되는 시각적 그래프 기반 편집기입니다. workflow는 서브에이전트 같은 노드 사이를 연결하며, 특정 대화 단계에 맞춰 서로 다른 시스템 프롬프트, LLM 또는 음성으로 전환할 수 있습니다. 

3단계: 지식 베이스에 문서 업로드

왼쪽 열에서 ‘Knowledge Base’ 탭으로 이동하면 에이전트에 연결한 문서를 확인할 수 있습니다. 이 문서는 에이전트가 실제로 말하는 내용과 추천을 안내하고 고객 질문에 답하는 데 사용하는 정보를 결정합니다. 

‘Add document’를 클릭한 후 다음 옵션 중 하나를 선택하세요.

• URL 추가: URL을 붙여넣고 콘텐츠를 7일마다 자동으로 새로 고칠지 설정하세요. 
• 파일 추가: 각각 최대 21MB의 epub, pdf, docx, txt, html 또는 md 파일을 업로드하세요.
• 텍스트 만들기: 플랫폼의 지식 베이스에 텍스트를 직접 작성하거나 붙여넣으세요.

준비 사항으로 지식 베이스가 이미 준비되어 있어야 합니다. 대부분의 도구에서는 이것만으로도 사용자 질문에 안정적으로 답하는 데 충분합니다. 문서 세트가 큰 경우에는 RAG를 활성화하세요. 응답 속도를 늦추지 않으면서 훨씬 큰 지식 베이스에서 정보를 가져올 수 있습니다. 

4단계: 테스트 및 출시

이 단계에서는 에이전트와 대화하고 전체 대화를 시뮬레이션할 수 있어야 합니다. 지식 베이스의 컨텍스트가 반영되므로 에이전트는 고객의 요구를 가장 잘 충족하도록 개인화됩니다.

변경하는 즉시 결과를 미리 볼 수 있어, 매번 에이전트를 재배포하지 않고도 프롬프트와 대화 흐름을 반복 개선할 수 있습니다.

프로덕션에 적용하기 전에는 항상 모델을 최대한 폭넓게 테스트하세요. 실제로는 ‘Tests’ 탭에서 다양한 시뮬레이션을 실행할 수 있습니다. 일반적인 활용 사례를 위한 새 테스트를 설계한 다음, 테스트를 3회, 5회, 15회 또는 50회씩 일괄 실행할 수 있습니다. 

테스트는 통과하거나 실패하며, 연결된 대화 기록을 통해 무엇이 잘못되었는지(문제가 있다면)와 해결 방법을 정확히 확인할 수 있습니다. 모든 시뮬레이션이 미리보기를 통과하고 직접 테스트도 마쳤다면, 이제 에이전트를 게시할 차례입니다. 

이렇게 한 줄의 코드도 작성하지 않고 브랜드에 맞춘 개인화된 대화형 AI 에이전트를 만들었습니다.

초보자도 ElevenAgents로 대화형 AI 에이전트를 구축할 수 있습니다

고품질 고객 서비스 경험 구축부터 사용자가 질문할 수 있는 페이지 내 도구 삽입까지, 대화형 AI 에이전트는 간결하고 매끄러운 상호작용 경로를 만듭니다. ElevenAgents를 사용하면 초보자도 대화형 AI 에이전트를 대규모로 구축하고 배포할 수 있습니다. 

실시간 오디오 처리, 턴 테이킹, 끼어들기 감지, 멀티채널 배포까지 개인화된 ElevenAgent가 모든 복잡한 작업을 대신 처리합니다. 자체 지식 베이스를 연결하고 일관된 브랜드 음성을 구축한 다음, 인프라를 관리하지 않고 전화, 웹 채팅, 메시징 채널 전반에 배포하세요.

ElevenAgents에 대해 자세히 알아보거나 영업팀에 문의하여 지금 시작하세요.

대화형 AI 에이전트 구축 FAQ