Nov 4, 2024 8 min read AI 인사이트

AI 에이전트에 대한 모든 것 (정의, 4가지 활용 사례, 한계)

AI 에이전트란 무엇인가요?

사람이 직접 조작하지 않고도, 데이터를 통해 상황을 파악하고, 의사 결정을 내리고, 액션까지 취하는 인공지능 시스템을 말합니다.

AI 에이전트와 Chat GPT는 어떻게 다른가요?

회의실 예약하는 상황을 예시로 들어보겠습니다.

상황

"내일 오후 2시에 회의실 예약해줘"

LLM 챗봇 응답

"회의실 예약 방법을 안내해드리겠습니다. 회의실 예약 시스템에 접속하셔서..."

AI Agent 응답

"네, 내일 오후 2시에 회의실을 예약했습니다. 회의실 A가 예약되었고, 참석자들에게 초대 메일을 보냈습니다. 다른 도움이 필요하신가요?"

AI 에이전트의 특징은 무엇일까요?

행동 능력

AI Agent: 실제 행동을 수행할 수 있습니다 (예시: 이메일 보내기, 일정 예약, 파일 검색)
LLM 챗봇: 주로 텍스트 기반 대화만 가능하며, 직접적인 행동 수행은 불가능해요.

도구 사용

AI Agent: 다양한 외부 도구나 API를 활용할 수 있어요 (예시: 구글 캘린더 API, 웹사이트 방문, 데이터베이스 조회)
LLM 챗봇: 학습된 지식을 바탕으로 응답만 생성합니다.

목적성

AI Agent: 특정 목표 달성을 위해 계획을 세우고 실행해요 (예시: 회의실 예약, 영업 미팅 성사)
LLM 챗봇: 사용자 질문에 대한 응답 생성이 주 목적이 되어요.

메모리와 상태

AI Agent: 장기적인 목표와 작업 진행 상태를 추적하고 기억해요 (예시 : 기존에 세팅된 요청사항들을 고려)
LLM 챗봇: 대화 컨텍스트 안에서만 제한적으로 메모리 유지하고 있어요.

AI 에이전트는 어떻게 작동하나요?

AI 에이전트는 기본적으로 세가지 단계를 통해 작동합니다.

인식 : 데이터 피드, 사용자 입력, 센서 등을 통해 주변 환경을 감지할 수 있어요.
의사결정 : 인식한 데이터를 기반으로 AI가 의사결정을 내립니다.
실행 : 결정이 내려지면, 직접 이메일을 보내는 등 실제 액션을 합니다.

Chat GPT와 같은 LLM 챗봇이 AI를 기반으로 의사결정만 진행한다면, AI Agent는 환경을 인식하고, 액션을 취한다는 게 다른 부분이에요.

AI 에이전트 활용 사례

업무에서 실제로 사용되고 있는 AI Agent 활용 사례를 정리해 봤습니다.

1️⃣ 고객 문의가 발생하면, 자동으로 메일 보내고 약속 잡아주는 AI 에이전트

우리 회사 서비스에 관심있는 고객이 문의 메일을 남기면, AI 에이전트가 즉각적으로 답장을 보내도록 만들 수 있어요. 고객의 링크드인 정보를 조회해서 꽤나 개인화 된 메일을 보낼 수 있습니다. 답장이 없으면, 일정 시간 이후에 다시 메일을 보내도록 설정할 수도 있고요.

2️⃣ 미팅 전에 미팅 안건 요약해서 알려주는 AI 에이전트

미팅이 잡히면, 미팅 전에 상대방 정보와 미팅 안건을 요약해서 보내도록 만들 수도 있습니다. 예를 들어 구글 캘린더에 미팅이 추가되면, 상대방의 링크드인 정보를 긁어오고, 상대방과 나눈 이메일을 조회해서 미팅 정보를 정리하도록 요청하는 거죠.

회의 한시간 전, 상대방에 대한 정보가 정리되어 문자 메시지로 발송되게 에이전트를 만들었다

3️⃣ 유튜브 요약해서 알려주는 AI 에이전트

Claude와 같은 LLM은 유튜브 링크만 남겨놓고 요약을 요청하면 처리하지 못하는데요. 그 이유는 영상의 자막 정보를 가져오지 못하기 때문이에요. AI 에이전트에게 유튜브 링크를 입력하면, 자막 정보를 긁어와서 요약해 달라고 하는 것도 가능합니다.

4️⃣ 매일 특정 웹페이지 방문해서 새로운 이벤트가 생기면 알려주는 AI 에이전트

반복적으로 특정 웹페이지를 조회하고, 새로운 정보가 나오면 알림을 받도록 하는 것도 가능해요. 예를 들어 A 회사의 채용 공고를 매일 확인하고, 새로운 공고가 등록되면 이메일을 보내도록 AI 에이전트를 만들 수 있습니다.

AI 에이전트의 한계 : 환각

아직 AI 에이전트는 한계점도 많습니다. LLM의 환각 문제 때문인데요. 고객에게 없는 정보를 있는 척 보내주기도 하고, 잘못된 정보를 가져오기도 하거든요. 이런 이유로 실제 기업에서 문제가 발생하지 않는 AI 에이전트를 만들기 위해서는 섬세한 파인튜닝과 보완 체제를 만드는 것이 필요해요.