AI 에이전트

01

챗봇과 에이전트는 무엇이 다른가

고객이 쇼핑몰 상담 창에 "어제 산 운동화가 안 맞아요. 환불해 주세요"라고 썼습니다. 아래 그림에서 챗봇과 에이전트를 바꿔 보세요.

챗봇은 질문을 받아 답을 한 번 씁니다. 에이전트는 목표를 받아 그 목표를 이룰 때까지 일합니다. 무엇을 할지 생각하고, 도구를 써서 실제로 행동하고, 결과를 보고, 다시 생각하기를 되풀이합니다. 어떤 도구를 어떤 순서로 쓸지 사람이 미리 정해 두지 않고 모델이 그때그때 정한다는 점이 핵심입니다.

에이전트의 힘은 도구에서 나옵니다. 그런데 글만 쓸 줄 아는 LLM이 어떻게 주문 시스템을 부를 수 있을까요?

02

도구를 쓰는 방법 (함수 호출)

LLM은 글을 쓸 뿐 직접 다른 시스템에 접속하지 못합니다. 그래서 앱이 LLM에게 쓸 수 있는 도구의 목록과 설명을 함께 보냅니다. 이름, 무엇을 하는 도구인지, 어떤 값을 받는지가 적힌 목록입니다.

도구: 주문 조회
설명: 고객의 주문 상태와 배송 위치를 알려 준다
받는 값: 주문번호 (문자열, 필수)

LLM은 질문에 답하려면 이 도구가 필요하다고 판단하면, 답 대신 "주문 조회를 주문번호 1042로 불러 달라"는 요청을 정해진 형식으로 돌려줍니다. 실제 실행은 앱이 하고, 결과를 다시 LLM에게 보내면 LLM이 그 결과로 답을 씁니다. 이 방식을 함수 호출(function calling) 또는 도구 호출이라고 합니다. 아래 그림에서 메시지를 하나씩 넘겨 보세요.

도구 설명은 모델이 도구를 고르는 유일한 단서라서, 무엇을 할 때 쓰는 도구인지 분명히 적어야 합니다. 그리고 앱은 LLM이 요청한 도구와 값을 그대로 믿지 말고, 허용된 도구인지, 값이 올바른지 확인한 뒤 실행합니다.

도구 하나를 한 번 부르는 건 시작일 뿐입니다. 1장의 환불처럼 여러 도구를 차례로, 결과에 따라 다르게 써야 할 때 에이전트는 어떻게 움직일까요?

03

생각하고, 행동하고, 결과를 본다 (ReAct·계획)

1장의 에이전트는 생각 → 행동 → 관찰을 되풀이했습니다. 생각을 글로 쓰고(추론, Reasoning), 그에 따라 도구를 쓰고(행동, Acting), 결과를 다음 생각에 반영하는 이 방식을 ReAct라고 부릅니다. 생각을 먼저 쓰게 하니 다음 행동을 더 잘 고르고, 결과를 보고 생각하니 엉뚱한 길로 가도 바로잡을 수 있습니다.

일이 크면 먼저 할 일을 나누는 계획(planning)을 세웁니다. 아래 그림은 출장 준비를 맡은 에이전트입니다. 진행해 본 뒤, 호텔 예약 도구가 실패하게 하고 다시 진행해 보세요.

정해진 순서만 따르는 자동화는 중간에 예상하지 못한 결과가 나오면 멈춥니다. 에이전트는 "만실"이라는 관찰을 보고 계획을 고쳐 다른 호텔을 찾았습니다. 이렇게 결과를 보고 다음 행동을 바꾸는 능력이 에이전트를 쓰는 이유입니다.

반대로 에이전트가 끝나지 않고 같은 행동을 되풀이하는 일도 생깁니다. 그래서 최대 몇 단계까지만 돌지, 비용이 얼마를 넘으면 멈출지 같은 한도를 둡니다.

에이전트가 오래 일하거나 사용자와 여러 번 만나다 보면, 지난번에 알게 된 것을 기억해야 할 때가 생깁니다.