지금까지 살펴본 LLM은 기본적으로 질문을 받고 답변을 생성하는 방식으로 작동합니다. 사람이 물어보면 AI가 답하는 구조입니다. 그런데 최근에는 한 단계 더 나아간 개념이 주목받고 있습니다. 사람이 목표만 알려주면 AI가 스스로 계획을 세우고, 필요한 도구를 사용하고, 여러 단계의 작업을 순서대로 수행하는 방식입니다. 이것이 AI 에이전트(AI Agent)입니다. "AI가 대답하는 것"에서 "AI가 행동하는 것"으로의 전환이라고 볼 수 있습니다.

AI 에이전트란 무엇인가

에이전트(Agent)라는 단어는 원래 "누군가를 대신해서 행동하는 존재"를 뜻합니다. 부동산 에이전트, 여행 에이전트처럼 특정 목표를 위해 여러 작업을 대신 처리하는 역할입니다. AI 에이전트도 같은 맥락입니다. 사용자가 목표를 제시하면, AI가 그 목표를 달성하기 위해 스스로 판단하고 행동하는 시스템입니다.

일반적인 LLM 활용과의 차이를 비교하면 이해가 쉬워집니다. 일반적인 LLM 사용은 "이 이메일에 대한 답장 초안을 작성해줘"라고 요청하면 텍스트를 생성해주는 방식입니다. 반면 AI 에이전트 방식은 "내 이메일 받은편지함을 확인하고, 미처리 요청들을 정리한 뒤, 우선순위에 따라 답장을 보내줘"처럼 여러 단계의 작업을 자율적으로 수행하는 것입니다. 단순 생성에서 자율적 실행으로의 전환입니다.

AI 에이전트의 핵심 구성 요소

AI 에이전트가 작동하려면 몇 가지 핵심 요소가 필요합니다. 이 요소들이 어떻게 조합되는지 이해하면, 에이전트가 왜 기존 AI와 다른지 더 명확하게 보입니다.

첫 번째는 인식(Perception)입니다. 에이전트는 외부 환경에서 정보를 받아들여야 합니다. 텍스트, 이미지, 파일, 웹페이지, 데이터베이스 등 다양한 형태의 입력을 처리할 수 있어야 합니다.

두 번째는 추론과 계획(Reasoning and Planning)입니다. 목표를 달성하기 위해 어떤 순서로 무엇을 해야 하는지 스스로 판단하는 능력입니다. LLM이 이 역할을 담당하는 경우가 많으며, 복잡한 목표를 작은 단계로 분해하고 순서를 정하는 과정이 여기에 해당합니다.

세 번째는 도구 사용(Tool Use)입니다. 에이전트가 실제로 행동하려면 외부 도구와 연결되어야 합니다. 웹 검색, 코드 실행, 파일 읽기·쓰기, API 호출, 이메일 발송 등이 도구에 해당합니다. 도구 사용 능력이 있어야 에이전트가 실제 세계에 영향을 미칠 수 있습니다.

네 번째는 메모리(Memory)입니다. 작업을 여러 단계에 걸쳐 수행하려면 이전 단계의 결과를 기억하고 다음 단계에 반영할 수 있어야 합니다. 단기 메모리는 현재 작업 맥락을 유지하는 데, 장기 메모리는 사용자 선호나 과거 작업 이력을 저장하는 데 활용됩니다.

구성 요소 역할 예시
인식 외부 정보 수집 웹페이지 읽기, 파일 열기, 이미지 분석
추론·계획 목표 분해 및 순서 결정 작업을 단계별로 나누고 순서 설정
도구 사용 실제 행동 수행 검색, 코드 실행, 이메일 발송
메모리 맥락 유지 및 이력 저장 이전 작업 결과 참조, 사용자 선호 기억

AI 에이전트가 작동하는 방식 — ReAct 프레임워크

AI 에이전트가 실제로 어떤 순서로 작동하는지 이해하는 데 도움이 되는 개념이 있습니다. ReAct(Reasoning + Acting)라는 프레임워크입니다. 이름처럼 추론(Reasoning)과 행동(Acting)을 반복하는 방식입니다.

작동 흐름을 단순화하면 이렇습니다. 먼저 목표를 받으면 어떻게 달성할지 생각합니다(추론). 그 다음 적절한 도구를 선택해 행동합니다(행동). 행동의 결과를 관찰합니다(관찰). 관찰 결과를 바탕으로 다음 단계를 다시 생각합니다(추론). 이 사이클을 목표가 달성될 때까지 반복합니다.

예를 들어 "경쟁사 A의 최근 신제품 출시 현황을 조사해서 요약 보고서를 만들어줘"라는 요청을 받은 에이전트는 이런 순서로 작동할 수 있습니다. 웹 검색 도구로 경쟁사 관련 최신 뉴스를 검색하고, 검색 결과에서 관련 페이지를 열어 내용을 읽고, 수집한 정보를 정리해 보고서 형식으로 작성하고, 파일로 저장하거나 지정된 위치에 전송하는 방식입니다. 사람이 각 단계마다 개입하지 않아도 됩니다.

현재 AI 에이전트의 실제 사례

AI 에이전트는 아직 발전 초기 단계이지만, 이미 다양한 형태로 실제 서비스에 등장하고 있습니다.

코딩 에이전트 분야에서는 Devin, GitHub Copilot Workspace 같은 도구가 주목받고 있습니다. 개발자가 기능 요구사항을 설명하면, 코드를 작성하고 테스트하고 오류를 수정하는 과정을 자율적으로 수행하는 방향으로 발전하고 있습니다. 완전한 자율화까지는 아직 거리가 있지만, 반복적인 개발 작업의 상당 부분을 보조하는 수준에는 도달하고 있습니다.

업무 자동화 에이전트도 등장하고 있습니다. 이메일 분류와 초안 작성, 회의 일정 조율, 데이터 수집과 정리, 보고서 초안 생성 같은 반복적인 업무를 자동화하는 방향입니다. Microsoft 365 Copilot, Google Workspace의 AI 기능 확장이 이 방향으로 나아가고 있습니다.

브라우저 에이전트도 주목할 만한 분야입니다. 웹 브라우저를 직접 조작해서 정보를 검색하고, 양식을 작성하고, 예약을 완료하는 등 사람이 브라우저로 하는 작업을 대신 수행하는 방식입니다. Anthropic의 Computer Use, OpenAI의 Operator 같은 시도가 이 영역에 해당합니다.

멀티 에이전트 시스템

AI 에이전트 논의에서 빠지지 않는 개념이 멀티 에이전트(Multi-Agent) 시스템입니다. 하나의 에이전트가 모든 작업을 처리하는 대신, 여러 에이전트가 역할을 나눠 협력하는 방식입니다.

예를 들어 마케팅 캠페인을 기획하는 작업이라면, 시장 조사를 담당하는 에이전트, 카피를 작성하는 에이전트, 예산을 분석하는 에이전트, 전체 작업을 조율하는 오케스트레이터 에이전트가 각자의 역할을 수행하고 결과를 통합하는 방식으로 작동할 수 있습니다. 각 에이전트가 특화된 역할에 집중하면서 전체 작업의 품질을 높이는 구조입니다. 인간 조직의 팀 구조와 유사한 개념으로 볼 수 있습니다.

AI 에이전트의 과제와 위험

AI 에이전트의 가능성은 흥미롭지만, 동시에 주의해야 할 과제들도 있습니다. 특히 에이전트가 실제로 행동을 수행한다는 점에서, 단순한 텍스트 생성보다 더 신중한 접근이 필요할 수 있습니다.

신뢰성 문제가 가장 중요한 과제 중 하나입니다. 에이전트가 중간에 잘못된 판단을 내리거나 의도치 않은 행동을 수행할 경우, 실제 시스템이나 데이터에 영향을 미칠 수 있습니다. 이메일을 잘못 발송하거나, 파일을 잘못 삭제하거나, 외부 서비스에 의도치 않은 요청을 보내는 상황이 발생할 수 있습니다. 이 때문에 현재는 에이전트가 중요한 행동을 수행하기 전에 사람의 승인을 받는 방식을 함께 사용하는 경우가 많습니다.

보안 취약성도 고려해야 합니다. 에이전트가 외부 웹페이지나 문서를 읽고 그 내용을 바탕으로 행동하는 구조에서는, 악의적으로 설계된 콘텐츠가 에이전트를 의도치 않은 방향으로 유도할 수 있습니다. 이를 프롬프트 인젝션(Prompt Injection) 공격이라고 하며, 에이전트 보안 분야에서 활발히 연구되고 있는 주제입니다.

책임 소재 문제도 있습니다. 에이전트가 자율적으로 행동해서 문제가 발생했을 때, 그 책임이 누구에게 있는지 명확하지 않은 경우가 생길 수 있습니다. AI 개발사, 서비스 제공자, 사용자 중 누가 어떤 범위의 책임을 지는지에 대한 논의는 아직 진행 중입니다.

정리하며

AI 에이전트는 단순히 질문에 답하는 것을 넘어, 목표를 받아 스스로 계획하고 도구를 사용해 작업을 수행하는 시스템입니다. 인식, 추론, 도구 사용, 메모리라는 핵심 요소가 결합되어 작동하며, 코딩 보조, 업무 자동화, 브라우저 조작 등 다양한 분야에서 실제 서비스가 등장하고 있습니다. 다만 신뢰성, 보안, 책임 소재 같은 과제가 남아 있어, 현재는 사람의 감독과 함께 활용하는 방식이 현실적인 접근으로 여겨지고 있습니다.