MCP를 붙인 뒤 더 중요해진 것: Agent의 Tool Planning과 Execution Boundary
MCP로 AI Agent에 Tool을 연결한 뒤에도 실행 권한까지 LLM에 맡겨야 할까? Tool Planning, Runtime Context, Authorization, Policy와 Deterministic Execution의 경계를 Enterprise AI 관점에서 정리한다.
MCP로 AI Agent에 Tool을 연결한 뒤에도 실행 권한까지 LLM에 맡겨야 할까? Tool Planning, Runtime Context, Authorization, Policy와 Deterministic Execution의 경계를 Enterprise AI 관점에서 정리한다.
지난 글에서는 고객의 요구사항을 최대한 단순하게 유지했다. 최초 이메일이 Salesforce Email-to-Case를 통해 Case로 생성되면 AI가 내용을 읽고 Level 1과 Level 2 Category를 판단한다. Category가 정해진 이후의 Assignment는 이미 존재하는 Salesforce의 규칙에 맡긴다. 여기까지만 보면 꽤 깔끔하다. 그런데 실제 상담 업무를 생각하기 시작하면 문제는 최초 분류 이후부터 생긴다. 처음에는 Billing 문의였던 고객이 같은 이메일 Thread에서 이렇게 … 더 읽기
좋은 모델을 도입한다고 업무가 자동으로 바뀌지는 않는다. 10년의 B2B 영업 경험과 Enterprise AX 설계를 거치며 생각하게 된, 결정론적 시스템과 AI의 판단 사이에 경계를 그리는 방법에 대한 이야기.