AX는 Agent Experience 또는 AI Experience의 의미로 볼 수 있다.
단순히 챗봇 UI를 붙이는 것이 아니라, 사용자가 AI agent에게 작업을 맡기고, AI가 도구를 사용해 실제 작업 흐름을 수행하며, 사용자가 그 과정을 이해하고 통제할 수 있게 만드는 경험 설계에 가깝다.
일반적인 챗봇은 주로 질문에 답변한다.
AX 관점의 AI agent는 답변을 넘어 작업 흐름에 참여한다.
예를 들어 사용자가 다음과 같이 요청할 수 있다.
지난주 고객 문의 중 환불 관련 이슈만 정리해서 슬랙에 공유해줘.이때 AI agent는 단순히 문장을 생성하는 것이 아니라 다음 흐름을 수행할 수 있다.
- 사용자의 요청 의도 파악
- 필요한 데이터 조회
- 관련 API 또는 tool 호출
- 결과 요약
- 사용자 확인 요청
- 외부 시스템 실행
- 작업 로그 저장
따라서 AX의 핵심은 AI가 얼마나 자연스럽게 답변하는지가 아니라, 사용자가 AI에게 어떤 작업을 맡길 수 있고 그 과정을 얼마나 신뢰하고 통제할 수 있는지에 있다.
AX에서 사용자 통제는 AI가 어떤 작업을 하려는지 사용자가 이해하고, 중요한 실행은 승인하거나 취소할 수 있는 상태를 의미한다.
조회처럼 위험이 낮은 작업은 자동화할 수 있지만, 삭제, 결제, 환불, 권한 변경, 외부 전송처럼 시스템 상태나 사용자에게 영향을 주는 작업은 실행 전에 확인 단계를 두는 것이 안전하다.
AI가 자율적으로 행동하더라도 최종 책임과 통제권은 사용자에게 남아 있어야 한다.
사용자가 AI를 신뢰하려면 AI의 작업 과정이 보이지 않는 블랙박스가 되지 않아야 한다.
AX에서는 다음 정보가 중요하다.
- AI가 어떤 데이터를 참고했는지
- 어떤 tool 또는 API를 호출했는지
- 실행 전인지 실행 후인지
- 변경 작업이라면 무엇이 바뀌는지
- 사용자가 승인하거나 취소할 수 있는지
- 실패했다면 어디서 실패했는지
- 작업 로그가 남는지
즉 AI의 판단 근거, 데이터 출처, 실행하려는 작업 내용, 권한 요청, 실행 결과와 로그가 사용자에게 드러나야 한다.
기존 인프라에 AI를 접목한다는 것은 이미 운영 중인 DB, API, 인증, 로그, 관리자 시스템, 업무 도구 위에 AI가 접근할 수 있는 안전한 연결 계층을 추가하는 것이다.
예를 들어 기존 서비스에는 다음과 같은 인프라가 있을 수 있다.
- 사용자 DB
- 주문 API
- 결제 시스템
- 고객 문의 내역
- 관리자 페이지
- 로그와 모니터링 시스템
- 슬랙, 이메일, 노션 같은 협업 도구
AI를 붙이면 다음과 같은 흐름으로 확장할 수 있다.
- 고객 문의 요약과 분류
- 장애 로그 분석과 원인 후보 정리
- 사내 문서 기반 질의응답
- 자연어 기반 관리자 작업 요청
- 주문, 환불, 배송 상태 통합 조회
- 반복 업무를 agent workflow로 자동화
다만 핵심은 AI가 DB나 시스템을 직접 마음대로 만지게 하는 것이 아니다.
보통은 다음과 같은 계층을 둔다.
User
↓
AI Interface / Agent
↓
Guardrails / Permission / Policy
↓
Tool Calling Layer
↓
Existing APIs / DB / InfraAI가 기존 API나 업무 도구를 tool처럼 호출하고, 그 앞에서 권한 검증과 가드레일을 적용하는 구조가 안전하다.
AI에게 DB를 직접 열어주면 어떤 쿼리를 만들지 예측하기 어렵고, 권한 범위나 민감 정보 노출을 통제하기 어렵다.
반면 기존 API를 tool로 감싸면 서버에서 다음 요소를 통제할 수 있다.
- 입력값 형식
- 권한 범위
- 응답 데이터
- 민감 정보 마스킹
- 호출 횟수 제한
- 실행 로그
- 실패 처리
즉 AI가 직접 시스템을 조작하게 하기보다, 이미 동작이 정의된 안정적인 함수를 사용하게 만드는 방식에 가깝다.
조회 tool과 변경 tool은 위험도가 다르기 때문에 권한 정책도 다르게 설계해야 한다.
조회 tool은 read-only 권한과 데이터 범위 제한이 중요하다.
예를 들어 사용자가 볼 수 있는 데이터만 조회하게 하고, 개인정보나 민감 정보는 마스킹해야 한다.
변경 tool은 더 엄격해야 한다.
예를 들어 결제, 삭제, 환불, 권한 변경, 외부 전송 같은 작업은 다음 장치가 필요하다.
- 사용자 승인
- 권한 재검증
- 변경 내용 미리보기
- 감사 로그
- 실패 처리
- 롤백 전략
조회 작업의 주요 위험은 잘못된 정보 제공이나 민감 정보 노출이다.
반면 변경 작업은 실제 시스템 상태를 바꾸므로 사용자 확인과 로그, 복구 전략이 더 중요하다.
AI agent는 단순 응답뿐 아니라 실제 시스템 작업을 수행할 수 있다.
따라서 어떤 tool을 언제, 어떤 입력값으로 호출했고, 어떤 결과가 나왔는지 기록해야 한다.
로그가 있으면 다음 상황에 대응할 수 있다.
- 장애 분석
- 보안 감사
- 사용자 문의 대응
- 잘못된 실행의 원인 추적
- 복구 지점 확인
AI가 실행한 작업일수록 추적 가능성이 중요하다.
기존 교통 신호 인프라에 AI를 붙인다면, 센서나 CCTV에서 교통량과 보행자 흐름 데이터를 수집하고 AI가 혼잡도를 분석해 신호 주기 조정안을 제안할 수 있다.
다만 AI가 신호등을 바로 마음대로 조작하면 위험할 수 있다.
예를 들어 차량 흐름만 보고 보행자 신호를 지나치게 줄이거나, 긴급차량, 어린이 보호구역, 사고 상황, 공사 구간 같은 맥락을 놓칠 수 있다.
따라서 실제 신호 변경은 기존 교통 규칙, 안전 제한, 긴급 상황 우선순위, 관리자 승인 같은 가드레일을 거쳐야 한다.
AI는 기존 제어 시스템을 대체하기보다, 분석과 추천, 제한된 실행을 담당하는 보조 계층으로 붙는 것이 안전하다.
AI 서비스를 새로 만든다는 것은 AI 기능 자체를 중심으로 제품을 구성하는 것이다.
예를 들어 챗봇 서비스, 문서 요약 서비스, 이미지 생성 서비스처럼 독립적인 AI 기능을 만드는 경우가 여기에 가깝다.
반면 기존 인프라에 AI를 붙인다는 것은 이미 운영 중인 DB, API, 인증, 로그, 업무 시스템을 AI가 tool 형태로 안전하게 사용할 수 있도록 연결하는 것이다.
후자는 기존 시스템의 권한 체계와 운영 흐름을 유지하면서 AI를 보조 계층으로 얹는 방식에 가깝다.
AX는 사용자가 AI에게 일을 맡기되, 그 과정을 이해하고 통제할 수 있게 만드는 경험 설계이다.
기존 인프라와 AI 접목은 AI가 기존 시스템을 안전하게 사용할 수 있도록 tool, 권한, 로그, 가드레일을 설계하는 일이다.