AI를 공부하면 Agentic AI, Human-in-the-loop, Orchestration, Guardrail, Eval, Observability 같은 단어가 줄을 섭니다. 모두 미래에서 막 도착한 개념처럼 들립니다. 그런데 제조업의 눈으로 보면 묘하게 익숙합니다.
공장은 이미 수십 년 동안 같은 질문을 풀어왔기 때문입니다. 무엇을 사람이 하고 무엇을 기계가 할까. 언제 사람이 개입해야 할까. 이상이 생기면 어디에서 멈출까. 한 번 해결한 문제를 어떻게 다시 생기지 않게 할까.
제조업이 물리적 작업의 Production System을 만들었다면, Agentic AI는 지식노동의 Production System을 만들고 있습니다.
1. 어려운 AI 용어부터 사람 말로 바꾸기
목표를 받아 여러 단계를 계획하고 도구를 사용해 결과까지 수행하는 AI 프로그램.
미리 정한 순서와 조건대로 움직이는 업무 흐름.
금지 규칙, 권한, 형식 검사처럼 위험한 행동을 막는 안전장치.
AI가 실제 업무를 잘했는지 반복해서 시험하는 테스트.
Anthropic은 워크플로와 에이전트를 구분합니다. 워크플로는 미리 정한 길을 따르고, 에이전트는 상황에 따라 경로와 도구 사용을 결정합니다. 자율성이 커질수록 유연하지만 비용과 오류의 연쇄 가능성도 커집니다. 모든 업무를 에이전트로 바꾸는 것이 능사는 아닙니다.
2. AI 에이전트는 혼자 일하는 로봇이 아니다
제조현장의 Workcell은 기계 한 대가 아닙니다. 작업자, 설비, 치공구, 자재, 작업표준, 품질기준, 이상 대응이 한 묶음입니다. AI도 같습니다.
Agent + Tool + Data + Validation + Human Approval이 연결되어야 비로소 하나의 Agentic Workflow, 즉 ‘디지털 워크셀’에 가까워집니다.
예: 월요일 아침 경쟁사 뉴스 보고서
AI에게 “지난주 주요 뉴스를 요약해줘”라고 하면 빠른 초안이 나옵니다. 하지만 출처가 빠지거나 오래된 기사와 최신 기사가 섞이고, 숫자가 그럴듯하게 틀릴 수 있습니다. 제대로 된 디지털 워크셀은 이렇게 움직입니다.
승인된 언론사와 공시에서 지난 7일의 자료만 가져온다.
AI는 사실·해석·추정을 서로 다른 필드에 작성한다.
수치와 인용은 원문 링크 대조를 통과해야 한다.
회사 영향과 외부 공유 문장은 담당자가 최종 승인한다.
틀린 요약을 저장해 평가 세트와 작업표준을 갱신한다.
3. Human-in-the-loop보다 ‘작업조합’이 먼저다
Lean의 Standardized Work Combination Table은 사람의 수작업, 이동, 설비의 자동가공 시간을 한 축에 놓습니다. 목적은 사람을 바쁘게 만드는 것이 아니라 사람과 기계의 대기와 인계점을 보이게 하는 것입니다. Lean Enterprise Institute도 작업조합표를 사람과 기계의 상호작용을 보여주는 도구로 설명합니다.
지식노동에서도 역할을 세 가지로 나눌 수 있습니다. 사람은 목적·맥락·책임을 맡습니다. AI는 대량 탐색·비교·초안을 맡습니다. 날짜 범위나 금액 한도처럼 명확한 검사는 규칙과 코드가 맡습니다. AI의 생산성은 답변 한 번의 속도가 아니라 고객가치가 끝까지 흐르는 시간으로 측정해야 합니다.
| 위험과 가역성 | 권장 인간 개입 | 예시 |
|---|---|---|
| 낮고 되돌리기 쉬움 | Human-out | 분류, 파일명 정리, 초안 |
| 감시·중단 가능 | Human-on | 반복 수집, 내부 알림 |
| 영향이 크고 되돌리기 어려움 | Human-in | 결제, 인사, 규정, 대외발신 |
사람의 개입이 적다고 더 성숙한 시스템은 아닙니다. Microsoft의 Agentic Responsible AI 가이드도 사람·금전·규정에 영향을 주거나 되돌리기 어려운 행동에는 인간 승인을 두라고 권합니다. 브레이크가 달린 자동차가 덜 발전한 자동차는 아닙니다.
4. 좋은 자동화는 ‘잘 달리는’ 시스템이 아니라 ‘잘 멈추는’ 시스템
Toyota가 설명하는 Jidoka의 핵심은 이상을 즉시 감지하고, 불량이 다음 공정으로 흐르지 않게 멈추는 구조입니다. AI에서도 자율성이 높아질수록 “얼마나 오래 혼자 일하나”보다 “무엇이 이상이면 멈추나”가 중요합니다.
다만 “Guardrail = Digital Jidoka”라고 단순화하면 부족합니다. 가드레일은 경계 하나입니다. Jidoka에 가까워지려면 검증, 중단, 알림, 에스컬레이션, 원인 수정, 표준 갱신이 닫힌 고리로 이어져야 합니다.
좋은 자동화는 한 번도 멈추지 않는 시스템이 아닙니다. 틀린 결과가 고객에게 닿기 전에, 정확한 이유로 멈추는 시스템입니다.
5. 공장에선 “알아서 잘해”로 라인을 돌리지 않는다
실력 좋은 작업자를 공구도 기준도 없는 공정에 세운다고 좋은 품질이 반복되지는 않습니다. AI도 더 큰 모델을 가져와 “알아서 잘해”라고 말하는 것으로는 운영 가능한 시스템이 되지 않습니다.
OpenAI가 말하는 Harness Engineering은 에이전트가 일할 환경, 명확한 의도, 신뢰할 수 있는 피드백 루프를 설계하는 일입니다. 현장 언어로 번역하면 Source of Truth, 도구와 권한, Standard Work, Poka-Yoke, Control Plan, Andon입니다.
| Lean / TPS | Agentic AI | 공통 질문 |
|---|---|---|
| Value Stream Mapping | End-to-End Workflow Map | 가치가 끝까지 어떻게 흐르는가 |
| Standard Work | Instruction / SOP / Skill | 좋은 방법을 어떻게 반복하는가 |
| Work Combination | Human-Agent Work Design | 언제 누가 무엇을 수행하는가 |
| Jidoka / Andon | Validation / Stop / Alert | 이상을 어떻게 발견하고 멈추는가 |
| Poka-Yoke | Permission / Schema / Rule | 실수를 애초에 어렵게 만드는가 |
| Control Plan / Kaizen | Eval / Monitoring / Improvement | 품질을 어떻게 측정하고 기준을 바꾸는가 |
이 표는 번역 사전이 아닙니다. 개념을 일대일로 같다고 주장하지 않습니다. 새로운 용어를 익숙한 운영 질문으로 바꾸는 도구입니다.
6. 중요한 반론: 지식노동은 공장보다 더 모호하다
공장 품질은 치수, 토크, 불량률처럼 비교적 명확하게 측정할 수 있습니다. 지식노동의 품질은 “좋은 전략인가”, “충분히 설득적인가”, “이 상황에 맞는가”처럼 정답이 모호합니다. AI는 같은 입력에도 다른 답을 내고, 틀린 결과를 매우 그럴듯하게 표현합니다. 디지털 오류는 수천 명에게 즉시 복제됩니다.
그래서 이 비유를 그대로 복사해서는 안 됩니다. 합격·불합격 외에 근거성, 불확실성, 위험도, 사람의 이해 가능성을 평가해야 합니다. NIST도 배포된 AI의 변동성, 드리프트, 인간-AI 피드백, 분산된 로그를 핵심 모니터링 과제로 지적합니다.
7. 내일부터 적용하는 Lean Agentic 6단계
“뉴스 요약”이 아니라 “팀장이 9시 전에 산업 변화와 대응 질문을 5분 안에 이해한다.”
요청부터 사용까지 사람, 문서, 시스템, 대기, 재작업을 표시한다.
목적과 책임은 사람, 대량 탐색은 AI, 확정적 검사는 코드에 둔다.
완료, 금지, 신뢰할 출처, 정지, 승인 조건을 적는다.
실제 업무 완료와 에이전트의 도구·데이터 사용 경로를 함께 본다.
실패 사례를 평가 세트에 넣고 지침·권한·데이터·정지조건을 갱신한다.
Value Stream Mapping의 교훈처럼 부분의 효율보다 전체 흐름을 보아야 합니다. 채팅창 안의 30초 절감보다 승인 대기 이틀이 더 큰 낭비일 수 있습니다.
8. AX는 지식노동의 Production System 재설계다
Lean의 목적은 사람을 줄이는 자동화가 아니라 고객가치를 더 좋은 흐름으로 만드는 것입니다. 사람은 단순한 실행자가 아니라 문제를 발견하고 더 나은 표준을 만드는 존재입니다. AI가 반복 실행을 가져갈수록 인간의 역할은 감독자, 문제해결자, 시스템 설계자로 이동합니다.
AX는 AI를 많이 쓰는 회사가 되는 일이 아닙니다. 인간과 AI가 함께 고객가치를 만드는 Production System을 설계하는 일입니다.
시작은 거대한 전사 플랫폼일 필요가 없습니다. 매주 반복되고, 실패 기준을 설명할 수 있으며, 담당자가 결과를 직접 확인할 수 있는 업무 하나면 충분합니다. 작은 흐름에서 사람과 AI가 함께 일하는 표준을 만들고, 실제 결과로 다음 표준을 갱신하십시오.
《AI의 미래는 공장에 있었다》
웹 아티클보다 깊게 읽을 수 있도록 6개 장, 3개 벡터 도식, 실무 체크리스트를 한 권으로 묶었습니다.
전자책 PDF 받기참고자료
- Toyota Production System
- Lean Enterprise Institute — Standardized Work
- Lean Enterprise Institute — Value-Stream Mapping
- OpenAI — Harness engineering
- Anthropic — Building effective agents
- Anthropic — Demystifying evals for AI agents
- Microsoft — Responsible AI for agentic systems
- NIST — Challenges in Monitoring Deployed AI Systems