사장다리사장으로 가는 다리
디지털·시스템
디지털·시스템 · AI 전환

AI 도입, 사장이 먼저 봐야 할 네 갈래

막연한 "AI 전환"은 사실 전혀 다른 네 개의 결정이다

홍정현·2026.04.22
14분 읽기

왜 "AI 도입"이라는 말이 사장에게 막연한가

이번 분기에 한 번쯤 들어봤을 것이다. "우리도 AI 도입해야 하는 것 아닌가." 간담회에서, 동종업계 사장 모임에서, 회사 임원 회의에서. 대답하기 어려운 이유가 있다. "AI 도입"이라는 말 자체가 한 가지 결정이 아니라 네 가지 다른 결정의 덩어리이기 때문이다.

실제로 이 말은 매번 다른 의미로 쓰인다. 누구는 "직원들에게 ChatGPT 쓰게 하자"는 뜻이고, 누구는 "고객 응대를 챗봇으로 바꾸자"는 뜻이고, 누구는 "우리 ERP에 AI 분석 기능 붙이자"는 뜻이다. 각각 투자 규모·기간·리스크·결과가 완전히 다르다.

사장이 이 네 갈래를 구분하지 않으면 결정이 흐려진다. 업체를 불렀는데 얘기가 엇갈리고, 견적이 천지차이고, 어디서 시작해야 할지 답이 안 나온다. 반대로 이 네 갈래를 분해해 두면 자기 회사 단계에 맞는 갈래가 한두 개로 좁혀진다.

"AI 도입"을 분해하면 — 네 갈래

갈래무엇인가예시초기 비용기간
개인 생산성개인이 AI 도구를 일상 업무에 쓴다ChatGPT·Claude Pro로 초안·요약·검색월 2-5만원/인즉시
업무 자동화반복 업무를 AI로 자동화메일 분류, 견적 초안, 데이터 정리수백만원-수천만원1-6개월
내부 시스템 통합ERP·CRM·재고 시스템에 AI 연동사내 지식 검색, 매출 예측, 이상치 탐지수천만원-수억6-18개월
제품·서비스 내재화우리가 파는 제품에 AI 기능 탑재추천 엔진, 챗봇 응대, 맞춤 추천수억-수십억12개월+

갈래 사이에는 선행 관계가 있다. ①을 건너뛰고 ③·④에 들어가는 회사는 실패율이 높다. 직원이 AI 사용에 익숙하지 않은데 시스템만 도입하면, 도구가 놀게 된다. ① → ② → ③ → ④ 순서가 순리다.

각 갈래에서 사장이 먼저 답해야 할 질문

  • 누가 쓰나. 도구 쓸 직원을 누구로 할지. 5-10명 시험팀부터.
  • 어떤 업무부터. 주당 시간 최다 잡아먹는 반복 업무 목록부터.
  • 데이터가 깨끗한가. 회사 내부 데이터가 정리·표준화되어 있지 않으면 시스템 통합은 무의미. 데이터 정돈이 선행.
  • 고객이 실제로 원하나. 우리 제품에 AI 기능 추가하는 게 고객에게 가치 주는지, 아니면 "AI 붙어있다" 마케팅용인지.

어떤 사장이 어느 갈래를 고려해야 하나

회사 단계별로 현실적 갈래가 다르다.

매출 기준 가이드라인

  • 매출 10억 미만: ① 개인 생산성 단독. 그 외는 과투자. 사장 본인·핵심 직원 3-5명이 Claude Pro·ChatGPT Plus 쓰는 것으로 시작. 월 10-30만원에서 끝.
  • 매출 10-50억: ① + ② 시작. 주 10시간 이상 잡아먹는 반복 업무 1-2개를 자동화. 초기 투자 300-1000만원 수준.
  • 매출 50-100억: ① + ② + ③ 검토. 사내 시스템 연동은 데이터 정돈 상태 확인 먼저. ERP·CRM 있으면 AI 분석 모듈 도입 가능.
  • 매출 100억+: ④까지 고려. 다만 ④는 고객에게 실제 가치 있는가가 전제. "우리도 AI 탑재" 마케팅은 역효과.

업종별 성격

  • 제조업: ②가 가장 큰 레버. 견적·품질 검사·재고 예측이 고통 지점.
  • 서비스업(학원·병원·식당): ②의 고객 접점(예약·상담)부터. ①은 상대적으로 제한.
  • 유통·커머스: ③의 수요 예측·광고 최적화가 매출에 직접 닿는다.
  • 전문 서비스업(법률·회계·컨설팅): ①이 압도적으로 큼. 문서 초안·리서치가 핵심 업무.

외부 솔루션이 낫지 않나? — 핵심 질문

사장이 가장 자주 묻는 질문이다. 답은 업무의 성격에 따라 갈린다.

외부 SaaS (Intercom·채널톡·자비스·Zendesk 등)

장점:

  • 즉시 가동. 계약 후 1-2주 안에 시작.
  • 유지보수 걱정 없음. 벤더가 알아서 관리.
  • 검증된 UX. 수천 회사가 쓰며 다듬어진 인터페이스.
  • 업데이트 자동. AI 모델 성능 개선이 자동 반영.

단점:

  • 월 고정비가 계속 나간다 (팀당 수십-수백만원).
  • 우리 데이터가 외부 서버에. 보안·개인정보 이슈.
  • 우리 회사 고유 프로세스에 맞추기 어려움. 도구 쪽에 우리가 맞춰야 할 때가 많음.
  • 해외 서비스면 한국어 품질·국내 법규 대응 제한.

자체 구축 (Claude Code 같은 도구로 맞춤 제작)

장점:

  • 우리 업무·데이터에 100% 맞춤.
  • 데이터가 자사 서버에 남음.
  • 장기적으로 월 비용 ≪ SaaS.
  • IP(지적재산) 축적. 노하우가 회사에 쌓임.

단점:

  • 초기 개발 시간·인력 필요 (내부 개발자 1명 혹은 외주).
  • 유지보수 책임을 회사가 짐.
  • 에러·다운 시 복구가 자체 일.
  • 변화 관리(직원 교육·적응) 부담.

결정 트리 — "SaaS냐 자체냐"

Q1. 그 업무가 업계 표준 프로세스인가?
   Yes → SaaS 우선 고려
   No  → 자체 구축 검토

Q2. 데이터가 민감한가? (고객 PII, 재무, 영업 비밀)
   Yes → 자체 구축 쪽으로 기울음
   No  → SaaS OK

Q3. 우리 회사 매출 규모는?
   <10억     → SaaS만, 또는 도입 유보
   10-50억   → SaaS 중심, 핵심 1-2개는 자체
   50-100억+ → 하이브리드 (핵심 자체, 주변 SaaS)

Q4. 이 업무의 월 처리량은?
   낮음 (월 <100건)  → SaaS (정액제로도 남는다)
   중간 (월 100-1000건) → SaaS 또는 자체
   높음 (월 1000건+)   → 자체 구축 ROI 급격히 상승

실무 원칙: "표준 프로세스 + 낮은 민감도" = SaaS. "고유 프로세스 + 높은 민감도" = 자체. 많은 회사는 둘의 하이브리드가 정답.

도입 순서 — 실전 6단계

이 단계대로 가면 큰 실패는 없다.

  1. 관찰 (1-2주). 직원들이 주당 몇 시간을 어떤 반복 업무에 쓰는지 기록. 최소 5명에게 일주일치 로그 받기.
  2. 선별 (1주). "판단보다 규칙"인 업무, 빈도 높은 업무, 에러 비용 낮은 업무부터. 3개 후보 선정.
  3. 파일럿 (1개월). 한 개 업무, 한 명 또는 한 팀에만 적용. 주당 절감 시간·에러율을 측정.
  4. ROI 계산 (1주). 파일럿 결과로 연간 절감액을 추산. 초기 투자 회수 기간 계산. 6개월 내 회수 안 되면 중단.
  5. 확산 (2-3개월). ROI 검증된 것만 팀 전체·회사 전체로 확대.
  6. 다음 업무 (반복). 1번으로 돌아가서 다음 후보.

도입 실패의 흔한 패턴 3가지

실패 ① — "도구 먼저, 문제 나중"

"우리도 AI 써봐야지"로 시작한 프로젝트. 챗봇을 샀는데 쓸 고객이 없고, 분석 대시보드를 만들었는데 볼 사람이 없다. 문제부터 확인해야 도구가 선다.

실패 ② — 직원 반발 관리 실패

"AI가 너희 일을 대체한다"로 소통한 회사는 직원이 조용히 저항한다. AI 결과물에 사소한 에러를 꼬투리 잡고, 새 프로세스를 회피한다. "AI가 너희 반복 업무를 덜어주고, 너희는 판단·창의에 집중한다" 라고 소통한 회사가 성공한다.

실패 ③ — ROI 측정 안 함

"하고 있으니 잘 되겠지"로 6개월 끌고 가다 경영진이 "왜 도입했지?" 되묻는 순간. 파일럿 단계에서 주당 절감 시간을 숫자로 잡지 않으면 회사가 거기에 투자를 계속할지 판단할 근거가 없다.

한국에서 조심할 것

  • 개인정보보호법: 고객 PII(이름·연락처·주소)를 AI에 넣는 순간 개인정보 처리 이슈. SaaS 벤더의 한국 리전 저장 확인. 자체 구축이면 데이터 마스킹·암호화 필수.
  • 업무상 비밀: 임직원이 회사 계약서·영업 자료를 외부 AI에 넣는 게 기술적 비밀 유출 가능. 사내 AI 사용 가이드라인 필수.
  • 노동법 관련: AI가 직원 성과·평가에 반영되면 단체 협약·취업규칙 개정이 필요할 수 있음. 노무사와 사전 상담.
  • 정부 지원사업: 중소기업 AI 도입에 대한 정책자금·바우처가 매년 있다. 자비를 다 쓰기 전에 확인.

사장 실무 관점 — 3가지 결정 원칙

1. "AI 도입"은 덩어리 단어 — 분해해서 말하라

임원·업체와 대화할 때 네 갈래(개인·자동화·시스템·제품) 중 어느 것인지 먼저 합의. 이 한 문장이 회의 시간을 절반으로 줄인다.

2. 단계 건너뛰지 않기

①이 약한 회사가 ③을 도입하면 시스템이 논다. 직원이 AI 도구를 일상으로 쓰는 상태에서 자동화·시스템으로 올라가야 한다. 가장 싸고 빠른 갈래(①)를 먼저 완전히 깔고 다음 단계.

3. ROI 측정 없이 지속하지 않기

파일럿 단계에서 주당 절감 시간·에러율을 숫자로 박는다. 6개월 후 투자 대비 회수 안 되면 접는다. "하고 있으니 잘 되겠지"가 가장 비싸다.

같은 축의 다른 글

디지털·시스템 · AI 전환

사장이 Claude Code를 알아야 하는 이유

2026.04.22· 14