AI 시대에도 변하지 않는 성공의 법칙, 법무·회계·인사 담당자가 알아야 할 진실

코딩 교육을 받지 않아도 앱을 만들 수 있고, 영상 편집 기술이 없어도 마케팅 영상을 제작할 수 있으며, 디자인 감각이 없어도 전문가 수준의 발표 자료를 완성할 수 있는 시대입니다.

인공지능 기술이 수많은 영역에서 전문성의 장벽을 낮추면서 누구나 무엇이든 시도해볼 수 있는 환경이 만들어졌습니다.

 

하지만 법무팀에서 계약서 초안 작성에 AI를 도입하거나, 회계팀에서 전표 처리 자동화를 시도하거나, 인사팀에서 채용 프로세스에 AI를 적용하려는 담당자라면 한 가지 냉정한 현실을 직시해야 합니다.

쉬워진 시작이 쉬운 성공을 보장하지는 않는다는 사실입니다.

---

통계가 말해주는 불편한 진실

올해 들어 여러 연구 기관에서 발표한 AI 프로젝트 실패율 통계는 충격적입니다.

RAND Corporation의 연구에 따르면 AI 프로젝트의 80퍼센트 이상이 실패하는데, 이는 일반 IT 프로젝트 실패율의 두 배에 달하는 수치입니다.

S&P Global Market Intelligence의 조사는 더욱 심각한 추세를 보여줍니다.

작년에는 기업의 17퍼센트만이 대부분의 AI 프로젝트를 포기했지만, 올해는 그 비율이 42퍼센트로 급증했습니다.

 

MIT의 연구팀이 발표한 보고서는 더욱 가혹합니다.

기업들이 시도한 AI 파일럿 프로그램 중 실제로 의미 있는 수익을 창출한 경우는 단 5퍼센트에 불과했습니다.

나머지 95퍼센트는 손익계산서에 아무런 영향을 미치지 못했습니다.

평균적으로 기업들은 개념 증명 단계의 AI 프로젝트 중 46퍼센트를 본격 운영에 들어가기 전에 폐기했습니다.

 

Gartner의 전망은 앞으로도 이 상황이 쉽게 개선되지 않을 것임을 시사합니다.

조사 대상 기업의 평균적으로 48퍼센트의 AI 프로젝트만이 실제 운영 단계까지 도달했으며, 프로토타입에서 운영 단계까지 평균 8개월이 소요되었습니다.

더욱이 2027년까지 에이전틱 AI 프로젝트의 40퍼센트 이상이 비용 상승, 불명확한 비즈니스 가치, 부적절한 리스크 통제 등의 이유로 취소될 것으로 예측됩니다.

 

이러한 높은 실패율의 주요 원인은 무엇일까요?

Informatica의 조사에서 데이터 품질과 준비 상태 문제가 43퍼센트로 가장 높았고, 기술적 성숙도 부족도 43퍼센트, 기술과 데이터 활용 능력 부족이 35퍼센트로 나타났습니다.

기업들이 AI 프로젝트를 포기하는 가장 큰 이유로는 비용, 데이터 프라이버시, 보안 리스크가 꼽혔습니다.

---

쏟아지는 저품질 결과물의 피로감

통계를 넘어서 실무 현장에서 체감하는 문제는 더욱 구체적입니다.

법무팀에는 AI로 작성했다는 계약서 초안이 쏟아지지만 법률 용어의 정확한 의미를 이해하지 못한 채 단어만 나열한 경우가 대부분입니다.

조항 간의 논리적 연결이 부족하고, 실제 비즈니스 맥락을 반영하지 못하며, 최신 판례나 법 개정 사항이 제대로 반영되지 않습니다.

결국 법무 담당자는 처음부터 다시 작성하는 것보다 더 많은 시간을 들여 수정해야 하는 상황에 직면합니다.

 

회계팀에서도 유사한 문제가 발생합니다.

AI로 자동 분류했다는 전표들이 계정 과목을 잘못 적용하거나, 부가가치세 처리가 누락되거나, 관련 증빙 서류와 매칭이 되지 않는 경우가 빈번합니다.

월말 결산 시점이 되면 이러한 오류들을 일일이 찾아내고 수정하느라 오히려 업무 부담이 가중됩니다.

생산성을 높이겠다고 도입한 도구가 검증 업무만 늘려놓은 셈입니다.

 

인사팀의 상황도 다르지 않습니다.

AI가 작성한 채용 공고는 법정 필수 기재 사항을 누락하거나, 성차별적 표현이 포함되어 있거나, 회사의 실제 조직 문화와 동떨어진 내용을 담고 있는 경우가 많습니다.

면접 질문을 AI로 생성했지만 지원자의 실제 역량을 평가하기에는 너무 피상적이거나 직무와 무관한 질문들로 채워져 있습니다.

성과 평가 보고서를 AI로 작성하려 했지만 직원 개개인의 구체적인 기여와 성과를 제대로 담아내지 못해 결국 전면 수정이 필요합니다.

 

이러한 저품질 결과물이 쏟아지는 이유는 명확합니다.

AI 도구를 사용하는 것 자체는 쉬워졌지만, 그 결과물의 품질을 판단하고 적절하게 활용하는 것은 여전히 전문성과 경험을 요구하기 때문입니다.

---

성공하는 소수는 무엇이 다른가

그렇다면 AI를 활용하여 실제로 성과를 내고 있는 조직과 개인은 무엇이 다를까요?

그들이 사용하는 AI 도구가 특별히 더 우수해서일까요? 아니면 프롬프트 작성 기술이 월등해서일까요?

McKinsey의 조사 결과는 다른 답을 제시합니다.

 

AI로부터 의미 있는 재무적 성과를 얻고 있는 기업들은 단순히 AI 기술을 도입하는 것을 넘어서 업무 프로세스 전체를 재설계했습니다.

AI 모델링 기법을 선택하기 전에 엔드투엔드 워크플로를 다시 설계한 조직이 그렇지 않은 조직보다 의미 있는 재무 성과를 보고할 확률이 두 배 높았습니다.

이는 기술 그 자체가 아니라 기술을 업무에 어떻게 통합하느냐가 성공의 핵심임을 보여줍니다.

 

성공적인 조직들의 특징은 투자 배분에서도 드러납니다.

일반적인 AI 프로젝트가 기술 자체에 예산의 대부분을 투입하는 것과 달리, 성공하는 프로젝트는 전체 예산의 50퍼센트에서 70퍼센트를 데이터 준비에 할애합니다.

데이터 추출, 정규화, 거버넌스 메타데이터 구축, 품질 대시보드 개발, 보존 정책 수립 등에 시간과 비용을 집중 투자합니다.

겉으로 보이는 AI 모델보다 그 모델이 학습하고 작동하는 기반이 훨씬 중요하다는 것을 이해하고 있는 것입니다.

 

또한 성공하는 조직들은 디지털 예산의 20퍼센트 이상을 AI에 할당하며, AI 자원의 70퍼센트를 기술이 아닌 사람과 프로세스에 투자합니다.

중요한 업무에는 반드시 사람의 감독을 포함시키며, 2년에서 4년의 투자 회수 기간을 예상합니다.

즉각적인 성과를 기대하지 않고 장기적 관점에서 조직 역량을 구축하는 데 집중합니다.

 

MIT의 연구는 AI 프로젝트의 성공률이 구현 방식에 따라 크게 달라진다는 점을 발견했습니다.

전문 벤더로부터 AI 도구를 구매하거나 파트너십을 구축한 경우 약 67퍼센트의 성공률을 보인 반면, 자체적으로 AI 시스템을 구축한 경우 성공률은 그 절반에도 미치지 못했습니다.

특히 금융 서비스처럼 규제가 엄격한 분야에서 많은 기업들이 자체 AI 시스템 구축을 시도하지만, 실제로는 전문 솔루션을 도입한 경우가 훨씬 더 신뢰할 수 있는 결과를 만들어냈습니다.

 

성공한 프로젝트들의 또 다른 공통점은 명확한 비즈니스 목표에서 출발했다는 것입니다.

최신 기술을 사용하는 것 자체가 목적이 아니라, 구체적인 업무상의 문제를 해결하기 위한 수단으로 AI를 활용했습니다.

AI를 사용하지 않았을 때의 비용이 얼마인지, AI 도입으로 절감되는 시간과 비용이 얼마인지, 품질 향상이 비즈니스에 미치는 영향이 무엇인지를 명확히 정의한 후에야 프로젝트를 시작했습니다.

---

시작의 동기와 시간의 축적

AI 활용에서 진짜 성공을 거두고 있는 사람들을 관찰해보면 한 가지 공통된 패턴을 발견할 수 있습니다.

그들은 AI 도구를 사용하기 전부터 자신이 해결하고자 하는 문제에 대해 깊이 이해하고 있었습니다.

법무 담당자가 AI로 성공적인 계약서 초안을 작성한다면, 그는 이미 수백 건의 계약서를 검토하고 작성한 경험이 있어서 어떤 조항이 필요하고 어떤 표현이 법적으로 적절한지 알고 있습니다.

AI는 그의 전문성을 증폭시키는 도구일 뿐, 전문성을 대체하는 마법의 지팡이가 아닙니다.

 

회계 담당자가 AI로 업무 효율을 높인다면, 그는 이미 회계 원칙과 세법을 숙지하고 있어서 AI가 제안한 계정 분류가 적절한지 즉시 판단할 수 있습니다.

인사 담당자가 AI를 활용하여 채용 프로세스를 개선한다면, 그는 이미 수많은 면접을 진행하면서 어떤 질문이 실제로 후보자의 역량을 평가하는 데 유용한지 알고 있습니다.

 

즉, AI 시대의 성공은 도구에 대한 숙련도가 아니라 해결하려는 문제에 대한 깊은 이해에서 출발합니다.

이는 시간의 축적을 통해서만 얻어집니다. 빠른 시작이 가능해졌다고 해서 깊이 있는 전문성까지 빨리 얻을 수 있는 것은 아닙니다.

 

McKinsey의 조사에 따르면 직원들이 AI를 업무에 사용하여 평균 40퍼센트의 생산성 향상을 보고했지만, 이는 AI가 자동으로 만들어낸 결과가 아닙니다.

올해 기준 미국 직장인의 56퍼센트가 업무에 생성형 AI 도구를 사용하고 있으며, 그 중 31퍼센트가 정기적으로 AI를 활용합니다.

하지만 이들 모두가 같은 수준의 성과를 내는 것은 아닙니다.

차이를 만드는 것은 AI 도구 자체가 아니라 그 도구를 사용하는 사람의 판단력과 경험입니다.

 

실제로 AI를 활용한 직원들의 생산성 향상 폭은 업무 기능에 따라 25퍼센트에서 55퍼센트까지 다양하게 나타났습니다.

이러한 차이는 AI가 업무를 대신 수행하는 정도의 차이가 아니라, 사용자가 AI의 결과물을 얼마나 효과적으로 검증하고 개선할 수 있느냐의 차이입니다.

---

조직 차원의 준비가 필요한 이유

개인 차원의 준비만으로는 충분하지 않습니다.

AI 프로젝트의 성공은 조직 전체의 준비 상태에 크게 좌우됩니다.

단순히 AI 도구를 구매하여 배포하는 것만으로는 실질적인 성과를 기대하기 어렵습니다.

 

먼저 데이터 인프라의 준비가 필수적입니다.

AI는 데이터로 학습하고 작동하기 때문에 데이터의 품질이 결과의 품질을 직접적으로 결정합니다.

하지만 많은 조직이 데이터가 여러 시스템에 분산되어 있고, 형식이 통일되지 않았으며, 품질이 검증되지 않은 상태에서 AI 프로젝트를 시작합니다.

이는 불량 재료로 요리를 만드는 것과 같습니다.

아무리 좋은 AI 모델을 사용해도 데이터가 부실하면 결과 역시 신뢰할 수 없습니다.

 

조직의 프로세스도 AI 도입에 맞춰 재설계되어야 합니다.

기존 업무 방식을 그대로 유지한 채 AI만 추가하면 오히려 혼란만 가중됩니다.

예를 들어 법무팀이 AI로 계약서 초안을 작성하기로 했다면, 그 초안을 누가 검토하고, 어떤 기준으로 승인하며, 문제가 발견되었을 때 누가 책임지는지 명확히 정의되어야 합니다.

회계팀에서 AI 자동 분류를 도입한다면, 예외 상황 처리 절차, 오류 발견 시 대응 방법, 감사 추적 방법 등이 새롭게 수립되어야 합니다.

 

또한 조직 구성원들의 AI 활용 역량을 높이는 교육이 필요합니다.

하지만 이는 단순히 AI 도구 사용법을 가르치는 것이 아닙니다.

AI의 한계를 이해하고, 결과물을 비판적으로 검토하며, 업무 맥락에 맞게 수정하는 능력을 키워야 합니다.

올해 기준으로 직원의 35퍼센트만이 지난 한 해 동안 AI 관련 교육을 받았으며, 고용주의 거의 절반이 고급 AI 및 데이터 과학 기술을 가진 후보자를 찾기 어렵다고 보고했습니다.

이는 단순한 기술 격차가 아니라 AI 시대에 필요한 새로운 형태의 역량 격차입니다.

 

변화 관리의 중요성도 간과할 수 없습니다.

올해 조사에 따르면 평균적인 직원은 10건의 계획된 조직 변화를 경험했는데, 이는 2016년의 단 2건에 비해 급격히 증가한 수치입니다.

직원의 45퍼센트가 잦은 조직 변화로 인해 소진을 느꼈고, 조직의 75퍼센트가 변화 포화 지점에 도달했거나 이미 넘어섰다고 보고했습니다.

이러한 상황에서 또 다른 AI 도입을 추진한다면 저항에 부딪힐 수밖에 없습니다.

 

특히 신뢰의 문제가 중요합니다.

올해 조사에서 사람들의 52퍼센트가 AI에 대해 흥분보다는 우려를 느낀다고 답했는데, 이는 2021년의 37퍼센트에서 크게 증가한 수치입니다.

반면 AI에 대해 흥분한다고 답한 사람은 2021년 18퍼센트에서 올해 10퍼센트로 감소했습니다.

이러한 신뢰 부족은 AI 도입의 가장 큰 장애물 중 하나입니다.

직원들이 AI 시스템을 신뢰하지 못하면 적극적으로 활용하지 않을 뿐만 아니라 오히려 방해할 수 있습니다.

---

실무 담당자를 위한 실질적 조언

그렇다면 법무, 회계, 인사, 경영지원 부서의 담당자들은 AI를 어떻게 접근해야 할까요?

먼저 명확한 문제 정의에서 시작해야 합니다.

AI를 도입하고 싶다는 막연한 욕구가 아니라, 현재 업무에서 가장 시간이 많이 걸리거나 오류가 자주 발생하는 구체적인 지점을 파악해야 합니다.

법무팀이라면 어떤 유형의 계약서 작성에 가장 많은 시간이 소요되는지, 회계팀이라면 어떤 전표 처리에서 실수가 자주 발생하는지, 인사팀이라면 어떤 행정 업무가 반복적이고 시간 소모적인지 구체적으로 분석해야 합니다.

 

작게 시작하되 제대로 시작해야 합니다.

전사적 AI 혁신을 꿈꾸기보다는 한 가지 명확한 업무에서 작은 성공을 만들어내는 것이 중요합니다.

예를 들어 모든 법률 문서를 AI로 작성하려 하지 말고, 가장 표준화된 유형의 문서 한 가지에서 시작하는 것입니다.

그 과정에서 어떤 점이 잘 작동하고 어떤 점이 개선되어야 하는지 배우고, 이를 바탕으로 점진적으로 확대해 나가야 합니다.

 

결과물의 품질 검증 체계를 반드시 구축해야 합니다.

AI가 생성한 모든 결과물에 대해 누가, 언제, 어떤 기준으로 검토할 것인지 명확히 정의해야 합니다.

특히 법적 책임이나 재무적 영향이 큰 업무일수록 이중, 삼중의 검증 절차가 필요합니다.

AI의 결과를 맹목적으로 신뢰하는 것은 위험하며, 그렇다고 모든 것을 의심하느라 업무 효율이 오히려 떨어지는 것도 바람직하지 않습니다.

적절한 균형점을 찾아야 합니다.

 

데이터 준비에 충분한 시간을 투자해야 합니다.

AI 프로젝트 예산과 일정의 절반 이상을 데이터 수집, 정리, 검증에 할애하는 것이 과도하게 보일 수 있지만, 실제로는 성공의 핵심입니다.

과거 계약서, 전표, 인사 기록 등이 일관된 형식으로 정리되어 있는지, 필요한 정보가 누락되지 않았는지, 오류나 중복은 없는지 먼저 점검하고 정비해야 합니다.

 

외부 전문가의 도움을 적극적으로 활용하는 것도 고려해야 합니다.

MIT 연구가 보여주듯이 자체 구축보다 전문 벤더의 솔루션을 도입하는 것이 성공 확률이 두 배 높습니다.

물론 외부 솔루션 도입에도 비용과 시간이 들지만, 검증되지 않은 자체 개발에 몇 개월씩 투입했다가 실패하는 것보다는 훨씬 효율적일 수 있습니다.

특히 규제가 엄격한 금융, 의료, 법률 분야에서는 컴플라이언스를 이미 충족한 전문 솔루션의 가치가 더욱 큽니다.

 

장기적 관점을 유지해야 합니다. AI 프로젝트는 즉각적인 효과를 기대하기 어렵습니다.

성공적인 조직들도 2년에서 4년의 투자 회수 기간을 계획합니다.

초기 몇 개월은 오히려 기존 업무보다 더 많은 시간이 소요될 수 있습니다.

하지만 이 기간 동안 축적되는 학습과 개선이 결국 장기적 성과로 이어집니다.

---

AI는 분명 업무 방식을 변화시키고 있습니다.

전 세계적으로 78퍼센트의 조직이 최소 한 가지 이상의 업무 기능에 AI를 사용하고 있으며, ChatGPT는 매주 8억 명의 활성 사용자를 기록하고 있습니다.

AI 시장은 올해 2,437억 달러 규모에 이르렀고 2030년까지 8,267억 달러로 성장할 것으로 전망됩니다.

이러한 거대한 흐름을 무시할 수는 없습니다.

 

하지만 동시에 AI 프로젝트의 70퍼센트에서 85퍼센트가 실패하고, 올해 기업의 42퍼센트가 대부분의 AI 프로젝트를 포기했으며, MIT 연구에 따르면 95퍼센트의 AI 파일럿이 의미 있는 재무 성과를 만들어내지 못했다는 사실도 직시해야 합니다.

 

이 두 가지 상반된 현실이 우리에게 전하는 메시지는 명확합니다. AI는 강력한 도구이지만 마법은 아닙니다.

쉬워진 시작이 쉬운 성공을 보장하지 않습니다.

성공은 여전히 명확한 문제 이해, 충분한 준비, 체계적인 실행, 지속적인 개선에서 나옵니다.

이는 AI 시대 이전에도 그랬고, AI 시대에도 마찬가지이며, 앞으로도 변하지 않을 원칙입니다.

 

법무, 회계, 인사, 경영지원 담당자로서 AI를 활용하여 성과를 내고 싶다면 먼저 자신의 업무 영역에 대한 전문성을 깊이 있게 쌓아야 합니다.

AI는 그 전문성을 증폭시키는 도구일 뿐, 전문성을 대체하는 수단이 아닙니다.

시간을 들여 문제를 정확히 이해하고, 데이터를 철저히 준비하며, 작은 성공부터 차근차근 쌓아가야 합니다.

이것이 통계가 보여주는 5퍼센트의 성공 사례에 들어가는 유일한 길입니다.

 

AI 도구는 계속 발전할 것이고 더 많은 기능을 제공할 것입니다.

하지만 그 도구를 효과적으로 활용하는 능력은 하루아침에 생기지 않습니다.

시작의 동기가 명확하고, 시간의 축적을 통해 전문성을 쌓으며, 실패에서 배우고 개선하는 과정을 거쳐야만 진정한 성과를 만들어낼 수 있습니다.

이것이 AI 시대에도 변하지 않는 성공의 법칙입니다.