AI를 잘 쓰는 기업들의 기업 AI 설계법
AI 도입률은 오르는데 성과는 왜 안 보일까요. 자동화하지 않을 업무를 먼저 정의한 LG전자, AI 사용량 대신 임팩트를 평가한 채널코퍼레이션 등, 정작 성과를 가르는 것은 도입의 양이 아니라 무엇을 덜어내야 할지를 판단하는 기준입니다. 그 기준에 대해 살펴보도록 하겠습니다.
Jul 27, 2026
2026년 5월, LG전자 가전사업본부가 공개한 자료 하나가 AI 업계의 눈길을 끌었습니다. 지난 1년간 만든 LG전자 내부에서 설계해서 만든 AI 에이전트 96개 가운데 지금 운영되는 것은 46개라고 발표한 것입니다. 절반 가까운 AI 에이전트가 사라진 셈입니다. 그러나 이 기업은 그 결과를 실패로 정의하지 않습니다. 오히려 살아남은 절반에서 성과가 나기 시작했다고 말하며, 그것이 AI 설계의 본질이라고 말합니다.
국내 기업의 AI 에이전트 도입은 이미 흔한 일이 됐습니다. 산업통상자원부의 2025년 조사에서 대기업의 AI 도입률은 65.1%에 달했습니다. 그런데 미국의 IT 기술 연구 및 자문 회사 가트너는 2025년 6월, 시중 에이전트의 상당수가 기존 챗봇에 이름표만 바꾼 '에이전트 워싱'이라고 지적하며, 2027년 말까지 에이전트 프로젝트의 40% 이상이 중단될 것으로 내다본 바 있습니다.
두 지표 사이의 상황은 대개 비슷하게 흘러갑니다. 초기 기업 AI 도입의 경우 파일럿은 성공적이었고, 전사 공지를 통해 내부 임직원들은 업무에 도입을 해나갔으며, 라이선스도 부족하지 않게 확보했습니다. 그러나 반년쯤 지나 '그래서 성과가 무엇이지'를 돌아보면 애매한 상황에 봉착하게 됩니다. 사용률 그래프는 보여줄 수 있지만, 그 활용이 만든 변화를 정량적인 베네핏이나 수익으로 설명하거나 증명할 수 있는 조직은 많지 않기 때문입니다. 도입은 이미 끝났음에도 성과를 묻는 평가 앞에서 이미 많은 기업들이 고민하고 있습니다.
그러나 이 간극을 넘은 조직들이 있습니다. 이들은 '무엇을 더 자동화할까'를 묻지 않았습니다. 자동화하지 않을 업무의 리스트들을 먼저 정의하는 한편, 사용량이 아닌 임팩트로 평가축을 바꿨습니다. 더하기가 아니라 빼기와 재정의가 이들의 출발점이었습니다. 이번 아티클은 LG전자와 채널코퍼레이션 두 회사의 사례를 중심으로, AI 에이전트 도입 이후의 성패를 가르는 설계 원칙을 정리합니다.
에이전트 절반이 사라진 회사가 실패하지 않은 이유
다시, 96개 중 46개라는 숫자로 돌아가 보겠습니다. IT 전문 매체 ZDNet코리아의 현장 보도에 따르면, LG전자 가전사업본부의 AX플랫폼을 총괄하는 이경화 팀장은 사라진 절반의 공통점을 이렇게 설명합니다. '처음에는 광학문자인식이나 비전 AI 등 기술에서 출발해 활용처를 찾으려 했지만 실제 업무 현장에서는 기대한 만큼 성과로 이어지지 않았다.'
기술이 먼저 존재하는 상황에서, 그 기술을 쓸 곳을 나중에 찾는 순서. AI 도입 초기의 조직 대부분이 밟는 경로이기도 합니다. 새로운 모델이 나오면 일단 확보하고, 데모를 만들고, 그 데모를 들고 현업 부서를 찾아다니는 방식입니다. 데모 단계에서는 모두가 감탄하지만, 실제 업무 데이터와 예외 상황을 만나는 순간 체감 효용이 급격히 떨어지는 경우가 빈번합니다. 아이러니하지만, 그럼에도 살아남은 에이전트는 그 반대 방향에서 만들어졌습니다. '성과를 낸 사례는 업무에서 반복적으로 발생하는 비효율이나 병목을 먼저 찾고 AI를 적용했을 때였다'는 것이 같은 인터뷰의 설명입니다. 결국 출발점이 기술이냐 업무 병목이냐, 이 한 가지 차이가 생존을 가른 셈입니다.
살아남은 에이전트의 면면을 보면 이 원칙이 더 뚜렷해집니다. 사내 생산성 효과 2위를 기록한 것은 화려한 신기술이 아니라 광고 문구 검토 에이전트였습니다. 해외에서 영업이익의 60% 이상을 거두는 LG전자에게 국가별 광고 규제 검토는 피할 수 없는 반복 업무였고, 그동안 변호사들이 수작업으로 감당하던 병목이었습니다.
올해 6월 공개된 부품 탐색 에이전트 '파트리버(PartRiever)'도 같은 경로로 만들어졌습니다. 신제품을 설계할 때 쓸 만한 기존 부품을 찾는 일은 담당자 개인의 경험과 과거 이력에 의존해 수일씩 걸리던 업무였습니다. LG전자는 수십 년치 2D 도면과 3D 형상 데이터에서 치수·재질·제조 조건을 추출해 AI가 읽을 수 있는 형태로 재구조화한 뒤, 그 위에서 자연어로 부품을 검색하는 에이전트를 만들었습니다. '1000W 이상 스테인리스 히터 중 기존 모델과 비슷한 것'처럼 물으면 되는 방식입니다. 수일 걸리던 검토가 30분 안팎으로 줄었고, 전기레인지 신제품 개발에서는 약 550개의 후보 부품을 분석해 새로 개발할 부품 수를 25%가량 줄였습니다. 설계 부서의 오래된 병목에서 출발했기에 나올 수 있었던 성과들입니다.
운영 방식에서도 같은 결이 읽힙니다. 다국어 번역 에이전트의 경우 부서마다 따로 만들게 두는 대신 통합 플랫폼으로 제공했습니다. 같은 기능의 에이전트가 부서 수만큼 늘어나는 중복을 막았을 뿐 아니라, 하나의 도구를 함께 쓰게 되면서 부서 간 협업이 자연스럽게 따라왔다는 것이 회사 측의 설명입니다. 여기서도 운영의 축은 겹치는 것을 줄이는 쪽에 잡혀 있습니다.
절반의 소멸은 그래서 실패가 아닌, 선별의 기록으로 전환됩니다. 다만 선별을 겪은 이 조직이 도달한 다음 질문이 있습니다. 무엇을 자동화할 수 있는가가 아니라, 무엇을 자동화하지 말아야 하는가입니다.
자동화하지 않을 업무 목록을 먼저 쓴다: LG전자의 범위 설계
MIT 테크놀로지리뷰 코리아가 정리한 국내 기업의 AI 에이전트 도입 사례에서, LG전자 편의 결론은 역설적으로 들립니다. 에이전트를 가장 적극적으로 활용한 조직일수록, 에이전트에 넘겨서는 안 될 일의 리스트도 더 많아졌다는 것입니다. 모든 것을 에이전트화하려던 시도의 끝에서 발견한 것이, 그럼에도 자동화해서는 안 되는 일의 리스트였다는 사실은 시사하는 바가 큽니다.
먼저, 그 목록의 기준을 살펴보도록 하겠습니다. 매우 간단하고 명확합니다. 바로, 업무를 두 갈래로 나누는 것입니다.
원칙은 하나로 수렴합니다. 판단이 개입되는 일은 사람이, 형식과 구조화는 AI가 맡는다는 것입니다. 왼쪽 열의 공통점은 정답의 형태가 정해져 있다는 점입니다. 문서 구조화나 반복 보고는 잘된 결과물의 모양이 미리 합의돼 있어, 결과를 검수하기도 쉽습니다. 오른쪽 열의 공통점은 상대가 있고 맥락이 매번 달라진다는 점입니다. 피드백과 소통, 협업과 회고는 결과물이 아니라 관계 속에서 일어나는 일이고, 이 영역을 자동화하면 효율 대신 신뢰가 깎이는 결과로 이어지기 쉽습니다.
그렇다면 자동화 범위는 어떻게 정해야 할까요?
이 구분은 업무 단위가 아니라 작업 단위로 작동합니다. 앞서 본 광고 문구 검토 에이전트가 좋은 예가 됩니다. '광고 검토'라는 업무를 통째로 보면 법적 판단이 개입되는 일이니 자동화 불가 판정을 받기 쉽습니다. 그런데 작업 단위로 쪼개면 결이 갈라집니다. 국가별 규제 조항과 문구를 대조하는 일은 형식 작업에 속하고, 대조 결과를 보고 리스크를 감수할지 정하는 일은 판단 작업입니다. LG전자는 전자를 에이전트에 넘기고 후자를 변호사에게 남겼습니다. 자동화 범위 설계의 실체는 하나의 업무 안에서 형식과 판단을 갈라내는 일입니다.
결과적으로 이 리스트는 AI 사용을 줄이지 않았습니다. 판단 업무를 명시적으로 사람에게 남겨 두자, 나머지 형식 업무에는 마음 놓고 에이전트를 투입할 수 있게 됐습니다. 경계가 불분명한 조직에서는 구성원마다 어디까지 맡겨도 되는지에 대한 감각이 달라 도입이 들쭉날쭉해지지만, 경계가 명시된 조직에서는 그 안쪽에서의 확산이 빨라집니다. 경계를 긋는 일이 결과적으로 확산의 속도를 높인 것입니다.
토큰이 아니라 임팩트를 잰다: 채널코퍼레이션의 평가축 전환
두 번째 회사의 사례도 살펴보도록 하겠습니다. 고객 상담 AI 에이전트 '알프'를 만들어 판매하는 채널코퍼레이션은 누구보다 AI에 익숙한 조직입니다. 그런 회사가 사내 도입에서 겪은 시행착오라 더 눈여겨볼 만합니다.
채널코퍼레이션은 코딩 에이전트를 전사에 확산하며 토큰 사용에 사실상 제한을 두지 않았습니다. 쓰고 싶은 만큼 쓰게 하는 것, 확산 단계에서는 자연스러운 선택입니다. 도입 초기에는 채택률 자체가 관리 대상이기 때문에 사용량 지표가 전면에 놓이기 마련이고, 쓰는 사람이 늘어나는 그래프는 일면 성과처럼 보이기 쉽습니다. 그러나, 문제는 그다음이었습니다. 사용량이 늘어나는 것이 기업에서 정량적인 성과가 나는 것으로 직결되지 않는다는 점이 점차 드러나기 시작한 것입니다.
이 간극은 국내만의 사정도 아닙니다. 미국의 커뮤니케이션 기업 5W 퍼블릭 릴레이션스가 5개국 직장인 데이터를 종합해 올해 발표한 'AI at Work Index 2026'에 따르면, 최소 한 개 업무에서 AI를 쓰는 기업은 88%에 이르렀지만, 공식 AI 투자에서 전환적 수준의 투자 수익을 확인한 조직은 5%에 그쳤습니다. 나머지 95%는 손익계산서에서 잡히는 성과를 보여주지 못했습니다. 보고서의 결론은 이렇습니다. AI 성과를 가르는 것은 도구를 얼마나 도입했느냐가 아니라 직무별 거버넌스와 측정 체계, 운영 관리의 수준이라는 것입니다.
채널코퍼레이션이 내린 결정은 평가축을 바꾸는 것이었습니다. MIT 테크놀로지리뷰 코리아의 표현을 빌리면, '인사 평가에 AI 활용을 반영하되, 토큰을 얼마나 썼는지가 아니라 AI로 얼마나 큰 임팩트를 냈는지를 봤다'는 것입니다. 활동량에서 성과로 시선을 옮긴 결정입니다. 사용량을 평가 기준으로 두면 구성원에게는 '많이 쓰기' 자체가 목적이 됩니다. 무엇이든 에이전트를 한 번 거치게 하고, 굳이 필요 없는 작업에도 토큰을 태우는 행동이 합리적 선택이 되기 때문입니다. 평가축을 임팩트로 바꾸는 순간, '무엇을 위해 AI 에이전트를 사용하는가'라는 질문이 복원됩니다.
AI 성과 측정, 무엇부터 재야 할까요?
임팩트를 재겠다고 결심하는 것과 실제로 재는 것 사이에는 거리가 있습니다. AI 자동화 컨설팅 업체 윈디플로가 정리한 측정 가이드는 이 거리를 좁히는 데 참고할 만합니다. 핵심은 다섯 영역의 균형입니다. 처리 시간과 자동화율 같은 효율, 완료율과 오류율 같은 품질, 운영비와 건당 처리 비용 같은 비용, 활성 사용자와 사용 빈도 같은 채택률, 그리고 만족도까지 다섯 영역을 함께 추적해야 한쪽의 개선이 다른 쪽의 악화를 가리는 일을 막을 수 있습니다. 처리 시간이 절반으로 줄었는데 오류율이 두 배가 됐다면 그 도입은 성공이라 부르기 어렵지만, 효율 지표만 보는 조직에서는 이런 일이 성공 사례로 보고되기도 합니다.
같은 가이드가 짚는 활동량 측정의 함정도 세 가지로 요약됩니다. 첫째는 기준선의 부재입니다. 도입 후에야 측정을 시작하면 비교할 이전 상태가 없어, 개선을 숫자로 보여줄 방법 자체가 사라집니다. 둘째는 단일 지표 집착입니다. 시간 절감만 강조하다 보면 오류율 증가나 구성원의 사용 회피 같은 부작용이 시야 밖으로 밀려납니다. 셋째는 데모와 운영의 혼동입니다. 테스트 환경과 실제 업무 데이터 사이에는 약 37%의 성능 격차가 관찰된다는 것이 이 가이드의 지적으로, 시연에서 본 성능을 근거로 성과를 약속하면 반드시 갚아야 할 기대 부채가 쌓입니다. 도입 전 2주간의 사전 측정만으로도 첫 번째 함정은 피할 수 있습니다.
채널코퍼레이션의 전환이 시사하는 바는 지표의 정교함 이전에 방향입니다. 무엇을 재는지가 구성원이 무엇을 하는지를 결정합니다. 토큰을 재면 토큰이 늘고, 임팩트를 재면 임팩트를 설명할 수 있는 일이 늘어납니다.
네 회사가 공통으로 한 일은 ‘무분별한 도입’이 아니었다
다른 국내 대기업의 사례도 시사하는 바가 있습니다. 야놀자는 임직원 2천여 명 규모에서 전사 AI 교육을 밀어붙이는 대신, 교육을 줄이고 워크숍과 자원자 중심으로 방향을 틀었습니다. '교육은 아는 사람을 늘리지만, 워크숍은 문제를 해결하는 사람을 늘린다'는 판단에서였습니다. 교육 전담 인력을 무한정 늘릴 수 없는 상황에서, 각 팀의 자원자에게 확산을 맡기는 'AI 챔피언' 제도가 그 결과물입니다. 효과는 사람의 변화로 나타났습니다. 비개발자가 45% 참여한 사내 해커톤 이후 마케터가 업무 자동화를 직접 설계해 구현했고, 원래 외주로 맡겨야 했던 프로그램을 코딩 에이전트로 직접 만들어 팀에서 쓰는 기획자도 나왔습니다.
우아한형제들의 데이터 에이전트는 단순 검색으로 출발해, 시즌 메뉴의 주문 전환율이 기온에 따라 어떻게 달라지는지 같은 복잡한 질문에 답하는 멀티 에이전트 구조로 진화했습니다. 그런데 이 팀이 꼽은 가장 큰 성과는 기술적 진화가 아니었습니다. 팀의 주간 회의를 없앤 것입니다. 에이전트로 팀원들의 업무 상황을 파악하게 되자 따로 보고받을 이유가 사라졌고, 커뮤니케이션 비용이 사실상 제로에 가까워졌다는 것입니다. 에이전트를 늘리는 일이 목적이었다면 나오지 않았을 성과입니다. 무엇을 없앨 수 있는지를 물었기 때문에 회의라는 답이 보였습니다.
네 회사를 나란히 놓으면 공통점이 드러납니다. LG전자는 자동화의 범위를 뺐고, 채널코퍼레이션은 사용량이라는 지표를 뺐고, 야놀자는 전사 교육을 뺐고, 우아한형제들은 주간 회의를 뺐습니다. 어느 회사도 '무엇을 더 늘릴까'로 성과를 만들지 않았습니다. 무엇을 없애고, 무엇으로 잴지를 다시 정한 것이 성과의 출발점이었습니다. 도입 초기의 가장 큰 착시가 '많이 쓰는 것'을 '잘 쓰는 것'으로 오인하는 데 있다는 원 취재의 결론과 정확히 맞물리는 지점입니다.
오해를 피하기 위해 덧붙이면, 빼기의 규율을 도입 축소로 읽으면 곤란합니다. 네 회사 모두 국내에서 에이전트를 가장 적극적으로 쓰는 축에 속합니다. 96개를 만들어 본 조직만이 46개를 남길 수 있었고, 토큰을 무제한으로 풀어 본 조직만이 임팩트로 축을 옮길 수 있었습니다. 빼기는 도입이 만든 시행착오를 소모가 아니라 선별로 바꾸는 장치입니다.
도입의 다음 단계는 확대가 아니라 설계입니다
AI 에이전트 도입을 이미 마친 조직이라면, 다음 예산으로 에이전트 수를 늘리기 전에 세 가지를 먼저 점검해 볼 필요가 있습니다.
먼저 자동화하지 않을 업무 목록의 초안을 써 보는 일입니다. 판단이 개입되고 상대가 있는 업무부터 목록에 올리고, 남은 업무는 형식 작업과 판단 작업으로 한 번 더 쪼개 보면 자동화 범위의 윤곽이 드러납니다. 이 목록은 완성본일 필요가 없습니다. LG전자의 목록도 에이전트를 적극적으로 쓰는 과정에서 길어졌습니다. 다음은 기준선 측정입니다. 새 에이전트를 붙이기 전 2주간 현재 업무의 처리 시간과 오류율을 재 두어야, 도입 후의 개선을 숫자로 설명할 수 있습니다. 마지막으로 평가 지표의 교체입니다. 사용량과 활성률 계열의 지표가 성과 지표 자리를 차지하고 있다면, 효율·품질·비용·채택률·만족도의 균형 지표로 바꿔야 할 때입니다.
세 가지 모두 예산이 드는 일이 아니라 결정이 드는 일입니다. 그리고 그 결정의 유무가, 같은 시행착오를 선별로 만들지 소모로 만들지를 가릅니다. 도입의 속도는 따라잡을 수 있지만, 빼기의 규율은 흉내만으로 만들어지지 않습니다.
참고 문헌
- MIT 테크놀로지리뷰 코리아, 국내 기업의 AI 에이전트 도입과 레슨 (2026.07)
- ZDNet코리아, 1년 만에 AI 에이전트 절반 사라진 LG전자…AX 성공 열쇠는 '이것' (2026.05)
- 뉴스웍스, LG전자, 부품 탐색 AI 에이전트로 R&D 생산성 높인다 (2026.06)
- 지티티코리아, AI 도입 기업 88%, ROI 입증은 단 5% (2026.06)
- 윈디플로, AI 에이전트 도입 성과 측정 KPI 완전 가이드 (2026)
Share article