2026 데이터 및 AI 영향력 보고서

세계적인 데이터 및 AI(인공지능) 선두 기업 SAS가 한국 기업의 AI에 대한 신뢰와 실제 관리 역량 사이의 격차가 1년 만에 크게 줄었다는 연구 결과를 발표했다.

IDC의 리서치 인사이트를 바탕으로 작성된 SAS의 ‘데이터 및 AI 영향력 보고서: 새로운 신뢰의 경제학(The Data and AI Impact Report: The New Economics of Trust)’에 따르면, 신뢰할 수 있는 AI(Trustworthy AI) 체계를 제대로 갖춘 기업이 그렇지 않은 기업보다 목표 투자 대비 성과(ROI)를 달성할 가능성이 15배 더 높았으며, 특히 거버넌스와 데이터 품질, 감사 가능성 측면에서 우수한 상위 기업군은 AI 도입으로 2배 이상의 ROI를 거두었다.

이번 조사는 전 세계 28개국, 2699명의 비즈니스 및 IT 의사결정권자를 대상으로 진행됐으며, 특히 은행·보험·생명과학·공공 부문을 중심으로 기업의 AI 활용 현황과 신뢰 구축 수준을 심층 분석했다. 글로벌 조사에 따르면, 체계적인 데이터 인프라와 의사결정 과정을 설명할 수 있는 AI 모델, 전반적인 거버넌스 체계를 우선시하는 기업일수록 훨씬 더 높은 재무적·운영적 가치를 창출하고 있는 것으로 나타났다. AI 성숙도가 높은 선도 기업들의 사례는 신뢰 구축이 단순히 리스크를 완화하기 위한 전략이 아니라, AI를 효과적으로 확장하고 지속 가능한 비즈니스 성과를 실현하는 핵심 동력임을 보여준다.

한국의 경우, AI ‘신뢰 격차’는 지난해 28.9점에서 올해 1.5점으로 무려 27.4점이나 줄어들었다. 신뢰 격차란 기업이 AI를 얼마나 신뢰하는지(체감 신뢰)와 실제 AI 시스템이 얼마나 안전하게 작동하는지(실제 관리 역량) 간의 차이를 말한다. 한국은 지난 1년간 AI에 대한 과도한 기대가 걷히며 체감 신뢰는 낮아지고(73.9점→58.6점), 실제 관리 체계는 발전하면서(45점→57.1점) 두 지표가 거의 일치하게 됐다.

이처럼 격차가 줄어든 가장 큰 이유는 한국 기업들이 AI 관리·감독 체계를 빠르게 강화했기 때문인 것으로 확인됐다. 한국의 ‘모델 거버넌스 및 감독’ 점수는 55.8점으로 전년 대비 9.3점 올라 조사 항목 중 가장 큰 폭의 개선을 보였다.

그러나 AI의 핵심 토대는 여전히 약한 것으로 드러났다. AI 판단 기준을 쉽게 보여주는 ‘설명 가능성 및 공정성’(54.6점)과 기본 원천인 ‘데이터 품질 및 거버넌스’(53.9점)는 1년 전과 비교해 소폭 상승하는 데 그쳤으며, ‘책임 있는 AI 정책’(59.5점)은 점수 변화 없이 제자리에 머물렀다. 모델 거버넌스와 감사 체계는 빠르게 강화된 반면, 모든 프로젝트에 데이터 품질 관리 절차를 의무 적용하는 한국 기업은 1.9%에 불과했다.

‘데이터 및 AI 영향력 보고서’는 한국 기업들의 향후 최우선 과제로 ‘데이터 품질’과 ‘설명 가능성’을 꼽았다. 스스로 판단하고 행동하는 ‘에이전틱 AI(Agentic AI)’를 도입한 한국 기업 비율은 42.6%에 달한다. AI가 사람 대신 자율적으로 일을 처리하는 비중이 늘어나는 만큼, AI가 왜 그런 결정을 내렸는지 설명하지 못하거나 잘못된 데이터를 학습한다면 심각한 비즈니스 리스크를 초래할 수 있다. 실제로 사용자가 AI의 추천을 무시하거나 직접 수정하는 가장 큰 이유로는 ‘AI가 판단 근거를 설명하지 못한다는 점’이 꼽혔다.

AI에 대한 기대와 실제 관리 역량을 일치시키고, 안정적인 데이터 및 관리 체계를 구축하는 것은 단순한 리스크 예방을 넘어 기업의 실질적인 사업 성과와 직결된다. 이번 글로벌 조사 결과에 따르면, 최적화된 데이터 인프라를 갖춘 기업은 그렇지 않은 기업보다 높은 ROI를 달성할 확률이 4배 높았으며, 데이터 품질과 설명 가능성 통제를 의무화할 가능성도 6배 높았다.

전대일 IDC AI 리서치 수석 연구원은 “AI가 점점 더 스스로 판단하고 움직이면서, 사람들이 완전히 이해하지 못하는 시스템을 어떻게 신뢰하고 사용할 것인가가 새로운 과제로 떠올랐다”며 “강력한 관리 및 감독과 설명 가능성, 책임성 그리고 탄탄한 데이터 기반 확보가 AI를 성공적으로 확장할 수 있는 필수 조건”이라고 설명했다.

이중혁 SAS 코리아 대표이사는 “한국 기업들의 AI 신뢰 격차가 1년 사이에 급격히 줄어든 것은 거버넌스 구축과 현실적인 리스크 인식이 빠르게 이루어졌다는 긍정적인 신호”라며 “다만 이제 한국이 AI 확장을 실질적인 비즈니스 성과로 이어가려면, 거버넌스 구축과 발맞춰 AI의 판단 근거를 설명하고, 정확성과 재현성을 갖춘 데이터 기반을 완성하는 것이 중요한 과제”라고 강조했다.

한편, ‘데이터 및 AI 영향력 보고서’ 전문은 SAS 공식 웹사이트에서 확인할 수 있다.