보도자료

기업 인공지능 비즈니스 성공은 신뢰·투명성에 달려

스피커·챗봇·시스템 솔루션 등 인공지능(AI)을 탑재한 기업 비즈니스가 늘어났다. AI를 활용한 비즈니스 성공 핵심요소로 데이터 신뢰성과 학습과정에서 투명성이 꼽혔다.

장화진 한국IBM 대표와 장병탁 서울대 컴퓨터공학과 교수는 최근 한국IBM에서 '올바른 AI 활용' 관련 전문가 대담을 가졌다. AI 모델 성패는 AI 학습의 기초가 되는 데이터에 달렸다. 데이터가 현실세계를 100% 반영할 수는 없어 AI 모델이 실제 좋은 성과로 이어지지 못할 확률이 항상 존재한다. 산업별 필요한 데이터도 다르고 정확성 여부는 반드시 확인해야 한다.

AI 모델 정확도는 시간이 경과할수록 하락하는 경향을 보인다. 장 교수는 “AI가 실시간 상황과 데이터 발전 양상을 반영할 수 있는지 중요하다”면서 “운영 수명주기 전반에 걸쳐 AI 모델 정확도·성능·공정성을 모니터링 할 수 있고 기업 사용자가 결과물 근거를 이해할 수 있게 구현해야 한다”고 강조했다. 

기업 비즈니스 측면에서 AI 의사결정 과정은 쉽게 확인하거나 설명하기 어렵다. 신뢰도와 투명성을 갖추기가 쉽지 않다. AI 데이터 처리 과정이 불투명 상자처럼 깜깜이 방식으로 이뤄진다. 실제 개발자 등 전문가도 AI 알고리즘을 100% 이해한다고 답변 못하는 게 현실이다.

두 전문가는 어떤 데이터로 AI 학습을 시키고 기업이 AI를 어떻게 활용할 것인가가 중요하다고 입을 모았다. 기업에서 활용하는 AI는 개인 대상 AI 서비스와 달리 파급력이 커 잘못됐을 때 경제·사회적으로 더 큰 문제를 야기한다. 사용 전 철저한 데이터 검증이 필요한 이유다.

산업·업무에 AI를 활용하기 위해 분석기술뿐만 아니라 산업 용어와 프로세스 이해가 중요하다. 장 대표는 “기업에서 AI를 훈련시킬 때는 신입사원이 입사해 회사·업무 전반을 익히는 것과 동일하다”면서 “정보기술(IT) 부서가 아닌 실무 담당 부서에서 맡는 게 좋다”고 조언했다.

부적절한 데이터 주입 등으로 발생할 수 있는 AI 편향성은 경계해야 한다. 아마존이 추진한 AI 채용 시스템이나 한 미인대회 심사위원으로 나선 AI와 같이 잘못된 학습으로 성 또는 인종 차별 등 잘못된 결과를 도출할 수 있다. 

장 대표는 “IBM은 데이터 이슈에 대해 매우 진지하게 생각하고 대응한다”면서 “AI가 판단을 내리기 위해서는 선행된 결과가 담긴 데이터가 있어야 하고 이 데이터를 통한 학습으로 AI 판단이 결정된다”고 설명했다. AI를 누가 어떻게 훈련시켰는지 투명하게 관리해야 한다.

세계는 AI 활용을 위한 가이드 마련에 돌입했다. 2017년 1월 AI 연구지원 미국 비영리단체 퓨처 오브 라이프는 '아실로마 AI 원칙'을 발표했다. AI 목표와 행동은 인간의 가치와 일치해야 하며 자기 복제를 통해 빠르게 성능이 향상된 AI는 엄격한 통제를 받아야 한다는 게 골자다.

2016년 AI 잠재 위험성이 사회 이슈가 되면서 세계 13개국 80개 이상 기업·단체가 참여하는 '파트너십 온 AI'가 설립됐다. 사람과 사회를 위한 AI R&D를 하자는 취지다. AI를 윤리와 법·제도에 맞게 안전하고 투명하게 개발해 긍정적 영향을 미치는 게 목표다. IBM과 마이크로소프트(MS), 애플, 페이스북 등이 가입했다. 국내기업 중에는 최근 삼성전자가 최초로 가입했다.

장 교수는 “학계에서는 AI가 미래산업 진화를 견인하는 원동력임을 확신한다”면서도 “AI 구축에 대한 경험이나 데이터가 부족하고 기업 내 전문 인력 부족 등 현실 문제가 AI 성공 가능성을 낮추고 있다”고 지적했다. 기업이 신뢰·투명성 보장에 앞장서야 한다고 강조했다.

박종진기자 truth@etnews.com