인공지능에 대한 대중의 신뢰는 성능과 무관하게 다양한 비기술적 요인으로 발생하는 것으로 나타났다. 특히 인공지능 이용자가 인공지능에 대해 맹목적으로 신뢰하거나 결과를 단순히 수용하는 경향을 보여 인공지능 기술 한계와 범위에 대한 명확한 전달로 이용자-인공지능 간의 합리적인 관계 구축이 필요하다는 주장이 제기됐다.

하나금융경영연구소가 19일 발표한 ‘금융경영브리프-인공지능을 신뢰하는 대중 인식의 확산과 원인’에 따르면 인간보다 인공지능의 결정을 더 나은 대안으로서 신뢰하는 대중 인식이 확대되는 것으로 나타났다.

최근 구글이 인도 국민들을 대상으로 실시한 인공지능 관련 설문과 인터뷰에 따르면 응답자의 79% 이상이 인공지능의 결정을 신뢰하고 수용한다고 응답했다.

음악 추천, 경로 추천 등의 저위험 시나리오 수용 의향은 84.1%로 나타났으며 의료 진단, 대출 승인, 채용 결정 등의 고위험 시나리오 수용 의향도 73.8%로 나타났다.

특히 고위험 분야인 금융 투자, 대출 승인 등에서 인공지능의 결과를 수용하지 않는 경우는 7.2%에 불과한 반면 적절히 수용, 매우 수용, 적극 수용이 각각 22.4%, 30.5%, 23.3%로 나타났다.

연구소에 따르면 인공지능에 대한 맹목적인 신뢰에는 인공지능 시스템이 악의적인 의도를 가질 수 있는 인간과 대조적으로 부정행위나 사기에 대한 인센티브가 없기 때문에 공정한 의사결정을 제공할 것이라고 믿는데서 비롯된 것으로 보인다.

아울러 사람과의 상호작용에서 차별적인 관행과 부당한 경험이 발생하는 경우 이용자는 인공지능을 더 나은 대안으로 인식하고 의사결정 권한을 부여한다.

또 다양한 온라인 미디어와 뉴스 등에서 제공되는 인공지능에 대한 미래지향적이고 낙관적인 정보로 인해 인공지능은 믿을 수 있는 기술이라고 인식하고 있었다.

특히 인공지능이 부정적인 결과를 제공하는 경우에도 시스템의 오류 가능성에 대한 의문보다는 제공해야 할 정보를 누락했거나 자격 미달인 것으로 스스로를 자책하는 경우가 많았다.

이에 연구소는 “인공지능 사용자와의 합리적인 신뢰 관계 구축을 위해 인공지능 설계자는 인공지능 시스템이 의사 결정에 도달한 과정을 기술하고 신뢰할 수 없는 결과가 제공되는 예외적인 상황 등을 제시해 한계를 명시하는 것이 필요하다”고 지적했다.

아울러 “인공지능으로 도출된 결과에 대해 사용자가 피드백을 요구할 경우 대응할 수 있는 체계를 구축하여 신뢰도를 높이고 시스템을 개선하는데 활용해야 한다”고 주장했다.

이어 연구소는 “국내 이용자의 인공지능에 관한 인식에 대한 추가 연구와 대응 방안 수립이 필요할 것”이라고 덧붙였다.

[시사경제신문=박영신 기자]