인공지능(AI) 기술이 고도화되고 활용 영역도 넓어지는 등 보편화하면서 인권침해 우려도 커지고 있어 국가인권위원회가 AI 인권침해 가이드라인을 제시했다.

인권위는 22일 발간한 '2021 국가인권위원회 인권상황보고서'에서 "인공지능 개발·활용과 관련해 국민 안전과 인권을 보호하기 위한 원칙과 세부 규정, 감독체계, 피해 구제 방안 등을 갖춘 강제성 있는 법률안을 마련해야 한다"고 밝혔다.

인권위는 ▲인공지능에 따른 편향과 차별 ▲인공지능 기반 영상 인식·합성 기술을 이용한 감시, 인격 침해 ▲인공지능 판단 과정의 불투명성 등을 인공지능 관련 대표적 인권침해 유형으로 제시했다.

보고서에서 인권위는 민간 기업이나 공공기관에 도입되는 인공지능 채용 면접에 관련한 우려도 제기했다.

인권위는 "인공지능은 과거 한국 사회에서 누적된 데이터에 의존해 학습하는데 데이터가 다양한 요소에 기반한 오랜 차별이 반영되어 있어 인공지능 기술이 불평등과 차별을 학습하는 결과로 이어질 수 있다는 지적이 있다"고 설명했다.

인권위는 공공기관에서도 이러한 'AI 면접'이 도입되는 것과 관련해 "보다 공정하고 투명한 인사 절차를 보장해야 할 공공기관마저 책임성 없이 인공지능 채용 도구를 무분별하게 도입하는 경향이 있다"고 비판하기도 했다.

또 인권위는 인공지능의 식별 기술과 결합한 얼굴인식시스템 도입·확산에도 강한 우려를 표명했다.

인권위는 "얼굴인식시스템은 개인정보 중에서도 이른바 생체인식정보(바이오정보)를 수집·처리하는 것이어서 '민감정보' 처리 문제가 발생하며, 나아가 불특정 다수를 대량 감시하는 경우에 이를 수도 있다"며 "본질적으로 인권침해 가능성이 매우 크며 그 도입에 신중해야 한다"고 지적했다.

인권위는 "생체정보는 개인정보 보호법에 의해 민감정보로 분류되고, 따라서 일반적 개인정보보다 엄격한 보호 기준이 적용되지만 얼굴인식시스템을 통해 입수한 개인정보는 대부분 인지할 기회 없이 처리된다"고 지적했다.

인권위는 이와 관련해 "명확한 법률적 근거에 따라 얼굴인식시스템을 운영하도록 하는 방안을 숙의할 필요가 있고, 얼굴인식 인공지능시스템을 학습시키기 위한 얼굴정보 주체의 명시적인 동의 또는 구체적이고 명확한 법률 근거를 확보하는 방안을 검토해야 할 것"이라는 의견을 내놓았다.

인권위는 자신의 데이터를 받거나 관리 업자에게 데이터 제공을 요청할 수 있도록 하는 '데이터 이동권'과 관련해서도 자율적으로 동의할 수 있도록 제도적 보완이 필요하다고 지적했다.

인권위는 이와 관련해 "데이터 이동권을 행사할 때 서면 등으로 명시적 동의를 받고, 데이터 이동권 행사에 따른 불이익의 고지와 설명을 제공하는 등 행사 방법과 절차를 명확히 보완할 필요가 있다"고 제언했다.

인권위는 "인공지능을 직접 규율 대상으로 하는 법률안이 다수 제안돼 있지만, 인공지능의 투명성·공정성 관련 원칙과 구체적인 내용은 찾아보기 어렵다"며 "인공지능 행위의 법적·제도적 책임에 관한 논의도 필요하다"고 지적했다.

아울러 인권위는 "인공지능과 관련한 법률을 마련할 경우, 인공지능과 인권 문제는 설계와 개발단계에서 인권 존중 관련 원칙을 두는 것이 강조될 필요가 있다"고 제언했다.

[시사경제신문=박영신 기자]