공공성·형평성·투명성 등 6대 핵심가치 제시…68개 점검 항목 마련
AI 활용 수준 따라 3단계 자율점검…감독·사후관리·피해구제 체계 구축

공공기관이 복지대상자 선정이나 인허가 등 국민의 권리와 생활에 영향을 미치는 업무에 인공지능(AI)을 활용할 때 사람이 AI의 판단을 검토하고 개입할 수 있는 체계를 마련한다.

행정안전부는 공공부문의 AI 도입 확대에 따라 신뢰할 수 있는 AI 활용을 위한 '공공부문 인공지능 윤리기준'을 최종 확정했다고 밝혔다.

이번 윤리기준은 국정과제인 '세계 최고 AI 민주정부 실현'을 위한 핵심 실천과제로, AI 활용 과정에서 발생할 수 있는 편향된 결정과 프라이버시 침해 등을 예방하고 국민이 안심할 수 있는 행정 환경을 조성하기 위해 마련됐다.

최근 공공분야에서 AI를 활용한 업무 혁신이 확산되면서 공직사회에서도 AI 윤리의 중요성이 커지고 있다.

이에 행안부는 국내외 AI 윤리기준을 분석하고 전문가 자문 등을 거쳐 지난해 11월 초안을 마련한 뒤 관계기관과 학계 전문가의 검토와 의견 수렴을 거쳐 최종안을 확정했다.

윤리기준은 '행정 혁신 촉진'과 '국민 신뢰 구축'을 목표로 국민·행정·기술의 세 가지 관점에서 ▲공공성 ▲형평성 ▲투명성 ▲책임성 ▲안전성 ▲프라이버시 보호 등 6대 핵심가치를 제시했다.

공직자가 실제 업무에서 이를 적용할 수 있도록 6대 핵심가치를 바탕으로 공공 업무의 특성을 반영한 총 68개의 세부 점검사항도 마련했다.

각 기관은 AI 활용 수준에 따라 1단계 '적용(기초활용)', 2단계 '응용(의사결정 지원)', 3단계 '융합(자율결정 기반)'으로 구분된 자율점검 체계를 활용해 맞춤형으로 윤리기준을 적용할 수 있다.

특히 '책임성' 기준에는 AI가 행정 의사결정을 지원하거나 직접적인 판단에 활용되더라도 최종적인 책임과 통제는 사람에게 있다는 원칙을 구체화했다.

복지대상자 선정이나 인허가, 위험예측 등 국민의 권리와 생활에 직접 영향을 미치는 업무에 AI를 활용할 경우 서비스 기획부터 제공까지 전 과정의 책임 주체를 명확히 하도록 했다.

또 AI의 판단과 결정을 사람이 검토하고 개입할 수 있는 인적 감독 체계와 함께 사후관리·피해구제 체계도 마련하도록 했다.

행안부는 이번 윤리기준이 선언에 그치지 않고 공직자가 업무 과정에서 AI 윤리를 스스로 점검하고 개선하는 실무 지침으로 활용될 수 있도록 공공부문 종사자를 대상으로 교육 프로그램을 운영할 계획이다.

아울러 새롭게 등장하는 AI 윤리 문제를 조기에 파악해 점검사항에 반영하는 환류 체계를 운영하고, 기술 환경과 사회적 요구 변화에 맞춰 윤리기준을 지속해서 개선할 방침이다.

윤호중 행정안전부 장관은 "인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼, 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다"며 "이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고, 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다"고 밝혔다.

문의: 행정안전부 공공인공지능혁신과(044-205-2296)

[출처] 대한민국 정책브리핑(www.korea.kr)