ㅇ (배경 및 필요성) 고성능 인공지능(AI)의 보급과 확산이 빠르게 진행되며 사회 ·산업 전반에 활용도가 증가하고 있으나, AI의 위험·부작용에 대한 우려도 함께 증가하며 AI 안전이 중요한 아젠다로 부상
- 생성형 AI의 출현과 확산은 이용자의 생산성 향상과 편의를 도모하면서도 증가하는 AI 이용자의 피해를 예방하기 위한 이용자 보호의 필요성 대두
- 첨단 AI가 경쟁적으로 개발되어 보급되고 있는 상황에서 고성능·다양성·자율성을 갖춘 AI로 인한 위험 양상은 증대
- 고도화된 생성형 AI 기술 등의 악용이 사회 안전·국가 보안에 큰 위협으로 부상함에 따라 글로벌 주요국들은 AI 안전 확보에 관한 방안 강구 및 국제적 협력을 위한 움직임을 본격화
ㅇ 한국도 AI 안전연구소 설립하며 AI 안전 부상에 따른 패러다임 변화에 대응하는 AI 정책 대응을 하고 있으나 보다 체계적인 접근 방법에 대한 고민이 필요한 시점
- AI 안전의 중요성이 증가하는 상황에서 국가 AI 안전 정책은 고도화된 AI 기술이 산업과 사회 전반에 미칠 수 있는 부정적 영향을 최소화하며, 글로벌 AI 안전 분야의 주도권을 확보하는 데 매우 중요함
- 한국에 적합한 최적의 정책 방안 도출을 위하여 국내·외 주요 AI 안전 개념·정책에 관한 종합적인 진단이 필요하며, 빠른 기술 발전과 위험요소의 증가, 국제 공조에 능동적으로 대응하기 위한 AI 안전 정책을 설계할 필요성이 고조
ㅇ (연구 목적) 새롭게 부상하는 AI 위험 요인에 대응하고 글로벌 AI 안전 협력을 강화할 수 있는 우리나라의 AI 안전 정책 방향 제시
- 새롭게 등장하는 생성형 AI 및 첨단 AI 기술과 관련하여 논의되고 있는 i) AI 안전 개념과 접근, ii) AI 위험 요인과 사례 iii) 국가별 AI 안전 대응 정책의 종합적 연구를 통하여 AI 안전 확보를 위한 정책 수립의 기초자료 제공을 목적으로 함
3. 연구의 구성 및 방법
ㅇ 본 연구는 크게 선행 연구, AI 위험 분석, 정책 대응 방안 제시로 구성
- 선행 연구에서는 최근 논의가 활발히 진행되고 있는 AI안전 관련 주요국 정책 및 AI 안전연구소 동향, AI안전 정의, AI 위험 요인 및 사례를 다양한 연구 보고서, 정책 문서, 표준 문서 등 문헌 연구 및 사례 조사를 통해 살펴봄
- 정책 대응이 시급한 주요 AI 위험 요인을 식별하기 위해 계층적 분석방법(AHP) 모델을 설계하고 산학연 전문가 61명의 설문과 델파이 조사를 통해 각 위험 요인별 대응 우선 순위를 도출
- AHP 분석 결과를 통해 위험의 발생 가능성 및 심각성을 중심으로 AI 위험의 우선 순위를 도출하고 전문가 자문 회의 등을 통해 구체적인 정책적 대응 방안을 제시함
4. 연구 내용 및 결과
□ AI 안전 정의 및 AI 위험 요인 유형화
ㅇ 국내외에서 논의되고 있는 다양한 AI 안전 관련 용어와 표준적 개념을 조사하여 정책 대상으로서 AI 안전의 개념과 범위를 재정의
ㅇ AI의 기술적 특징 또는 한계에 의해 발생하는 AI 위험 및 안전 위협 사례를 조사하고, AI 안전 확보를 위해 추진 중인 기술 개발 및 연구 사례 분석(설명가능한 AI, AI 정렬, 공정한 AI 등)를 통한 시사점 도출
□ 국내외 국가별 AI 안전 관련 정책 및 대응 동향 분석
ㅇ AI 안전의 글로벌 공동 대응 기조하에 국가별 AI 정책 대응 동향 조사하고 주요 국가들의 AI 정책 변화, AI 안전 대응을 위한 제도, 거버넌스 체계 이슈 등 분석
ㅇ 국내 고위험 AI 대응 및 안전 확보를 위한 인공지능 기본법 도입 등 관련 정책 현황 조사
ㅇ 미국, 영국, 일본 등 해외 주요국 AI 안전연구소 설립 동향 및 안전 관련 R&D 추진 현황 등 AI 안전에 관한 접근과 대응 방향을 분석
□ 국내·외 기업들의 AI 안전 대응 사례 조사
ㅇ 첨단 인공지능을 주도하고 있는 구글, 오픈AI, 마이크로소프트 등 미국 주요 빅테크 기업의 책임있는 AI 안전 확보를 위한 노력과 이에 대응하는 국내 주요 기업들의 AI 안전 관리 정책 및 프레임워크 도입 사례 분석
□ AI 안전 확보를 위한 대응 위험 우선 순위 도출
ㅇ 문헌 연구 및 전문가 자문을 통해 AI 위험 유형을 3개 대분류, 16개의 세분류로 구분
- 대분류는 사회문화적 위험, 경제 및 환경적 위험, 기술적 위험으로 구분
ㅇ 산학연 전문가 61명의 AHP 설문조사를 통해 대응 시급성이 높은 위험 우선 순위 도출
- 세분류 기준으로 가짜·허위·유해 정보 생성 및 확산, 국가간 AI기술 격차, AI 숙련도에 따른 소득 불평등 등 사회문화적, 경제적 위험에서 시급한 정책 대응 필요성이 나타남
□ 국내 AI 안전 대응을 위한 정책 방향 제시
- 현재의 AI 안전 논의는 초기 단계로 국내 AI 안전 정책은 아직 체계적인 접근이 부족
- AI 기본법의 시행령 및 지침 마련으로 AI 안전, AI 위험, 고영향 AI 등 모호한 법적 개념과 AI 안전 확보를 위한 사업자 이용자의 의무과 권리를 구체화하는 노력 필요
- AI로 인한 가짜 정보 유통, AI 통제력 상실, 오작동에 의한 각종 피해를 사전에 예방하고 빠르게 조치하기 위한 지속적 AI 안전 연구 및 개발 지원 필요
- 아울러, AI 안전 인증 제도, AI 안전 교육 및 인식 제고 프로그램, AI 안전 전문 인력 육성 및 전반적인 AI 윤리 문화 확산 등 AI 안전 생태계 기반 조성 정책 추진 필요
5. 활용 및 기대 효과
ㅇ 연구 결과는 첨단 AI의 확산으로 발생할 수 있는 피해를 예방하고 국민을 보호하며, AI 국가경쟁력을 확보할 수 있는 AI 안전 기반 조성 정책 수립 자료로 활용
- AI 안전에 관한 개념과 새롭게 부상가능한 위험 요인에 관한 분석 결과는 급변하는 AI 기술환경에 대응하는 AI 안전 정책 수립에 참고 자료로 활용 가능
- 주요국의 AI 안전 대응 정책 동향 조사 결과는 글로벌 AI 안전 협력을 강화하고, AI 안전에 대응하는 AI 안전 거버넌스 수립의 기초자료로 활용 가능
6. 기대효과
본 연구 결과는 산업, 정부, 교육 및 연구기관 측면에서 각각 시사점을 제공할 수 있을 것이다. 첫째, 산업계에는 SW유망기술, 유망기술과 시너지를 낼 수 있는 결합기술, 활용분야 등을 제시함으로써 기술 개발 및 사업 재편에 대한 전략적 방향설정에 활용할 수 있을 것이다. 나아가 본 연구결과를 토대로 효율적인 기술 투자와 개발을 진행하여 성공적인 비즈니스 모델을 형성할 수 있을 것으로 기대한다. 둘째, 정부차원에서는 연구 결과를 기반으로 SW유망기술 개발과 확산을 촉진하는 정책 수립에 활용할 수 있을 것이다. 이는 디지털 변혁에 선도적 정책지원으로 기술패권에서 우위를 선점하는 데 기여할 수 있을 것이다. 마지막으로 본 연구의 결과는 대학 및 연구 기관에게 유망 기술에 기반한 교육 및 훈련 프로그램을 개발과 SW분야의 연구개발 활동의 방향성을 수립하는 데 활용할 수 있는 기반자료가 될 것이다.
