스탠퍼드대학교 인간중심 인공지능 연구소(HAI)가 지난 4월 7일 'AI Index 2025' 보고서를 발간했다. 이번 보고서는 2017년부터 발간되어 올해 8번째로, 현재 글로벌 AI 현황에 대한 종합적인 관점의 브리핑을 제공한다. 소프트웨어정책연구소에서는 이 보고서의 주요 내용을 분석‧요약하고 우리의 전략적 대응을 제안하고자 한다. AI 연구개발 경쟁은 매년 더욱 치열해지고 있으며, 선두 주자인 미국과의 경쟁에서 중국의 약진이 두드러진다. AI의 성능은 매년 급격하게 증가하여 이를 측정하기 위한 새로운 벤치마크들이 등장했다. 고성능 모델들은 모델 간 성능 격차가 줄어들어 상향 평준화 되었다. 또한, AI의 활용 확산은 과학과 의료계의 발전을 이끌고 있으며, AI의 활용이 확산됨에 따라 책임있는 AI를 위한 다양한 노력들도 추진되고 있다. 이에 따라 각국에서는 AI에 관련한 규제 법률을 늘리고 있는 추세이다. AI 분야의 `24년의 글로벌 투자 수준은 경기침체로 인해 감소세였던 지난 `22~23년과 달리 크게 증가하였다. 세계적으로 AI 및 CS교육이 빠르게 확산하고 있어 AI 전문가 배출도 가속화되고 있다. AI에 대한 여론은 낙관적인 전망이 증가하고 있는 가운데, 공정성에 대한 신뢰도는 감소하는 양상을 보였다. Executive Summary The Stanford Institute for Human-Centered Artificial Intelligence(HAI) released the 'AI Index 2025' report on April 7th. This report that published since 2017, is the 8th this year and provides a comprehensive perspective briefing on the current global AI situation. The SPRi analyzes and summarizes the main contents of this report and proposes our strategic response. The competition in AI research and development is becoming more intense every year, and China's advances are notable in its competition with the United States, the leader. The performance of AI has increased rapidly every year, and new benchmarks have emerged to measure it. High-performance models have become more standardized as the performance gap between models has narrowed. In addition, the spread of AI utilization is leading to the development of science and medicine, and various efforts for responsible AI are also being promoted as the use of AI spreads. Accordingly, each country is increasing regulatory laws related to AI. The level of global investment in the AI ​​field in 2024 has increased significantly, unlike 2022-2023, when it was decreasing due to the economic recession. As AI and CS education are rapidly spreading worldwide, the production of AI experts is also accelerating. While public opinion on AI is showing an increasing optimism, trust in fairness is showing a decreasing trend.

목차 Table of Contents 정책·법제 ▹ 2025년 중국 양회의 정부 업무보고, AI 플러스 행동의 지속 추진을 천명 ▹ 중국 정부, 2025년 9월부터 AI 생성·합성물 표시 의무화 규정 시행 예정 발표 ▹ 인도 전자정보기술부, AI 강국 실현을 위한 AI 로드맵 공개 ▹ 영국 경쟁시장청, 마이크로소프트와 오픈AI 협력 관련 반독점 조사 종료 발표 기업·산업 ▹ 구글, 단일 GPU로 구동 가능한 오픈소스 AI 모델 ‘젬마 3’ 공개 ▹ 오픈AI, AI 에이전트 구축 지원 도구와 신규 음성·이미지 생성 모델 출시 ▹ 앤스로픽, 트럼프 행정부에 국가 경제와 안보를 고려한 AI 정책 제안 ▹ 오픈AI, 트럼프 행정부에 혁신의 자유 강조하는 AI 정책 제안 ▹ 엔비디아, GTC 2025에서 신규 AI 칩 로드맵과 AI 제품군 공개 ▹ 마누스 AI, 완전 자율 AI 에이전트 ‘마누스’ 공개 ▹ 피규어, 휴머노이드 로봇 제조시설 ‘BotQ’ 발표 ▹ 앱트로닉, 자빌과 전략적 제휴로 휴머노이드 로봇 제작 추진 기술·연구 ▹ 구글 딥마인드, 로봇 특화 AI 모델 ‘제미나이 로보틱스’ 개발 ▹ 사카나 AI의 AI 생성 논문, ICLR 2025 워크숍에서 동료 심사 통과 ▹ AAAI, 주요 AI 연구 주제와 해결 과제를 정리한 보고서 발간 ▹ 2024년 튜링상, 강화학습 연구에 기여한 연구자 2인이 수상 ▹ 카카오, 자체 개발 AI 모델 ‘카나나’의 테크니컬 리포트 공개 인력·교육 ▹ 영국 옥스퍼드大 연구 결과, AI 인력 채용 시 학위보다 실무기술이 중요 ▹ 스탠포드 HAI, AI+교육 서밋에서 AI가 교육에 미치는 영향 논의 ▹ 영국 정부의 AI 저작권 규제 완화 기조에 창작자들의 반발 격화 ▹ IBM CEO, 가까운 미래에 AI가 프로그래머를 대체할 가능성은 희박하다고 예측 주요행사일정

인공지능(AI)이 직·간접적으로 국가 생산성을 높이고 국가의 미래 경쟁력을 결정짓는 핵심 요소로 부상하면서, 각국은 AI 기술을 미래 경쟁력의 핵심으로 인식하여 대대적인 AI R&D 투자 및 생태계 조성을 위한 정책 추진 등 기술 주도권 확보를 위한 노력을 경주하고 있다. 글로벌 AI 경쟁이 치열해지고 있는 가운데, 본 연구에서는 AI 시장 규모가 큰 미국(USPTO), 중국(CNIPA), 유럽(EPO) 등 3개 특허청에 등록된 특허정보를 수집하여 특허지표 분석을 실시하였다. 세계지식재산권기구(WIPO)의 AI 관련 특허정보 수집 방법에 따라 검색식을 작성하고 특허정보 데이터셋을 구축하였다. 이때 시간적 범위는 AI 기술 패러다임에 획기적인 변화를 가져온 AI 모델 ‘트랜스포머(Transformer)’가 등장한 2017년을 기점으로 하여, 연구시점 기준으로 온전한 통계 산출이 가능한 2023년 7월(출원일 기준)까지로 설정하였다. 국가별 AI 경쟁력을 평가하는 대표적 지수인 ‘토터스 미디어(Tortoise Media)’ 「글로벌 인공지능 지수(The Global AI Index)」의 상위 12개국(2024년 기준)을 분석 대상으로 설정하고, 국가별·연도별 등록특허의 양적 규모와 AI 기술개발 성과의 집중도, 기술적 역량, 영향력 등 질적 수준을 나타내는 특허지표별 측정 결과를 분석하였다. Executive Summary Artificial Intelligence (AI) stands as a pivotal enabler of national productivity and a decisive determinant of future competitiveness. Policymakers and industry leaders increasingly recognize the strategic importance of AI, dedicating substantial resources to research and development initiatives while enacting policies designed to nurture a thriving innovation ecosystem. This study aims to apply selected patent indicators to elucidate the state of AI technology worldwide and to evaluate the technological competitiveness of South Korea and major countries. Following the methodological framework established by the World Intellectual Property Organization (WIPO), we developed patent search queries that integrate both relevant classifications and specific keywords. The focus of this study rests on granted patents filed at the United States Patent and Trademark Office (USPTO), China National Intellectual Property Administration (CNIPA), and the European Patent Office (EPO) between January 2017 and July 2023. By examining a suite of patent indicators—covering dimensions such as quantitative scale, technology development intensity, technological capabilities, quality, and global influence—we provide a comparative evaluation of AI technological competitiveness across nations. This assessment includes 12 leading countries identified by the 2024 Global AI Index published by Tortoise Media, offering deeper insights into the varied trajectories of AI development and global competitiveness.

목차 Table of Contents Ⅰ. 인공지능 산업의 최신 동향 1. 정책/법제 ▹ 미국 국가AI자문위원회, 트럼프 행정부 대상 AI 정책 보고서 발간 ▹ 파리 AI 행동 정상회의, AI의 공공성·지속가능성과 함께 규제 완화 논의 ▹ EU 집행위원회, 경쟁력 강화 로드맵의 일환으로 AI 기가팩토리 구축 추진 ▹ EU 집행위원회, 2025년 업무 프로그램에서 ‘AI 책임 지침’ 철회 계획 발표 ▹ 영국, AI안전연구소의 명칭 AI보안연구소로 변경하고 앤스로픽과 AI 협력 2. 기업/산업 ▹ 구글, 성능 개선한 ‘제미나이 2.0’ 제품군 확대 출시 ▹ 오픈AI, 심층 조사를 수행하는 에이전트 ‘딥 리서치’ 공개 ▹ 오픈AI, GPT-5 출시 로드맵 발표 및 GPT-4.5 프리뷰 공개 ▹ xAI, 최신 AI 모델 ‘그록 3’ 프리뷰 출시 ▹ 퍼플렉시티, 심층 조사와 분석을 수행하는 ‘딥 리서치’ 무료 출시 ▹ 알리바바, 딥시크 V3 능가하는 성능의 ‘큐원2.5-Max’ 출시 ▹ 아크 인베스트, 2025년 혁신 기술 중 하나로 AI 에이전트 선정 3. 기술/연구 ▹ 상하이교통大 연구진, 소량의 고품질 데이터를 활용한 추론 AI 모델 개발 ▹ 스탠포드大와 워싱턴大 연구진, 저비용으로 고성능 추론 AI 모델 개발 ▹ 바이트댄스, 인물 움직임을 생성하는 AI 모델 ‘옴니휴먼-1’ 개발 ▹ AI안전센터와 스케일 AI, 고난도 벤치마크 ‘HLE’ 공개 4. 인력/교육 ▹ 딜로이트 조사 결과, 전 세계 기업들은 점진적으로 AI 도입 확대 ▹ 마이크로소프트 연구 결과, 생성 AI 신뢰할수록 비판적 사고 감소 ▹ 앤스로픽, AI가 노동시장에 미치는 영향을 분석한 ‘앤스로픽 경제 지수’ 공개 ▹ 앤스로픽을 비롯한 여러 기업들, 입사 지원 시 AI 도구 사용금지 요구

목차 Table of Contents 1. 딥시크의 등장과 배경 2. 딥시크 모델의 기술적 특징 3. 기존 AI 모델과의 비교 4. 딥시크 관련 주요 이슈 5. 딥시크의 영향과 정책적 시사점 6. 참고 문헌

본고에서는 2024년까지 전 세계에 출시된 초거대 AI 모델 현황을 분석하여 글로벌 기술 동향과 트렌드를 살펴본다. 초거대 AI 모델이란, 대규모의 컴퓨팅 인프라를 바탕으로 방대한 데이터를 학습하여 인간처럼 종합적인 인지·판단·추론이 가능해진 ‘큰 규모’의 AI 모델을 의미한다. 미국 민간 연구단체인 ‘EPOCH AI’의 초거대 AI 모델 현황 DB로부터 수집한 데이터를 활용하여 그간 출시된 초거대 AI 모델의 연도별·국가별·분야별·유형별 현황을 분석한다. 특히 2024년 초거대 AI 모델을 출시한 주요 기업/기관과 주요 모델에 대해서도 살펴본다. 마지막으로 글로벌 초거대 AI 모델 개발 트렌드를 정리·요약하고, 시사점 및 정책 제언을 제시한다. Executive Summary This report examines the current status of large-scale AI models released worldwide by 2024. The large-scale AI model refers to a AI model that have learnt vast amounts of data based on a large-capacity computational infrastructure, enabling comprehensive cognition, judgement, and reasoning akin to humans. It analyzes the current status of the large-scale AI model released so far by year, country, sector, and type using data collected from EPOCH AI database. Particularly, it examines the major developers and major models launched in 2024. Lastly, it summarizes the global large-scale AI model development trend, and presents policy recommendations for the field of AI.

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 상무부, AI 칩과 모델의 수출 통제를 전 세계로 확대하는 규정 발표 ▹ 바이든 전 미국 대통령, AI 인프라 구축 가속화 행정명령에 서명 ▹ 미국 트럼프 대통령, AI 인프라 프로젝트 및 AI 행정명령 발표 ▹ 미국 AI안전연구소, 기반모델 오용 위험관리 지침 2차 초안 발간 ▹ 영국 과학혁신기술부, AI 경쟁력 강화를 위한 AI 기회 행동계획 발표 2. 기업/산업 ▹ MIT 테크놀로지 리뷰, 2025년 AI 트렌드 전망 ▹ 엔비디아, CEO 2025에서 피지컬 AI 시대 예고하며 AI 신제품 대거 공개 ▹ 오픈AI, 트럼프 행정부를 위한 AI 정책 청사진 발표 ▹ 오픈AI, 생명공학 스타트업과 협력해 수명 연장 목표 연구를 위한 AI 모델 개발 ▹ 딥시크, 오픈AI o1과 비슷한 성능의 추론형 AI 모델 ‘R1’ 공개 ▹ 딥시크 R1 출시로 인한 AI 시장의 충격과 함께 보안 우려도 대두 ▹ 지상파 방송 3사, 네이버에 뉴스데이터 저작권 침해 소송 제기 3. 기술/연구 ▹ 니케이 분석 결과, 세계 3대 AI 학회 채택 논문 저자 수에서 중국과 미국의 격차 감소 ▹ AMD와 존스 홉킨스大 연구진, 과학 연구를 자율 수행하는 에이전트 개발 ▹ 사카나 AI, 자체 적응형 머신러닝 프레임워크 ‘트랜스포머2’ 개발 ▹ 구글 연구진, 효율적 메모리 사용을 위한 ‘타이탄’ 아키텍처 개발 4. 인력/교육 ▹ 세계경제포럼, 2030년까지 AI의 영향으로 일자리 시장 급변 예상 ▹ IBM 설문조사 결과, IT 의사결정권자의 85%가 AI 전략에서 성과 달성 ▹ 민주주의기술센터 조사 결과, 미국 교육 현장에서 생성 AI 활용 급증 ▹ 딜로이트, 아시아 태평양 지역 AI 거버넌스 조사 결과 발표 Ⅱ. 주요 행사 ▹ICLR 2025 ▹ICRA 2025 ▹AI & Big Data EXPO (North America)

본 연구에서는 그간의 미국의 인공지능(AI) 안전·신뢰성 정책 흐름을 살펴보고, 트럼프 2.0 시대에 AI 기술의 안전·신뢰성 확보하기 위한 정책 흐름이 어떻게 이어질지 예측하고자 하였다. 분석 결과, 미국은 오바마 행정부부터 트럼프 1기 행정부, 바이든 행정부에 걸쳐 AI 기술을 국가 안보와 직결된 전략 기술로서 인식하고 관련 정책을 수립·추진해왔다. 오바마 행정부에서는 AI가 안보와 글로벌 리더십 확보에 중요한 전략 과제임을 인식하고 안전한 AI 시스템을 보장하기 위한 연구 개발 계획 및 지침을 수립하였고, 트럼프 1기 행정부는 자국의 AI 리더십 확보를 위한 연구 강화와 혁신 투자, 그리고 신뢰할 수 있는 AI 개발 및 보급을 지시하였다. 바이든 행정부에서는 연방정부 차원에서 안전하고 신뢰할 수 있는 AI 혁신에 관한 행정명령을 발동하였다. 공통적으로 AI 개발 및 보급에서 세계를 선도함과 동시에 안전성과 신뢰성을 강화할 수 있는 정책을 마련하는 데 초점을 맞추고 있다. AI의 안전·신뢰성 확보 정책은 국가적으로 일관된 정책 흐름이며, 오히려 국가 안보와 미국 우선주의를 강조하는 트럼프2.0 시대에서는 더욱 강화될 수 있을 것으로 전망된다. Executive Summary This study examines the trajectory of U.S. Policy for Implementing Trustworthiness artificial intelligence (AI) safety and reliability policies and seeks to predict how these policies may evolve Trump 2.0 era. The analysis reveals that since the Obama administration through the first Trump administration, the United States recognized AI as a strategic technology closely tied to national security, developing and implementing policies to support its advancement. The Obama administration acknowledged AI as a critical strategic task for national security and global leadership, establishing research and development plans and guidelines to ensure safe AI systems. The first Trump administration emphasized strengthening U.S. AI leadership by enhancing research, investing in innovation, and directing the development and deployment of trustworthy AI. The Biden administration issued executive orders at the federal level to advance trustworthy AI innovation. All administrations have consistently focused on leading global AI development and deployment while simultaneously reinforcing trustworthiness. Policies to ensure AI trustworthiness thus reflect a unified national strategy. Furthermore, with the Trump 2.0 era’s emphasis on national security and an “America First” agenda, these policies are anticipated to be further strengthened.

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ EU 공동연구센터, 공공 부문의 AI 역량 및 거버넌스에 관한 보고서 발간 ▹ 유럽평의회, AI 시스템의 위험과 영향력 평가 방법론 채택 ▹ 영국 정부, 사이버 안보 위협에 대응한 AI안보연구소 신설 계획 발표 ▹ 그리스 AI 고위자문위원회, 국가 AI 정책 제안서 발표 2. 기업/산업 ▹ 아마존, 자체 개발 생성 AI 모델과 AI 신기능 대거 공개 ▹ 오픈AI, ‘챗GPT 프로’ 및 동영상 생성 AI ‘소라’ 출시 ▹ 구글, 제미나이 2.0 플래시 출시와 함께 AI 에이전트 3종 공개 ▹ 마이크로소프트, 코파일럿 신기능과 AI 에이전트 공개 ▹ 퍼플렉시티, 유료 사용자 대상 AI 검색에 쇼핑 기능 도입 ▹ 앨런AI연구소, 완전 개방형 소형 언어모델 ‘올모 2’ 공개 ▹ LG AI연구원, 엑사원 3.5 기반모델 3종 오픈소스로 공개 ▹ 엔비디아, 텍스트-오디오 생성 AI 모델 ‘푸가토’ 발표 3. 기술/연구 ▹ 스탠포드大 인간중심AI연구소, 글로벌 AI 활동성 도구 공개 ▹ ML커먼스, AI 안전성 평가 벤치마크 ‘AI루미네이트’ 발표 ▹ 구글 딥마인드, 3D 가상 세계 생성하는 AI 모델 ‘지니 2’ 개발 ▹ 알리바바, 추론 AI 모델 ‘마르코-o1’ 공개 4. 인력/교육 ▹ OECD, 생성 AI를 활용한 노동시장 과제 해결을 모색한 보고서 발간 ▹ 리눅스 재단 AI 도입 현황 조사 결과, 생성 AI 인프라의 평균 41%가 오픈소스로 확인 ▹ 세계경제포럼, 인재 부족 문제에 대응한 AI 교육 형평성 강조 ▹ 마이크로소프트, AI 도입 기업들의 5대 트렌드 발표 Ⅱ. 주요 행사 ▹World Economic Forum ▹CES ▹AAAI-25

국내 소프트웨어(SW) 개발자 채용시장은 팬데믹 이후 디지털 전환의 가속화, 경기침체, 그리고 생성형 AI의 등장 등 여러 요인에 의해 큰 변화를 겪어왔다. 팬데믹 기간동안 전 산업에서 디지털 전환이 빠르게 이루어지면서 SW 개발자에 대한 수요가 급격히 증가했고, 이로 인해 구직자가 유리한 시장 환경이 조성되었다. 그러나 이후 고금리와 경기 침체가 이어지면서 벤처와 스타트업 투자가 위축되었고, 이는 IT업계 채용시장에도 부정적인 영향을 미쳐 SW 개발자 채용시장이 크게 위축되었다. 2022년 말 등장한 생성형 AI는 SW 개발자의 생산성을 높이는 한편, SW개발자 채용 수요와 역할, 그리고 요구 역량 전반에 직·간접적인 영향을 미치기 시작했다. 이에 따라, 본 연구진은 국내 현업에 종사하는 SW 개발자를 대상으로 심층 인터뷰를 진행하였으며, 인터뷰의 주요 결과는 다음과 같다. 현재 SW 개발자 채용시장은 위축된 상태이나, 생성형 AI로 인한 직접적인 채용 감소는 현장에서 뚜렷하게 체감되지 않고 있다. 한편, 생성형 AI는 초급 SW 개발자에게 기회와 위협을 동시에 제공하고 있다는 의견이 제시되었다. 단순 반복 작업이 자동화되면서 초급 SW 개발자의 역할 축소와 채용 수요 감소 우려가 제기되지만, 동시에 생성형 AI는 초급 개발자의 학습 속도와 역량 향상에 기여하여 이들이 더 넓은 업무를 수행할 수 있는 기회를 제공하고 있다고 논의되었다. SW 개발자 채용 과정과 요구 역량에도 변화가 예상된다. 현업 개발자들은 코딩 테스트의 필요성에 대해 의견이 갈리는 상황이며, 실무 역량과의 연관성을 더욱 강화해야 한다는 지적이 있다. 또한, 생성형 AI 도입으로 프롬프트 엔지니어링이 새로운 역량으로 주목받고 있으나, 이를 SW개발자의 본질적 역량으로 강조하기에는 시기상조라는 평가가 다수다. 생성형 AI 도구의 활용이 확산되면서 초급 SW 개발자의 역량이 상향 평준화될 것으로 전망하는 의견이 제시되었다. 또한, 생성형 AI로 인해 SW개발자 요구 역량의 본질이 변화하지는 않을 것으로 전망되나, AI 도구 활용 시 정보 판별 능력이 새롭게 요구되는 역량으로 부각될 가능성이 있다. 이상의 연구 결과를 바탕으로 본 연구진은 향후 SW개발자의 요구 역량, 역량 평가, 역할 변화 등에 대한 시사점을 도출하였다. 나아가, SW 개발자 요구 역량 및 이에 따른 채용 변화와 관련한 정부와 개발자들의 대응 방향에 대해 제언하였다. The software (SW) developer job market in South Korea has experienced significant changes influenced by various factors, including the acceleration of digital transformation during the pandemic, economic downturns, and the emergence of generative AI. The introduction of generative AI in late 2022 has further reshaped this landscape by enhancing developer productivity while indirectly and directly impacting hiring demand, roles, and required competencies. To investigate these developments, this study conducted in-depth interviews with SW developers currently active in the industry. The key findings are summarized as follows: Although the SW developer job market remains constrained, industry practitioners have not distinctly perceived direct hiring reductions attributable to generative AI. However, generative AI has been identified as simultaneously presenting both opportunities and challenges for junior SW developers. While the automation of repetitive tasks has raised concerns about the reduction of roles and hiring demand for junior developers, it has also been noted that generative AI supports faster learning and skill enhancement, enabling these developers to take on broader responsibilities. Interviewees expressed divergent opinions on the necessity of coding tests, highlighting the need for stronger alignment with practical skill requirements. Additionally, while prompt engineering has emerged as a noteworthy competency with the adoption of generative AI, they believe it is premature to consider it a core skill for SW developers. The growing adoption of generative AI tools is expected to standardize and elevate the baseline competencies of junior SW developers. Although the fundamental skills required for SW developers are unlikely to change significantly, the ability to critically evaluate information when using AI tools is likely to emerge as a newly emphasized competency. Based on these findings, this study outlines implications for evolving competency requirements, assessment methods, and role changes for SW developers. Furthermore, it offers recommendations for government policies and developer strategies to address the shifts in required skills and hiring practices driven by generative AI.

최근 인공지능의 부상과 함께 인공지능의 기능적 한계, 잠재적 위험에 대한 우려도 고조되고 있다. 이러한 상황에서 2023년 11월에는 세계 최초로 세계 정상들이 참여한 ‘AI안전성 정상회의’가 개최되었고, 2024년 5월에는 후속 회의로서 ‘AI 서울 정상회의’도 열렸다. 2024년 8월에는 2021년부터 발의된 EU의 인공지능법이 발효되었다. 앞으로 믿고 쓸 수 있는 인공지능, 인간에 무해한 인공지능의 개발과 보급을 위한 정책적 노력들이 강화될 것으로 예측된다. 하지만, 정책적 대상으로서 인공지능 안전의 개념과 범위는 모호하다. 비슷한 개념으로 인공지능 신뢰성, 인공지능 윤리, 인공지능 견고성, 책임 있는 인공지능 등이 혼재되어 사용되고 있다. 따라서, 무엇보다 ‘인공지능 안전성’에 대한 개념에 대한 합의가 필요한 상황이며, 그 대상이 기술적 영역에 국한되는지, 기업의 책무와 윤리적 영역까지도 포함하는지 개념의 범위에 대한 검토도 필요하다. 이에 본 연구에서는 최근 화두가 되고 있는 ‘인공지능 안전성’을 다른 유사 개념들과 비교하여 그 개념을 정의하고, 그 개념이 포함하는 범위에 대해서도 조망한다. 이를 위해 현재까지 제정된 ISO/IEC의 국제표준 정의와 EU, OECD 등 국제 협력 기구에서의 정의, 그리고 최근 설립된 미국, 영국 등 AI안전연구소들이 준용하는 개념들을 살펴보았다. 이를 토대로 향후 AI 안전성을 확보하기 위해 정책적 시사점을 정리하였다. Executive Summary With the recent rise of artificial intelligence (AI), concerns regarding its functional limitations and potential risks have been increasing. In response, November 2023 saw the world's first AI Safety Summit with the participation of global leaders, followed by the Seoul AI Summit in May 2024. In August 2024, the EU's Artificial Intelligence Act, initially proposed in 2021, came into effect. It is anticipated that policy efforts to develop and promote trustworthy and harmless AI will be strengthened in the future. However, the concept and scope of AI safety as a policy target remain unclear. Similar terms such as AI trustworthiness, AI ethics, AI robustness, AI reliablity, and responsible AI are often used interchangeably. Thus, it is crucial to reach a consensus on the concept of 'AI safety' and to examine whether it is limited to technical aspects or includes corporate responsibility and ethical considerations. This study compares the recently prominent concept of 'AI safety' with similar terms to define its scope and meaning. To do so, we review the definitions provided by ISO/IEC international standards, international organizations like the EU and OECD, and the concepts adopted by newly established AI safety research institutes in the US and UK. Based on this analysis, the study outlines policy implications for ensuring AI safety in the future.

AI반도체 등 AI 인프라에 대해 대규모 투자가 이루어지고 있지만, 투자 대비 수익성에 대한 의문이 제기되는 상황에서, SW서비스 기업들이 실질적인 수익을 창출할 수 있는 AI 기반 신서비스 도입모델이 어떤 모습인지 검토할 필요성이 있다. 기존 SW기업들은 주로 기존 소프트웨어에 Copilot 기능을 부가하여 기존의 업무를 보완하는 수준에서 AI를 도입하고 있다. ERP나 CRM 등의 소프트웨어에 챗봇을 통합해 기본적인 업무 생산성을 높이는 데 초점을 맞추고 있는 것이다. 반면, 스타트업들은 AI를 활용해 산업 데이터 분석과 자동화 솔루션 등에서 보다 혁신적인 시도를 통해 새로운 가치를 창출하려 하고 있다. 이러한 상황에서 AI-Native 서비스는 기존 SW서비스를 뛰어넘는 새로운 가능성을 제시하고 있다. 이는 기존 시스템에 의존하지 않고 처음부터 AI에 의존하는 서비스 모델로, 클라우드와 결합해 확장성과 유연성을 강화하고 있다. 이 보고서는 AI 기술을 활용한 산업별 특화 서비스와 새로운 데이터 활용 방식을 통해 비즈니스 모델의 혁신 가능성을 탐구한다. SW기업들은 AI서비스 기업으로의 이행을 준비하는 과정에서, 과거 기술 발전에서 얻은 교훈을 활용해야 한다. AI-Native 서비스를 개발하여 새로운 시장을 장악하는 것이 성공적인 수익화를 이끄는 전략임을 역사적으로 확인할 수 있다. 이를 위해 기업들은 데이터를 효과적으로 활용하고, 기존 시스템과 AI 중심 아키텍처의 통합을 점진적으로 추진하며, 산업별 특화 애플리케이션 개발을 통해 AI 기술의 잠재력을 극대화할 필요가 있다. Executive Summary Large-scale investments are being made in AI infrastructure, such as AI semiconductors, but concerns about the ROI of these investments have arisen. In this context, there is a need to examine what AI-driven new service adoption models look like for software service companies to generate tangible revenue. Incumbent software companies typically adopt AI by augmenting existing software with Copilot features to complement their existing operations. These efforts primarily focus on enhancing productivity in basic tasks by integrating chatbots onto existing software like ERP or CRM systems. In contrast, startups are leveraging AI to create new value through more innovative approaches, such as industrial data analysis and automation solutions. Amid these developments, AI-Native services present new possibilities that surpass traditional software services. These service models are designed to depend on AI from the outset rather than relying on legacy systems, combining with cloud infrastructure to enhance scalability and flexibility. This report explores the potential for business model innovation through AI-driven industry-specific services and novel data utilization methods. As software companies transition into AI service providers, they must draw lessons from past technological advancements. Historically, developing AI-Native services to dominate new markets has proven to be a strategic pathway to successful monetization. To achieve this, companies need to effectively utilize data, gradually integrate AI-centric architectures with existing systems, and develop industry-specific applications to fully realize the potential of AI technologies.

목차 Table of Contents 1. AI 에이전트(AI Agent)의 도입 및 부상 2. AI 에이전트 주요 사례 3. AI 에이전트 관련 이슈 및 전망 4. 참고 문헌

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 백악관, AI 기술 활용에 관한 최초의 국가안보 각서 발표 ▹ 미국 재무부, AI를 포함한 첨단기술에 대한 對중국 투자 제한 행정규칙 발표 ▹ 호주 국가AI센터, 기업의 AI 영향 평가를 지원하는 프레임워크 발표 ▹ OECD, 기업 간 AI 격차 증대에 포용적 디지털 혁신 강조하는 정책 브리프 발간 ▹ 국제 AI안전연구소 네트워크 출범 및 국내 AI안전연구소 설립 ▹ 캐나다, 혁신과학경제부 산하에 AI안전연구소 설립 2. 기업/산업 ▹ 오픈AI, 챗GPT에 실시간 검색 기능 추가해 유료 사용자에 우선 공개 ▹ 오픈AI, 슈퍼얼라인먼트 팀에 이어 범용 AI 대비팀도 해체 ▹ 앤스로픽, ‘클로드 3.5 소네트’ 업데이트로 AI 에이전트 기능 추가 ▹ 메타와 엔스로픽, 미국 정부 기관에 군사·안보 목적의 AI 모델 제공 ▹ 오픈AI, 브로드컴 및 TSMC와 제휴해 자체 AI 칩 개발 추진 ▹ 가트너, 2027년까지 AI 데이터센터의 40%가 전력 부족을 겪을 것으로 예측 3. 기술/연구 ▹ 가트너, 2025년 10대 전략 기술 트렌드 예측 ▹ 오픈소스 이니셔티브, 오픈소스 AI의 정의 발표 ▹ 구글 딥마인드, 인간의 이중 사고방식 적용한 AI 에이전트 시스템 연구 결과 발표 ▹ 텐센트, 오픈소스 최대 규모 MoE 모델 ‘훈위안-라지’ 공개 ▹ AI 기업들, 사전 훈련을 통한 LLM 성능 한계에 추론 연구에 주목 4. 인력/교육 ▹ 포레스터의 2025년 AI 예측, AI에 대한 투자 조정 불가피 ▹ 세일즈포스, 소비자의 기업 신뢰도와 AI 에이전트 인식 조사 결과 발표 ▹ 중국 베이징市 정부, 교육 분야의 AI 응용 활성화 지침 발표 Ⅱ. 주요 행사 ▹CES 2025 ▹AI & Big Data Expo Global 2025 ▹AAAI 2025

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 민권위원회, 연방정부의 얼굴인식 기술 사용에 따른 민권 영향 분석 ▹ 미국 백악관 예산관리국, 정부의 책임 있는 AI 조달을 위한 지침 발표 ▹ 유로폴, 법 집행에서 AI의 이점과 과제를 다룬 보고서 발간 ▹ OECD, 공공 부문의 AI 도입을 위한 G7 툴킷 발표 ▹ 세계경제포럼, 생성AI 시대의 거버넌스 프레임워크 제시 2. 기업/산업 ▹ CB인사이츠 분석 결과, 2024년 3분기 벤처 투자 31%가 AI 스타트업에 집중 ▹ 메타, 동영상 생성AI 도구 ‘메타 무비 젠’ 공개 ▹ 메타, 이미지와 텍스트 처리하는 첫 멀티모달 AI 모델 ‘라마 3.2’ 공개 ▹ 앨런AI연구소, 벤치마크 평가에서 GPT-4o 능가하는 성능의 오픈소스 LLM ‘몰모’ 공개 ▹ 미스트랄AI, 온디바이스용 AI 모델 ‘레 미니스트로’ 공개 ▹ 카카오, 통합 AI 브랜드 겸 신규 AI 서비스 ‘카나나’ 공개 3. 기술/연구 ▹ 2024년 노벨 물리학상과 화학상, AI 관련 연구자들이 수상 ▹ 미국 국무부, AI 연구에서 국제협력을 위한 ‘글로벌 AI 연구 의제’ 발표 ▹ 일본 AI안전연구소, AI 안전성에 대한 평가 관점 가이드 발간 ▹ 구글 딥마인드, 반도체 칩 레이아웃 설계하는 AI 모델 ‘알파칩’ 발표 ▹ AI21 CEO, AI 에이전트에 트랜스포머 아키텍처의 대안 필요성 강조 4. 인력/교육 ▹ MIT 산업성과센터, 근로자 관점에서 자동화 기술의 영향 조사 ▹ 다이스 조사, AI 전문가의 73%는 2025년 중 이직 고려 ▹ 가트너 예측, AI로 인해 엔지니어링 인력의 80%가 역량 향상 필요 ▹ 인디드 조사 결과, 생성AI가 인간 근로자 대체할 가능성은 희박 Ⅱ. 주요 행사 ▹NeurIPS 2024 ▹GenAI Summit Maroc 2024 ▹AI Summit Seoul 2024

최근 몇 년간 인공지능(AI) 기술의 발전은 챗GPT의 출시 이후 거대 언어 모델(LLM) 개발 경쟁을 거치며 가속화되었다. 현재 공개된 AI 모델들의 성능은 특정 분야에서는 이미 인간의 능력을 뛰어넘었고, 이에 따라 활용 범위 또한 급격히 확장되었다. 특히 생성 AI를 기반으로 하는 범용 AI는 제조, 의료, 금융, 교육 등의 여러 산업 분야에서 활용되고 있다. 하지만, AI 기반의 서비스들이 다양한 이점을 제공하는 한편, 고성능 AI에 대한 접근성의 향상으로 인해 새로운 위험에 대한 우려 또한 증가했다. 이에 따라, 기존 AI 신뢰성, 책임성, 윤리 등의 논의와 더불어, ‘AI 안전’이 더욱 중요해졌다. 악의적인 사용, 오작동과 같은 위험들이 실제 피해까지 야기하고 있는 만큼, AI의 안전 확보를 위한 대응책 마련이 시급해진 상황이다. 앞으로 등장할 더 강력한 성능을 가진 프론티어 AI 모델은 의도치 않은 결과의 도출, 제어 불가, 사회적 악영향 등 여러 잠재적인 위험을 포함할 가능성이 높아, 규제와 지침 마련을 비롯하여 다양한 국제적 노력이 이루어지고 있다. 각 국의 정부, 기업 등 이해관계자들은 AI의 안전성을 확보하기 위해, 위험을 식별하여 평가 기준을 마련하고, 안전한 AI 개발 및 배포와 위험 대응책을 마련하기 위해 노력하고 있다. 최근 연구들에서는 사고 사례나 발생 가능한 시나리오에 따른 위험들을 분류하여 제시하고 있다. 하지만, 연구마다 다양한 위험 분류 체계를 제시하고 있어, 합의된 AI 안전 평가 체계를 마련하기에는 아직 더 많은 논의가 필요한 상황이다. 미국, 영국, 일본 등은 AI 시스템의 안전성 확보를 위해 AI 안전연구소를 통해 AI 안전 및 위험 연구, 위험성 평가, 안전한 AI 개발·구현을 위한 기준 마련 등의 기능을 수행 중이다. 대표적으로 AI 위험 관리 프레임워크(美), AI 안전에 관한 과학 보고서(英) 등을 통해 AI의 위험에 대한 대응 방안을 제시하고 있으며, 한국도 설립될 AI 안전연구소를 통해 AI 안전 수요에 대응할 예정이다. 본 보고서에서는 AI 안전과 관련된 개념을 정리하고, 최근 수행된 연구들이 제시하고 있는 AI 위험 유형 및 요인을 정리하여, 사례와 함께 분석함으로써 앞으로의 AI 위험 대응에 관한 정책적 시사점을 제공하고자 한다. Executive Summary Advancements in artificial intelligence (AI) technology have accelerated, particularly following the launch of ChatGPT, which has triggered a competitive race in the development of large language models (LLMs). The performance of currently available AI models has already surpassed human capabilities in certain domains, leading to a rapid expansion in their areas of application. General-purpose AI, especially those based on generative AI, is now being utilized across various industries, including manufacturing, healthcare, finance, and education. However, while AI-based services offer numerous benefits, the increased accessibility of high-performance AI has also raised concerns about new risks. As a result, alongside existing discussions on AI reliability, accountability, and ethics, "AI safety" has become an increasingly critical issue. Given that risks such as malicious use and malfunctions are already causing real harm, there is an urgent need for measures to ensure AI safety. Governments, corporations, and other stakeholders are working to ensure the safety of AI by identifying risk factors, establishing evaluation criteria, and developing measures for the safe development and deployment of AI, as well as for responding to potential risks. Recent studies have classified risk factors based on accident cases and possible scenarios. However, since each study presents different classification, further discussion is needed to establish a common AI safety evaluation framework. The United States, the United Kingdom, and Japan are addressing safety of AI through dedicated agency, which focus on AI risk research, risk assessments, and the development of standards for the safe creation and implementation of AI systems. Notable examples include the AI Risk Management Framework (USA) and the Science Report on AI Safety (UK), both of which propose strategies for addressing AI-related risks. Korea also plans to address AI safety demands through the establishment of its own AI safety institute. This report aims to organize the concepts related to AI safety, summarize the risk factors identified in recent studies, and analyze these factors along with real-world cases to offer policy implications for future AI risk response strategies.

지난 4월 국가과학기술의 혁신을 위해 설치된 대통령 직속 기구인 국가과학기술자문회의는 글로벌 경제·안보 패러다임을 급속하게 바꿀 3대 게임체인저 기술 이니셔티브를 심의·의결하였다. 세 가지 핵심 기술은 AI-반도체, 첨단바이오, 퀀텀(양자)이다. ‘AI-반도체’는 AI와 반도체 기술을 결합하여 고성능·저전력 반도체를 개발하고 이를 통해 다양한 산업 분야에서 혁신을 이끌어내는 것을 목표로 한다. ‘첨단바이오 기술’은 생명·건강과 직결되는 기술로서 혁신기반기술과 고품질 데이터의 결합으로 바이오 가치사슬을 강화하는 데 중점을 둔다. ‘퀀텀’은 양자 컴퓨팅과 통신 기술을 개발하여 미래의 정보처리와 보안 분야에서 혁신을 일으키는 것을 추구한다. 이처럼 세 가지 기술은 각기 다른 특성을 보이지만 난제를 해결하고 사회적 가치를 창출한다는 점에서 동일한 목적을 지닌다. 세 가지 기술의 효과적인 확보는 환경, 조직, 협력의 관점으로 접근하는 시스템적 사고와 전략을 통해 달성될 수 있다. 본고에서는 전체 숲을 거시적으로 조망하는 시스템적 사고를 통한 접근과 세부 전략에 대해 논의해보도록 한다. 1. 환경, 조직, 협력의 ‘시스템적 사고’로 접근하라 3대 게임체인저 기술은 공통적으로 ‘시스템적 사고’를 요구한다. 시스템적 사고는 환경, 조직, 협력을 종합적으로 바라보는 관점이다. 즉, 각 기술을 둘러싼 환경을 비롯하여 정부, 기업, 대학, 연구기관 등 조직 차원의 대응 전략, 주체 간 협력에 대한 파악을 종합적으로 고려한 시스템적 사고가 이루어질 때 세 가지 기술을 효과적으로 확보할 수 있다. 각 기술은 고유한 환경적 요인에 의해 영향을 받는다. 환경적 요인은 국가과학기술자문회의 전원회의에서 의결한 각 기술의 이니셔티브를 통해 확인된다. AI-반도체는 AI와 반도체 산업이 결합한 분야로, 급속도로 발전하는 AI 기술과 데이터 수요에 의해 급격히 성장하고 있다. 발전 속도만큼 복잡해지는 기술, 데이터 센터의 확장, 에너지 효율 등이 중요한 환경적 요소로 작용한다. AI-반도체 이니셔티브는 ‘인공지능 G3 도약, K-반도체 새로운 신화 창조’를 비전으로 저전력 AI-반도체 달성, 글로벌 R&D·현지 실증 등 새로운 수출산업화 전략적 지원을 제시하였다. 차세대 범용 AI(GAI), 경량·저전력 AI, AI 슈퍼컴퓨팅 등의 중점기술과 거버넌스 차원에서 국가인공지능위원회 설립, 글로벌 AI 리더십 지속을 위한 ‘AI 서울 정상회의’ 개최도 주목된다. 에너지 효율은 중점기술들을 통해 강조되고, 기술적 복잡성과 같은 환경적 요인은 AI로 인해 발생하는 문제 혹은 파급효과를 함께 고민하기 위한 넓은 거버넌스를 통해 드러난다. 첨단바이오는 저출산·고령화 시대, 코로나19와 같은 전염병, 맞춤형 의료 등 인간의 삶에 직접적인 영향을 미치는 요인과 연관된다. 이에 관련 수요가 끊임없이 증가하고 있으며 데이터 활용, 신약 개발, 유전자 편집 등과 같은 환경적 요소가 존재한다. 첨단바이오 이니셔티브는 이러한 첨단바이오의 환경적 요소를 파악하여 기술을 확보하기 위해 ‘대한민국 새로운 성장 DNA, 제2의 반도체 신화 첨단바이오’라는 비전을 제시하였다. 또한, 이니셔티브에서 제시한 9대 중점기술에는 첨단바이오의 환경적 요소에 대한 고민이 담겨있다. 한국인 100만 명 빅데이터, 인체 표준 분자지도와 같은 바이오·의료 데이터 기술은 첨단바이오에 있어 데이터 활용의 중요성을 보여주며, AI 신약과 첨단의공학, 혁신기반기술은 다양한 기술을 접목한 신약 개발과 유전자 편집이 지속적으로 고려되어야 할 환경 요소임을 시사한다. 양자 기술은 상용화 초기 단계로 매우 복잡한 기술적 특성을 보인다. 따라서 고비용 인프라, 장기적 연구의 필요성, 제한된 인력과 지식 등이 환경 요소로 꼽힌다. 퀀텀 이니셔티브는 ‘양자과학기술 대도약, 디지털을 넘어 퀀텀의 시대로’라는 상대적으로 큰 비전을 제시하였다. 양자 기술은 타 기술에 비해 상용화 초기 단계에 속하고 복잡한 기술이기 때문에 한 단계 도약하자는 의미를 담았다고 볼 수 있다. 이니셔티브의 주요 내용을 살펴보면 2030년까지 양자 전문인력을 1천 명 이상 확보하고 5개 이상 기술 선도국과 정부 간 신규 퀀텀 협력 추진하겠다는 전략이 등장한다. 즉, 고비용 인프라를 요구하지만, 제한된 인력과 지식의 어려움이 있는 양자 기술의 경우 단기간에 무리한 기술 확보 전략을 제시하기보다는 장기적 연구를 수행하기 위한 전문인력양성과 산·학·연 연구 거점 구축, 기술선도국과의 교류와 같은 환경이 뒷받침되어야 함을 보여준다. 환경적 요소에 대해 파악했다면 다양한 조직들의 대응 전략에 대한 고민이 필요하다. 정부는 각 기술을 확보하기 위해 전략적 투자를 확대하고 연구개발(R&D)을 지원해야 한다. 고비용 인프라와 전문인력이 필요한 분야에는 장기적인 투자를 고려해야 하며, 신기술의 빠른 상용화를 가능하게 하는 규제 혁신과 기술의 윤리적 사용을 위한 가이드라인이 요구된다. 나아가 글로벌 협력을 강화하여 국제적인 공동 프로젝트를 추진하고 기술 경쟁력을 제고해야 한다. 우리나라도 준회원국으로 가입된 EU의 Horizon Europe과 같은 다자간 연구혁신 프로그램이 좋은 본보기가 될 것이다. 기업은 혁신적인 연구개발에 집중해야 한다. 자체 R&D를 통해 시장 수요에 맞는 제품을 빠르게 상용화하고 오픈 이노베이션을 통해 스타트업, 연구소, 대학과의 협력을 추진하여 혁신적인 기술을 발굴해야 한다. 국내뿐만 아니라 글로벌 시장에서도 경쟁력을 확보하기 위해 신흥 시장을 개척하고 해외 연구소와의 협력도 강화할 필요가 있다. 대학과 연구기관은 기초 과학 연구를 강화해야 한다. 이를 통해 각 기술의 이론적 토대를 마련하고 혁신적인 아이디어를 제공하는 역할이 필요하다. 또한, 첨단 기술 분야의 인재를 양성하기 위해 교육 과정에 대한 혁신을 고민하고 산업계와의 협력을 통해 현장 맞춤형 교육을 제공할 필요가 있다. 마지막으로 각 조직의 강점을 극대화하면서도 모든 주체들이 지속적으로 협력할 때 시스템적 사고가 비로소 가능하다. 게임의 판도를 바꾸는 기술은 그만큼 기술의 복잡성과 고도화로 인해 다양한 주체가 가진 자원과 역량을 결합할 때 효과적인 연구개발이 가능하기 때문이다. 따라서 협력을 통해 연구 성과를 공유하고 상호 보완적으로 기술을 확보해 나가는 전략을 구축해 나가야 한다. 2. 광범위 협력을 통해 융합을 주도하라 결국 세 가지 기술의 확보 전략은 광범위한 협력과 융합연구가 핵심이다. AI-반도체는 특히 전 세계적으로 핵심 기술로 부상하였다. 개별 기술에 대한 관심을 넘어 자율주행, 스마트 시티, 금융 등 다양한 분야에서 필수적인 기술로 자리 잡으면서 고성능·저전력 반도체의 수요가 급증했기 때문이다. 지난 5월 21일부터 22일 서울에서는 AI 안전, 혁신, 포용을 주제로 한국과 영국이 공동으로 개최한 ‘AI 서울 정상회의’가 진행되었다. 세계 여러 지도자들과 CEO들이 모여 협력을 통해 인공지능의 잠재력을 실현하기 위한 AI 거버넌스의 원칙을 제시하고 세 가지의 융합적 키워드를 주제로 설정하였다는 점에서 의미가 있다. AI반도체는 게임 판도를 바꾸는 혁신적 기술인만큼 앞으로도 일자리, 윤리 문제 등 새로운 기회와 위기를 동시에 발생시킬 것이다. 따라서 AI-반도체로 발생할 위기까지 염두에 두고 국내·외 다학제적 협력과 융합을 주도하여 혁신 기술을 확보하고 지속적으로 관련 이슈를 선점할 필요가 있다. 첨단바이오와 퀀텀 역시 광범위한 협력과 융합이 필수적이다. 첨단바이오와 퀀텀 이니셔티브는 각각 우수 기술기반 창업 환경 구축과 산·학·연 양자 연구거점 구축을 추진전략으로 제시하였다. 최근 AI 분야에 대한 관심이 상대적으로 급증하면서 AI를 활용한 창업 기업이 다수 등장하였지만 다른 두 기술도 정부뿐만 아니라 민간에서 많은 관심을 갖고 협력해야 한다. 첨단바이오는 식량·기후변화 등 다양한 사회문제와 직결되고 퀀텀은 문제를 효과적으로 해결할 수 있는 잠재력이 큰 기술이기 때문이다. 따라서 기술에 대한 좋은 아이디어를 가진 인재, 소셜벤처를 적극적으로 발굴하고 산·학·연 소통을 활성화해야 한다. 모든 기술은 미국, EU, 영국 등 선도국과 선도기관과의 융합연구가 필수적이다. Horizon Europe의 사례를 보면, 유럽은 유럽 전역을 단일 연구지대로 구축하여 재정을 투자하는 연구혁신 프로그램을 추진 중이다. 2021년부터 2027년까지 7년간 955억 유로(약 138조 원)를 지원한 것은 연구혁신 분야에서 세계 최대 규모다. 막대한 투자로 이러한 프로그램을 추진하는 가장 큰 이유는 협력과 융합을 통해 과학기술의 개방성이 확대되고 혁신의 가능성이 커지기 때문이다. 우리나라도 준회원국으로 가입되어 글로벌 협력의 길이 더 열렸지만 이를 벤치마킹하여 보다 적극적으로 해외 국가, 기업, 인재와의 교류를 추진하고 다양한 연구 컨소시엄을 구축해 나간다면 융합을 통한 기술 확보가 가속화될 것이다. 3. 지방을 테스트베드로 삼아 기회를 넓혀라 지방은 산업의 디지털 혁신이 실제 구현될 수 있는 기회의 장이다. 스웨덴 말뫼는 한 때 조선업이 쇠퇴하면서 말뫼의 눈물이라 불렸는데 디지털·바이오 등 신사업이 성장하면서 말뫼의 웃음이라 불릴 정도로 현재는 지역의 모습이 탈바꿈되었다. 지역 내 조선업의 상징이었던 대형 크레인은 철거되었고 54층 빌딩 터닝 토르소를 중심으로 신산업 육성이 이루어졌다. 이처럼 지방은 위기를 기회로 바꿀 수 있는 전략의 요충지다. 우리나라도 여러 지방에 다양한 자원과 기회가 존재한다. 스마트팜, 스마트공장과 같은 1, 2차 산업의 디지털 혁신은 해당 산업을 먹거리로 삼아온 지방에서 이해도가 가장 높다. 따라서 지방을 디지털 혁신 구현의 테스트베드로 삼는다면 각 지역의 자원과 특화 산업을 적극 활용해 산업의 디지털 혁신 구현을 앞당기고 게임체인저 기술의 확보가 빨라질 수 있다. 첨단바이오를 예를 들어 보자. 첨단바이오는 코로나19와 같은 감염병, 탄소중립 등 인류가 당장 체감하는 문제들을 해결하는 기술이다. 강원특별자치도는 한국과학기술연구원(KIST)과 바이오 국가첨단전략산업 특화단지 조성 및 기술교류를 위해 업무협약을 체결하여 우수인력 교류 및 공동연구, 기업지원 등을 협력하였다. 노력의 결과로 강원도는 지난 6월 바이오 국가첨단전략산업 특화단지를 유치하였고, AI 기반의 신약개발과 중소형 CDMO(연구개발단계부터 임상, 제조 등 모든 과정을 서비스화한 사업) 거점으로 조성되는 성과를 얻었다. 또한, AI 헬스케어 글로벌혁신특구 등 바이오 인프라와 항체산업, 디지털헬스케어·의료기기 등 주변 지역과의 연계·확장을 통해 바이오산업의 발전을 추진한다. 이전에도 강원도는 디지털 헬스케어를 대상으로 규제자유특구가 지정되었기 때문에 첨단바이오 기술 확보의 길이 더 넓어졌다고 볼 수 있다. 강원도 외에도 전북특별자치도는 탄소 융·복합 산업을 대상으로 규제자유특구가 지정되어 있고, 광주광역시는 AI 융합 선도도시, 경상북도는 메타버스 수도, 전라남도는 에너지·농업 디지털 혁신을 내세우는 등 기술 확보를 위해 노력해 왔다. 지방 도시들은 디지털 기술과 혁신에 대한 갈망이 높기 때문에 이를 기술 확보의 기회로 연결한다면 좋은 성과를 얻을 수 있을 것이다. 한 걸음 나아가 ‘지역의 세계화’에 대한 고민도 제안해본다. 지역의 세계화는 특정 지역이 글로벌 차원에서 상호교류가 활성화되는 것을 의미한다. 국내 지방정부는 2023년 12월 기준으로 91개국 1,384개 도시와 1,873건의 국제교류를 진행 중이다. 즉, 지방정부의 해외 자매결연 네트워크를 활용하면 혁신기술의 시장성 검증 기회를 살리고 기술 확보의 기회가 증가할 수 있음을 시사한다. 따라서 기술 확보를 위해 지방 테스트베드 전략을 활성화하고 지역의 세계화를 통해 기회를 넓힌다면 게임의 판도가 빠르게 바뀔 수도 있을 것이다. 4. 게임의 흐름을 바꾸는 전략의 유기적 연계 AI-반도체, 첨단바이오, 퀀텀 기술의 확보는 단순한 개별 기술의 발전을 넘어 우리 사회 전반에 혁신을 불러일으킬 수 있는 중요한 원동력이 될 것이다. AI-반도체는 산업 전반의 생산성을 제고하고, 첨단바이오는 맞춤형 의료, 신약 개발을 가속화며, 퀀텀은 기존의 한계를 뛰어넘는 기술적 발전으로 과학과 산업의 패러다임을 전환시킬 수 있다. 시스템적 사고를 통한 접근과 광범위한 협력, 지방 테스트베드 전략은 유기적으로 연결된다. 기술의 확보는 환경에 대한 이해, 조직의 대응, 광범위한 협력이 필요하고 지방을 테스트베드로 삼는 전략도 결국 중앙정부와 지방정부, 산·학·연 등이 함께할 때 효과적으로 추진될 수 있기 때문이다. 효과적인 전략의 추진으로 세 가지 기술의 확보를 앞당겨 글로벌 경쟁에서 우리나라가 중요한 순간에 게임의 흐름을 바꿀 수 있는 게임체인저가 되길 소망한다.

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미·영·EU, 법적 구속력 갖춘 유럽평의회의 AI 국제조약에 서명 ▹ 미국 캘리포니아 주지사, AI 규제법안 「SB1047」에 거부권 행사 ▹ 호주 의회, 동의 없는 딥페이크 음란물 공유를 처벌하는 법안 통과 ▹ UN, ‘인류를 위한 AI 거버넌스’ 최종 보고서 발표 2. 기업/산업 ▹ 앤스로픽과 오픈AI, 미국 AI 안전연구소와 모델 평가 합의 ▹ 오픈AI, 추론에 특화된 AI 모델 ‘o1-프리뷰’ 출시 ▹ 메타의 AI 모델 ‘라마’, 다운로드 수 3억 5천만 회 달성하며 활발한 생태계 형성 ▹ 구글, AI 신기능 ‘젬스’와 이미지 생성 모델 ‘이마젠 3’ 출시 ▹ 구글, C2PA 표준 적용으로 AI 생성물의 투명성 향상 추진 ▹ 마이크로소프트, 오픈소스 소형 언어모델 ‘파이 3.5’ 공개 ▹ 하이퍼라이트, 오류를 자체 수정하는 ‘리플렉션 70B’ 오픈소스 모델 공개 3. 기술/연구 ▹ 영국 옥스퍼드大 연구 결과, 글로벌 AI 칩 분포의 양극화 현상 심각 ▹ 메타, LLM의 품질과 정확성을 평가하는 ‘자가학습 평가자’ 개발 ▹ 코히어 연구, LLM 사전학습에 코드 데이터 포함 학습시 LLM의 성능 향상 확인 ▹ 중국 연구진, 재판 시뮬레이션으로 LLM의 법률 역량 향상하는 기법 개발 ▹ AI 연구자들, 벤치마크 ‘챗봇 아레나’의 편향과 투명성 부족 지적 4. 인력/교육 ▹ 영국 정부, AI 교육기업 대상 ‘콘텐츠 스토어’ 프로젝트 발표 ▹ 유고브 조사 결과, 미국 근로자들 AI의 일자리 영향에 엇갈린 의견 표시 ▹ IBM 기업가치연구소, ‘생성 AI 시대 인적 잠재력 재해석’ 보고서 발간 ▹ 서비스나우, AI 도입으로 영국에서 61만 개 일자리 창출 전망 Ⅱ. 주요 행사 ▹Cypher 2024 21 ▹AI World Congress 2024 21 ▹ML and AI Model Development and Governance 21

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미·영·EU, 생성 AI의 공정한 경쟁환경 조성을 위한 공동 성명 발표 ▹ 미국 통신정보관리청, 오픈소스 기반모델의 위험에 대한 모니터링 촉구 ▹ 중국 베이징市, AI 플러스 행동계획(2024~2025) 발표 ▹ 독일 연방정보기술보안청, AI 시스템의 투명성에 관한 백서 발간 2. 기업/산업 ▹ 오픈AI, AI 기반 검색엔진 ‘서치GPT’ 프로토타입 공개 ▹ 메타, 폐쇄형 첨단 AI 모델과 대등한 성능의 오픈소스 모델 ‘라마 3.1’ 공개 ▹ 구글, 소형 오픈소스 모델 ‘젬마2 2B’ 공개 ▹ 메타와 구글, 환각과 딥페이크 등 AI 이슈 대응 ▹ 피규어AI, 최신 휴머노이드 로봇 ‘피규어 02’ 공개 ▹ xAI, ‘그록-2’ 출시 이후 이미지 생성 논란 확산 3. 기술/연구 ▹ 미국 국가과학기술위원회, 2020년~2024년 AI R&D 경과보고서 발간 ▹ 구글 딥마인드, 생성 AI의 오용 현황 분석 ▹ 애플, 애플 인텔리전스의 기반모델 개발 프로세스 공개 ▹ 네이처, AI 생성 데이터로만 학습한 AI 모델의 붕괴 위험 증가 경고 논문 게재 ▹ 영국 에이다 러브레이스 연구소, AI 안전성 평가의 개선 필요성 제기 ▹ 사카나 AI, 과학 연구를 자동화하는 ‘AI 사이언티스트’ 개발 4. 인력/교육 ▹ 유네스코, 교육에서 생성 AI의 기회와 위험 분석 ▹ 세계경제포럼 4차산업혁명센터, AI로 인한 기술 실업 가능성이 희박하다고 전망 ▹ AI 기반 ICT 인력 컨소시엄, ICT 일자리의 92%에 AI의 영향 예측 ▹ 오픈AI, 챗GPT 부정행위 탐지 도구 개발 후 공개 유보 Ⅱ. 주요 행사 ▹Generative AI World 2024 ▹AI Expo Europe ▹Big Data & AI World