이 보고서에서는 인공지능(AI)이 과학 연구의 전 과정에 가져온 혁신적 변화를 분석하여, AI 기반 연구 패러다임의 특성과 각 연구 단계별 활용 사례, 정책적 시사점을 제시하고자 하였다. AI는 경험, 이론, 계산, 데이터 주도에 이은 제5의 과학혁명의 핵심 동력으로, 인간 연구자의 인지적 한계를 보완하고 지식 창출 과정 자체를 재정의하고 있다. 특히 AI는 방대한 데이터에서 패턴을 발견하고, 학제 간 경계를 넘나드는 지식 연결을 수행하며, 가설 생성부터 실험 수행, 데이터 분석에 이르는 연구 전 주기를 통합적으로 지원하는 지능형 연구 동반자로 진화하고 있다. 이러한 변화는 연구의 속도와 규모를 기하급수적으로 확장시켰을 뿐만 아니라, 연구 접근성을 높여 고가 장비나 전문 지식 없이도 첨단 연구에 참여할 수 있는 환경을 만드는데 기여하고 있다. 나아가 AI는 장기간 미해결로 남아있던 과학적 난제들을 해결하고, 인간이 상상하지 못한 새로운 연구 영역을 개척하며, 실시간 글로벌 협업을 가능케 하는 연구 인프라로 자리잡고 있다. 이에 대응하여 우리나라도 산업경쟁력의 원천인 과학기술 분야의 연구 효율성 제고와 세계적 연구 성과를 달성하는데 AI를 적극 활용하는 정책 기반을 구축해 가야한다. 이를 위해 AI 주도의 연구 패러다임을 재정립하고, 연구 단계별 AI 활용 가능성을 다방면으로 탐색할 필요가 있다. 아울러, AI의 기술적 한계와 오류 가능성에 대한 명확한 인식과 올바른 연구 윤리를 바탕으로 연구 현장에 활용할 수 있도록 정책적, 기술적 지원이 수반되어야 한다. 이를 바탕으로 과학기술 연구의 새로운 ‘운영체제’로서 과학기술 특화 AI 모델 개발, 연구 데이터 및 인프라 공유, 연구 산출물의 신뢰성 검증 기술 개발을 병행에 안전하고 믿을 수 있는 모두를 위한 과학 기술 AI (AI for Science & Technology) 실현 환경을 선도적으로 구현해야 할 것이다. Executive Summary This report aims to analyze the transformative changes that artificial intelligence (AI) has brought to the entire scientific research process, presenting the characteristics of AI-driven research paradigms, use cases at each research stage, and policy implications. AI serves as the core driving force of the fifth scientific revolution following empirical, theoretical, computational, and data-driven approaches, complementing the cognitive limitations of human researchers and redefining the knowledge creation process itself. In particular, AI is evolving into an intelligent research companion that discovers patterns in vast datasets, performs knowledge connections across interdisciplinary boundaries, and provides integrated support throughout the entire research cycle from hypothesis generation to experimentation and data analysis. These changes have not only exponentially expanded the speed and scale of research but have also contributed to creating an environment where cutting-edge research can be conducted without expensive equipment or specialized expertise by enhancing research accessibility. Furthermore, AI is establishing itself as a research infrastructure that solves long-standing scientific challenges, pioneers new research domains beyond human imagination, and enables real-time global collaboration. In response, South Korea must also establish a policy foundation that actively utilizes AI to enhance research efficiency in science and technology—the source of industrial competitiveness—and achieve world-class research outcomes. To this end, it is necessary to reestablish AI-driven research paradigms and explore the possibilities of AI utilization across various research stages. Additionally, policy and technical support must be provided to ensure proper application in research settings, based on a clear understanding of AI's technical limitations and potential for errors, as well as sound research ethics. Building on this foundation, we must proactively implement a safe and reliable AI for Science & Technology environment for all by developing science and technology-specialized AI models as the new 'operating system' for scientific research, sharing research data and infrastructure, and developing reliability verification technologies for research outputs.

최근 세계 AI 시장이 빠르게 성장하고 AI 관련 제품과 서비스의 혁신이 활발하게 진행되는 가운데, 주요 AI 기업 및 국가 간 기술 경쟁 역시 치열하게 전개되고 있다. 한편 AI 분야에서 국가 간 협력 및 투자의 중요성이 증대되고 있으며, 기업 간 투자·협력 역시 Microsoft가 OpenAI에 투자, Google이 Anthropic으로 투자한 사례와 같이 기업 간 투자 네트워크가 확대되고 있다. 보고서는 국가 간 벤처캐피탈(VC) 투자 흐름을 분석함으로써, 글로벌 협력을 활발히 진행하는 국가들의 특성을 도출하고, 정책적 시사점을 제시하였다. 분석 결과, 미국은 AI 분야 VC 투자에서 압도적인 비중을 차지하고 있다. 미국과 중국은 VC 투자에 있어 자국 중심적이다. 한편, 영국, 캐나다, 이스라엘은 미국으로부터의 자본 유치와 해외 투자 비중이 높으며, 영국 및 EU 국가는 AI 분야 해외 투자 비중이 높아 상호 협력 중심의 구조를 보이고 있다. 또한, 공통적으로 우수한 AI 인재에 의해 창업된 AI 기업이 적극적으로 VC 투자 유치에 성공하면서, 국가의 대표적인 소버린 AI 기업으로 성장하는 사례가 등장하고 있다. 상대적으로 한국의 해외 투자 유치 비중은 다른 국가에 비해 낮은 상황이다. 그러나 트웰브랩스, 업스테이지, 노타AI 등 국내 유망 스타트업의 해외 투자 유치와 협력 사례가 등장하기 시작했다. 2025년 정부는 글로벌 AI 3대 강국 도약을 위해 민관의 적극적인 투자를 강조하고 있으며, 특히 AI 등 첨단산업을 위한 국민성장펀드 조성 계획을 발표함에 따라 우리나라의 AI 산업의 성장이 기대되고 있다. 결론적으로, 글로벌 협력을 통한 투자 자본 확보를 통한 기업 생태계 활성화는 AI 강국 도약의 선결 과제다. 이를 위해 AI 기업 육성을 위한 투자금 확대, 규제 혁신 인센티브, 해외 진출 및 공동 연구 지원 등이 병행되어야 한다. 이를 통해 AI 3대 강국 공약 달성은 물론 우리나라의 AI 기술 경쟁력을 글로벌 수준으로 제고하는 노력이 필요하다. Executive Summary As the global AI market rapidly grows and innovation in AI-related products and services continues, technological competition among major AI companies and countries is also intensifying. Meanwhile, the importance of international cooperation and investment in the AI field is increasing, and inter-company investment and collaboration is expanding through corporate investment networks. This report analyzes cross-border venture capital (VC) investment flows, identifies the characteristics of countries actively pursuing global collaboration, and presents policy implications. The analysis reveals that the United States accounts for an overwhelming share of VC investment in the AI sector. The United States and China are both highly domestically focused on VC investment. Meanwhile, the United Kingdom, Canada, and Israel attract significant capital and foreign investment from the US, a leading AI country. The United Kingdom and EU countries also exhibit a high proportion of overseas investment in AI, demonstrating a structure centered on mutual cooperation. Furthermore, there are examples of AI startups founded by outstanding AI talent actively attracting VC investment and growing into leading national AI companies. Currently, Korea's share of foreign investment is relatively low compared to other countries. However, promising domestic startups, such as Twelve Labs, Upstage, and Nota AI, are beginning to attract overseas investment and collaborate. Furthermore, with the government announcement of a plan to establish a national growth fund for cutting-edge industries such as AI, the growth of Korea's AI industry is expected. In conclusion, securing investment capital through global collaboration and revitalizing the corporate ecosystem are prerequisites for Korea's leap to becoming an AI powerhouse. To achieve this, increased investment in fostering AI companies, regulatory innovation incentives, and support for overseas expansion and joint research should be implemented. Furthermore, efforts are needed to not only achieve the goal of becoming the third level of countries in AI, but also elevate AI technology competitiveness of Korea.

목차 Table of Contents 정책·법제 ▹ 대만 디지털발전부, 의회에서 AI 산업 발전 정책 현황 보고 ▹ OECD, 범용 기술로서 생성 AI의 생산성과 정책적 함의 분석 ▹ 미국 상원, 예산안에서 주 정부의 AI 규제를 10년간 금지하는 조항 삭제 ▹ 미국 트럼프 대통령, 미국 AI 행동계획과 행정명령 발표 ▹ EU 집행위원회, 「AI 법」의 범용 AI 관련 실천 강령과 지침 발표 기업·산업 ▹ 미드저니, 첫 번째 비디오 생성 AI 모델 ‘V1’ 출시 ▹ 바이두, 10년 만에 AI 기반으로 검색 서비스 대폭 개편 ▹ 문샷 AI, 에이전트 기능 지원하는 ‘키미 K2’ 오픈소스 공개 ▹ xAI, 차세대 AI 모델 ‘그록 4’ 공개 및 정부 AI 시장 진출 ▹ 퍼플렉시티, AI 에이전트 탑재한 웹 브라우저 ‘코멧’ 출시 ▹ 오픈AI, 사용자 대신 복잡한 작업을 처리하는 ‘챗GPT 에이전트’ 공개 기술·연구 ▹ 구글 딥마인드, 인간 DNA 염기서열 분석 AI 모델 ‘알파게놈’ 공개 ▹ 일본경제신문 조사 결과, AI용 비밀 지시 숨긴 논문 다수 발견 ▹ 사카나 AI, 첨단 AI 모델 간 협력을 통한 추론 강화 알고리즘 개발 ▹ 미국 프린스턴⼤ 연구 결과, 인간과 LLM 모두 AI 사용한 글을 낮게 평가 ▹ 마이크로소프트, AI 의료 진단 시스템 ‘MAI-DxO’ 공개 ▹ 구글, 의료용 AI 모델 ‘메드젬마’ 오픈소스 공개 ▹ METR 연구 결과, AI 도구 사용 시 숙련 개발자의 작업 속도 둔화 인력·교육 ▹ 세일즈포스 조사 결과, 사무직 근로자의 일일 AI 사용 급증 ▹ 앤스로픽, AI로 인한 노동 문제 대응을 위한 ‘경제 미래 프로그램’ 출범 ▹ 구글 딥마인드, AI 코딩 기업 윈드서프의 핵심 인력 영입 주요행사일정

SPRI AI Brief 2025년 8월호 인공지능 산업의 최신 동향 SPRi 소프트웨어정책연구소

목차 Table of Contents 1. AI 데이터센터(AI Data center)의 도입과 확산 2. AI 데이터센터 관련 주요 기업 동향 3. AI 데이터센터 관련 국가별 정책 동향 4. AI 데이터센터 관련 이슈 및 정책적 시사점 5. 참고 문헌

목차 Table of Contents 정책·법제 ▹ OECD, AI와 인간의 능력을 비교한 AI 역량 지표 공개 ▹ 일본 정부, 「AI 관련 기술의 연구개발 및 활용 추진에 관한 법률」 공포 ▹ 일본 방위성, AI를 활용한 무기의 연구개발 지침 발표 ▹ 미국 상무부, AI안전연구소를 AI표준혁신센터로 개편 ▹ EU 집행위원회 공동연구센터, 생성 AI 전망 보고서 발간 기업·산업 ▹ 앤스로픽, 차세대 AI 모델 ‘클로드 오푸스 4’와 ‘클로드 소네트 4’ 출시 ▹ 애플, WWDC 2025에서 ‘애플 인텔리전스’ 신기능 공개 ▹ 미스트랄 AI, 추론 AI 모델과 기업용 AI 코딩 도구 출시 ▹ AMD, 제품 발표 행사에서 개방형 AI 생태계 비전하에 신제품과 플랫폼 공개 ▹ 엔비디아, 유럽 주요 기업과 협력해 AI 인프라 구축 계획 발표 ▹ 가트너, 에이전틱 AI 시장에서 ‘가디언 에이전트’ 부상 전망 기술·연구 ▹ 앤스로픽, LLM의 내부 활동을 시각화하는 오픈소스 도구 공개 ▹ 팰리세이드 리서치 연구 결과, 오픈AI 모델이 인간의 종료 지시 거부 ▹ 메타, 물리적 세계를 이해하고 예측하는 AI 모델 ‘V-JEPA 2’ 개발 ▹ 중국과기대 연구진, 딥리서치 에이전트의 성능 평가를 위한 벤치마크 개발 ▹ CVPR 2025, AI와 컴퓨터 비전 분야의 최신 연구 성과 제시 인력·교육 ▹ 메타, 스케일 AI CEO를 비롯한 AI 인재 영입 노력 본격화 ▹ 아마존 CEO, 생성 AI 도입 확대로 수년 내 사내 인력 감소 전망 ▹ PwC 조사 결과, AI에 노출된 산업의 일자리와 임금이 모두 증가 추세 ▹ 세일포인트 조사 결과, IT 전문가들은 AI 에이전트의 보안 위험 우려 주요행사일정

목차 Table of Contents 정책·법제 ▹ EU 집행위원회, 「AI 법」의 AI 정의 및 금지된 활용 사례 피드백 분석 결과 발표 ▹ 미국 상무부, 바이든 전 행정부의 AI 칩 수출 규제 철회 ▹ 미국 트럼프 대통령, 청소년 AI 교육 강화를 위한 행정명령 발표 ▹ 영국 과학혁신기술부, AI 2030 시나리오 보고서 발표 ▹ 미국과 UAE 정부, 아부다비에 초대형 AI 데이터센터 구축 협의 기업·산업 ▹ 메타, AI 개발자 컨퍼런스 ‘라마콘’에서 라마 API와 메타 AI 앱 공개 ▹ 아마존, 촉각 기능을 갖춘 물류 로봇 ‘벌컨’ 공개 ▹ 오픈AI, 글로벌 AI 인프라 지원 이니셔티브 발표 ▹ 오픈AI, GPT-4o의 아첨 현상 분석 결과 및 개선 방안 발표 ▹ 휴메인, AWS·엔비디아·AMD와 사우디아라비아의 AI 인프라 구축 제휴 체결 ▹ 마이크로소프트, ‘MS 빌드 2025’에서 AI 에이전트 플랫폼과 신기능 공개 ▹ 구글, I/O 2025에서 AI 에이전트와 AI 모드 등 AI 신기능 공개 ▹ 오픈AI, 코딩 에이전트 ‘코덱스’ 연구용 프리뷰 출시 기술·연구 ▹ 알리바바, 검색엔진 없이 LLM의 검색 능력을 강화하는 ‘제로서치’ 개발 ▹ 중국 칭화大 연구진, 외부 데이터 없이 스스로 추론하는 AI 학습 기법 개발 ▹ 구글 딥마인드, 범용 알고리즘을 설계하는 코딩 에이전트 ‘알파이볼브’ 공개 ▹ 테너블, MCP 프로토콜에 대한 프롬프트 주입 기법 연구 결과 발표 인력·교육 ▹ 스탠포드 HAI의 분석 결과, 딥시크 연구원 대다수는 중국 출신 ▹ AWS 글로벌 AI 도입 지수 연구 결과, 조사 기업의 60%가 최고AI책임자 ▹ 마이크로소프트, AI 투자 압박으로 6,000명 해고 결정 주요행사일정

본 연구에서는 최근 부상하고 있는 피지컬 AI의 기술적·산업적 확산에 주목하여, 피지컬 AI의 정의와 특성, 유형 그리고 주요 사례 및 관련 이슈를 살펴보고 정책적 시사점을 제언하고자 하였다. 분석 결과, 피지컬 AI는 AI 기반모델(두뇌), 컴퓨터 비전·센서(감각), 엣지 컴퓨팅 및 네트워크 인프라(연결), 제어 및 액추에이터(행동) 등의 첨단기술 융합을 통해 인간처럼 현실 세계를 인식하고, 자율적으로 판단·행동함으로써 환경과 유기적으로 상호작용할 수 있는 시스템으로 정의된다. 주요 기술 수준과 형태에 따라 △ 휴머노이드형 △ 자율주행차형 △ 드론형 △ AGV & AMR형으로 분류되어 다양한 산업 환경에 특화된 형태로 활용되며, 산업 전반의 자동화·지능화 수요를 중심으로 새로운 융합 생태계를 형성하는 기반으로 작용하고 있었다. 다만, 피지컬 AI는 확산 과정에서 막대한 연산 자원과 개발 비용, 물리 환경 적용의 기술적 제약, 노동시장 구조 변화, 법적 책임과 윤리 기준의 미비 등 복합적인 장애 요인을 동반하고 있는 상황이다. 이를 해결하기 위해 미국, 중국, EU, 일본 등 주요국은 피지컬 AI를 국가 전략기술로 간주하고 다양한 정책을 선제적으로 마련해 경쟁력 확보에 나서고 있으며, 이에 발맞춰 우리나라도 피지컬 AI 경쟁력 강화를 위한 연구개발, 산업 생태계 및 인력양성, 법제 정비 및 국제 협력 차원에서 국가 전략을 수립해야 할 시점이다. Executive Summary This study focuses on the recent emergence and expansion of Physical AI in both technological and industrial contexts. It examines the definition, characteristics, typologies, representative use cases, and associated challenges of Physical AI, ultimately deriving relevant policy implications. The analysis defines Physical AI as an integrated system that combines advanced technologies such as AI foundation models (cognitive control), computer vision and sensors (perception), edge computing and network infrastructure (connectivity), and control systems with actuators (mobility), enabling machines to perceive, reason, and act autonomously in the physical world. Based on key technological configurations and implementation forms, Physical AI can be categorized into humanoid-type, autonomous vehicle-type, drone-type, and AGV & AMR-type systems, each tailored to specific industrial environments and contributing to the formation of a new convergence ecosystem centered on the growing demand for automation and intelligence across industries. However, the diffusion of Physical AI entails a range of complex barriers, including high computational requirements, significant development costs, technical limitations in real-world deployment, structural impacts on the labor market, and a lack of legal accountability frameworks and ethical standards. In response, major countries such as the United States, China, the EU, and Japan are recognizing Physical AI as a strategic national technology and are actively formulating policies to secure technological leadership. In this context, Korea must also develop a national strategy encompassing R&D, industrial ecosystem development, talent cultivation, regulatory reform, and international cooperation to strengthen its competitiveness in the emerging Physical AI landscape.

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 백악관 예산관리국, 연방정부의 AI 활용 및 조달 관련 지침 2종 공개 ▹ EU 집행위원회, EU의 AI 리더십을 위한 AI 대륙 행동계획 발표 ▹ 아프리카 AI 정상회의, AI 아프리카 선언 발표 ▹ 미국 하원 중국특별위원회, 딥시크에 의한 국가안보 위협 제기 ▹ 중국 정부, AI 중심의 디지털 교육 활성화 정책 지침 발표 2. 기업/산업 ▹ 마이크로소프트·오픈AI·AWS 등 주요 기업, 앤스로픽의 MCP 프로토콜 채택 ▹ 구글, AI 에이전트 간 통신 프로토콜 ‘A2A’ 공개 및 MCP 지원 발표 ▹ 메타, 멀티모달 AI 모델 ‘라마 4’ 제품군 공개 및 성능 조작 의혹 부인 ▹ 아마존, AI 에이전트 구축을 위한 AI 모델 ‘노바 액트’ 공개 ▹ 오픈AI, GPT-4.1 API로 출시 및 o3와 o4-미니 출시 ▹ 샤오미 전기차 사망사고로 중국에서 자율주행 기능에 대한 우려 증대 ▹ 포브스, 2025년 50대 AI 기업 목록 발표 3. 기술/연구 ▹ UCSD 실험 결과, 오픈AI GPT-4.5가 튜링테스트 통과 ▹ AI 연구자들, 지능형 에이전트의 진화 형태와 도전과제 분석 ▹ 마이크로소프트 연구진, 추론 향상을 위한 컴퓨팅 자원 투입 효과 분석 ▹ 영국 AI보안연구소, AI 에이전트의 위험 완화를 위한 통제 프레임워크 제시 4. 인력/교육 ▹ 퓨리서치센터 조사, 미국 대중과 AI 전문가 간 AI 인식 격차 확인 ▹ 세일즈포스 조사 결과, 대다수 미국인은 정부 서비스의 AI 에이전트 도입 희망 ▹ 지지통신 조사 결과, 일본 대기업의 30%가 채용 절차에 AI 도입 또는 도입 예정 Ⅱ. 주요 행사

요약문 1. 제 목 : 2024년 국내외 인공지능 산업 동향 연구 2. 연구 배경 및 목적 디지털 심화시대에 기술 선점은 국가와 기업에게 중대한 경쟁 요소로 부상하고 있다. 과거처럼 기술 선도국의 전략을 추격하는 것만으로는 더 이상 충분하지 않으며, 디지털 환경에서의 선도적 위치 확보는 지속적인 성장을 위한 필수 조건이 되었다. 이러한 상황에서 새로운 유망 기술을 신속하게 감지하고, 효과적으로 개발 및 확산하는 능력은 디지털 강국으로의 도약과 지속 가능한 성장을 위해 필수적이다. SW 유망기술 발굴은 전략적으로 매우 중요한 요소로 인식되지만, 대부분의 연구는 유망분야 및 토픽의 동향을 다루는 데 초점을 맞추고 있어서 구체적인 기술군에 대한 정보를 제공하는 연구가 부족한 상황이다. 이에 본 연구는 디지털의 기반이되는 소프트웨어(SW) 유망 기술 발굴에 중점을 두어, 국가 및 기업이 급변하는 디지털 환경에 능동적으로 대응할 방안을 제안하고, 디지털 경쟁력을 강화하는 데 필요한 근거로 활용할 기초자료를 생성하고자 한다. 3. 연구의 구성 및 방법 본 연구는 총 6장으로 구성되어 있다. 제1장에서 디지털 심화시대에 SW의 중요성과 SW유망기술 발굴의 필요성을 밝히며, 이를 통한 정책 마련에 필요한 기초자료 제공한다는 목적을 제시한다. 제2장에서는 유망기술의 개념과 특성을 설명하고, 유망기술 발굴이 기업 경쟁력에 미치는 영향을 국내외 연구를 통해 분석한다. 제3장에서는 유망기술을 예측하기 위한 데이터 및 분석 방법론을 검토하고, 제4장에서는 특허 데이터와 소프트웨어 산업 연계 방법, 텍스트 마이닝 및 토픽 모델링을 통한 SW 유망기술 발굴 방법론을 제시한다. 제5장에서는 세부 산업별로 도출한 유망기술을 정리하고, 제6장에서는 정책적 시사점과 연구의 한계 및 향후 연구 방향을 제시한다. 본 연구는 SW유망기술 발굴을 위해 다음과 같이 양적 및 질적 연구방법을 병행하였다. 첫째, 국내외 연구논문, 연구보고서, 언론기사를 통해 유망기술의 발굴 방법, 활용 데이터, 기술 동향을 파악했다. 둘째, 특허분석 및 산업계 전문가 10인의 인터뷰를 통해 기술 후보군 검증과 신뢰성 확보, 연구방법론에 대한 자문을 수행했다. 셋째, 특허 데이터베이스를 활용한 정량분석으로, 텍스트 마이닝과 토픽 모델링 방법을 사용하여 R 프로그램을 통해 유망분야 및 기술을 도출했다. 이 연구는 전문가의 직관과 경험을 데이터 분석과 결합하여 객관적이고 전문적인 결과를 도출하고자 했다. 4. 연구 내용 및 결과 본 연구에서는 미국시장에 등록된 특허정보를 수집하여 텍스트 마이닝과 토픽모델링을 수행하였으며, 추가적으로 전문가 자문, 논문 및 보고서 등의 내용과 통합적으로 검토해서 SW세부산업(게임SW, 패키지SW, IT서비스, 인터넷SW 등)에서 총 33개의 유망기술을 발굴하였으며, 유망기술들은 각각 세부 산업별로 게임SW가 9개, 패키지SW가 7개, IT서비스 7개, 인터넷SW 10개 등으로 분류하여 소개한다. 각 해당기술이 어떻게 활용되며, 인공지능, 빅데이터, 클라우드, 블록체인 등 신SW기술들과 어떤 시너지를 발휘할 수 있는지에 대한 추가정보를 제시한다. 추가정보는 인터넷 검색, 최신 뉴스, 관련 논문, 다양한 유망기술 보고서 등의 신뢰할 수 있는 자료를 통해 심도 있게 조사한 결과를 바탕으로 제시하였다. 이 기술들은 데이터 분석, 보안, 사용자 인터페이스, 상호작용 최적화, 네트워크 등 다양한 영역에서 SW혁신을 이끌어내며, SW산업을 넘어 타산업의 디지털 전환과 산업 고도화를 앞당기는 데 핵심적역할을 할 것이다. 게임SW분야에서는 고급 데이터 스트림 처리 및 최적화 프레임워크, 적응형 신경망 시스템, 확장현실 기술 등이 플레이어의 몰입감과 상호작용을 강화시킬 것이다. 이 기술들은 게임 내 경험을 풍부하게 하고, 사용자 맞춤형 콘텐츠를 제공함으로써 게임 산업의 경쟁력을 강화할 것이다. 패키지 소프트웨어 영역에서는 지능형 데이터 융합, 보안 분석 프레임워크, 실시간 3D 재구성 등의 기술이 데이터 관리와 분석의 효율성을 높여 업무 효율성을 개선할 것이며, 보안을 강화시킬 것 이다. 이러한 기술들은 비즈니스 프로세스와 의사결정을 지원하고, 다양한 산업 분야에서 혁신을 이끌 것으로 예상된다. IT 서비스 분야에서는 적응형 암호화 접근 제어, 양자 키 분배 시스템, 분산 지능 아키텍처 등이 정보 기술의 안전성과 협업 효율성을 개선할 것이다. 이 기술들은 조직의 IT 인프라 관리 및 보안을 강화하고, 데이터 기반의 의사결정을 지원할 것이다. 마지막으로, 인터넷 소프트웨어 분야에서는 뇌-컴퓨터 인터페이스, AI 기반의 디자인 시스템, 데이터 스토리텔링 등이 사용자 경험과 참여를 증진시킬 것이다. 이 기술들은 데이터의 가치를 극대화하고, 사용자에게 더 풍부하고 유익한 정보를 제공할 것으로 기대된다. 이러한 유망 기술들은 산업 전반에 걸쳐 혁신을 촉진하며, 기업과 조직의 경쟁력을 강화하는 동시에 사용자의 삶의 질을 개선하는 데 기여할 것이다. 5. 정책적 활용 내용 본 연구 결과는 대한민국 SW산업의 진흥을 위한 전략 수립에 필수적인 정보를 제공한다. 정부 관계자들은 이러한 결과를 기반으로 SW 지원정책 분야의 우선순위를 결정하고 향후 연구개발과 사업화를 지원할 수 있는 방향을 설정하는 데 참고가 될 것이다. 또한 SW산업 및 결합기술과 관련된 진흥사업을 수행하는 전담기관들의 연구개발 사업기획의 방향성을 제시하는 데 참고자료로 활용될 것이다. 6. 기대효과 본 연구 결과는 산업, 정부, 교육 및 연구기관 측면에서 각각 시사점을 제공할 수 있을 것이다. 첫째, 산업계에는 SW유망기술, 유망기술과 시너지를 낼 수 있는 결합기술, 활용분야 등을 제시함으로써 기술 개발 및 사업 재편에 대한 전략적 방향설정에 활용할 수 있을 것이다. 나아가 본 연구결과를 토대로 효율적인 기술 투자와 개발을 진행하여 성공적인 비즈니스 모델을 형성할 수 있을 것으로 기대한다. 둘째, 정부차원에서는 연구 결과를 기반으로 SW유망기술 개발과 확산을 촉진하는 정책 수립에 활용할 수 있을 것이다. 이는 디지털 변혁에 선도적 정책지원으로 기술패권에서 우위를 선점하는 데 기여할 수 있을 것이다. 마지막으로 본 연구의 결과는 대학 및 연구 기관에게 유망 기술에 기반한 교육 및 훈련 프로그램을 개발과 SW분야의 연구개발 활동의 방향성을 수립하는 데 활용할 수 있는 기반자료가 될 것이다.

요약문 1. 제 목 : AI안전의 부상과 정책 대응 방안 연구 2. 연구 배경 및 목적 ㅇ (배경 및 필요성) 고성능 인공지능(AI)의 보급과 확산이 빠르게 진행되며 사회 ·산업 전반에 활용도가 증가하고 있으나, AI의 위험·부작용에 대한 우려도 함께 증가하며 AI 안전이 중요한 아젠다로 부상

스탠퍼드대학교 인간중심 인공지능 연구소(HAI)가 지난 4월 7일 'AI Index 2025' 보고서를 발간했다. 이번 보고서는 2017년부터 발간되어 올해 8번째로, 현재 글로벌 AI 현황에 대한 종합적인 관점의 브리핑을 제공한다. 소프트웨어정책연구소에서는 이 보고서의 주요 내용을 분석‧요약하고 우리의 전략적 대응을 제안하고자 한다. AI 연구개발 경쟁은 매년 더욱 치열해지고 있으며, 선두 주자인 미국과의 경쟁에서 중국의 약진이 두드러진다. AI의 성능은 매년 급격하게 증가하여 이를 측정하기 위한 새로운 벤치마크들이 등장했다. 고성능 모델들은 모델 간 성능 격차가 줄어들어 상향 평준화 되었다. 또한, AI의 활용 확산은 과학과 의료계의 발전을 이끌고 있으며, AI의 활용이 확산됨에 따라 책임있는 AI를 위한 다양한 노력들도 추진되고 있다. 이에 따라 각국에서는 AI에 관련한 규제 법률을 늘리고 있는 추세이다. AI 분야의 `24년의 글로벌 투자 수준은 경기침체로 인해 감소세였던 지난 `22~23년과 달리 크게 증가하였다. 세계적으로 AI 및 CS교육이 빠르게 확산하고 있어 AI 전문가 배출도 가속화되고 있다. AI에 대한 여론은 낙관적인 전망이 증가하고 있는 가운데, 공정성에 대한 신뢰도는 감소하는 양상을 보였다. Executive Summary The Stanford Institute for Human-Centered Artificial Intelligence(HAI) released the 'AI Index 2025' report on April 7th. This report that published since 2017, is the 8th this year and provides a comprehensive perspective briefing on the current global AI situation. The SPRi analyzes and summarizes the main contents of this report and proposes our strategic response. The competition in AI research and development is becoming more intense every year, and China's advances are notable in its competition with the United States, the leader. The performance of AI has increased rapidly every year, and new benchmarks have emerged to measure it. High-performance models have become more standardized as the performance gap between models has narrowed. In addition, the spread of AI utilization is leading to the development of science and medicine, and various efforts for responsible AI are also being promoted as the use of AI spreads. Accordingly, each country is increasing regulatory laws related to AI. The level of global investment in the AI ​​field in 2024 has increased significantly, unlike 2022-2023, when it was decreasing due to the economic recession. As AI and CS education are rapidly spreading worldwide, the production of AI experts is also accelerating. While public opinion on AI is showing an increasing optimism, trust in fairness is showing a decreasing trend.

목차 Table of Contents 정책·법제 ▹ 2025년 중국 양회의 정부 업무보고, AI 플러스 행동의 지속 추진을 천명 ▹ 중국 정부, 2025년 9월부터 AI 생성·합성물 표시 의무화 규정 시행 예정 발표 ▹ 인도 전자정보기술부, AI 강국 실현을 위한 AI 로드맵 공개 ▹ 영국 경쟁시장청, 마이크로소프트와 오픈AI 협력 관련 반독점 조사 종료 발표 기업·산업 ▹ 구글, 단일 GPU로 구동 가능한 오픈소스 AI 모델 ‘젬마 3’ 공개 ▹ 오픈AI, AI 에이전트 구축 지원 도구와 신규 음성·이미지 생성 모델 출시 ▹ 앤스로픽, 트럼프 행정부에 국가 경제와 안보를 고려한 AI 정책 제안 ▹ 오픈AI, 트럼프 행정부에 혁신의 자유 강조하는 AI 정책 제안 ▹ 엔비디아, GTC 2025에서 신규 AI 칩 로드맵과 AI 제품군 공개 ▹ 마누스 AI, 완전 자율 AI 에이전트 ‘마누스’ 공개 ▹ 피규어, 휴머노이드 로봇 제조시설 ‘BotQ’ 발표 ▹ 앱트로닉, 자빌과 전략적 제휴로 휴머노이드 로봇 제작 추진 기술·연구 ▹ 구글 딥마인드, 로봇 특화 AI 모델 ‘제미나이 로보틱스’ 개발 ▹ 사카나 AI의 AI 생성 논문, ICLR 2025 워크숍에서 동료 심사 통과 ▹ AAAI, 주요 AI 연구 주제와 해결 과제를 정리한 보고서 발간 ▹ 2024년 튜링상, 강화학습 연구에 기여한 연구자 2인이 수상 ▹ 카카오, 자체 개발 AI 모델 ‘카나나’의 테크니컬 리포트 공개 인력·교육 ▹ 영국 옥스퍼드大 연구 결과, AI 인력 채용 시 학위보다 실무기술이 중요 ▹ 스탠포드 HAI, AI+교육 서밋에서 AI가 교육에 미치는 영향 논의 ▹ 영국 정부의 AI 저작권 규제 완화 기조에 창작자들의 반발 격화 ▹ IBM CEO, 가까운 미래에 AI가 프로그래머를 대체할 가능성은 희박하다고 예측 주요행사일정

목차 Table of Contents Ⅰ. 인공지능 산업의 최신 동향 1. 정책/법제 ▹ 미국 국가AI자문위원회, 트럼프 행정부 대상 AI 정책 보고서 발간 ▹ 파리 AI 행동 정상회의, AI의 공공성·지속가능성과 함께 규제 완화 논의 ▹ EU 집행위원회, 경쟁력 강화 로드맵의 일환으로 AI 기가팩토리 구축 추진 ▹ EU 집행위원회, 2025년 업무 프로그램에서 ‘AI 책임 지침’ 철회 계획 발표 ▹ 영국, AI안전연구소의 명칭 AI보안연구소로 변경하고 앤스로픽과 AI 협력 2. 기업/산업 ▹ 구글, 성능 개선한 ‘제미나이 2.0’ 제품군 확대 출시 ▹ 오픈AI, 심층 조사를 수행하는 에이전트 ‘딥 리서치’ 공개 ▹ 오픈AI, GPT-5 출시 로드맵 발표 및 GPT-4.5 프리뷰 공개 ▹ xAI, 최신 AI 모델 ‘그록 3’ 프리뷰 출시 ▹ 퍼플렉시티, 심층 조사와 분석을 수행하는 ‘딥 리서치’ 무료 출시 ▹ 알리바바, 딥시크 V3 능가하는 성능의 ‘큐원2.5-Max’ 출시 ▹ 아크 인베스트, 2025년 혁신 기술 중 하나로 AI 에이전트 선정 3. 기술/연구 ▹ 상하이교통大 연구진, 소량의 고품질 데이터를 활용한 추론 AI 모델 개발 ▹ 스탠포드大와 워싱턴大 연구진, 저비용으로 고성능 추론 AI 모델 개발 ▹ 바이트댄스, 인물 움직임을 생성하는 AI 모델 ‘옴니휴먼-1’ 개발 ▹ AI안전센터와 스케일 AI, 고난도 벤치마크 ‘HLE’ 공개 4. 인력/교육 ▹ 딜로이트 조사 결과, 전 세계 기업들은 점진적으로 AI 도입 확대 ▹ 마이크로소프트 연구 결과, 생성 AI 신뢰할수록 비판적 사고 감소 ▹ 앤스로픽, AI가 노동시장에 미치는 영향을 분석한 ‘앤스로픽 경제 지수’ 공개 ▹ 앤스로픽을 비롯한 여러 기업들, 입사 지원 시 AI 도구 사용금지 요구

목차 Table of Contents 1. 딥시크의 등장과 배경 2. 딥시크 모델의 기술적 특징 3. 기존 AI 모델과의 비교 4. 딥시크 관련 주요 이슈 5. 딥시크의 영향과 정책적 시사점 6. 참고 문헌

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 상무부, AI 칩과 모델의 수출 통제를 전 세계로 확대하는 규정 발표 ▹ 바이든 전 미국 대통령, AI 인프라 구축 가속화 행정명령에 서명 ▹ 미국 트럼프 대통령, AI 인프라 프로젝트 및 AI 행정명령 발표 ▹ 미국 AI안전연구소, 기반모델 오용 위험관리 지침 2차 초안 발간 ▹ 영국 과학혁신기술부, AI 경쟁력 강화를 위한 AI 기회 행동계획 발표 2. 기업/산업 ▹ MIT 테크놀로지 리뷰, 2025년 AI 트렌드 전망 ▹ 엔비디아, CEO 2025에서 피지컬 AI 시대 예고하며 AI 신제품 대거 공개 ▹ 오픈AI, 트럼프 행정부를 위한 AI 정책 청사진 발표 ▹ 오픈AI, 생명공학 스타트업과 협력해 수명 연장 목표 연구를 위한 AI 모델 개발 ▹ 딥시크, 오픈AI o1과 비슷한 성능의 추론형 AI 모델 ‘R1’ 공개 ▹ 딥시크 R1 출시로 인한 AI 시장의 충격과 함께 보안 우려도 대두 ▹ 지상파 방송 3사, 네이버에 뉴스데이터 저작권 침해 소송 제기 3. 기술/연구 ▹ 니케이 분석 결과, 세계 3대 AI 학회 채택 논문 저자 수에서 중국과 미국의 격차 감소 ▹ AMD와 존스 홉킨스大 연구진, 과학 연구를 자율 수행하는 에이전트 개발 ▹ 사카나 AI, 자체 적응형 머신러닝 프레임워크 ‘트랜스포머2’ 개발 ▹ 구글 연구진, 효율적 메모리 사용을 위한 ‘타이탄’ 아키텍처 개발 4. 인력/교육 ▹ 세계경제포럼, 2030년까지 AI의 영향으로 일자리 시장 급변 예상 ▹ IBM 설문조사 결과, IT 의사결정권자의 85%가 AI 전략에서 성과 달성 ▹ 민주주의기술센터 조사 결과, 미국 교육 현장에서 생성 AI 활용 급증 ▹ 딜로이트, 아시아 태평양 지역 AI 거버넌스 조사 결과 발표 Ⅱ. 주요 행사 ▹ICLR 2025 ▹ICRA 2025 ▹AI & Big Data EXPO (North America)

본 연구에서는 그간의 미국의 인공지능(AI) 안전·신뢰성 정책 흐름을 살펴보고, 트럼프 2.0 시대에 AI 기술의 안전·신뢰성 확보하기 위한 정책 흐름이 어떻게 이어질지 예측하고자 하였다. 분석 결과, 미국은 오바마 행정부부터 트럼프 1기 행정부, 바이든 행정부에 걸쳐 AI 기술을 국가 안보와 직결된 전략 기술로서 인식하고 관련 정책을 수립·추진해왔다. 오바마 행정부에서는 AI가 안보와 글로벌 리더십 확보에 중요한 전략 과제임을 인식하고 안전한 AI 시스템을 보장하기 위한 연구 개발 계획 및 지침을 수립하였고, 트럼프 1기 행정부는 자국의 AI 리더십 확보를 위한 연구 강화와 혁신 투자, 그리고 신뢰할 수 있는 AI 개발 및 보급을 지시하였다. 바이든 행정부에서는 연방정부 차원에서 안전하고 신뢰할 수 있는 AI 혁신에 관한 행정명령을 발동하였다. 공통적으로 AI 개발 및 보급에서 세계를 선도함과 동시에 안전성과 신뢰성을 강화할 수 있는 정책을 마련하는 데 초점을 맞추고 있다. AI의 안전·신뢰성 확보 정책은 국가적으로 일관된 정책 흐름이며, 오히려 국가 안보와 미국 우선주의를 강조하는 트럼프2.0 시대에서는 더욱 강화될 수 있을 것으로 전망된다. Executive Summary This study examines the trajectory of U.S. Policy for Implementing Trustworthiness artificial intelligence (AI) safety and reliability policies and seeks to predict how these policies may evolve Trump 2.0 era. The analysis reveals that since the Obama administration through the first Trump administration, the United States recognized AI as a strategic technology closely tied to national security, developing and implementing policies to support its advancement. The Obama administration acknowledged AI as a critical strategic task for national security and global leadership, establishing research and development plans and guidelines to ensure safe AI systems. The first Trump administration emphasized strengthening U.S. AI leadership by enhancing research, investing in innovation, and directing the development and deployment of trustworthy AI. The Biden administration issued executive orders at the federal level to advance trustworthy AI innovation. All administrations have consistently focused on leading global AI development and deployment while simultaneously reinforcing trustworthiness. Policies to ensure AI trustworthiness thus reflect a unified national strategy. Furthermore, with the Trump 2.0 era’s emphasis on national security and an “America First” agenda, these policies are anticipated to be further strengthened.

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ EU 공동연구센터, 공공 부문의 AI 역량 및 거버넌스에 관한 보고서 발간 ▹ 유럽평의회, AI 시스템의 위험과 영향력 평가 방법론 채택 ▹ 영국 정부, 사이버 안보 위협에 대응한 AI안보연구소 신설 계획 발표 ▹ 그리스 AI 고위자문위원회, 국가 AI 정책 제안서 발표 2. 기업/산업 ▹ 아마존, 자체 개발 생성 AI 모델과 AI 신기능 대거 공개 ▹ 오픈AI, ‘챗GPT 프로’ 및 동영상 생성 AI ‘소라’ 출시 ▹ 구글, 제미나이 2.0 플래시 출시와 함께 AI 에이전트 3종 공개 ▹ 마이크로소프트, 코파일럿 신기능과 AI 에이전트 공개 ▹ 퍼플렉시티, 유료 사용자 대상 AI 검색에 쇼핑 기능 도입 ▹ 앨런AI연구소, 완전 개방형 소형 언어모델 ‘올모 2’ 공개 ▹ LG AI연구원, 엑사원 3.5 기반모델 3종 오픈소스로 공개 ▹ 엔비디아, 텍스트-오디오 생성 AI 모델 ‘푸가토’ 발표 3. 기술/연구 ▹ 스탠포드大 인간중심AI연구소, 글로벌 AI 활동성 도구 공개 ▹ ML커먼스, AI 안전성 평가 벤치마크 ‘AI루미네이트’ 발표 ▹ 구글 딥마인드, 3D 가상 세계 생성하는 AI 모델 ‘지니 2’ 개발 ▹ 알리바바, 추론 AI 모델 ‘마르코-o1’ 공개 4. 인력/교육 ▹ OECD, 생성 AI를 활용한 노동시장 과제 해결을 모색한 보고서 발간 ▹ 리눅스 재단 AI 도입 현황 조사 결과, 생성 AI 인프라의 평균 41%가 오픈소스로 확인 ▹ 세계경제포럼, 인재 부족 문제에 대응한 AI 교육 형평성 강조 ▹ 마이크로소프트, AI 도입 기업들의 5대 트렌드 발표 Ⅱ. 주요 행사 ▹World Economic Forum ▹CES ▹AAAI-25

최근 인공지능의 부상과 함께 인공지능의 기능적 한계, 잠재적 위험에 대한 우려도 고조되고 있다. 이러한 상황에서 2023년 11월에는 세계 최초로 세계 정상들이 참여한 ‘AI안전성 정상회의’가 개최되었고, 2024년 5월에는 후속 회의로서 ‘AI 서울 정상회의’도 열렸다. 2024년 8월에는 2021년부터 발의된 EU의 인공지능법이 발효되었다. 앞으로 믿고 쓸 수 있는 인공지능, 인간에 무해한 인공지능의 개발과 보급을 위한 정책적 노력들이 강화될 것으로 예측된다. 하지만, 정책적 대상으로서 인공지능 안전의 개념과 범위는 모호하다. 비슷한 개념으로 인공지능 신뢰성, 인공지능 윤리, 인공지능 견고성, 책임 있는 인공지능 등이 혼재되어 사용되고 있다. 따라서, 무엇보다 ‘인공지능 안전성’에 대한 개념에 대한 합의가 필요한 상황이며, 그 대상이 기술적 영역에 국한되는지, 기업의 책무와 윤리적 영역까지도 포함하는지 개념의 범위에 대한 검토도 필요하다. 이에 본 연구에서는 최근 화두가 되고 있는 ‘인공지능 안전성’을 다른 유사 개념들과 비교하여 그 개념을 정의하고, 그 개념이 포함하는 범위에 대해서도 조망한다. 이를 위해 현재까지 제정된 ISO/IEC의 국제표준 정의와 EU, OECD 등 국제 협력 기구에서의 정의, 그리고 최근 설립된 미국, 영국 등 AI안전연구소들이 준용하는 개념들을 살펴보았다. 이를 토대로 향후 AI 안전성을 확보하기 위해 정책적 시사점을 정리하였다. Executive Summary With the recent rise of artificial intelligence (AI), concerns regarding its functional limitations and potential risks have been increasing. In response, November 2023 saw the world's first AI Safety Summit with the participation of global leaders, followed by the Seoul AI Summit in May 2024. In August 2024, the EU's Artificial Intelligence Act, initially proposed in 2021, came into effect. It is anticipated that policy efforts to develop and promote trustworthy and harmless AI will be strengthened in the future. However, the concept and scope of AI safety as a policy target remain unclear. Similar terms such as AI trustworthiness, AI ethics, AI robustness, AI reliablity, and responsible AI are often used interchangeably. Thus, it is crucial to reach a consensus on the concept of 'AI safety' and to examine whether it is limited to technical aspects or includes corporate responsibility and ethical considerations. This study compares the recently prominent concept of 'AI safety' with similar terms to define its scope and meaning. To do so, we review the definitions provided by ISO/IEC international standards, international organizations like the EU and OECD, and the concepts adopted by newly established AI safety research institutes in the US and UK. Based on this analysis, the study outlines policy implications for ensuring AI safety in the future.

목차 Table of Contents 1. AI 에이전트(AI Agent)의 도입 및 부상 2. AI 에이전트 주요 사례 3. AI 에이전트 관련 이슈 및 전망 4. 참고 문헌