이 보고서에서는 인공지능(AI)이 과학 연구의 전 과정에 가져온 혁신적 변화를 분석하여, AI 기반 연구 패러다임의 특성과 각 연구 단계별 활용 사례, 정책적 시사점을 제시하고자 하였다. AI는 경험, 이론, 계산, 데이터 주도에 이은 제5의 과학혁명의 핵심 동력으로, 인간 연구자의 인지적 한계를 보완하고 지식 창출 과정 자체를 재정의하고 있다. 특히 AI는 방대한 데이터에서 패턴을 발견하고, 학제 간 경계를 넘나드는 지식 연결을 수행하며, 가설 생성부터 실험 수행, 데이터 분석에 이르는 연구 전 주기를 통합적으로 지원하는 지능형 연구 동반자로 진화하고 있다. 이러한 변화는 연구의 속도와 규모를 기하급수적으로 확장시켰을 뿐만 아니라, 연구 접근성을 높여 고가 장비나 전문 지식 없이도 첨단 연구에 참여할 수 있는 환경을 만드는데 기여하고 있다. 나아가 AI는 장기간 미해결로 남아있던 과학적 난제들을 해결하고, 인간이 상상하지 못한 새로운 연구 영역을 개척하며, 실시간 글로벌 협업을 가능케 하는 연구 인프라로 자리잡고 있다. 이에 대응하여 우리나라도 산업경쟁력의 원천인 과학기술 분야의 연구 효율성 제고와 세계적 연구 성과를 달성하는데 AI를 적극 활용하는 정책 기반을 구축해 가야한다. 이를 위해 AI 주도의 연구 패러다임을 재정립하고, 연구 단계별 AI 활용 가능성을 다방면으로 탐색할 필요가 있다. 아울러, AI의 기술적 한계와 오류 가능성에 대한 명확한 인식과 올바른 연구 윤리를 바탕으로 연구 현장에 활용할 수 있도록 정책적, 기술적 지원이 수반되어야 한다. 이를 바탕으로 과학기술 연구의 새로운 ‘운영체제’로서 과학기술 특화 AI 모델 개발, 연구 데이터 및 인프라 공유, 연구 산출물의 신뢰성 검증 기술 개발을 병행에 안전하고 믿을 수 있는 모두를 위한 과학 기술 AI (AI for Science & Technology) 실현 환경을 선도적으로 구현해야 할 것이다. Executive Summary This report aims to analyze the transformative changes that artificial intelligence (AI) has brought to the entire scientific research process, presenting the characteristics of AI-driven research paradigms, use cases at each research stage, and policy implications. AI serves as the core driving force of the fifth scientific revolution following empirical, theoretical, computational, and data-driven approaches, complementing the cognitive limitations of human researchers and redefining the knowledge creation process itself. In particular, AI is evolving into an intelligent research companion that discovers patterns in vast datasets, performs knowledge connections across interdisciplinary boundaries, and provides integrated support throughout the entire research cycle from hypothesis generation to experimentation and data analysis. These changes have not only exponentially expanded the speed and scale of research but have also contributed to creating an environment where cutting-edge research can be conducted without expensive equipment or specialized expertise by enhancing research accessibility. Furthermore, AI is establishing itself as a research infrastructure that solves long-standing scientific challenges, pioneers new research domains beyond human imagination, and enables real-time global collaboration. In response, South Korea must also establish a policy foundation that actively utilizes AI to enhance research efficiency in science and technology—the source of industrial competitiveness—and achieve world-class research outcomes. To this end, it is necessary to reestablish AI-driven research paradigms and explore the possibilities of AI utilization across various research stages. Additionally, policy and technical support must be provided to ensure proper application in research settings, based on a clear understanding of AI's technical limitations and potential for errors, as well as sound research ethics. Building on this foundation, we must proactively implement a safe and reliable AI for Science & Technology environment for all by developing science and technology-specialized AI models as the new 'operating system' for scientific research, sharing research data and infrastructure, and developing reliability verification technologies for research outputs.

최근 세계 AI 시장이 빠르게 성장하고 AI 관련 제품과 서비스의 혁신이 활발하게 진행되는 가운데, 주요 AI 기업 및 국가 간 기술 경쟁 역시 치열하게 전개되고 있다. 한편 AI 분야에서 국가 간 협력 및 투자의 중요성이 증대되고 있으며, 기업 간 투자·협력 역시 Microsoft가 OpenAI에 투자, Google이 Anthropic으로 투자한 사례와 같이 기업 간 투자 네트워크가 확대되고 있다. 보고서는 국가 간 벤처캐피탈(VC) 투자 흐름을 분석함으로써, 글로벌 협력을 활발히 진행하는 국가들의 특성을 도출하고, 정책적 시사점을 제시하였다. 분석 결과, 미국은 AI 분야 VC 투자에서 압도적인 비중을 차지하고 있다. 미국과 중국은 VC 투자에 있어 자국 중심적이다. 한편, 영국, 캐나다, 이스라엘은 미국으로부터의 자본 유치와 해외 투자 비중이 높으며, 영국 및 EU 국가는 AI 분야 해외 투자 비중이 높아 상호 협력 중심의 구조를 보이고 있다. 또한, 공통적으로 우수한 AI 인재에 의해 창업된 AI 기업이 적극적으로 VC 투자 유치에 성공하면서, 국가의 대표적인 소버린 AI 기업으로 성장하는 사례가 등장하고 있다. 상대적으로 한국의 해외 투자 유치 비중은 다른 국가에 비해 낮은 상황이다. 그러나 트웰브랩스, 업스테이지, 노타AI 등 국내 유망 스타트업의 해외 투자 유치와 협력 사례가 등장하기 시작했다. 2025년 정부는 글로벌 AI 3대 강국 도약을 위해 민관의 적극적인 투자를 강조하고 있으며, 특히 AI 등 첨단산업을 위한 국민성장펀드 조성 계획을 발표함에 따라 우리나라의 AI 산업의 성장이 기대되고 있다. 결론적으로, 글로벌 협력을 통한 투자 자본 확보를 통한 기업 생태계 활성화는 AI 강국 도약의 선결 과제다. 이를 위해 AI 기업 육성을 위한 투자금 확대, 규제 혁신 인센티브, 해외 진출 및 공동 연구 지원 등이 병행되어야 한다. 이를 통해 AI 3대 강국 공약 달성은 물론 우리나라의 AI 기술 경쟁력을 글로벌 수준으로 제고하는 노력이 필요하다. Executive Summary As the global AI market rapidly grows and innovation in AI-related products and services continues, technological competition among major AI companies and countries is also intensifying. Meanwhile, the importance of international cooperation and investment in the AI field is increasing, and inter-company investment and collaboration is expanding through corporate investment networks. This report analyzes cross-border venture capital (VC) investment flows, identifies the characteristics of countries actively pursuing global collaboration, and presents policy implications. The analysis reveals that the United States accounts for an overwhelming share of VC investment in the AI sector. The United States and China are both highly domestically focused on VC investment. Meanwhile, the United Kingdom, Canada, and Israel attract significant capital and foreign investment from the US, a leading AI country. The United Kingdom and EU countries also exhibit a high proportion of overseas investment in AI, demonstrating a structure centered on mutual cooperation. Furthermore, there are examples of AI startups founded by outstanding AI talent actively attracting VC investment and growing into leading national AI companies. Currently, Korea's share of foreign investment is relatively low compared to other countries. However, promising domestic startups, such as Twelve Labs, Upstage, and Nota AI, are beginning to attract overseas investment and collaborate. Furthermore, with the government announcement of a plan to establish a national growth fund for cutting-edge industries such as AI, the growth of Korea's AI industry is expected. In conclusion, securing investment capital through global collaboration and revitalizing the corporate ecosystem are prerequisites for Korea's leap to becoming an AI powerhouse. To achieve this, increased investment in fostering AI companies, regulatory innovation incentives, and support for overseas expansion and joint research should be implemented. Furthermore, efforts are needed to not only achieve the goal of becoming the third level of countries in AI, but also elevate AI technology competitiveness of Korea.

목차 Table of Contents 정책·법제 ▹ 대만 디지털발전부, 의회에서 AI 산업 발전 정책 현황 보고 ▹ OECD, 범용 기술로서 생성 AI의 생산성과 정책적 함의 분석 ▹ 미국 상원, 예산안에서 주 정부의 AI 규제를 10년간 금지하는 조항 삭제 ▹ 미국 트럼프 대통령, 미국 AI 행동계획과 행정명령 발표 ▹ EU 집행위원회, 「AI 법」의 범용 AI 관련 실천 강령과 지침 발표 기업·산업 ▹ 미드저니, 첫 번째 비디오 생성 AI 모델 ‘V1’ 출시 ▹ 바이두, 10년 만에 AI 기반으로 검색 서비스 대폭 개편 ▹ 문샷 AI, 에이전트 기능 지원하는 ‘키미 K2’ 오픈소스 공개 ▹ xAI, 차세대 AI 모델 ‘그록 4’ 공개 및 정부 AI 시장 진출 ▹ 퍼플렉시티, AI 에이전트 탑재한 웹 브라우저 ‘코멧’ 출시 ▹ 오픈AI, 사용자 대신 복잡한 작업을 처리하는 ‘챗GPT 에이전트’ 공개 기술·연구 ▹ 구글 딥마인드, 인간 DNA 염기서열 분석 AI 모델 ‘알파게놈’ 공개 ▹ 일본경제신문 조사 결과, AI용 비밀 지시 숨긴 논문 다수 발견 ▹ 사카나 AI, 첨단 AI 모델 간 협력을 통한 추론 강화 알고리즘 개발 ▹ 미국 프린스턴⼤ 연구 결과, 인간과 LLM 모두 AI 사용한 글을 낮게 평가 ▹ 마이크로소프트, AI 의료 진단 시스템 ‘MAI-DxO’ 공개 ▹ 구글, 의료용 AI 모델 ‘메드젬마’ 오픈소스 공개 ▹ METR 연구 결과, AI 도구 사용 시 숙련 개발자의 작업 속도 둔화 인력·교육 ▹ 세일즈포스 조사 결과, 사무직 근로자의 일일 AI 사용 급증 ▹ 앤스로픽, AI로 인한 노동 문제 대응을 위한 ‘경제 미래 프로그램’ 출범 ▹ 구글 딥마인드, AI 코딩 기업 윈드서프의 핵심 인력 영입 주요행사일정

SPRI AI Brief 2025년 8월호 인공지능 산업의 최신 동향 SPRi 소프트웨어정책연구소

목차 Table of Contents 1. AI 데이터센터(AI Data center)의 도입과 확산 2. AI 데이터센터 관련 주요 기업 동향 3. AI 데이터센터 관련 국가별 정책 동향 4. AI 데이터센터 관련 이슈 및 정책적 시사점 5. 참고 문헌

AI 기술은 국가 경쟁력을 좌우하는 핵심 요소이다. AI가 경제 성장과 노동시장 변화, 국가안보 등 다양한 분야에 막대한 영향을 미치는 만큼 각국 정부는 대규모 인재 양성 정책과 해외 전문인력 유치 제도를 활발히 추진하며 고급 AI 인재 확보를 위해 치열하게 경쟁하고 있다. 우리나라도 디지털 전환과 초거대 AI 시대에 대응하기 위해 다각도의 인력양성 및 해외 인재 유치 정책을 펼치고 있으나, AI 패권 경쟁 속에서 AI 인력 부족과 채용 난, 해외로의 AI 인재 순 유출이라는 난관에 직면해 있다. 이에 본 고는 한국과 미국, 중국, 영국, 일본의 AI 인재 양성·유치 정책 현황을 비교·분석함으로써 국내 정책 개선에 대한 시사점을 도출하는 것을 목적으로 한다. 우리나라는 2019년 ‘인공지능 국가전략’을 발표한 이래, ‘디지털 인재 양성 종합방안’(100만 디지털 인재 양성), ‘첨단산업 해외 인재 유치·활용 전략’ 등으로 폭넓은 인력 기반을 확보하고자 노력하고 있다. 최근에는 ‘인공지능기본법’으로 AI 전문인력 양성과 연구개발 지원을 법적으로 보장하고, ‘Top-Tier 비자’와 ‘K-Tech Pass’ 등 해외 고급인재를 신속히 받아들이기 위한 비자 사다리 구축에 힘쓰고 있다. 그러나 국내 AI 인력 부족은 여전하고, 중소기업의 해외 인재 채용 제약, 국내 고급인재의 해외 유출 등으로, 우리나라는 고급인재 양성과 유출 방지·유치 매력도 제고를 동시에 추진해야 하는 과제를 안고 있다. 미국은 풍부한 민간 R&D 및 세계적 대학교 육성 시스템, 개방적인 이민정책을 결합해 글로벌 AI 인력 블랙홀로 자리 잡았다. 이미 AI 연구·교육 분야에 대규모 연방 예산을 투입하는 ‘AI 이니셔티브 연간보고서(’20)‘와 ‘국가 AI 이니셔티브실(’21)‘ 등을 통해 전 주기적 지원을 실시해 왔으며, ‘AI교육법(’22)‘, ‘NSF Educate AI Initiative(’23)‘ 등으로 K-12부터 대학원까지 AI 교육을 강화하고 있다. 또한 ‘안전하고 신뢰성 있는 AI를 위한 행정명령(’23)‘으로 AI 전문가 비자를 확대해 해외 우수 연구자 유치를 더욱 촉진하고 있으나, 트럼프 2기 행정부의 과학 연구자금 삭감과 일부 폐쇄적 이민정책 가능성 등 정책 변동성이 주목할 점이다. 중국은 막대한 정부 투자와 기업의 파격적 보수 책정, 거대한 인구 기반을 결합해 국내 AI 인재를 대량 양성하고, 해외 중국인 연구자 귀환을 적극 유도한다. ‘치밍계획(’20)‘을 통해 귀환 인재에게 정착금을 지급하고, ‘R 비자’를 도입해 고급 외국 인재를 우대하고 있으나, 엄격한 정치·문화적 제약으로 외국 국적자의 유치에는 여전히 한계가 있다. 그럼에도 불구하고, ‘인공지능 인재양성 백서(’22)‘와 ‘중· 고등학교 AI 교육 강화 정책(’24)‘ 등으로 전방위적 교육 시스템을 갖추고, 국가와 지방정부, 기업이 합심하여 AI 분야를 집중 육성함으로써 빠른 속도로 AI 인적자원을 확대하고 있다. 영국은 브렉시트 이후에도 글로벌 AI 리더십 유지를 목표로 ‘국가 AI 전략(’21)‘을 수립하고, 고급인재를 유치하기 위한 비자 제도를 대폭 정비해왔다. ‘Global Talent Visa’, ‘High Potential Individual Visa’ 등을 통해 세계 상위권 대학 졸업자나 우수 연구자에게 유연한 체류와 가족 동반 혜택을 주며, AI 연구 분야에서는 UKRI를 중심으로 AI 전문 박사과정 센터와 펠로우십 프로그램을 확대해 연구 중심 인재를 육성한다. 최근 ‘AI 기회 행동계획(’25)‘에서는 AI 분야 장학제도·평생교육·해커톤 등 인재 유입경로를 다변화하여 유럽 내 AI 허브 지위를 공고히 하는 데 주력하고 있다. 일본은 2019년부터 본격화한 AI 전략을 토대로 인재 양성과 해외 고급인재 유입 제도를 정비하고 있다. 대학-기업 협력모델을 통해 고교생부터 성인 재교육까지 전방위적 AI 교육을 확대하고, ‘특별고도인재제도(J-Skip)’ 등을 통해 해외 우수 인재에게 배우자 취업, 가사도우미 고용, 영주권 요건 완화 등 파격적 우대 조치를 시행하면서 최근에는 AI 인재 순 유입국으로 전환된 모습이다. 또한 ‘반도체· 디지털 산업전략’(’23)‘과 ‘생성형 AI 연구개발(’24)‘ 정책에서 산학협력 기반의 고급인재 육성과 글로벌 연구 네트워크 강화를 강조하여 기술력과 실무 역량을 동시에 높이고 있다. 각국의 사례에서 보듯, AI 시대 경쟁력을 위해서는 국내 인재의 대규모 양성과 유출 방지가 필수이며, 해외 최고급 인재를 유치·정착시킬 매력적인 환경을 조성해야 한다. 더 나아가 현재까지 비교적 관심을 덜 가져온 해외 거주 인재의 활용 방안에 대해서도 심도 있게 고민을 해야 할 것이다. 이를 위해 대학·연구기관·기업이 함께 참여하는 산학협력 및 교육 혁신을 더 강화하고, 스타트업에서 대기업까지 폭넓게 활용 가능한 비자 완화와 정주지원, 그리고 국책사업 참여 기회를 대폭 열어두어야 한다. 특히 우리나라 출신의 해외 전문인력에게는 귀환 시 연구나 창업에 필요한 자금·인프라를 집중 지원하고, 귀환하지 않는 인재라도 공동 프로젝트나 자문을 통해 국내에 기여할 수 있는 제도적 장치를 마련해야 한다. 장기적으로는 국제 학술행사 유치와 글로벌 연구센터 설립 등으로 ‘AI 혁신 클러스터’로서의 위상을 높여야 한다. 우리나라가 글로벌 AI 인재 유출 심화와 국내 기업의 인재 확보 어려움과 같은 문제를 해소하기 위해서는 본 고에서 제시된 정책들에 대한 검토뿐만 아니라, 제한된 자원을 효율적으로 활용하기 위해 핵심 AI 분야에 '선택과 집중'하고, 인재 유출 방지 및 활용에 대한 ‘패러다임을 전환’하며, 주체 또는 정책간 ‘연계를 통한 시너지 창출’을 더 고민해 나가야 한다. 이러한 종합적인 정책·제도 개선을 통해 우리나라가 과감하고 전략적인 AI 인재 확보·육성에 성공한다면, 미래산업과 국가 경쟁력을 선도하는 발판을 마련할 수 있을 것이다. Executive Summary AI is a key driver of national competitiveness, influencing economic growth, labor markets, and national security. Many governments are aggressively investing in large-scale talent development and global recruitment to secure advanced AI expertise. This study examines the policies of Korea, the United States, China, the United Kingdom, and Japan, and proposes ways to strengthen Korea’s domestic strategies. Korea has introduced multiple initiatives—such as the “National Strategy for Artificial Intelligence” (2019), the “Digital Talent Development Master Plan” (aiming for one million digital professionals), and the “Global Talent Attraction and Utilization Strategy for Advanced Industries”—yet still faces talent shortages, hiring challenges for smaller firms, and a net outflow of skilled AI professionals. The “AI Basic Act” supports training and R&D, while the “Top-Tier Visa” and “K-Tech Pass” streamline foreign recruitment. However, limited AI capacity, middling global rankings (30th­40th), and continued departures of top experts make expanding the advanced AI workforce and boosting retention and attraction efforts a priority. The United States combines robust private R&D, world-class universities, and an open immigration system, positioning itself as a global AI “magnet.” It allocates federal funds through sources like the “AI Initiative Annual Report (2020)” and the “National AI Initiative Office (2021),” while the “AI Education Act (2022)” and “NSF Educate AI Initiative (2023)” broaden AI education from K­12 to graduate levels. An “Executive Order on Safe and Trustworthy AI (2023)” further expands AI expert visas, though potential funding cuts and stricter immigration under a second Trump administration introduce uncertainties. China invests heavily in AI, offers competitive salaries, and leverages its vast population to build a local workforce, while also encouraging overseas Chinese researchers to return via the “Chiming Plan (2020).” It grants “R Visas” to high-level foreign talent but struggles to attract non-Chinese nationals due to strict political and cultural conditions. Still, its “White Paper on AI Talent Development (2022)” and “Middle and High School AI Education Enhancement Policy (2024)” illustrate a coordinated, nationwide push to expand the AI talent pool. The United Kingdom, aiming to maintain leadership post-Brexit, launched its “National AI Strategy (2021)” and reformed visas—including the “Global Talent Visa” and the “High Potential Individual Visa”—to attract top graduates and elite researchers. Through UKRI, it supports AI-focused PhD centers and fellowship programs. Its “AI Opportunity Action Plan (2025)” seeks to expand scholarships, lifelong learning, and hackathons, solidifying the UK’s reputation as a European AI hub. Japan updated its AI strategy in 2019 to enhance domestic training and attract foreign experts. University-industry partnerships extend AI education from high school to adult re-skilling, while the “Special Highly Skilled Professionals Program (J-Skip)” grants spousal employment, domestic help, and streamlined permanent residency—making Japan a net importer of AI talent. Policies like the “Semiconductor and Digital Industry Strategy (2023)” and “Generative AI R&D (2024)” also emphasize advanced training and global research collaborations. As these cases suggest, large-scale domestic training, preventing local expert loss, and offering favorable conditions for top foreign talent are critical. Korea should also pursue a deeper strategy for engaging its AI diaspora, with universities, research institutes, and businesses collaborating on training, visas, and settlement support. Returning Korean experts could receive robust backing for research or entrepreneurship, while those abroad might join projects or advisory roles. SMEs need a one-stop service for hiring foreign AI professionals, and hosting global conferences or establishing international research centers can raise Korea’s profile as an “AI innovation cluster.” To address the accelerating outflow of AI talent and the mounting challenges faced by domestic companies in securing skilled professionals, Korea must move beyond merely reviewing the policies outlined in this paper. It is essential to strategically allocate limited resources by prioritizing and concentrating on core AI sectors, shift the prevailing paradigm regarding talent retention and utilization, and foster greater synergy through enhanced coordination among stakeholders and policy initiatives. With such comprehensive improvements in policy and institutional frameworks, Korea can take bold, strategic steps to secure and cultivate AI talent—laying a strong foundation to lead future industries and enhance national competitiveness.

본 연구에서는 최근 부상하고 있는 피지컬 AI의 기술적·산업적 확산에 주목하여, 피지컬 AI의 정의와 특성, 유형 그리고 주요 사례 및 관련 이슈를 살펴보고 정책적 시사점을 제언하고자 하였다. 분석 결과, 피지컬 AI는 AI 기반모델(두뇌), 컴퓨터 비전·센서(감각), 엣지 컴퓨팅 및 네트워크 인프라(연결), 제어 및 액추에이터(행동) 등의 첨단기술 융합을 통해 인간처럼 현실 세계를 인식하고, 자율적으로 판단·행동함으로써 환경과 유기적으로 상호작용할 수 있는 시스템으로 정의된다. 주요 기술 수준과 형태에 따라 △ 휴머노이드형 △ 자율주행차형 △ 드론형 △ AGV & AMR형으로 분류되어 다양한 산업 환경에 특화된 형태로 활용되며, 산업 전반의 자동화·지능화 수요를 중심으로 새로운 융합 생태계를 형성하는 기반으로 작용하고 있었다. 다만, 피지컬 AI는 확산 과정에서 막대한 연산 자원과 개발 비용, 물리 환경 적용의 기술적 제약, 노동시장 구조 변화, 법적 책임과 윤리 기준의 미비 등 복합적인 장애 요인을 동반하고 있는 상황이다. 이를 해결하기 위해 미국, 중국, EU, 일본 등 주요국은 피지컬 AI를 국가 전략기술로 간주하고 다양한 정책을 선제적으로 마련해 경쟁력 확보에 나서고 있으며, 이에 발맞춰 우리나라도 피지컬 AI 경쟁력 강화를 위한 연구개발, 산업 생태계 및 인력양성, 법제 정비 및 국제 협력 차원에서 국가 전략을 수립해야 할 시점이다. Executive Summary This study focuses on the recent emergence and expansion of Physical AI in both technological and industrial contexts. It examines the definition, characteristics, typologies, representative use cases, and associated challenges of Physical AI, ultimately deriving relevant policy implications. The analysis defines Physical AI as an integrated system that combines advanced technologies such as AI foundation models (cognitive control), computer vision and sensors (perception), edge computing and network infrastructure (connectivity), and control systems with actuators (mobility), enabling machines to perceive, reason, and act autonomously in the physical world. Based on key technological configurations and implementation forms, Physical AI can be categorized into humanoid-type, autonomous vehicle-type, drone-type, and AGV & AMR-type systems, each tailored to specific industrial environments and contributing to the formation of a new convergence ecosystem centered on the growing demand for automation and intelligence across industries. However, the diffusion of Physical AI entails a range of complex barriers, including high computational requirements, significant development costs, technical limitations in real-world deployment, structural impacts on the labor market, and a lack of legal accountability frameworks and ethical standards. In response, major countries such as the United States, China, the EU, and Japan are recognizing Physical AI as a strategic national technology and are actively formulating policies to secure technological leadership. In this context, Korea must also develop a national strategy encompassing R&D, industrial ecosystem development, talent cultivation, regulatory reform, and international cooperation to strengthen its competitiveness in the emerging Physical AI landscape.

스탠퍼드대학교 인간중심 인공지능 연구소(HAI)가 지난 4월 7일 'AI Index 2025' 보고서를 발간했다. 이번 보고서는 2017년부터 발간되어 올해 8번째로, 현재 글로벌 AI 현황에 대한 종합적인 관점의 브리핑을 제공한다. 소프트웨어정책연구소에서는 이 보고서의 주요 내용을 분석‧요약하고 우리의 전략적 대응을 제안하고자 한다. AI 연구개발 경쟁은 매년 더욱 치열해지고 있으며, 선두 주자인 미국과의 경쟁에서 중국의 약진이 두드러진다. AI의 성능은 매년 급격하게 증가하여 이를 측정하기 위한 새로운 벤치마크들이 등장했다. 고성능 모델들은 모델 간 성능 격차가 줄어들어 상향 평준화 되었다. 또한, AI의 활용 확산은 과학과 의료계의 발전을 이끌고 있으며, AI의 활용이 확산됨에 따라 책임있는 AI를 위한 다양한 노력들도 추진되고 있다. 이에 따라 각국에서는 AI에 관련한 규제 법률을 늘리고 있는 추세이다. AI 분야의 `24년의 글로벌 투자 수준은 경기침체로 인해 감소세였던 지난 `22~23년과 달리 크게 증가하였다. 세계적으로 AI 및 CS교육이 빠르게 확산하고 있어 AI 전문가 배출도 가속화되고 있다. AI에 대한 여론은 낙관적인 전망이 증가하고 있는 가운데, 공정성에 대한 신뢰도는 감소하는 양상을 보였다. Executive Summary The Stanford Institute for Human-Centered Artificial Intelligence(HAI) released the 'AI Index 2025' report on April 7th. This report that published since 2017, is the 8th this year and provides a comprehensive perspective briefing on the current global AI situation. The SPRi analyzes and summarizes the main contents of this report and proposes our strategic response. The competition in AI research and development is becoming more intense every year, and China's advances are notable in its competition with the United States, the leader. The performance of AI has increased rapidly every year, and new benchmarks have emerged to measure it. High-performance models have become more standardized as the performance gap between models has narrowed. In addition, the spread of AI utilization is leading to the development of science and medicine, and various efforts for responsible AI are also being promoted as the use of AI spreads. Accordingly, each country is increasing regulatory laws related to AI. The level of global investment in the AI ​​field in 2024 has increased significantly, unlike 2022-2023, when it was decreasing due to the economic recession. As AI and CS education are rapidly spreading worldwide, the production of AI experts is also accelerating. While public opinion on AI is showing an increasing optimism, trust in fairness is showing a decreasing trend.

목차 Table of Contents 정책·법제 ▹ 2025년 중국 양회의 정부 업무보고, AI 플러스 행동의 지속 추진을 천명 ▹ 중국 정부, 2025년 9월부터 AI 생성·합성물 표시 의무화 규정 시행 예정 발표 ▹ 인도 전자정보기술부, AI 강국 실현을 위한 AI 로드맵 공개 ▹ 영국 경쟁시장청, 마이크로소프트와 오픈AI 협력 관련 반독점 조사 종료 발표 기업·산업 ▹ 구글, 단일 GPU로 구동 가능한 오픈소스 AI 모델 ‘젬마 3’ 공개 ▹ 오픈AI, AI 에이전트 구축 지원 도구와 신규 음성·이미지 생성 모델 출시 ▹ 앤스로픽, 트럼프 행정부에 국가 경제와 안보를 고려한 AI 정책 제안 ▹ 오픈AI, 트럼프 행정부에 혁신의 자유 강조하는 AI 정책 제안 ▹ 엔비디아, GTC 2025에서 신규 AI 칩 로드맵과 AI 제품군 공개 ▹ 마누스 AI, 완전 자율 AI 에이전트 ‘마누스’ 공개 ▹ 피규어, 휴머노이드 로봇 제조시설 ‘BotQ’ 발표 ▹ 앱트로닉, 자빌과 전략적 제휴로 휴머노이드 로봇 제작 추진 기술·연구 ▹ 구글 딥마인드, 로봇 특화 AI 모델 ‘제미나이 로보틱스’ 개발 ▹ 사카나 AI의 AI 생성 논문, ICLR 2025 워크숍에서 동료 심사 통과 ▹ AAAI, 주요 AI 연구 주제와 해결 과제를 정리한 보고서 발간 ▹ 2024년 튜링상, 강화학습 연구에 기여한 연구자 2인이 수상 ▹ 카카오, 자체 개발 AI 모델 ‘카나나’의 테크니컬 리포트 공개 인력·교육 ▹ 영국 옥스퍼드大 연구 결과, AI 인력 채용 시 학위보다 실무기술이 중요 ▹ 스탠포드 HAI, AI+교육 서밋에서 AI가 교육에 미치는 영향 논의 ▹ 영국 정부의 AI 저작권 규제 완화 기조에 창작자들의 반발 격화 ▹ IBM CEO, 가까운 미래에 AI가 프로그래머를 대체할 가능성은 희박하다고 예측 주요행사일정

인공지능(AI)이 직·간접적으로 국가 생산성을 높이고 국가의 미래 경쟁력을 결정짓는 핵심 요소로 부상하면서, 각국은 AI 기술을 미래 경쟁력의 핵심으로 인식하여 대대적인 AI R&D 투자 및 생태계 조성을 위한 정책 추진 등 기술 주도권 확보를 위한 노력을 경주하고 있다. 글로벌 AI 경쟁이 치열해지고 있는 가운데, 본 연구에서는 AI 시장 규모가 큰 미국(USPTO), 중국(CNIPA), 유럽(EPO) 등 3개 특허청에 등록된 특허정보를 수집하여 특허지표 분석을 실시하였다. 세계지식재산권기구(WIPO)의 AI 관련 특허정보 수집 방법에 따라 검색식을 작성하고 특허정보 데이터셋을 구축하였다. 이때 시간적 범위는 AI 기술 패러다임에 획기적인 변화를 가져온 AI 모델 ‘트랜스포머(Transformer)’가 등장한 2017년을 기점으로 하여, 연구시점 기준으로 온전한 통계 산출이 가능한 2023년 7월(출원일 기준)까지로 설정하였다. 국가별 AI 경쟁력을 평가하는 대표적 지수인 ‘토터스 미디어(Tortoise Media)’ 「글로벌 인공지능 지수(The Global AI Index)」의 상위 12개국(2024년 기준)을 분석 대상으로 설정하고, 국가별·연도별 등록특허의 양적 규모와 AI 기술개발 성과의 집중도, 기술적 역량, 영향력 등 질적 수준을 나타내는 특허지표별 측정 결과를 분석하였다. Executive Summary Artificial Intelligence (AI) stands as a pivotal enabler of national productivity and a decisive determinant of future competitiveness. Policymakers and industry leaders increasingly recognize the strategic importance of AI, dedicating substantial resources to research and development initiatives while enacting policies designed to nurture a thriving innovation ecosystem. This study aims to apply selected patent indicators to elucidate the state of AI technology worldwide and to evaluate the technological competitiveness of South Korea and major countries. Following the methodological framework established by the World Intellectual Property Organization (WIPO), we developed patent search queries that integrate both relevant classifications and specific keywords. The focus of this study rests on granted patents filed at the United States Patent and Trademark Office (USPTO), China National Intellectual Property Administration (CNIPA), and the European Patent Office (EPO) between January 2017 and July 2023. By examining a suite of patent indicators—covering dimensions such as quantitative scale, technology development intensity, technological capabilities, quality, and global influence—we provide a comparative evaluation of AI technological competitiveness across nations. This assessment includes 12 leading countries identified by the 2024 Global AI Index published by Tortoise Media, offering deeper insights into the varied trajectories of AI development and global competitiveness.

목차 Table of Contents Ⅰ. 인공지능 산업의 최신 동향 1. 정책/법제 ▹ 미국 국가AI자문위원회, 트럼프 행정부 대상 AI 정책 보고서 발간 ▹ 파리 AI 행동 정상회의, AI의 공공성·지속가능성과 함께 규제 완화 논의 ▹ EU 집행위원회, 경쟁력 강화 로드맵의 일환으로 AI 기가팩토리 구축 추진 ▹ EU 집행위원회, 2025년 업무 프로그램에서 ‘AI 책임 지침’ 철회 계획 발표 ▹ 영국, AI안전연구소의 명칭 AI보안연구소로 변경하고 앤스로픽과 AI 협력 2. 기업/산업 ▹ 구글, 성능 개선한 ‘제미나이 2.0’ 제품군 확대 출시 ▹ 오픈AI, 심층 조사를 수행하는 에이전트 ‘딥 리서치’ 공개 ▹ 오픈AI, GPT-5 출시 로드맵 발표 및 GPT-4.5 프리뷰 공개 ▹ xAI, 최신 AI 모델 ‘그록 3’ 프리뷰 출시 ▹ 퍼플렉시티, 심층 조사와 분석을 수행하는 ‘딥 리서치’ 무료 출시 ▹ 알리바바, 딥시크 V3 능가하는 성능의 ‘큐원2.5-Max’ 출시 ▹ 아크 인베스트, 2025년 혁신 기술 중 하나로 AI 에이전트 선정 3. 기술/연구 ▹ 상하이교통大 연구진, 소량의 고품질 데이터를 활용한 추론 AI 모델 개발 ▹ 스탠포드大와 워싱턴大 연구진, 저비용으로 고성능 추론 AI 모델 개발 ▹ 바이트댄스, 인물 움직임을 생성하는 AI 모델 ‘옴니휴먼-1’ 개발 ▹ AI안전센터와 스케일 AI, 고난도 벤치마크 ‘HLE’ 공개 4. 인력/교육 ▹ 딜로이트 조사 결과, 전 세계 기업들은 점진적으로 AI 도입 확대 ▹ 마이크로소프트 연구 결과, 생성 AI 신뢰할수록 비판적 사고 감소 ▹ 앤스로픽, AI가 노동시장에 미치는 영향을 분석한 ‘앤스로픽 경제 지수’ 공개 ▹ 앤스로픽을 비롯한 여러 기업들, 입사 지원 시 AI 도구 사용금지 요구

목차 Table of Contents 1. 딥시크의 등장과 배경 2. 딥시크 모델의 기술적 특징 3. 기존 AI 모델과의 비교 4. 딥시크 관련 주요 이슈 5. 딥시크의 영향과 정책적 시사점 6. 참고 문헌

본고에서는 2024년까지 전 세계에 출시된 초거대 AI 모델 현황을 분석하여 글로벌 기술 동향과 트렌드를 살펴본다. 초거대 AI 모델이란, 대규모의 컴퓨팅 인프라를 바탕으로 방대한 데이터를 학습하여 인간처럼 종합적인 인지·판단·추론이 가능해진 ‘큰 규모’의 AI 모델을 의미한다. 미국 민간 연구단체인 ‘EPOCH AI’의 초거대 AI 모델 현황 DB로부터 수집한 데이터를 활용하여 그간 출시된 초거대 AI 모델의 연도별·국가별·분야별·유형별 현황을 분석한다. 특히 2024년 초거대 AI 모델을 출시한 주요 기업/기관과 주요 모델에 대해서도 살펴본다. 마지막으로 글로벌 초거대 AI 모델 개발 트렌드를 정리·요약하고, 시사점 및 정책 제언을 제시한다. Executive Summary This report examines the current status of large-scale AI models released worldwide by 2024. The large-scale AI model refers to a AI model that have learnt vast amounts of data based on a large-capacity computational infrastructure, enabling comprehensive cognition, judgement, and reasoning akin to humans. It analyzes the current status of the large-scale AI model released so far by year, country, sector, and type using data collected from EPOCH AI database. Particularly, it examines the major developers and major models launched in 2024. Lastly, it summarizes the global large-scale AI model development trend, and presents policy recommendations for the field of AI.

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ 미국 상무부, AI 칩과 모델의 수출 통제를 전 세계로 확대하는 규정 발표 ▹ 바이든 전 미국 대통령, AI 인프라 구축 가속화 행정명령에 서명 ▹ 미국 트럼프 대통령, AI 인프라 프로젝트 및 AI 행정명령 발표 ▹ 미국 AI안전연구소, 기반모델 오용 위험관리 지침 2차 초안 발간 ▹ 영국 과학혁신기술부, AI 경쟁력 강화를 위한 AI 기회 행동계획 발표 2. 기업/산업 ▹ MIT 테크놀로지 리뷰, 2025년 AI 트렌드 전망 ▹ 엔비디아, CEO 2025에서 피지컬 AI 시대 예고하며 AI 신제품 대거 공개 ▹ 오픈AI, 트럼프 행정부를 위한 AI 정책 청사진 발표 ▹ 오픈AI, 생명공학 스타트업과 협력해 수명 연장 목표 연구를 위한 AI 모델 개발 ▹ 딥시크, 오픈AI o1과 비슷한 성능의 추론형 AI 모델 ‘R1’ 공개 ▹ 딥시크 R1 출시로 인한 AI 시장의 충격과 함께 보안 우려도 대두 ▹ 지상파 방송 3사, 네이버에 뉴스데이터 저작권 침해 소송 제기 3. 기술/연구 ▹ 니케이 분석 결과, 세계 3대 AI 학회 채택 논문 저자 수에서 중국과 미국의 격차 감소 ▹ AMD와 존스 홉킨스大 연구진, 과학 연구를 자율 수행하는 에이전트 개발 ▹ 사카나 AI, 자체 적응형 머신러닝 프레임워크 ‘트랜스포머2’ 개발 ▹ 구글 연구진, 효율적 메모리 사용을 위한 ‘타이탄’ 아키텍처 개발 4. 인력/교육 ▹ 세계경제포럼, 2030년까지 AI의 영향으로 일자리 시장 급변 예상 ▹ IBM 설문조사 결과, IT 의사결정권자의 85%가 AI 전략에서 성과 달성 ▹ 민주주의기술센터 조사 결과, 미국 교육 현장에서 생성 AI 활용 급증 ▹ 딜로이트, 아시아 태평양 지역 AI 거버넌스 조사 결과 발표 Ⅱ. 주요 행사 ▹ICLR 2025 ▹ICRA 2025 ▹AI & Big Data EXPO (North America)

본 연구에서는 그간의 미국의 인공지능(AI) 안전·신뢰성 정책 흐름을 살펴보고, 트럼프 2.0 시대에 AI 기술의 안전·신뢰성 확보하기 위한 정책 흐름이 어떻게 이어질지 예측하고자 하였다. 분석 결과, 미국은 오바마 행정부부터 트럼프 1기 행정부, 바이든 행정부에 걸쳐 AI 기술을 국가 안보와 직결된 전략 기술로서 인식하고 관련 정책을 수립·추진해왔다. 오바마 행정부에서는 AI가 안보와 글로벌 리더십 확보에 중요한 전략 과제임을 인식하고 안전한 AI 시스템을 보장하기 위한 연구 개발 계획 및 지침을 수립하였고, 트럼프 1기 행정부는 자국의 AI 리더십 확보를 위한 연구 강화와 혁신 투자, 그리고 신뢰할 수 있는 AI 개발 및 보급을 지시하였다. 바이든 행정부에서는 연방정부 차원에서 안전하고 신뢰할 수 있는 AI 혁신에 관한 행정명령을 발동하였다. 공통적으로 AI 개발 및 보급에서 세계를 선도함과 동시에 안전성과 신뢰성을 강화할 수 있는 정책을 마련하는 데 초점을 맞추고 있다. AI의 안전·신뢰성 확보 정책은 국가적으로 일관된 정책 흐름이며, 오히려 국가 안보와 미국 우선주의를 강조하는 트럼프2.0 시대에서는 더욱 강화될 수 있을 것으로 전망된다. Executive Summary This study examines the trajectory of U.S. Policy for Implementing Trustworthiness artificial intelligence (AI) safety and reliability policies and seeks to predict how these policies may evolve Trump 2.0 era. The analysis reveals that since the Obama administration through the first Trump administration, the United States recognized AI as a strategic technology closely tied to national security, developing and implementing policies to support its advancement. The Obama administration acknowledged AI as a critical strategic task for national security and global leadership, establishing research and development plans and guidelines to ensure safe AI systems. The first Trump administration emphasized strengthening U.S. AI leadership by enhancing research, investing in innovation, and directing the development and deployment of trustworthy AI. The Biden administration issued executive orders at the federal level to advance trustworthy AI innovation. All administrations have consistently focused on leading global AI development and deployment while simultaneously reinforcing trustworthiness. Policies to ensure AI trustworthiness thus reflect a unified national strategy. Furthermore, with the Trump 2.0 era’s emphasis on national security and an “America First” agenda, these policies are anticipated to be further strengthened.

목차 Table of Contents Ⅰ. 인공지능 산업 동향 브리프 1. 정책/법제 ▹ EU 공동연구센터, 공공 부문의 AI 역량 및 거버넌스에 관한 보고서 발간 ▹ 유럽평의회, AI 시스템의 위험과 영향력 평가 방법론 채택 ▹ 영국 정부, 사이버 안보 위협에 대응한 AI안보연구소 신설 계획 발표 ▹ 그리스 AI 고위자문위원회, 국가 AI 정책 제안서 발표 2. 기업/산업 ▹ 아마존, 자체 개발 생성 AI 모델과 AI 신기능 대거 공개 ▹ 오픈AI, ‘챗GPT 프로’ 및 동영상 생성 AI ‘소라’ 출시 ▹ 구글, 제미나이 2.0 플래시 출시와 함께 AI 에이전트 3종 공개 ▹ 마이크로소프트, 코파일럿 신기능과 AI 에이전트 공개 ▹ 퍼플렉시티, 유료 사용자 대상 AI 검색에 쇼핑 기능 도입 ▹ 앨런AI연구소, 완전 개방형 소형 언어모델 ‘올모 2’ 공개 ▹ LG AI연구원, 엑사원 3.5 기반모델 3종 오픈소스로 공개 ▹ 엔비디아, 텍스트-오디오 생성 AI 모델 ‘푸가토’ 발표 3. 기술/연구 ▹ 스탠포드大 인간중심AI연구소, 글로벌 AI 활동성 도구 공개 ▹ ML커먼스, AI 안전성 평가 벤치마크 ‘AI루미네이트’ 발표 ▹ 구글 딥마인드, 3D 가상 세계 생성하는 AI 모델 ‘지니 2’ 개발 ▹ 알리바바, 추론 AI 모델 ‘마르코-o1’ 공개 4. 인력/교육 ▹ OECD, 생성 AI를 활용한 노동시장 과제 해결을 모색한 보고서 발간 ▹ 리눅스 재단 AI 도입 현황 조사 결과, 생성 AI 인프라의 평균 41%가 오픈소스로 확인 ▹ 세계경제포럼, 인재 부족 문제에 대응한 AI 교육 형평성 강조 ▹ 마이크로소프트, AI 도입 기업들의 5대 트렌드 발표 Ⅱ. 주요 행사 ▹World Economic Forum ▹CES ▹AAAI-25

국내 소프트웨어(SW) 개발자 채용시장은 팬데믹 이후 디지털 전환의 가속화, 경기침체, 그리고 생성형 AI의 등장 등 여러 요인에 의해 큰 변화를 겪어왔다. 팬데믹 기간동안 전 산업에서 디지털 전환이 빠르게 이루어지면서 SW 개발자에 대한 수요가 급격히 증가했고, 이로 인해 구직자가 유리한 시장 환경이 조성되었다. 그러나 이후 고금리와 경기 침체가 이어지면서 벤처와 스타트업 투자가 위축되었고, 이는 IT업계 채용시장에도 부정적인 영향을 미쳐 SW 개발자 채용시장이 크게 위축되었다. 2022년 말 등장한 생성형 AI는 SW 개발자의 생산성을 높이는 한편, SW개발자 채용 수요와 역할, 그리고 요구 역량 전반에 직·간접적인 영향을 미치기 시작했다. 이에 따라, 본 연구진은 국내 현업에 종사하는 SW 개발자를 대상으로 심층 인터뷰를 진행하였으며, 인터뷰의 주요 결과는 다음과 같다. 현재 SW 개발자 채용시장은 위축된 상태이나, 생성형 AI로 인한 직접적인 채용 감소는 현장에서 뚜렷하게 체감되지 않고 있다. 한편, 생성형 AI는 초급 SW 개발자에게 기회와 위협을 동시에 제공하고 있다는 의견이 제시되었다. 단순 반복 작업이 자동화되면서 초급 SW 개발자의 역할 축소와 채용 수요 감소 우려가 제기되지만, 동시에 생성형 AI는 초급 개발자의 학습 속도와 역량 향상에 기여하여 이들이 더 넓은 업무를 수행할 수 있는 기회를 제공하고 있다고 논의되었다. SW 개발자 채용 과정과 요구 역량에도 변화가 예상된다. 현업 개발자들은 코딩 테스트의 필요성에 대해 의견이 갈리는 상황이며, 실무 역량과의 연관성을 더욱 강화해야 한다는 지적이 있다. 또한, 생성형 AI 도입으로 프롬프트 엔지니어링이 새로운 역량으로 주목받고 있으나, 이를 SW개발자의 본질적 역량으로 강조하기에는 시기상조라는 평가가 다수다. 생성형 AI 도구의 활용이 확산되면서 초급 SW 개발자의 역량이 상향 평준화될 것으로 전망하는 의견이 제시되었다. 또한, 생성형 AI로 인해 SW개발자 요구 역량의 본질이 변화하지는 않을 것으로 전망되나, AI 도구 활용 시 정보 판별 능력이 새롭게 요구되는 역량으로 부각될 가능성이 있다. 이상의 연구 결과를 바탕으로 본 연구진은 향후 SW개발자의 요구 역량, 역량 평가, 역할 변화 등에 대한 시사점을 도출하였다. 나아가, SW 개발자 요구 역량 및 이에 따른 채용 변화와 관련한 정부와 개발자들의 대응 방향에 대해 제언하였다. The software (SW) developer job market in South Korea has experienced significant changes influenced by various factors, including the acceleration of digital transformation during the pandemic, economic downturns, and the emergence of generative AI. The introduction of generative AI in late 2022 has further reshaped this landscape by enhancing developer productivity while indirectly and directly impacting hiring demand, roles, and required competencies. To investigate these developments, this study conducted in-depth interviews with SW developers currently active in the industry. The key findings are summarized as follows: Although the SW developer job market remains constrained, industry practitioners have not distinctly perceived direct hiring reductions attributable to generative AI. However, generative AI has been identified as simultaneously presenting both opportunities and challenges for junior SW developers. While the automation of repetitive tasks has raised concerns about the reduction of roles and hiring demand for junior developers, it has also been noted that generative AI supports faster learning and skill enhancement, enabling these developers to take on broader responsibilities. Interviewees expressed divergent opinions on the necessity of coding tests, highlighting the need for stronger alignment with practical skill requirements. Additionally, while prompt engineering has emerged as a noteworthy competency with the adoption of generative AI, they believe it is premature to consider it a core skill for SW developers. The growing adoption of generative AI tools is expected to standardize and elevate the baseline competencies of junior SW developers. Although the fundamental skills required for SW developers are unlikely to change significantly, the ability to critically evaluate information when using AI tools is likely to emerge as a newly emphasized competency. Based on these findings, this study outlines implications for evolving competency requirements, assessment methods, and role changes for SW developers. Furthermore, it offers recommendations for government policies and developer strategies to address the shifts in required skills and hiring practices driven by generative AI.

최근 인공지능의 부상과 함께 인공지능의 기능적 한계, 잠재적 위험에 대한 우려도 고조되고 있다. 이러한 상황에서 2023년 11월에는 세계 최초로 세계 정상들이 참여한 ‘AI안전성 정상회의’가 개최되었고, 2024년 5월에는 후속 회의로서 ‘AI 서울 정상회의’도 열렸다. 2024년 8월에는 2021년부터 발의된 EU의 인공지능법이 발효되었다. 앞으로 믿고 쓸 수 있는 인공지능, 인간에 무해한 인공지능의 개발과 보급을 위한 정책적 노력들이 강화될 것으로 예측된다. 하지만, 정책적 대상으로서 인공지능 안전의 개념과 범위는 모호하다. 비슷한 개념으로 인공지능 신뢰성, 인공지능 윤리, 인공지능 견고성, 책임 있는 인공지능 등이 혼재되어 사용되고 있다. 따라서, 무엇보다 ‘인공지능 안전성’에 대한 개념에 대한 합의가 필요한 상황이며, 그 대상이 기술적 영역에 국한되는지, 기업의 책무와 윤리적 영역까지도 포함하는지 개념의 범위에 대한 검토도 필요하다. 이에 본 연구에서는 최근 화두가 되고 있는 ‘인공지능 안전성’을 다른 유사 개념들과 비교하여 그 개념을 정의하고, 그 개념이 포함하는 범위에 대해서도 조망한다. 이를 위해 현재까지 제정된 ISO/IEC의 국제표준 정의와 EU, OECD 등 국제 협력 기구에서의 정의, 그리고 최근 설립된 미국, 영국 등 AI안전연구소들이 준용하는 개념들을 살펴보았다. 이를 토대로 향후 AI 안전성을 확보하기 위해 정책적 시사점을 정리하였다. Executive Summary With the recent rise of artificial intelligence (AI), concerns regarding its functional limitations and potential risks have been increasing. In response, November 2023 saw the world's first AI Safety Summit with the participation of global leaders, followed by the Seoul AI Summit in May 2024. In August 2024, the EU's Artificial Intelligence Act, initially proposed in 2021, came into effect. It is anticipated that policy efforts to develop and promote trustworthy and harmless AI will be strengthened in the future. However, the concept and scope of AI safety as a policy target remain unclear. Similar terms such as AI trustworthiness, AI ethics, AI robustness, AI reliablity, and responsible AI are often used interchangeably. Thus, it is crucial to reach a consensus on the concept of 'AI safety' and to examine whether it is limited to technical aspects or includes corporate responsibility and ethical considerations. This study compares the recently prominent concept of 'AI safety' with similar terms to define its scope and meaning. To do so, we review the definitions provided by ISO/IEC international standards, international organizations like the EU and OECD, and the concepts adopted by newly established AI safety research institutes in the US and UK. Based on this analysis, the study outlines policy implications for ensuring AI safety in the future.

AI반도체 등 AI 인프라에 대해 대규모 투자가 이루어지고 있지만, 투자 대비 수익성에 대한 의문이 제기되는 상황에서, SW서비스 기업들이 실질적인 수익을 창출할 수 있는 AI 기반 신서비스 도입모델이 어떤 모습인지 검토할 필요성이 있다. 기존 SW기업들은 주로 기존 소프트웨어에 Copilot 기능을 부가하여 기존의 업무를 보완하는 수준에서 AI를 도입하고 있다. ERP나 CRM 등의 소프트웨어에 챗봇을 통합해 기본적인 업무 생산성을 높이는 데 초점을 맞추고 있는 것이다. 반면, 스타트업들은 AI를 활용해 산업 데이터 분석과 자동화 솔루션 등에서 보다 혁신적인 시도를 통해 새로운 가치를 창출하려 하고 있다. 이러한 상황에서 AI-Native 서비스는 기존 SW서비스를 뛰어넘는 새로운 가능성을 제시하고 있다. 이는 기존 시스템에 의존하지 않고 처음부터 AI에 의존하는 서비스 모델로, 클라우드와 결합해 확장성과 유연성을 강화하고 있다. 이 보고서는 AI 기술을 활용한 산업별 특화 서비스와 새로운 데이터 활용 방식을 통해 비즈니스 모델의 혁신 가능성을 탐구한다. SW기업들은 AI서비스 기업으로의 이행을 준비하는 과정에서, 과거 기술 발전에서 얻은 교훈을 활용해야 한다. AI-Native 서비스를 개발하여 새로운 시장을 장악하는 것이 성공적인 수익화를 이끄는 전략임을 역사적으로 확인할 수 있다. 이를 위해 기업들은 데이터를 효과적으로 활용하고, 기존 시스템과 AI 중심 아키텍처의 통합을 점진적으로 추진하며, 산업별 특화 애플리케이션 개발을 통해 AI 기술의 잠재력을 극대화할 필요가 있다. Executive Summary Large-scale investments are being made in AI infrastructure, such as AI semiconductors, but concerns about the ROI of these investments have arisen. In this context, there is a need to examine what AI-driven new service adoption models look like for software service companies to generate tangible revenue. Incumbent software companies typically adopt AI by augmenting existing software with Copilot features to complement their existing operations. These efforts primarily focus on enhancing productivity in basic tasks by integrating chatbots onto existing software like ERP or CRM systems. In contrast, startups are leveraging AI to create new value through more innovative approaches, such as industrial data analysis and automation solutions. Amid these developments, AI-Native services present new possibilities that surpass traditional software services. These service models are designed to depend on AI from the outset rather than relying on legacy systems, combining with cloud infrastructure to enhance scalability and flexibility. This report explores the potential for business model innovation through AI-driven industry-specific services and novel data utilization methods. As software companies transition into AI service providers, they must draw lessons from past technological advancements. Historically, developing AI-Native services to dominate new markets has proven to be a strategic pathway to successful monetization. To achieve this, companies need to effectively utilize data, gradually integrate AI-centric architectures with existing systems, and develop industry-specific applications to fully realize the potential of AI technologies.