안전하고 책임 있는 AI를 위한 노력과 방향 안전하고 책임 있는 AI를 위한 노력과 방향

• 입찰마감 : 2025.12.30.(화) 12:00까지
• 서류접수 : https://www.g2b.go.kr/

최근 AI와 사이버보안은 국가 경쟁력과 디지털 주권을 좌우하는 핵심 분야로 자리잡았으며, 각국은 자국의 정치·경제·산업 구조에 기반한 상이한 정책 모델을 구축하고 있다. 본 보고서는 두 기술의 중요성에 주목하여, 미국, 유럽연합, 중국, 일본 등 주요국과 사우디아라비아, 싱가포르 등 신흥국을 대상으로 인공지능과 사이버보안 분야의 거버넌스, 국가 전략, 규제 체계를 종합적으로 분석하였다. 국가별 차이를 AI와 사이버보안의 기술 특성에 따라 구조화하여 비교·분석한 결과, 미국은 민간혁신 중심의 개방형 접근을 취하면서도 위험관리와 안전성 확보를 위한 행정명령 기반 규제를 병행하고 있다. 유럽연합은 EU AI Act와 NIS2 등 강력한 규제 체계를 통해 글로벌 기술 규범을 선도하고 있다. 중국은 국가안보와 데이터 통제를 핵심 원칙으로 하는 중앙집중형 거버넌스를 강화하고 있으며, 일본은 자율 규범과 산업 생산성 향상을 결합한 실용주의 모델을 유지하고 있다. 신흥국 중 사우디아라비아는 초대형 프로젝트와 결합된 중앙집중형 전략을 통해 AI와 보안 기술을 국가발전 전략의 주요 수단으로 활용하고 있으며, 싱가포르는 균형적 규범 체계와 민첩한 실행 구조를 기반으로 아시아 지역의 선도적 기술 정책 모델을 구축하고 있다. 본 보고서는 이러한 과정을 통해 국내 SW기업이 규제로 인한 위험 수준과 시장 진입 기회를 판단하는데 참고할 수 있도록 각 국가별로 인공지능 및 사이버보안에 대한 규제 강도를 제시하였다. 규제 강도 기준으로는 법률 차원의 강력한 구속력이 존재, 주요 기반시설 등 일부에만 의무 부과, 지침·권고 수준의 자율 규제 기조, 입법 논의 단계의 네 가지 강도를 설정하였다. 이를 통해 국내 SW기업이 국가별 규제 리스크를 진입전략의 핵심 요소로 인식하고, 시장별로 차별화된 대응전략을 수립해야 함을 확인한다. Executive Summary AI and cybersecurity have become critical to national competitiveness and digital sovereignty, prompting countries to adopt distinct governance, strategy, and regulatory models. This report analyzes major economies—the United States, the European Union, China, and Japan—and emerging economies such as Saudi Arabia and Singapore, comparing national approaches in AI and cybersecurity and assessing their implications for global markets and corporate activities. The findings show that the United States combines private-sector-led innovation with executive action–based risk and safety measures, while the European Union is shaping global norms through robust frameworks such as the EU AI Act and NIS2. China strengthens a centralized, security- and data-control-oriented model, whereas Japan maintains a pragmatic approach centered on voluntary guidelines and productivity gains. Saudi Arabia links centralized strategies to large-scale national projects, and Singapore advances a balanced regulatory framework with agile implementation. Given widening cross-country divergence in regulation and technology policy, the report highlights the need for Korean software companies to proactively identify country- and technology-specific risks and opportunities. It therefore provides a four-level regulatory intensity scale for each country and technology—ranging from strongly enforceable legal obligations to sector-limited mandates, guideline-based self-regulation, and legislation under discussion—so firms can better assess compliance risks and market entry opportunities and develop market-specific strategies.

글로벌 기술경쟁이 심화되는 가운데 각 산업은 소프트웨어(SW) 중심의 혁신을 가속화하면서 산업특화 소프트웨어(Vertical Software, 이하 산업특화SW)의 중요성이 부각되고 있다. 산업특화SW는 산업 고유의 규제, 워크플로우, 도전과제 등에 대한 해결 도구로 활용되면서 주력 산업의 핵심으로 자리매김하고 있다. 이에 따라 금융, 자동차, 공공행정 등 각 산업별 산업특화SW에 대한 수요가 증가하고, 주요국 정부도 산업특화SW 육성을 통해 주력 산업의 경쟁력 강화를 꾀하고 있다. 금융산업의 중심인 미국과 영국은 블록체인 기술을 중심으로 금융SW 개발 촉진과 핀테크 규제 원스톱 접근 스마트도구 개발 지원을 추진하고 있으며, 유럽은 자동차산업 선도를 위해 SDV(Software-Defined Vehicle)로의 미래차 이니셔티브를 발표하고 오픈소스 개발 및 자동차SW 역량 강화에 투자하고 있다. 국내 주력산업의 경쟁력 확보를 위해 산업특화SW 역량 강화 방안 마련이 필요한 시점이다. 이를 위해 본 고는 금융, 자동차 분야의 산업특화SW 사례를 분석함으로써 산업특화SW의 특성에 기반한 정책 방안을 마련하고자 하였다. 금융분야의 산업특화SW는 안전한 금융거래를 위한 규제준수와 금융서비스 품질향상을 위한 움직임을 나타냈다. 금융거래 본인 확인을 위한 고객확인(KYC)SW는 인증 방식의 다양화 또는 간소화에 대한 요구와 이로 인한 금융침해 위험 우려가 상존하고 있으며, 금융사고 예방·모니터링을 위한 이상거래탐지시스템(FDS)은 정확하고 빠른 탐지 기술을 통해 금융안전을 지원하고자 하였다. 자동차분야의 산업특화SW는 안전운행과 SW보안에 대한 규제기준이 지속 높아짐에 따라 이에 대한 준수와 신SW 기술 도입을 병행할 수 있는 방향으로 나아가고 있다. 부품·완성차의 정확한 설계 지원을 위한 제품 엔지니어링·설계SW는 설계 단계에서 제품의 안전기준을 준수할 수 있도록 정확한 시뮬레이션 기능을 제공하고, 설계 효율화를 위한 협업체계를 마련하고 있다. SDV플랫폼은 완성차에 대한 SW보안 기준을 준수할 수 있도록 점검할 수 있는 기술이 제품 경쟁력이 되고 있으며, 부품공급사·SW개발사 등을 포괄하는 협업 생태계 구축 측면에서 중요성이 강조되고 있다. 산업특화SW는 산업 고유의 문제 해결을 위해 규제 준수, 산업 전문성, 기능적 특수성이 요구된다. 이러한 특성들을 고려해 국내 산업특화SW 역량 강화를 위해 기업과 정부가 함께 노력할 필요가 있다. 기업은 산업특화SW가 기업 성장의 동력이 될 수 있음을 인식하고 자사의 제품·기술을 산업특화SW 수요 대응에 포커싱한 전략 수립이 요구된다. 정부는 기술 측면에서 산업별 맞춤형 신SW기반 융합서비스·모듈기술 개발, 인재 측면에서 산업별 규제 요구 수준에 맞는 SW안전·보안 전문인재 양성, 기반 측면에서 산업특화SW 규제준수 진입장벽을 낮추기 위한 가이드 및 도구 개발이 필요하다. Executive Summary As global competition intensifies, each industry is accelerating software-centric innovation, highlighting the growing importance of vertical software (industry-specific software). Vertical software is becoming a core component of key industries, serving as a solution to industry-specific regulations, workflows, and challenges. Consequently, demand for vertical software in sectors such as finance, automobiles, and public administration is increasing, and governments in major countries are seeking to strengthen the competitiveness of their key industries by fostering vertical software. The US and UK, the leaders of the financial industry, are promoting financial software development centered on blockchain technology and supporting the development of smart tools for a one-stop approach to fintech regulation. Meanwhile, Europe has announced its Future Vehicle Initiative, SDV (Software-Defined Vehicle), to lead the automotive industry and is investing in open source development and automotive software capabilities. To secure the competitiveness of Korea's key industries, it is crucial to develop measures to strengthen vertical software capabilities. To this end, this paper analyzed vertical software cases in the financial and automotive sectors to develop policy measures based on their characteristics. Vertical software in the financial sector has demonstrated a drive toward regulations for safe financial transactions and improved financial service quality. Know Your Customer (KYC) software, which verifies financial transactions, faces persistent demands for diversification or simplification of authentication methods and concerns about the resulting financial breaches. Fraud Detection Systems (FDS), designed to prevent and monitor financial incidents, aim to support financial safety through accurate and rapid detection technology. Vertical software in the automotive sector is moving toward a path that allows for both compliance with increasingly stringent regulatory standards for safe driving and software security and the adoption of new software technologies. Product engineering and design software, which supports the precise design of components and complete vehicles, provides accurate simulation capabilities to ensure compliance with product safety standards during the design phase and establishes collaborative systems to enhance design efficiency. The SDV platform's ability to verify compliance with software security standards for finished vehicles is becoming a key competitive advantage. Its importance is also being emphasized in building a collaborative ecosystem encompassing parts suppliers and software developers. Vertical software requires regulatory compliance, industry expertise, and functional specialization to address industry-specific challenges. Considering these characteristics, joint efforts between businesses and the government are crucial to strengthening domestic vertical software capabilities. Companies must recognize that vertical software can be a driving force for corporate growth and develop strategies that focus their products and technologies on meeting vertical software demand. The government needs to develop customized new software-based convergence services and module technologies tailored to each industry. Furthermore, fostering software safety and security experts who meet industry-specific regulatory requirements is crucial. Furthermore, developing guidelines and tools to lower barriers to entry for vertical software compliance is crucial.

목차 Table of Contents 정책·법제 ▹ OECD, AI가 한국 노동 시장에 미치는 영향 분석 ▹ 인도 전자정보기술부, ‘인도 AI 거버넌스 지침’ 발표 ▹ OECD, EU 회원국의 ‘AI 조정계획’ 시행 현황 분석 ▹ 영국 과학혁신기술부, ‘AI 성장구역’ 구축 방안 발표 기업·산업 ▹ 1X, 가정용 휴머노이드 로봇 ‘네오’ 예약 판매 개시 ▹ 퍼플렉시티, 특허 검색을 위한 ‘퍼플렉시티 특허’ 서비스 출시 ▹ 문샷 AI, 추론 특화 AI 모델 ‘키미 K2 씽킹’ 오픈소스로 공개 ▹ 오픈AI, 대화 기능 향상에 초점을 둔 ‘GPT-5.1’ 출시 ▹ 구글, 최첨단 추론 성능 갖춘 ‘제미나이 3’ 출시 ▹ xAI, 사용자 경험 강화에 중점을 둔 ‘그록 4.1’ 출시 ▹ 마이크로소프트, ‘MS 이그나이트 2025’에서 AI 업데이트 발표 기술·연구 ▹ 딥시크, 이미지 기반 문서를 10배 이상 압축하는 OCR 기술 개발 ▹ 앤스로픽, LLM의 내부 상태에 관한 자기 성찰 징후 확인 ▹ 마이크로소프트, AI 에이전트 시장 활동 시뮬레이션 플랫폼 개발 ▹ 메타, 1,600개 이상 언어를 지원하는 음성인식 시스템 공개 ▹ 업워크, 에이전트-인간 협업 생산성 평가 벤치마크 발표 인력·교육 ▹ 메타, AI 조직 ‘슈퍼 인텔리전스 랩스’에서 600명 해고 단행 ▹ AI 업계에서 신종 직무로 ‘현장 배치 엔지니어’ 부상 ▹ 주요 기업들, 생성 AI 도입 확대하며 AI 미활용자 퇴출 추진 ▹ 유데미 조사 결과, 주요국 근로자의 AI 인식과 준비도 간 격차 확인 주요행사일정

피지컬 AI(Physical AI) 시대, 어떻게 준비할 것인가? 피지컬 AI(Physical AI) 시대, 어떻게 준비할 것인가? 발표자료 [download id=23759] [download id=23760] [download id=23761] [download id=23762]

AI 기술은 증기기관, 전기, 인터넷과 같은 범용기술로서 산업과 사회 전반에 걸쳐 근본적 변화를 초래할 잠재력을 지니고 있다. 그러나 기술 그 자체만으로는 경제적 가치를 실현할 수 없으며, 실제 상품이나 서비스로 전환하는 사업화 과정이 필수적이다. 한편, AI와 같은 하이테크 분야에서는 높은 기술적 이해와 전문지식이 성공적 사업화의 핵심 요인이 된다. 실제로 대다수의 성공적 AI 스타트업은 석·박사급 고급 AI 인재가 기업가정신을 발휘하여 창업한 경우로 확인되고 있다. 이에 본고에서는 AI에 관한 전문지식과 기술을 바탕으로 기업가정신을 발휘하여 새로운 사업 기회를 추구하는 '기업가형 AI 인재' 육성의 필요성을 제기한다. 그동안 우리나라의 AI 인재 정책은 연구자 양성 및 고급 연구인력 확보, 그리고 산업기술인력 양성을 통한 노동수요 대응에 방점을 두고 추진돼 왔다. 여기에 더해, AI 인재 양성 정책의 지향점으로 혁신 및 신기술의 사업화를 통해 새로운 시장과 양질의 일자리를 창출하는 경제주체인 ‘기업가’로서의 경력 경로를 추가·반영할 필요가 있다. 고급 과학기술 인재를 대상으로 하는 기업가정신 관련 해외(EU, 미국, 중국) 및 국내 정책사례들은 공통적으로 고급 과학기술 인재가 혁신적 기술과 연구성과를 경제적·사회적 가치로 전환하는 ‘기업가’의 경력경로를 선택하도록 유도하는 것을 핵심 목표로 설정하였다. 이러한 목표 하에 스타트업 연수, 경진대회, 해외 단기연수, 산학 프로젝트, 특화 지원사업을 통한 창업 시도 등 실제적인 경험을 통해 기업가정신을 체득할 수 있도록 유도하고 있다. 일부 사례에서는 대학원 교육과정에 기업가정신 교육을 통합/내재화하여 자연스럽게 기업가정신을 함양하고 기업가적 역량을 개발할 수 있는 환경을 조성하였다. 특히 교육 관련 사례들에서는 정책 성과로서 고급 과학기술 인재의 창업이 아닌, 기업가적 역량 개발을 중시하고 있다. 결론적으로, 기업가형 AI 인재 육성 정책이 단순한 창업지원을 넘어 고급 AI 인재의 경력경로 확장 차원에서 설계되어야 한다. 또한 교육적 관점에만 국한하지 않고 기업가정신이 발휘될 수 있는 기술·산업 생태계 조성을 목표로 한 임무지향적 접근이 필요하다. 궁극적으로는 AI 기술 기반의 기업가적 활동이 경제성장을 주도하는 ‘기업가형 AI 국가 실현’을 범국가적 비전으로 설정하고, 이를 달성하기 위한 종합적 국가 전략을 기획·추진할 필요가 있다. 기업가형 AI 국가를 실현하는 데 있어 기업가형 AI 인재 육성은 핵심이자 출발점이라고 하겠다. Executive Summary Artificial Intelligence (AI), as a general-purpose technology akin to the steam engine, electricity, and the internet, holds the potential to bring fundamental changes across industry and society. However, technology itself cannot realize economic value; a commercialization process to translate it into tangible products or services is essential. In high-tech sectors such as AI, a deep technical understanding and professional expertise are critical factors for successful commercialization. In fact, most successful AI startups are founded by high-level AI talents, often with master's or doctoral degrees, who demonstrate strong entrepreneurship. This paper proposes the necessity of nurturing 'entrepreneurial AI talents'—individuals who leverage their specialized AI knowledge and skills to pursue new business opportunities. To date, Korea's AI talent policy has primarily focused on training researchers, securing high-level research personnel, and meeting industrial labor demands. We argue that this policy orientation must be expanded to include the 'entrepreneur' as a key career path—an economic agent who creates new markets and quality jobs through the commercialization of innovation and new technology. Analysis of foreign (EU, US, China) and domestic policy cases reveals a common goal: encouraging high-level science and technology talents to choose the 'entrepreneur' career path, thereby transforming innovative research into economic and social value. These policies promote the acquisition of entrepreneurship through practical experiences such as startup internships, competitions, short-term overseas training, industry-academia projects, and specialized support for new ventures. Several cases also foster this environment by integrating entrepreneurship education directly into graduate-level curricula. Notably, these education-focused policies emphasize the development of entrepreneurial capabilities as a key performance outcome, rather than narrowly focusing on the number of startups created. In conclusion, policy for nurturing entrepreneurial AI talents must be designed to expand the career paths of high-level AI talent, moving beyond simple startup support. Furthermore, a mission-oriented approach is required, focusing on creating an ecosystem that fosters entrepreneurship, rather than being limited to an educational perspective. Ultimately, this paper proposes establishing a national vision for 'realizing an entrepreneurial AI state,' where AI-based entrepreneurial activity drives economic growth. A comprehensive national strategy must be planned and executed to achieve this vision.

본 연구는 급변하는 디지털 기술 환경 속에서 불확실성이 높아지는 미래 대응의 복잡성을 완화하고, 약신호(weak signal) 중심의 조기 탐지 체계를 구축하기 위해 수행되었다. 금년도 SPRi DaRT 2026은 EU, WEF, UNDP, Gartner 등 주요 기관의 미래기술 보고서를 기반으로 후보 기술을 추출한 뒤, 예비조사(미래연구 전문가)와 본조사(기술 분야 전문가)로 구분된 델파이 조사를 통해 30대 미래 신호를 선정하였다. 전문가의 반복적 평가와 피드백 과정을 통해 신규성, 영향력, 구현 가능성을 검증하였으며, 이를 바탕으로 100개의 후보 기술 중 30개 핵심 기술이 최종 확정되었다. 분석 결과, 전년도 SPRi DaRT 2025 대비 총 16개의 신규 개념기술이 새롭게 등장하였으며, 이 중 약신호 기술군은 양자 인터넷, 분산 AI 얼라인먼트, 양자 감지, 부상신호 기술군은 양자 AI, 대규모 행동 모델, 범용 AI 로봇, 제로 트러스트 아키텍처, 뉴로모픽 컴퓨팅, 운영 체제로서의 LLM, AI 간 통신, 촉감 홀로그래피, AI 기반 무선 접속 네트워크, 추세신호 기술군은 에이전틱 AI, AI 칩, AI 기반 칩 설계, 추론용 칩으로 구성되었다. 예년과 동일하게 델파이 조사 결과는 시각화 과정을 거쳐, 기술 시그널(약신호·부상신호·추세신호)과 미래 실현 시기(단기·중기·장기)를 한눈에 보여주는 형태로 설계되었다. 이를 통해 기술 변화의 방향성, 불확실성, 영향력의 상대적 크기를 직관적으로 파악할 수 있도록 하였다. 또한, 본 연구는 델파이 조사 결과를 보완하기 위해 데이터 기반 기술 전이 분석을 병행하였다. 2007년부터 2025년까지의 arXiv 데이터를 기반으로 논문 제목을 Sentence-BERT로 임베딩하고, K-means 클러스터링(k=100)을 수행하여 기술 주제의 연도별 의미 구조를 도출하였다. 이후 연속된 연도 간 클러스터 중심 벡터의 코사인 유사도를 계산하여 기술 전이(transition) 를 정의하였으며, 이를 통해 기술군의 생성(birth), 합병(merge), 소멸(death)을 시계열적으로 추적하고 약신호–부상신호–추세신호로 이어지는 전이 구조를 정량화하였다. 나아가, 본 연구는 약신호–부상신호–추세신호의 단계형 분류를 적용하여 약신호의 전이 구조를 시계열적으로 설명하였으며, 6대 주요 약신호 유망기술에 대한 심층 문헌조사를 병행함으로써 기존 점수 중심 정량기법 대비 예측의 해석가능성과 정책적 실효성을 향상시켰다. 또한, 약신호 조기 탐지 및 전환 예측 체계를 통해 R&D 투자 우선순위 설정, 기술 조기경보, 산업 전략 수립 등 정책·산업적 활용 가능성의 토대를 마련하였다. Executive Summary This study was conducted to address the growing complexity and uncertainty of future responses in the rapidly evolving digital technology landscape and to establish an early-detection framework centered on weak signals. The 2026 SPRi DaRT (Dynamic Radar for Trends and Signals) was derived by integrating Delphi-based expert assessments with data-driven transition analysis, providing a quantitative and visual representation of technological change over time. The SPRi DaRT 2026 identified 30 future signals through a multi-stage Delphi process consisting of preliminary surveys with futures-studies experts and main surveys with domain specialists. Candidates were drawn from major institutional foresight reports (EU, WEF, UNDP, Gartner), and evaluated for novelty, impact, and feasibility. Among the 100 candidate technologies, 30 key signals were finalized through iterative feedback and consensus. Compared to SPRi DaRT 2025, a total of 16 new concept technologies emerged. Among them, weak-signal technologies included quantum internet, decentralized AI alignment, and quantum sensing; emerging signals included quantum AI, large action models (LAMs), general-purpose AI robots, zero trust architecture, neuromorphic computing, LLMs as operating systems, AI-to-AI communication, haptic holography, and AI-radio access network (AI-RAN); and trend signals included agentic AI, AI chips, AI-assisted chip design, and chips for inference. To complement the Delphi findings, a data-driven transition analysis was performed using arXiv papers from 2007 to 2025. Paper titles were embedded via Sentence-BERT and clustered with K-means (k = 100), and cosine similarities between cluster centroids across years were used to trace technological birth, merging, and disappearance events. This approach quantified sequential flows from weak to emerging to trend signals, capturing the semantic continuity of technological evolution. Moreover, the three-stage signal classification—from weak to emerging to trend signals—enabled a dynamic interpretation of transition patterns over time. For six key weak-signal technologies, quantitative findings were supplemented with in-depth literature analysis, enhancing both the interpretability and policy relevance of the results beyond traditional score-based forecasting methods. This research establishes a foundation for early detection and transition prediction of weak signals, supporting strategic R&D investment prioritization, emerging-technology early-warning systems, and evidence-based industrial policy design.

본 보고서는 소프트웨어 정의 차량(SDV)과 자율주행 기술 확산에 따라, 자동차 안전의 중심이 기계적 하드웨어에서 소프트웨어 및 데이터로 급격히 이동하고 있다는 점에 주목한다. 특히 자율주행 및 첨단 운전자 보조 시스템(ADAS)의 상용화가 가속화되면서 전통적인 소프트웨어 기능안전 영역의 확대·재편성되고 있음을 확인한다. 연구는 대표적 자율주행 보조 시스템인 테슬라 오토파일럿(Autopilot) 을 핵심 사례로 삼아, 2019년 플로리다주의 정지 차량 충돌 사고와 이에 대한 2025년 플로리다 남부연방지방법원의 손해배상 판결(Barrett v. Tesla, Inc., Case No. 1:21-cv-21940-BB)을 분석하였다. 사고 당시 차량은 오토파일럿 모드로 주행 중이었으나 정지 차량을 인식하지 못했고, 자동긴급제동(AEB)이 작동하지 못한 상태에서 운전자의 부주의가 겹치며 제3자 보행자 사망 및 중상 피해가 발생하였다. 배심원단은 운전자 과실 67%, 테슬라 과실 33%를 인정하는 한편, 사고 데이터 미제출·은폐 의혹, 과장된 마케팅 등을 근거로 2억 달러의 징벌적 손해배상을 추가로 부과하였다. 이는 SAE 기준상 레벨 2(운전자 보조) 시스템에 대해서도 제조사가 예측 가능한 오사용 방지 의무와 정보 제공·데이터 투명성 의무 부담을 명시적으로 확인한 첫 사례라는 점에서 의미가 크다. 보고서는 오토파일럿 사고의 쟁점을 ISO 26262(기능안전), ISO 21448(SOTIF), ISO/PAS 8800(AI 안전) 등 국제 표준의 관점에서 해석한다. ISO 26262는 E/E 시스템 고장(Fault)을 전제로 안전무결성을 관리하는 반면, SOTIF는 센서 인식 한계·환경적 모호성·사용자 오용 등 결함 없는 상태에서도 발생하는 위험을 다루며, ISO/PAS 8800은 AI·ML 기반 알고리즘의 데이터 품질·모델 불확실성을 포괄하는 안전 프레임워크를 제시한다. 아울러 보고서는 UNECE R157(ALKS), R171(DCAS) 등 국제 규정도 함께 검토하였다. 결론적으로, 테슬라 오토파일럿 판결은 소프트웨어 안전이 더 이상 기술 내부의 “품질 이슈”가 아니라, 제조물 책임·징벌적 손해배상·데이터 투명성·AI 안전을 아우르는 종합적 리스크 관리 대상임을 보여준다. 생명·신체와 직결된 산업 전반에서 디지털 전환이 가속화될 때 최소 공통 SW 안전 요구사항으로서 「소프트웨어 안전에 관한 고시」와 같은 지침을 참고해야 할 것이며 나아가 Safety-Security 연계하는 ‘디지털 안전’ 차원의 거버넌스 검토 등을 시사점으로 제시한다. Executive Summary This report examines how the transition toward Software-Defined Vehicles (SDVs) and the growing adoption of autonomous driving and ADAS technologies are shifting automotive safety requirements from hardware-centered control to software- and data-driven risk management. As these systems expand in scope and complexity, software functional safety is being reorganized to address perception limits, human misuse, algorithmic uncertainty, and system-level interactions. The study analyzes Tesla’s Autopilot as a representative Level 2 driver-assistance system, focusing on the 2019 rear-end collision in Florida and the subsequent 2025 verdict by the U.S. District Court for the Southern District of Florida (Barrett v. Tesla, Inc., Case No. 1:21-cv-21940-BB). The Autopilot system failed to detect a stationary vehicle and the AEB did not activate, while the driver was momentarily inattentive, resulting in the death and injury of third-party pedestrians. The jury assigned 67% negligence to the driver and 33% to Tesla, and imposed punitive damages due to concerns regarding withheld crash data and misleading marketing. This case is significant as one of the first to affirm that even SAE Level 2 systems impose obligations on manufacturers regarding foreseeable misuse, adequate warnings, and operational transparency. The report interprets the case findings through international standards including ISO 26262 (Functional Safety), ISO 21448 (SOTIF), and ISO/PAS 8800 (AI Safety). ISO 26262 focuses on E/E system faults, SOTIF addresses risks that arise from functional insufficiencies without faults, and ISO/PAS 8800 extends safety management to AI/ML-based perception and decision models. The analysis also references relevant global regulations such as UNECE R157 (ALKS) and R171 (DCAS). Overall, the Autopilot verdict highlights that software safety has become a legal and regulatory issue linked to product liability, punitive damages, data transparency, and AI governance. As digital transformation accelerates in safety-critical sectors, it is essential to establish baseline software safety requirements?such as Korea’s “Guidelines for Assuring Software Safety” and to advance integrated Safety-Security governance frameworks that support emerging digital risks.

AI, ON! : 인재로 여는 미래 AI, ON! : 인재로 여는 미래 발표자료 [download id=23745] [download id=23746] [download id=23747]

• 행사명 : 2026 SW 산업전망 컨퍼런스


• 주제 : 인공지능, 소프트웨어 그리고 대전환!


• 일시 : 2025.12. 2.(화) / 12:00 ~ 17:30

목차 Table of Contents 정책·법제 ▹ 이탈리아, EU 회원국 중 최초로 AI 법 발효 ▹ OECD, 공공과 민간 부문의 AI 투자 측정 방법론 제시 ▹ EU 집행위원회, EU를 AI 대륙으로 만들기 위한 ‘AI 적용’ 전략 발표 ▹ 두바이 정부, 디지털 혁신 가속화를 위한 신규 AI 프로젝트 승인 ▹ 중국인터넷정보센터, 2025년 생성 AI 응용 발전 보고서 발표 ▹ 영국 과학혁신기술부, AI 혁신 촉진을 위한 규제 샌드박스 추진 기업·산업 ▹ 오픈AI, 차세대 동영상 생성 모델 ‘소라 2’ 출시 ▹ 앤스로픽, ‘클로드 소네트 4.5’와 ‘클로드 하이쿠 4.5’ 출시 ▹ 오픈AI, 챗GPT에 외부 앱 실행 기능 추가 ▹ 피규어 AI, 3세대 휴머노이드 로봇 ‘피규어 03’ 공개 ▹ AWS, 기업용 에이전트 서비스 ‘퀵 스위트’ 출시 ▹ 세일즈포스, 기업용 AI 에이전트 플랫폼 ‘에이전트포스 360’ 발표 ▹ 구글, 최신 동영상 생성 AI 모델 ‘비오 3.1’ 공개 ▹ 오픈AI, AI 내장 브라우저 ‘챗GPT 아틀라스’ 출시 ▹ 포레스터, 2026년에는 기업들이 AI 열풍을 벗어나 실용적 가치 추구 전망 기술·연구 ▹ 구글 딥마인드, 로봇용 AI 모델 ‘제미나이 로보틱스’ 1.5 발표 ▹ 사카나AI, 알고리즘 진화 프레임워크 ‘ShinkaEvolve’ 공개 ▹ 앤스로픽, AI 모델 안전성 평가 자동화 도구 ‘페트리’ 공개 ▹ 구글, 세포 분석을 위한 AI 모델 ‘C2S-스케일 27B’ 개발 인력·교육 ▹ 딜로이트, M&A에서 생성 AI 활용 현황 보고서 발표 ▹ 국제노동조합총연맹, AI가 노동조합에 미치는 영향 분석 주요행사일정

e-book 보기 포럼 FORUM 2025년 제62회 SPRi 포럼 – AI, ON! : 인재로 여는 미래 포토에세이 PHOTO ESSAY 중간-이호준 포커스 FOCUS AI가 바꾸는 창업, 디지털 기업가정신의 미래 유통 진화 이론으로 본 미래 커머스 전망: 산업혁명과 혁신에 따른 유통 트렌드 독자 AI 생태계를 어떻게 마련할 것인가?: 이재명 정부의 인공지능 정책에 대한 제언

최근 산업의 고유한 문제를 해결하기 위한 소프트웨어인 산업특화 소프트웨어 시장이 빠르게 성장하고 있다. 2011년부터 2020년까지 10년 간 1.4배 성장하는데 그쳤으나, 2021년 이후 5년 사이 2.3배나 성장했다. 산업특화 소프트웨어의 시장 성장 동인을 (1)공급, (2)수요, (3)기술로 구분하여 2020년을 기점으로 어떤 변화가 있었는지 살펴보면 다음과 같다. 첫째, 시장 공급 관점에서 과거의 산업특화 소프트웨어 기업은 산업별로 명확히 구분되어 소프트웨어 기업의 타산업 진출 및 성장을 제한했다. 하지만 빅테크 기업을 중심으로 산업특화 클라우드 플랫폼(Vertical PaaS)을 제공하면서 클라우드 기반의 산업특화 소프트웨어(Vertical SaaS)를 제공하는 기업이 증가했고 산업간 경계가 희미해졌으며, 중소기업의 산업특화 소프트웨어 사용을 촉발하고 있다. 둘째, 시장 수요 관점에서 과거의 산업특화 소프트웨어는 대기업의 일부 부서에서 특정 문제를 해결하기 위한 보완적 도구로 활용된 반면, 소프트웨어 중심의 산업 패러다임(Software Defined X)이 전 산업으로 확장되면서 점차 기업의 경쟁력을 좌우하는 핵심 경쟁 무기로 탈바꿈하고 있다. 셋째, 기술 관점에서 그동안의 산업특화 소프트웨어는 특정 기업이 오랜 기간 시장을 독과점하면서 신규 사업자의 진입을 저해하고 기술 혁신을 위축시켜왔다. 하지만 2020년 이후 산업별 데이터를 학습하여 산업고유의 난제를 해결하는 AI 기반의 산업특화 소프트웨어 기업이 등장하면서 경쟁 환경이 역동적으로 변화하고 가치 혁신이 활발히 이뤄지고 있다. 다양한 환경에서 상이한 용도로 활용되는 산업특화 소프트웨어 사례를 분석하여 산업 경쟁력 강화의 원동력인 산업특화 소프트웨어 활성화를 위해 다음과 같은 정책적 제언을 도출했다./p> 우선, 대-중소기업의 산업특화 소프트웨어 활용 수준을 높이기 위해 산업특화 클라우드 활성화가 필요하다. 이를 위해 산업별 데이터 및 클라우드 플랫폼 구축, 클라우드 도입을 저해하는 제도의 개선, 중소기업 기업의 클라우드 활용 지원 정책 등을 고려해볼 수 있다. 또한 AI 기반의 산업특화 소프트웨어 개발을 촉진해야 한다. 이와 관련하여, 산업특화 AI 스타트업 육성 지원, AI 컴퓨팅 인프라의 운영관리에 필요한 기반 소프트웨어 기술력 제고, AI 기술력을 다양한 산업특화 소프트웨어 개발로 연결하기 위한 부처 간 긴밀한 협력 등이 필요하다. 끝으로 협력적 소프트웨어 혁신을 통해 산업 경쟁력을 높일 수 있는 기회를 제공해아 한다. 다수의 산업특화 소프트웨어에 탑재되는 공통 모듈의 통합 개발, 동종업계의 기업이 협력하여 산업특화 소프트웨어를 함께 개발하는 오픈소스 프로젝트 운영 등을 고려해볼 수 있다.

목차 Table of Contents 정책·법제 ▹ 중국 국무원, ‘AI 플러스’ 심화 추진을 위한 정책 로드맵 발표 ▹ 대만 행정원, AI 기본법 통과 후 입법원에 제출 ▹ 영국 과학혁신기술부, 2024년 영국 AI 산업 현황 분석 보고서 발간 ▹ 미국 캘리포니아주 의회, 미국 최초로 미성년자 보호를 위한 AI 챗봇 규제 통과 ▹ 중국 국가인터넷정보판공실, AI 안전 거버넌스 프레임워크 2.0 버전 발표 6 기업·산업 ▹ 구글, 이미지 편집 모델 ‘제미나이 2.5 플래시 이미지’ 공개 ▹ xAI, 에이전트 코딩 특화 AI 모델 ‘그록 코드 패스트 1’ 공개 ▹ 청소년 자살로 피소된 오픈AI, 챗GPT 안전성 개선 방안 발표 ▹ 앤스로픽, AI 저작권 침해 소송에서 작가들에 15억 달러 배상 합의 ▹ 딥엘, 기업용 AI 에이전트 ‘딥엘 에이전트’ 발표 ▹ ∙ 알리바바, 훈련과 추론 효율성 높인 ‘Qwen3-Next’ 신규 모델 공개 ▹ 구글, AI 기반 결제 지원 ‘에이전트 결제 프로토콜(AP2)’ 발표 ▹ 오픈AI, GPT-5 기반 ‘코덱스’ 업그레이드 발표 기술·연구 ▹ 세일즈포스, 실제 사용 환경에서 LLM 성능 검증을 위한 벤치마크 개발 ▹ 텐센트, 스스로 진화하는 추론 LLM 학습 프레임워크 ‘R-Zero’ 개발 ▹ MBZUAI와 G42, 추론 AI 모델 ‘K2 Think’ 오픈소스 공개 ▹ 취리히연방공과⼤, 다국어 언어모델 ‘아페르투스’ 오픈소스 공개 ▹ 구글, 과학적 발견을 위한 실증 소프트웨어 생성 AI 시스템 개발 인력·교육 ▹ 마이크로소프트, 교육 분야의 AI 활용 현황 보고서 발간 ▹ 스탠포드⼤ 연구 결과, AI 노출도 높은 직종의 신입 근로자 고용 감소 ▹ 구글 클라우드, 2025년 AI 투자수익률 보고서 발표 주요행사일정

AI, ON! : 인재로 여는 미래 AI, ON! : 인재로 여는 미래 발표자료 [download id=23732] [download id=23733] [download id=23734]

e-book 보기 이슈 ISSUE 국내 기업 · 대학의 디지털 해외 인재 고용 및 취업 현황 분석 피지컬 AI의 현황과 시사점 포토에세이 PHOTO ESSAY 중간-이호준 포커스 FOCUS 클라우드와 엣지 시대의 AI 반도체 혁신과 지속가능성 2. 디지털에서 AI로, 다시 살펴볼 보완점