피지컬AI 분야 주요 규제 동향 및 제언: 미국·EU·중국 중심

1.1 행정명령 제14365호

AI에 대한 최초의 전국 단위 규제법안은 2023년 바이든 정부시기 최초 발의된 행정명령 제14110호(EO 14365)이다. 이 행정명령의 주요 목표는 안전하고 신뢰할 수 있는 AI 개발에 초점을 맞추었으며, 특히 AI가 야기하는 잠재적 위험에 대한 선제적 예방 및 국가 안보를 중점적으로 강조하였다[3]. 그러나 2025년 트럼프 행정부에서는 해당 행정명령의 AI 분야에서 미국의 패권 유지를 위한 혁신역량 강화와 기술 주도권을 더 강조하며 이와 반대되는 내용의 요소들을 대폭 수정하거나 폐기하여 2025년 12월 EO 14179를 발의하였다[5].

이후 미국은 피지컬AI에 대한 단일 규제는 존재하지 않은 상황이었기 때문에 트럼프 정부는 EO 14365를 바탕으로 개정된 후술할 NIST RMF를 산업 표준 벤치마크로 권장하고 있다[4]. 더 나아가, 신속한 규제 프레임워크 통합을 위하여 미국 정부는 연방 내 주(州)의 과도한 AI 규제(알고리즘 차별, 투명성 의무 등)에 대해서 소송을 제기하거나 연방자금을 제한하는 등의 방식으로 패치워크 방식의 AI 규제를 통합하고자 시도하고 있다[6,7].

EO 14365에 포함된 대표적인 규제 요소의 변화는 다음과 같다. 우선 16개 핵심 인프라에 대한 보안 지침 및 AI 모델의 물리적 보안 보고 의무가 폐지 또는 일부 완화되었으며, AI 위험관리 프레임워크에 포함된 사회적 가치를 삭제하고 이념편향 없는 진실 추구를 강조하도록 바뀌었다. 또한, 자율주행, 무인항공 시스템에서도 기존 시스템과의 신중한 통합을 강조하던 기존의 행정명령과 달리, 트럼프 정부는 로보택시 조기 배치, 비가시권비행(BVLOS) 상시 허용 규칙을 제정하는 등 피지컬AI 혁신의 규제 장벽을 낮추는 데 집중하고 있다[8,9] 다만, 아동, 안전, 인프라, 정부조달 등의 일부 분야는 예외 사항으로 명시하며 안전의 가치를 중요하게 다루고 있다. 또 다른 주목할만한 부분은 해당 행정명령이 주(州) 간 상거래를 저해하는 주 정부의 규제를 무력화하고 수출 제안서에 품목의 자국 내 생산 비중을 표기를 의무화하는 내용이 추가되었다[10]. 즉, 미국 내 기업 간의 상거래를 촉진하는 동시에 미국산 제품 수출에 대한 혜택을 제공함으로써 공격적인 자국 AI 산업 보호를 실시하고 있다.

1.2 Humanoid ROBOT Acts(S.3275)

Humanoid ROBOT Acts(이하 휴머노이드 법)는 2025년 11월 발의된 법안으로 휴머노이드 로보틱스 분야에 대한 미국의 글로벌 안보를 유지하는 것을 주된 목적으로 갖는다[11,12]. 본 법안은 트럼프 정부의 AI‧로보틱스 정책 연장선에서 휴머노이드 로봇 분야에서 중국의 추격을 방어하고자 하는 목적이 뚜렷하게 드러난다[13].

휴머노이드 법의 주요 내용은 미국 정부와 계약을 맺은 모든 기업은 ‘위험국가’(중국, 러시아, 이란, 북한 등)에서 설계, 제조, 평가된 AI 탑재 휴머노이드 로봇뿐만 아니라 구매하거나 사용하는 것을 전면 금지하고 있다[11]. 또한, 휴머노이드 로봇에 대한 외국인투자심사(CFIUS)를 강화하여 비통제 투자 사항에도 필수신고 의무를 부여함으로써 자국 내 유관 기업의 휴머노이드 로봇의 공급망을 원천적으로 통제하려 시도하고 있다[11].

그러나, 휴머노이드 법은 휴머노이드 로봇은 AI, 인간형, 언어 상호작용의 3요소를 만족하는 로봇으로 협소하게 정의함으로써 본 법에서 제시하는 규제가 로봇 전 분야에 대한 지나친 공급망 통제를 발생시킬 수 있는 부작용을 고려하였다[14].

1.3 NIST AI Risk Management Framework (AI RMF)

NIST의 AI-RMF는 2023년 1월에 발표된 자발적 AI 위험관리 프레임워크로, 현재 전 세계에서 가장 널리 참조되고 있다. 자발적 성격을 갖는 별도의 프레임워크이기 때문에 미준수에 대한 불이익은 없으나, 준수 시 법적 면책 효과¹⁾를 발휘한다. AI-RMF 내에 별도의 피지컬AI 규제는 존재하지 않으나, 여기에서 정의하는 AI시스템의 정의에 포함되어 포괄적으로 다뤄진다. AI-RMF는 다음과 같은 4개의 기능을 AI시스템에 반드시 포함할 것을 권고한다[15].

• 거버넌스: 조직 내에 AI 위험관리 문화를 정착시키고, 물리적 안전과 관련된 책임 구조를 명확히 해야 한다. 특히 시스템 오작동 시의 비상 정지(Kill-Switch) 권한과 인적 개입(Human-in-the-Loop) 절차를 수립해야 한다.

• 매핑: 시스템이 작동할 물리적 환경, 인간, 인프라와의 관계를 분석하여 맥락을 파악해야 한다.

• 측정: AI시스템의 성능, 신뢰성, 견고성을 정량적, 정성적으로 평가해야 한다.

• 관리: 우선순위가 결정된 위험에 대해 완화 조치를 시행해야 한다. 고위험군에 대해서는 시스템을 근본적으로 수정하거나 추가적인 보호 장치를 설치하여 위험 전가(보험)나 수용 여부를 결정해야 한다.

또한, AI-RMF는 AI가 적용된 시스템에서 발생 가능한 위험을 물리적 안전, SPA²⁾-오류, 환경 변화 및 엣지 케이스(Edge Case)로 분류하고 있다. 물리적 안전은 시스템 오작동으로 인한 인명과 재산의 피해와 관련되어 있으며, SPA 오류는 하나의 오류가 전체 시스템으로 전파되어 발생하는 치명적 위험을 다룬다. 그리고 환경적 변수 및 엣지 케이스는 가상환경에서 예상하기 어려운 실세계의 돌발적인 맥락에 대한 적응력과 관련되어 있다.

AI-RMF는 2023년 처음 신설된 이후 트럼프 정부에 들어서 사회적 가치보다 객관성과 진실성을 바탕으로 이념적 요소 제거(Agenda Free)에 집중하며 규제보다 규제 완화의 도구로써 성격이 강해졌다[16].

2.1 NHTSA SELF DRIVE Act of 2026 (자동차)

2026년 2월 발의된 Self Drive Act of 2026(H.R. 7390)은 기존의 연방 자동차 안전법(49 U.S.C chapter 301)을 수정하여 규제 권한과 절차를 재설계하고 있다. H.R. 7390에서 내세우고 있는 규제에 대한 큰 틀은 자율주행 자동차에 대한 ‘설계-성능-안전’은 중앙정부가, 도로 위에서의 ‘실제 운영’에 관련된 부분은 주 정부가 담당한다는 것이다[17,18].

기존의 자율주행자동차에 대한 안전규제는 대체로 안전 요소에 대한 체크리스트 형태를 나타낸 것과 달리, 본 법안은 ‘안전사례(Safety Case)’ 제출의 의무화를 통해 안전규제를 강화했다는 특징이 있다. ‘안전사례’는 단순 테스트 통과 여부를 넘어 자사의 자율주행 시스템의 안전성에 대한 구조화된 논증과 실제 증거를 의미한다. 이와 반대로 H.R. 7390은 기존의 연방 자동차 안전 표준(FMVSS)에서 규제하고 있는 수동 제어기 장착 의무를 삭제하였으며 무인 배송 로봇을 자동차의 범주로 포함하여 피지컬 AI 상용화를 위한 기반을 제공하고자 하는 등 혁신과 산업 촉진을 위한 내용도 포함되어 있다[17].

주목할만한 점은 자율주행 이동체에 대한 주 정부별 독자적 안전기준 수립을 제한하는 동시에 자율주행 이동체의 모든 사고 데이터를 NHTSA로 통합하여 시스템 안전에 대한 미 정부의 주도권 강화를 도모하고 있다는 점이다[19].

2.2 OSHA Technical Manual(OTM)(로봇)

OSHA Technical Manual(OTM)은 미국 산업안전보건청의 감독관들이 현장 안전 점검 시 사용하는 기술 지침서로 로봇에 대한 안전 가이드라인이 명시되어 있다[20]. OTM은 법적 권한을 가진 규제의 범주에 속하지 않으며 강제력도 없지만, 실제 현장에서 산업용 로봇과 관련된 위험 분류-보호 대책을 관리하는 데 주요 기준으로 사용되어 사실상의 산업용 로봇 안전관리 기준 역할을 수행한다. 이는 현재 로봇에 대한 공식적 표준안전규제가 없는 상황에서 안전관리에 대한 집행을 OTM 중심으로 수행하고 있기 때문일 것으로 추정된다[21].

OTM은 법률적 영역에서 로봇 안전을 다루지 않고 매우 구체적인 기술적 수준에서 안전에 대한 기준 및 관리방안을 제공한다[20,22]. 기본적으로 로봇에 대한 위험 사정(Assessment)이 우선되며 위험의 형태와 원인에 따른 대처방안이 제공된다[22].

2.3 FAA Part 108(무인항공기)

2026년 3월 최종안 확정을 앞둔 Part 108은 드론 산업의 근본적 변화를 가져올 것으로 추측되고 있다. 해당 법안의 핵심적인 내용은 비가시권비행(BVLOS)을 전면 허용함으로써 사실상 무인비행체의 자율적 운행을 법적으로 공식 승인하는 것이다. Part 103에서는 인간 파일럿의 역할이 축소되어 AI 시스템에 대한 감독으로 대체될 수 있게 변화하였으며 한 명의 인간이 여러 대의 비행체를 통제하는 것도 허용한다[23].

그러나 무인비행체에 대한 전면적 허용과 동시에 안전에 대한 규제 수준을 강화했다. 우선, 과거 소형 드론이 기체 인증에 관대했던 것과 달리 자율성을 가진 무인비행체는 규제 기준이 대폭 상향되었다[24]. 또한, NHTSA와 유사하게 안전 사례 제출을 의무화하며 AI 하드웨어보다 알고리즘에 대한 안전을 우선시하겠다는 의지가 나타난다[25].

3.1 SB 205(콜로라도)

SB 205는 의료용 진단 로봇, 자율주행 배송로봇 등 사람과 직접적 상호작용을 하는 고위험 AI에서 발생하는 알고리즘 차별성을 규제한다[26]. 이를 위해서 인간에게 영향을 미치는 AI시스템을 운영하는 기업은 해당 시스템으로부터 도출되는 판단이 특정 방향으로 편향되지 않았음을 증명할 의무가 있다[27].

3.2 SB 149(유타)

유타주의 SB149는 미국 최초의 생성형 AI의 투명성에 대한 최초의 규제 법이다. 본 법은 AI를 탑재한 기기나 시스템이 독자적인 자율적 주체(Autonomous Agent)로 인정되는 것을 원천적으로 차단하는 데 목적이 있다[28]. 즉, 모든 AI시스템은 사용자에게 AI 시스템 여부를 명확하게 밝힐 의무가 부여된다.

3.3 TRAIGA(텍사스)

TRAIGA는 AI시스템이 물리 세계에 영향을 미칠 수 있는 행위를 할 수 있다는 점에서 이에 대한 소비자 고지, 차별 금지, 조작적 사용 제한, 주 정부의 AI 사용 점검 권한을 고지하였다[29]. 특히, AI의 인지활동(Sense)에서 데이터 수집에 사전고지 의무를 부과하여 사용자의 정보 보호를 강조하고 있다.

1.1 인공지능법(AI Act 2024/1689)

2024년 8월 시행된 대표적인 AI 관련 법인 AI Act는 EU 지역 내 강제성을 갖는 법률 중 가장 포괄적인 내용을 포함한다.

인공지능 법은 AI가 기계‧로봇‧차량‧드론 등 제품에 내장되어 제3자 적합성 평가를 받아야 하는 경우, 해당 AI시스템을 고위험군(High Risk Group)으로 분류한다[30]. 그러나 이외에도 제3자 적합성 평가가 면제된 경우에도 부속서3(Annex Ⅲ)에 명시된 ‘독립적 고위험군’은 제품안전법령과 무관하게 해당 제품의 본질적 용도에 의해 고위험군으로 분류된다[31]. 여기에는 교통시스템, 사회인프라(수도, 전기 등) 등과 같은 사회 기반도 해당한다.

앞서 정의한 고위험군에 속하는 모든 시스템은 의무적으로 표 1과 같은 7가지 절차를 만족해야 하며, 그렇지 못한 경우에는 해당 기업의 시장 퇴출 및 시정조치 등 강력한 제재를 받게 된다. 이러한 공급자 책임 중심의 맥락은 사후 조치에 대해서도 강력하게 제약되는데, 만약 위 절차를 거치지 않고 상용화된 제품에서 사고가 발생한 경우, 사고의 원인이 제품의 결함이라고 추정하는 것이 원칙이며, 피해자의 결함 증명의 책임도 공급자로 전환할 수 있음을 명시하고 있다[32].

1.2 신 기계류 규제(Machinery Regulation 2023/1230)

기존의 기계류 규제(2006/42/EC)를 대체하여 2027년부터 새롭게 적용되는 신규 규제로써 피지컬AI에 대한 잠재적 위험에 대응하기 위해 만들어진 결과물이다[33]. 본 규제에는 기존의 기계류 규제가 담고 있지 못한 소프트웨어, 알고리즘 등에 대한 안전성과 무결성이 추가되었으며 인간과 로봇이 협업하는 환경을 가정하고 개발되었다.

새로운 기계류 규제에 가장 중요한 부분은 소프트웨어를 안전구성요소에 명시적으로 포함한 것이다. 이러한 변화는 소프트웨어적 통제가 기계에 대한 물리적 통제와 동일한 수준의 위상을 가지게 됨을 의미한다[34]. 여기서의 소프트웨어는 전통적 의미의 컴퓨터 프로그램뿐만 아니라 AI추론모델, 강화학습 등을 모두 포함하기 때문에 사실상 피지컬AI에 대한 가장 직접적이고 강력한 규제로 볼 수 있다.

1.3 사이버 복원력 법(Cyber Resilience Act 2024/2847)

2024년 발효된 사이버 복원력 법(CRA)은 연결할 수 있는 모든 제품에 대해 부여하는 사이버보안 규칙을 담고 있다. 기존의 일부 필수요소에 한정되는 NIS2 지침, Cybersecurity Act와 같은 인증체계와 달리 모든 범위의 제품에 대한 전 생애주기(설계, 생산, 유지보수 등)에 대해서 포괄적으로 사이버 보안을 강제한다[35]. CRA는 AI Act, 기계류 규제와 함께 동시 준수해야 하는 피지컬AI 시스템에 대한 3대 핵심 규제로 동작한다. 현재 EU지역에 대한 CRA의 전면적 적용은 2027년 12월로 예정되어 있으며, 그 이전에 출시된 제품들은 ‘중대 변경(Substantial Modification)’ 시에만 적용되도록 규정하였다[36].

CRA는 로봇, 무인기, 공장 내 기계, 웨어러블 기기, 스마트 홈 기기, 가전 등 통신으로 연결되는 대부분의 제품을 포괄하고 있으나 일부 별도 법률을 적용받는 의료기기, 자동차, 항공기, 국방, 오픈소스 SW 등은 제외된다.

CRA 적용 대상에 해당하는 제품들에 대해서는 제품 속성과 취약점 처리 프로세스 영역에 대한 핵심 요구사항을 지정하고 제품을 3단계³⁾로 분리하여 적합성 평가기준을 차등 적용한다. 또한, AI Act, 기계류 규제와 유사하게 공급자 중심으로 안전규제 준수 및 사후대처에 대한 높은 수준의 의무가 부과되며 위반 시 최대 총매출의 2.5%를 벌금으로 부과한다.

2.1 제품 책임 지침(Product Liability Directive 2024/2853)

제품 책임 지침은 1985년 발효된 이후 40년 만에 전면 개정되었는데, 주요 개정 내용은 소프트웨어를 포함하여 AI시스템, 디지털 파일, 작동에 필수적인 관련 서비스를 모두 제품의 범주에 포함시키는 것이다. 이러한 변화로 인하여 과거에 공급자가 하드웨어 결함에 대한 책임을 지던 것과 달리, 소프트웨어나 알고리즘의 오류도 모두 제조물에 대한 책임을 지게 되었다[37].

본 규제에 따르면 AI Act, 기계류 규제, CRA를 준수하지 않은 상태에서 기계가 초기에 설정된 안전 범위를 벗어나는 동작을 수행하는 경우에는 사고가 발생하지 않더라도 이를 기계의 중대 변경으로 간주하여 해당 변경을 수행한 운영자, 기업, 제조사 등이 모든 법적 책임을 지게 된다[38]. 즉, 신 기계류 규제는 피지컬AI 분야에서 공급자의 자율적 위험관리 역량을 매우 높은 수준으로 강제하고 있다.

2.2 일반 제품안전규제(General Product Safety Regulation 2023/988)

GPSR은 EU의 2024년부터 소비자용 제품 안전에 적용되어 온 포괄적 규정이다. GPSR은 AI에 대해서 직접적으로 규정하고 있지 않으나 일반 소비자들이 사용하는 대부분의 제품이 본 규제의 대상에 포함되기 때문에 사실상 상업화된 제품이 준수해야 할 기본 안전망을 제시하고 있다[39]. 즉, AI Act, 기계류 규제 또는 분야별 특별법이 다루지 못하는 제품군을 포괄적으로 다룸으로써 안전 사각지대를 최소화하는 것이다.

피지컬AI 관점에서 가장 중요한 부분은 개정된 GPSR이 제품의 안정성을 판단할 때 기능 변화, 사이버 보안, 연결성을 포함한다는 점이다. 이는 제품의 안전기준을 기계적 요소에서 확장하여 제품이 동작하기 위한 모든 무형의 요소(소프트웨어, AI, 클라우드 등)로 확장했다는 것이다. 또 다른 중요 지점은 GPSR의 범위가 앞서 제시한 AI Act, 기계류 규제, CRA와 마찬가지로 제품의 판매 이후에도 적용된다는 점이다. 즉, 제품 사용 과정에서 발생할 수 있는 잠재적인 위험에 대해서도 공급자가 능동적으로 예측하고 대처할 의무가 부과되는 것이다.

2.3 CEN/CENELEC JTC 21 표준

CENELEC JTC 21은 EU의 AI Act의 실질적 이행을 위한 조화표준⁴⁾(Harmonized Standard)을 개발하는 핵심 기구이다. JTC 21은 유럽위원회(Europe Committee)의 요구를 수렴하여 고위험 AI시스템에 대한 세부적 기술표준을 제정하였다. JTC 21 표준은 기본적으로 제품에 대한 인증(CE)을 획득하기 위한 기본 요건으로 작용하고 있으며, 인간의 안전에 직접적 위험을 초래할 수 있는 기계류에 대해서는 기계류 규정의 준수를 위한 이행 요건(사후 면책, 적합성 평가 등)으로도 작동한다[40,41].

JTC 21 표준은 수평적 표준으로 모든 AI시스템에 동일하게 적용되나, 피지컬AI 영역에서는 강건성, 위험관리, 사이버보안이 핵심적인 표준으로 고려될 수 있다. 피지컬AI 영역에서 주요 표준과 그 내용은 표 2와 같이 정리할 수 있다.

1.1 인형로봇 및 구신지능 표준체계(人形机器人与具身智能标准体系, HEIS)

중국 공업정보화부(MIIT) 기술위원회에서 2026년 발효한 ‘인형로봇 및 구신지능 표준체계(HEIS)’는 휴머노이드 로봇에 대한 포괄적인 안전‧윤리 표준을 제공한다. 이는 피지컬AI 분야에 대한 중국 내 최고 수준의 국가 공통 표준으로 로봇의 양산, 상용화, 국제표준 주도를 목표로 하고 있다[42]. 피지컬AI, 특히 휴머노이드 로봇에 대한 표준에 집중하는 이유는 뚜렷한 규제가 없는 상황에서 휴머노이드 로봇의 상용화가 급격하게 이루어지고 있기 때문으로 추측되고 있다[43].

해당 프레임워크는 표준이자 동시에 피지컬AI 분야의 통제 장치로써 활용된다. 해당 표준은 6대 구성요소를 포함하고 있다. 6대 구성요소는 ① 기초공통, ② 두뇌, ③ 로봇몸체/부품, ④ 완제품/시스템, ⑤ 어플리케이션, ⑥ 안전/윤리로 구성하고 있다. 각 구성요소의 세부적 내용은 표 3과 같다.

HEIS는 표면적으로 강제성을 띠고 있지 않지만 중국의 피지컬AI 분야 핵심 정책인 ‘15차 5개년 계획(国民经济和社会发展第十五个五年规划纲要)’에 HEIS의 표준이 연계되어 있으며, 중국의 포괄적 AI 규제인 인공지능 안전표준체계(人工智能安全标准体系, V1.0)의 피지컬AI 분야의 구체적 실행방식으로써 고려되고 있어, 사실상의 구속력 있는 표준 역할을 수행할 것으로 판단된다.

1.2 인공지능 안전표준체계(人工智能安全标准体系, V1.0)

인공지능 안전표준체계는 2025년 중국의 대표적인 표준화 기구인 TC260에서 발표한 AI 안전에 대한 가장 포괄적이고 대표적인 국가 수준의 통제 프레임워크이다. 본 표준체계는 기초공통, 안전관리, 핵심기술, 평가, 응용의 5가지 분야에 대하여 전 생애주기에 대해서 ‘물리적 세계’와 ‘AI’의 상호작용으로 인한 실체적 피해를 방지하기 위한 안전 프레임워크를 제시한다[44]. TC260은 본 표준체계를 통해 피지컬AI를 ‘통제 상실(Loss of Control)’ 범주에 포함시켰는데, 이는 AI가 자율적으로 자원을 획득하고 인간과 같이 권력 등을 추구할 가능성이 존재함을 인정한 것이다. 인공지능 안전표준체계의 준수는 자율적이지만, 현재 HEIS와 함께 중국 피지컬AI 분야, 특히 휴머노이드 로봇의 양산 및 상용화를 위한 최소 요건으로서 기능하고 있다[45].

2.1 상하이 인형로봇 거버넌스 지침(人形机器人治理导则)

상하이 인형로봇 거버넌스 지침은 2024년도에 상하이시와 4개의 기관⁵⁾이 공동으로 발의한 휴머노이드 로봇 안전 지침으로 6대 부문 30개 주요 규칙으로 구성된 강제력이 없는 가이드라인이다[46]. 본 지침은 글로벌 선도적으로 로봇에 대한 ‘킬스위치’ 장착의무를 명문화한 지침이며, 이는 ISO와 EU보다 앞선 것이다.

본 지침은 목표, 기본 준칙, 혁신 발전, 위험관리, 글로벌 거버넌스, 부칙의 총 6가지 영역으로 구성되어 있다. 타 규제와 유사하게 위험관리와 글로벌 거버넌스 영역에서는 피지컬AI 전 생애주기(개발-생산-관리-폐기) 각 단계에 따른 생산자 의무 및 관리 지침을 명시하고 있으나, 피지컬AI가 유발하는 프라이버시 문제의 특수성을 별도의 위험요소로 정의(제18조)하고 이를 보호하기 위한 지침을 명문화하여 제공하고 있다는 점에서 차이가 있다[46].

2.2 항저우 구신지능 로봇산업 발전촉진 조례(杭州市促进具身智能机器人产业发展条例)

항저우 구신지능 로봇산업 발전촉진 조례는 중국 최초의 피지컬AI 분야 지방정부 자체 법규로 2025년 통과되어 가까운 시일 내 시행 예정이다. 본 조례는 피지컬AI에 대한 규제와 제약에 초점을 두기보다 해당 산업의 육성을 강조하고 있어 산업적 지원보다는 기술적 제약요건에 초점을 두고 있는 타 규제와 차별점을 갖는다.

우선 본 조례는 중국 최초로 피지컬AI 영역에서 로봇의 정의를 명시하고 있으며, 이를 기반으로 크게 산업 촉진과 안전관리의 두 가지 영역에 대한 세부적 규칙을 포함한다.

우선 산업 촉진의 측면에서는 로봇 개발 및 생산을 위한 기초 인프라 지원, 로봇 두뇌 기술혁신 지원, 로봇 산업 전반의 활성화를 위한 산업지원, 표준 선도, 재정 투입 등의 내용을 포함하고 있다. 더 나아가, 본 조례에서는 로봇이 활용될 것으로 기대되는 ‘응용 촉진’ 6대 분야⁶⁾를 지정하고 해당 분야에서의 로봇 활용의 지원책을 담고 있다[47].

로봇에 대한 안전관리 측면에서는 윤리, 데이터, 코드(알고리즘), 모니터링/관리의 4가지 핵심 요건을 제시하고 있다. 이는 표면적으로 로봇 생애주기 안전관리 전반뿐만 아니라, 실제 로봇 도입을 위한 샌드박스 모니터링 및 평가 프레임워크에 높은 비중을 두고 있다. 다만, 본 조례는 중국 내 지방 입법 권한의 한계로 실제 중국 내 로봇산업 전반을 규정할 수 없다는 한계를 가지고 있다[48].

미국‧EU‧중국 3개국의 피지컬AI 규제는 적용 방식과 강도에서 차이가 있으나, 다음과 같은 세가지 공통 원칙을 공유하고 있다. 앞에서 살펴본 각국의 피지컬AI 주요 규제들에서 공통적으로 나타나는 항목과 내용은 표 4와 같다.

첫째, 각국의 피지컬AI 규제는 공급자의 책임을 명확하게 강조한다. 미국의 경우 피지컬AI 시스템 공급자들은 안전 준수에 대한 기술적 가이드라인 준수뿐만 아니라, 실제 활용 단계에서 다양한 시나리오에 기반한 세부적 사례들을 통해 안전성을 적극적으로 입증해야 한다. EU는 더 나아가 규제 미준수 시 발생하는 모든 사고에 대해서는 원칙적으로 공급자가 책임을 지는 방식으로 규정되어 있으며, 적용 범위 역시 대부분의 소비재를 포함하도록 설정하여 공급자의 책임성을 강력하게 규정하고 있다. 중국은 두 국가에 비해 산업 촉진의 목적성이 강하게 드러나고 있어서 공급자에 대한 책임성이 상대적으로 약하게 드러남에도 불구하고 공급자의 표준체계 준수 의무를 권장하고 있다.

둘째, 각국의 피지컬AI 규제는 시스템의 전 생애주기에 걸친 관리체계 형태로 제공되고 있다. EU는 인공지능법, 사이버복원력법, 기계류 규제에서 공통적으로 위험관리체계의 범위가 피지컬AI 시스템의 전 생애주기를 포괄하고 있다. 중국 역시 전 생애주기에 대한 위험관리를 포함하고 있으며 이에 더하여 산업 촉진을 위한 지원책들도 함께 제시하고 있다. 미국은 두 나라보다 도메인 특화 관리체계가 더 강조되고 있으나, 대표적인 규제 프레임워크인 AI-RMF는 전 생애주기에 대한 관리체계를 제공하고 있다.

셋째, 각국의 피지컬AI 규제는 위험관리에 집중되어 있는 공통점이 있다. EU의 경우 대부분의 규제가 사용자에 가할 수 있는 위험을 예방하는 데 집중되어 있는 반면, 미국과 중국의 경우 안전관리를 중심으로 규제나 프레임워크가 개발된 것은 유사하나 산업 촉진을 위한 표준체계가 함께 강조되고 있다.

반대로, 미국, EU, 중국의 피지컬AI 규제는 각국이 지향하는 바에 따라 차이점이 존재한다. 각국의 피지컬AI 규제의 특성을 비교한 결과는 표 5와 같다.

우선, 미국의 피지컬AI 규제는 자국 산업 보호와 기술 헤게모니 유지를 강조한다. 트럼프 행정부의 행정명령 제14365호와 휴머노이드 법안(S.3275)은 피지컬AI에 대한 외부 의존을 차단하여 자국 산업 중심의 피지컬AI 생태계 조성에 주력하는 것으로 보인다. 반면, 주(州) 차원에서는 자율주행 자동차 조기 배치와 무인항공기의 비가시권 비행 등 특정 도메인에 대한 안전기준을 명확히 하여 시장진입 장벽을 완화하였다. 특히 포괄적이고 단일한 법적 규제보다는 NIST AI-RMF나 OSHA OTM과 같은 유연한 자발적 가이드라인을 피지컬AI의 표준으로 권장됨으로써 기술 발전의 불확실성에 대한 유연한 대응을 강조하고 있다.

반면, EU는 피지컬AI의 본질적 위험을 관리하기 위해 전 생애주기에 걸쳐 강제성 있는 지침을 제공하고 있다. AI Act, 기계류 규제, 사이버 복원력 법으로 이어지는 일련의 규제를 통해, 피지컬AI에 대한 알고리즘 오류를 물리적 하드웨어와 동일한 수준의 치명적 위험으로 간주하고 높은 수준의 위험관리 절차를 강제한다. 특히 규정 미준수 시 발생하는 모든 사고에 대해 피해자의 입증 없이 공급자에게 원인 책임을 묻는 등 전 세계에서 가장 높은 수준의 규제 환경을 구축하고 있다.

중국은 피지컬AI에 대한 자율적 표준 프레임워크와 실증 지원을 통해 산업 육성과 통제를 동시에 달성하려는 한다. HEIS를 국가 공통 표준으로 제시하며 피지컬AI가 자율적으로 유발할 수 있는 체제 위협에 대비해 손실 통제 개념을 도입하고 킬스위치 장착을 선도적으로 의무화하고 있다. 이와 동시에 지방정부 중심의 응용 촉진 분야 설정과 기술 실증 지원을 제공하는 등 피지컬AI 산업의 촉진에도 관심을 기울이고 있다.

피지컬AI는 알고리즘이 물리적 환경에 직접 개입하는 기술로, 기존의 디지털 중심 AI와는 다른 규율 체계가 요구된다. 오작동, 해킹, 데이터 오류가 곧바로 물리적 사고로 이어질 수 있다는 점에서 국민의 생명‧안전‧프라이버시와 직결되기 때문이다. 우리나라는 제조업 경쟁력과 ICT 인프라, 로봇‧모빌리티 산업 기반을 갖추고 있으나, 제도는 인공지능, 로봇, 자율주행, 개인정보, 제품안전규제로 분절되어 있어 기술 융합에 충분히 대응하지 못하고 있다. 따라서 이제는 기술혁신 중심의 접근을 넘어, 피지컬AI 상용화에 대비한 국가 차원의 통합 대응체계 마련이 필요한 시점이다. 세부적인 대응체계는 크게 3가지를 방향성을 고려할 수 있다.

첫째, 피지컬AI에 특화된 국가 차원의 통합 규율체계를 조속히 구축해야 한다. 현재와 같은 부처별‧분야별 대응으로는 피지컬AI의 복합적 위험을 효과적으로 관리하기 어렵다. 정부는 피지컬AI를 독자적 정책 대상으로 설정하고, 개발‧시험‧운영‧모니터링까지 포괄하는 전 주기 가이드라인을 수립해야 한다. 이 과정에서 알고리즘의 위험관리, 인간 개입 가능성, 비상정지 기능, 운용로그 보존, 보안/프라이버시, 책임성 명확화 등은 기본적 최저선으로써 제도화할 필요가 있다. 특히 사람과 직접 상호작용하거나 공공장소에서 자율적으로 작동하는 로봇, 자율주행 자동차, 돌봄‧의료 보조기기 등 고위험 분야에는 보다 강화된 안전기준을 적용할 필요가 있다.

둘째, 안전성 입증과 책임에 관한 법 제‧개정 수준의 정비를 통해 신뢰할 수 있는 시장환경을 확립해야 한다. 피지컬AI는 하드웨어, 소프트웨어(알고리즘), 운영 과실 등이 복합적으로 사고를 유발할 수 있어 기존의 책임성 규제만으로는 한계가 존재한다. 따라서 사업자와 개발자가 위험요인을 식별하고 이에 대한 통제방안을 체계적으로 입증하도록 하는 방향으로 제도를 설계해야 한다. 또한, 고위험 피지컬AI에 대해서는 공급자, 운영자, 이용자의 책임 범위를 사전에 명시하고, 로그기록과 운영데이터를 바탕으로 사고원인을 추적할 수 있는 체계를 마련해야 한다.

셋째, 규제와 산업육성을 병행하는 표준‧인증 기반 개발이 요구된다. 우리나라는 특정 산업 분야에서 일정 수준의 실증 기반을 보유하고 있으나, 현재는 기술 시연(POC)과 규제 완화(샌드박스)에 치우친 측면이 있다. 하지만 피지컬AI는 기존의 실증 범위를 확장하여 사회적 안전성‧책임성 그리고 이용자 수용성을 함께 검증하는 통합적 검증도구로 그 역할을 발전시켜야 한다. 이를 위해 고위험 피지컬 AI에 대한 규제 샌드박스를 확대, 오작동 사례 보고 및 대응, 책임분쟁 요인에 대한 정보를 지속적으로 확보하여 후속 제도개선으로 연결해야 한다. 이를 바탕으로 주요국에서 시행 중인 피지컬AI 국제표준 논의에 적극 참여하고 글로벌 기준에 우리나라의 기준을 맞춤으로써 우리 기업이 글로벌 시장에서 요구하는 안전성과 신뢰성을 입증할 수 있도록 지원해야 한다.

종합하면, 우리나라의 피지컬AI 정책은 ① 통합 규율체계 구축, ② 안전성과 책임의 제도화, ③ 실증‧표준‧인증 기반 확충의 세 축을 중심으로 추진되어야 한다. 피지컬AI는 차세대 산업 경쟁력의 핵심이 될 수 있지만, 제도적 준비 없이 시장에 확산될 경우 사회 문제를 야기하고 더 나아가 시장을 침체시킬 수 있다. 결국 정부는 기술 혁신과 위험 예방을 별개의 과제가 아니라 하나의 정책목표로 인식하고, 신뢰 가능한 기술환경을 선제적으로 구축하는 데 정책 역량을 집중해야 한다.