유럽 인공지능법이 곧 시행될 예정이다.

2024년 3월 13일, 유럽의회는 인공지능 규제 프레임워크와 관련된 모든 문제를 포괄적으로 해결하는 인공지능법을 통과시켰습니다. 이는 유럽에서 획기적인 EU 법안이 될 것입니다.

인공지능법은 공포 후 24개월 이내에 유럽에서 2026년 말부터 본격적으로 발효될 예정이다. 그러나 허용할 수 없는 위험을 초래하는 인공지능 시스템에 대한 금지 조치는 6개월 이내에 시행될 예정이며, 이는 2024년에 시행될 수 있음을 의미합니다. 또한, 일반 인공지능 시스템에 관한 규정은 2025년 중반부터 시행될 예정이다.

AI 시스템이란 무엇입니까?

• 인공지능법에 언급된 인공지능 시스템은 다양한 수준의 자율성을 가지고 작동하도록 설계된 기계 기반 시스템으로 정의됩니다. 이러한 시스템은 시스템 배포 후 명시적 또는 암시적 목표에 대한 적응성을 나타내며, 물리적 또는 가상 환경에 영향을 미칠 수 있는 예측, 콘텐츠, 권장 사항 또는 결정과 같은 출력을 생성하는 방법을 수신하는 입력에서 추론합니다.
• AI 시스템의 넓은 정의는 소프트웨어 제품뿐만 아니라 자율 시스템으로 간주될 가능성이 있는 기타 모든 도구, 하드웨어 또는 솔루션을 포괄하여 AI 법의 범위를 매우 유연하게 만들고, 새로운 상황에 대해 학습하고 결론을 내릴 수 있습니다. 이전에 전달된 입력 데이터를 기반으로 합니다. 더욱이, 이러한 넓은 정의로 인해 인공지능법은 AI 제품 자체뿐만 아니라 AI 구성 요소를 사용하는 다른 모든 제품이나 솔루션에도 적용됩니다.

누구에게 적용되나요?

• 인공지능법(Artificial Intelligence Act)은 특히 다음과 같은 인공지능 시스템을 다루는 기업에 적용됩니다.
  • 공급자 – AI 시스템을 개발하여 시장에 출시하거나 자체 브랜드로 서비스로 제공하는 기업입니다.
  • 배포자 – 자체 권한으로 AI 시스템을 사용하는 개체입니다.
  • 또한, AI법은 수입업자, 유통업자, 위임 대리인 등 다른 유형의 법인에도 적용됩니다.

금지된 AI 시스템

인공지능법은 위험 기반 평가 접근 방식을 제안하고 개인(특정 AI 시스템의 영향을 받는 자연인)에 미치는 영향을 기반으로 다양한 범주의 AI 시스템에 서로 다른 요구 사항을 부과합니다.

금지된 AI 시스템은 허용할 수 없는 위험을 초래합니다. 일부 예외를 제외하고 금지된 인공 지능 시스템에는 다음이 포함됩니다.

• 개인이 정보에 입각한 결정을 내리도록 영향을 미치기 위해 잠재의식, 조작 또는 기만적 기술을 사용하는 시스템
• 해롭거나 불리한 대우를 초래하는 사회적 점수 시스템
• 인터넷이나 CCTV 영상에서 대상이 지정되지 않은 얼굴 이미지를 캡처하는 얼굴 인식 시스템을 사용합니다.
• 직장 및 교육 기관을 위한 감정 인식 시스템;
• 여러 생체 인식 분류 시스템
• 특정 실시간 원격 생체 인식 시스템.

고위험 AI 시스템

인공지능법의 핵심 범주는 고위험 인공지능 시스템, 즉 자연인의 건강, 안전 또는 기본권에 중대한 해를 끼칠 수 있는 시스템입니다. 인공지능법에 따르면 고위험 인공지능 시스템은 EU 제품 안전법이 적용되는 시스템을 말하며 다음 시스템을 포함하되 이에 국한되지 않습니다.

• 중요 인프라에 사용되는 AI 시스템
• 교육 및 직업 훈련을 위한 AI 시스템;
• 고용, 근로자 관리, 자영업을 위한 AI 시스템
• 법집행 인공지능 시스템;
• 이민, 망명 및 국경 통제 관리 시스템.

법안의 고위험 AI 시스템 목록은 완전하지 않습니다. 즉, 고위험 AI 시스템의 샘플 범주가 향후 보완되고 기술 동향에 맞춰 조정될 수 있음을 의미합니다.

인공지능법은 고위험 인공지능 시스템 외에도 기타 중위험 및 저위험 인공지능 시스템에도 적용됩니다.

고위험 인공지능 시스템에 대한 의무

고위험 AI 시스템의 제공자 및/또는 배포자는 다음과 같은 다양한 의무에 직면하게 됩니다.

• 고위험 인공지능 시스템의 수명주기 전반에 걸쳐 위험 관리 시스템을 구현합니다. 여기에는 알려지고 합리적으로 예측 가능한 위험을 식별 및 분석하고 목표 위험 관리 조치를 취하는 것이 포함됩니다.
• 적절한 데이터 거버넌스 메커니즘을 구현합니다. AI 모델을 훈련, 검증 및 테스트하는 데 사용되는 데이터가 목적에 적합하고 품질이 적절한지 확인합니다.
  AI 시스템에 대한 자세한 기술 문서 초안 작성 및 유지 관리
• AI 시스템 작동 중에 이벤트를 자동으로 기록하는 기록 유지 기능을 시스템에 장착합니다.
• AI 시스템에 대한 인간의 감독을 유지합니다.
• AI 시스템의 정확성, 견고성 및 사이버 보안을 적절한 수준으로 유지합니다.
• 품질 관리 시스템을 구현합니다.
• 특정 범주의 인공 지능 시스템에 대한 영향 평가 또는 적합성 평가를 수행합니다.
• 시판 후 감시 구현 - AI 시스템 데이터 수집 및 분석
• EU 데이터베이스 등록 의무;
• 인공 지능 시스템의 영향을 받는 개인에 대한 정보/투명성 의무.

일반 인공지능

인공지능법은 표준 인공지능 시스템 외에도 인공지능을 사용하는 시스템(GPAI)이라는 별도의 범주도 정의합니다. 이는 일반적인 성격의 시스템이며 광범위한 다운스트림 시스템 또는 애플리케이션에서 사용될 수 있습니다. GPAI에는 다양한 작업을 수행할 수 있고, 범용적이며, 대량의 데이터로부터 자율적으로 학습하고, 다양한 애플리케이션에서 사용할 수 있는 인공 지능 모델이 포함되어 있습니다.

인공지능법에 따라 GPAI는 다음과 같은 별도의 요구 사항을 충족해야 합니다.

• 구현 모델에 대한 자세한 기술 문서
• 저작권법을 존중하는 구체적인 정책을 구현합니다.
• 학습 데이터 세트 내용에 대한 "충분히 상세한" 요약을 제공합니다.
• 인공지능에 의해 생성되거나 조작된 콘텐츠에 대한 라벨링 의무.

위반에 대한 제재

AI법은 위반 유형과 기업 규모에 따라 위반 행위에 대해 엄중한 제재를 가하고 있다. 인공지능법 위반 시 최대 3,500만 유로 또는 전 세계 연간 매출액의 7%에 해당하는 벌금이 부과될 수 있으며, 고위험 AI 시스템에 대한 의무를 이행하지 않을 경우 최대 1,500만 유로 또는 전 세계 연간 매출액의 3%에 해당하는 벌금이 부과될 수 있습니다. 글로벌 연간 매출액..

더 넓은 법적 틀

인공지능법은 고위험 애플리케이션과 GPAI에 초점을 맞추고 있지만 AI의 광범위한 구현을 간과하지 않는 것이 중요합니다. 기업은 AI 법안뿐만 아니라 기존 법적 프레임워크도 준수하는지 확인하기 위해 AI 법안 통과 이전에 이미 운영 중이었던 기술을 검토하고 운영에 모든 AI 기술의 배포를 철저히 평가해야 합니다. 여기에는 GDPR이 적용되는 개인 정보 보호 및 데이터 보호 문제뿐만 아니라 다양한 AI 시스템에 적용되는 지적 재산권, 소비자 보호 및 차별 금지법 준수도 포함됩니다.