[Mostly AI-Generated] AI Act에서는 어떤 내용을 언급하고 있는가?

2021년부터 2024년까지 발표된 Stanford AI Index 보고서들에게 “AI Act에서는 어떤 내용을 언급하고 있는가?“라는 질문을 던져 봤습니다.

답변

AI Act는 인공지능(AI) 기술의 개발과 사용을 규제하기 위한 법안으로, 주로 유럽연합(EU)에서 제정되었습니다. 이 법안은 AI 시스템의 안전성과 투명성을 보장하고, AI 기술이 사회에 미치는 영향을 최소화하기 위해 다양한 규제를 포함하고 있습니다. AI Act의 주요 내용은 다음과 같습니다:

1. 위험 기반 접근법:

AI 시스템을 위험 수준에 따라 분류하고, 각 위험 수준에 맞는 규제를 적용합니다. 예를 들어, 고위험 AI 시스템은 엄격한 규제를 받으며, 저위험 AI 시스템은 상대적으로 완화된 규제를 받습니다.

2. 투명성 요구사항:

AI 시스템이 생성한 콘텐츠는 명확히 표시되어야 하며, 사용자는 AI 시스템이 작동하는 방식을 이해할 수 있어야 합니다. 이를 통해 AI 시스템의 오용을 방지하고, 사용자의 신뢰를 높입니다.

3. 데이터 관리:

AI 시스템의 학습에 사용되는 데이터는 고품질이어야 하며, 편향되지 않아야 합니다. 이를 통해 AI 시스템의 공정성과 정확성을 보장합니다.

4. 감독 및 집행:

각 회원국은 AI Act의 준수를 감독할 독립적인 기관을 설립해야 합니다. 이 기관은 AI 시스템의 안전성과 규제 준수를 평가하고, 필요시 제재를 가할 수 있습니다.

5. 책임성:

AI 시스템의 개발자와 운영자는 시스템의 작동과 관련된 모든 책임을 져야 합니다. 이는 AI 시스템의 오작동이나 오용으로 인한 피해를 최소화하기 위한 조치입니다.

시간의 흐름에 따른 변화

AI Act의 내용은 시간이 지남에 따라 구체화되고, 다양한 이해관계자의 의견을 반영하여 수정되었습니다. 초기에는 AI 시스템의 위험 수준에 따른 규제만을 강조했으나, 이후 투명성, 데이터 관리, 감독 및 집행, 책임성 등의 요소가 추가되었습니다. 특히, 2023년과 2024년에 걸쳐 AI Act의 세부 사항이 더욱 명확해졌습니다.

주요 키워드

• Risk-based approach
• Transparency requirements
• Data management
• Oversight and enforcement
• Accountability