「EU AI Act」は、欧州連合（EU）における人工知能（AI）の規制を目的とした法案です。
この法案の要旨は以下の通りです：
1. システムの分類と規制の対象: AIシステムは、リスクレベルに基づいてハイリスク、低リスク、およびその他のカテゴリに分類されます。ハイリスクなAIシステムには、自動運転車、医療診断ソフトウェア、銀行業務の自動化などが含まれます。
2. 禁止されるAIシステム: 特定のAIシステム（例：顔認識技術）は禁止されます。これは、個人のプライバシーや人権に対する潜在的な侵害を防ぐために行われます。
3. 透明性と説明責任: ハイリスクなAIシステムは、実施する企業や組織が説明責任を果たすことが求められます。また、AIシステムの意思決定プロセスが説明可能であることも要求されます。
4. 監督と認証: AIシステムの開発・導入に関与する企業や組織は、独立した第三者による認証手続きを経る必要があります。また、国家機関がAIシステムの監督を行います。
5. データセットとプライバシー: AIシステムの開発に使用されるデータセットは、個人のプライバシー保護を尊重する必要があります。適切なセキュリティ対策も求められます。
6. 公平性と差別禁止: AIシステムの開発や運用において、公平性と差別禁止が重要な考慮事項とされます。偏見や差別を助長する可能性のあるシステムの使用は制限されます。
これらの規制により、安全性と倫理的な使用が確保されたAIシステムの開発と利用が促進されることを目指しています。また、EU市場でのAI技術の活用による競争力強化や消費者保護の向上をもたらすことも期待されています。
投稿者注 : Do Foundation Model Providers Comply with the Draft EU AI Act?
修正案には近年注目を集めている生成AIについての規制も盛り込まれている。開発されているさまざまな基盤モデルがEU AI Actに準拠しているのかどうか調べた結果を、スタンフォード大学の基盤モデル研究センター(CRFM)が発表した。
