人工知能法：欧州議会が画期的な法律を採択,2024年3月13日 欧州議会（European Parliament）
- 汎用人工知能に関する保護措置
- 法執行機関による生体認証システムの使用制限
- 利用者の脆弱性を操作または悪用するために使用されるソーシャルスコアリング及びAIの禁止
- 消費者が苦情を申し立て、有意義な説明を受ける権利
水曜日に欧州議会は、安全性と基本的権利の遵守を確保し、イノベーションを促進する人工知能法を承認した。
2023年12月に加盟国との交渉で合意されたこの規則は、賛成523票、反対46票、棄権49票で欧州議会により承認された。
同規則は、ハイリスクAIから、基本的権利、民主主義、法の支配、環境の持続可能性を保護するとともに、イノベーションを促進し、欧州をこの分野のリーダーとして確立することを目的としている。同規則は、AIの潜在的なリスクと影響のレベルに基づき、AIの義務を確立している。
禁止されるアプリケーション
新規則は、市民の権利を脅かす特定のAIアプリケーションを禁止している。これには、繊細な特徴に基づくバイオメトリクス分類システムや、顔認識データベースを作成するためにインターネットやCCTV映像から顔画像を無制限にスクレイピングすることが含まれる。職場や学校での感情認識、ソーシャルスコアリング、予測的取り締まり（人物のプロファイリングや特性の評価のみに基づく場合）、人間の行動を操作したり、人々の脆弱性を悪用したりするAIも禁止される。
法執行機関の適用除外
法執行機関によるバイオメトリクス識別システム（RBI）の使用は、網羅的に列挙され、狭く定義された状況を除き、原則として禁止される。「リアルタイム」 RBIは、厳格な保護措置が満たされる場合、例えば、その使用が時間的及び地理的範囲に限定され、特定の事前の司法または行政の認可を受ける場合にのみ、導入することができる。このような用途には、例えば行方不明者の捜索やテロ攻撃の防止などが含まれる。このような用途には、例えば行方不明者の捜索やテロ攻撃の防止などが含まれる。このようなシステムを事後的に使用すること（「事後リモートRBI」）は、犯罪に関連する司法認可を必要とする、ハイリスクの使用例とみなされる。
ハイリスクシステムに対する義務
（健康、安全、基本的権利、環境、民主主義、法の支配に重大な害を及ぼす可能性があるため）その他のハイリスクAIシステムについても、明確な義務が想定されている。ハイリスクAI利用の例としては、重要インフラ、教育・職業訓練、雇用、不可欠な民間・公共サービス（医療、銀行など）、法執行、移民・国境管理、司法、民主的プロセス（選挙への影響など）における特定のシステムが挙げられる。このようなシステムは、リスクを評価・軽減し、使用ログを管理し、透明性と正確性を確保し、人間の監視を確保しなければならない。市民は、AIシステムに関する苦情を提出し、権利に影響を及ぼすハイリスクAIシステムに基づく決定について説明を受ける権利を有する。
透明性要件
汎用AI（GPAI）システム及びそれらの基礎となるGPAIモデルは、EU著作権法を遵守し、トレーニングに使用されるコンテンツの詳細な要約を公表するなど、一定の透明性要件を満たさなければならない。システミックリスクを引き起こす可能性のあるより強力なGPAIモデルは、モデル評価の実施、システミックリスクの評価と軽減、インシデントの報告などの追加要件に直面することになる。
さらに、人工的または操作された画像、音声または映像コンテンツ（「ディープフェイク」）は、そのように明確にラベル付けされる必要がある。
イノベーションと中小企業を支援する措置
革新的なAIを開発し、市場に投入する前に訓練するために、規制上のサンドボックスと実世界でのテストを国レベルで確立し、中小企業や新興企業が利用できるようにする必要がある。
引用
火曜日の本会議討論で、域内市場委員会の共同報告者であるブランド・ベニフェイ（S&D、イタリア）は次のように述べた。「リスクを低減し、機会を創出し、差別と闘い、透明性をもたらすために、われわれはついに人工知能に関する世界初の拘束力のある法律を手に入れた。議会のおかげで、欧州では容認できないAIの慣行が禁止され、労働者と市民の権利が保護されることになる。今後はAI事務所が設置され、規則発効前に企業が規則の遵守を開始できるよう支援する。われわれは、人間と欧州の価値観がAI開発の中心にあることを確実にした」。
自由権規約委員会の共同報告者であるドラゴス・トゥドラチェ（ルーマニア、Renew）は、次のように述べた。「EUはそれを実現した。われわれは、人工知能の概念を、社会の基礎となる基本的価値観と結びつけた。しかし、AI法そのものにとどまらず、多くの課題が横たわっている。AIは、われわれの民主主義、教育モデル、労働市場、戦争遂行方法の核心にある社会契約の再考を迫るだろう。AI法は、技術を中心とした新しい統治モデルの出発点である。われわれはいま、この法律を実践することに集中しなければならない」。
次のステップ
この規則はまだ弁護士と言語学者による最終チェックを受けており、立法府が終了する前に最終的に採択される見込みである（いわゆる正誤表手続による）。また、同法は理事会の正式承認も必要となる。
この法律は、官報に掲載されてから20日後に発効し、発効から24か月後に全面的に適用される。ただし、禁止行為の禁止（発効から6か月後に適用）、実践規範（発効から9か月後）、ガバナンスを含むAI汎用規則（発効から12か月後）、ハイリスクシステムに対する義務（36か月後）は例外となる。
背景
人工知能法は、欧州未来会議（COFE）の市民提案に直接応えるものであり、もっとも具体的には、戦略的分野におけるEUの競争力強化に関する提案12（10）、偽情報への対抗や人間が最終的に管理することの確保を含む、安全で信頼できる社会に関する提案33（5）、（3）人間の監視と（8）信頼できる責任あるAIの利用、セーフガードの設定と透明性の確保を確保しつつ、デジタルイノベーションの促進に関する提案35、及び障害者を含む市民の情報へのアクセスを改善するためのAIとデジタルツールの利用に関する提案37（3）に対応するものである。
安全センター情報2024年6月号
