EUにおける進展とETUC等の反応－ＡＩ（人工知能）法、プラットフォーム労働指令
目次
人工知能法：信頼できるAIのための包括的なルールに関する取り決め／2023年12月9日 欧州議会（European Parliament）
- 汎用人工知能に関するセーフガードに合意
- 法執行機関による生体認証システムの使用制限
- ユーザーの脆弱性を操作または悪用するために使用されるソーシャルスコアリング及びAIの禁止
- 消費者が苦情を申し立て、有意義な説明を受ける権利
- 3,500万ユーロまたは世界売上高の7％から750万ユーロまたは売上高の1.5％までの制裁金
欧州議会は、欧州におけるAIの安全性、基本的権利と民主主義の尊重、企業の繁栄と拡大を確保するための法案について、理事会と政治的合意に達した。
金曜日、欧州議会と理事会の交渉担当者は、人工知能法に関する暫定合意に達した。この規則は、基本的権利、民主主義、法の支配、環境の持続可能性をリスクの高いAIから確実に保護する一方で、イノベーションを後押しし、欧州をこの分野のリーダーにすることを目的としている。同規則は、AIの潜在的なリスクと影響の度合いに基づいて、AIに対する義務を定めるものである。
禁止されるアプリケーション
AIの特定の応用が市民の権利と民主主義にもたらす潜在的脅威を認識し、共同立法者は以下の禁止に合意した。
- センシティブな特性（政治的、宗教的、哲学的信条、性的指向、人種など）を利用したバイオメトリクス分類システム
- 顔認識データベースを作成するための、インターネットやCCTV映像からの顔画像の無作為スクレイピング
- 職場や教育機関における感情認識
- 社会的行動や個人的特徴に基づく社会的スコアリング
- 人間の自由意志を回避するために人間の行動を操作するAIシステム
- （年齢、障害、社会的または経済的状況による）人々の脆弱性を利用するために使用されるAI
法執行の例外
交渉者たちは、法の執行を目的とし、事前に司法当局の許可を得たうえで、厳密に定義された犯罪のリストに対して、公にアクセス可能なスペースで生体認証システム（RBI）を使用するための一連のセーフガードと限られた例外について合意した。「ポスト・リモート」RBIは厳格に、重大な犯罪を犯したと有罪判決を受けた、またはその疑いのある人物の標的を絞った捜査［のみ］に使用される。「リアルタイム」RBIは、以下の目的のために、厳格な条件を遵守し、その使用は時間と場所が限定される。
- 被害者（誘拐、人身売買、性的搾取）の標的を絞った捜索
- 具体的かつ現在のテロ脅威の防止、または
- 規則で言及されている特定の犯罪（例：テロ、人身売買、性的搾取、殺人、誘拐、強姦、武装強盗、犯罪組織への参加、環境犯罪）のいずれかを犯した疑いのある人物の位置の特定または身元の確認
ハイリスクシステムについての義務
（健康、安全、基本的権利、環境、民主主義、法の支配に重大な悪影響を及ぼす可能性があるために）ハイリスクに分類されるAIシステムについては、明確な義務が合意された。欧州議会は、保険や銀行部門にも適用される基本的人権の影響評価を義務化することに成功した。選挙結果や有権者の行動に影響を与えるために使用されるAIシステムも、ハイリスクに分類される。市民はAIシステムに関して苦情を申し立てたり、権利に影響を与えるリスクの高いAIシステムに基づく決定について説明を受けたりする権利を持つことになる。
汎用人工知能システムのガードレール
AIシステムが達成できるタスクの幅の広さと、その能力の急速な拡大を考慮し、汎用AI（GPAI）システムとそのベースとなるGPAIモデルは、議会が当初提案した透明性要件を遵守しなければならないことが合意された。これには、技術文書の作成、EU著作権法の遵守、トレーニングに使用されたコンテンツに関する詳細な要約の普及などが含まれる。
システミックリスクを伴う影響力の大きいGPAIモデルについては、国会の交渉担当者は、より厳しい義務を確保することに成功した。これらのモデルが一定の基準を満たす場合、モデル評価の実施、システミックリスクの評価と軽減、敵対的テストの実施、重大インシデントに関する欧州委員会への報告、サイバーセキュリティの確保、エネルギー効率の報告などが義務付けられる。欧州議会議員はまた、EUの統一基準が発表されるまでは、システミックリスクを抱えるGPAIは、規制を遵守するための実践規範に頼ることができると主張した。
イノベーションと中小企業を支援する措置
欧州議会は、企業、とくに中小企業が、バリューチェーンを支配する業界大手からの不当な圧力を受けずにAIソリューションを開発できるようにしたいと考えていた。この目的のため、この合意は、いわゆる規制上のサンドボックスと、市場に投入される前に革新的なAIを開発・訓練するために各国当局が設置する実世界試験を推進している。
制裁と発効
規則不遵守の場合、違反内容と企業規模に応じて、3,500万ユーロまたは世界売上高の7％から750万ユーロまたは売上高の1.5％までの罰金が科せられる可能性がある。
引用
合意を受けて、共同報告者のブランド・ベニフェイ（S&D、イタリア）は次のようにコメントした。「長く厳しいものだったが、その努力は報われた。欧州議会の弾力性のおかげで、人工知能に関する世界初の水平法は、欧州の約束、すなわち権利と自由がこの画期的な技術の発展の中心にあることを保証するものとなる。サンドボックスによる新しいビジネスアイデアの支援と、最も強力なモデルに対する効果的なルールが確保されるよう、欧州議会は引き続き注視していく」。
共同報告者のドラゴス・トゥドラチェ（Renew、ルーマニア）は次のように述べた。「EUは、AIに関する強固な規制を世界で初めて導入し、AIが人間中心の方向に発展・進化するよう導いている。AI法は、大規模で強力なAIモデルに対する規則を定め、それらがEUにシステミックリスクをもたらさないようにし、また、公的機関による技術の乱用から市民と民主主義を守るための強力なセーフガードを提供する。また、中小企業を保護し、AIの分野における革新と先導の能力を強化し、経済の脆弱な部門を保護する。欧州連合（EU）は世界に対して素晴らしい貢献をしてきたが、AI法もまた、われわれのデジタルの未来に大きな影響を与えるものである」。
記者会見
主席欧州議会議員のブランド・ベニフェイ氏（S&D、イタリア）、ドラゴス・トゥドラチェ（Renew、ルーマニア）、Carme Artigasデジタル化・人工知能担当国務長官、ティエリー・ブルトン委員が交渉終了後に共同記者会見を行った。ベニフェイ氏の声明はこちら、トゥドラチェ氏の声明はこちら。その他の抜粋はこちら。［ともに省略］
次のステップ
合意された文書がEU法となるためには、今後、議会と理事会の双方で正式に採択される必要がある。議会の域内市場委員会と自由権委員会は、近日中に開催される会議で、この合意について採決を行う予定である。
AI法は職場におけるAIシステムに関する指令の段階へ／2023年12月9日 欧州労連（ETUC）
AI法に関する［政労使］三者協議の合意について、ETUC［欧州労働組合連盟］副書記長イザベル・シェーマンは次のように述べた。「AI法の合意は、人工知能を規制するためのわれわれの継続的な努力の一里塚である。これは、欧州が人々を第一に考え、責任ある方法でAIの未来を形作ろうとしていることを示すものだ。」「きわめて重要なことは、AI法がAIの職場応用の高リスクな性質を認識し、それに対処するための法制上の余地を切り開いたことだ。次のステップは、欧州が職場の人々に対する具体的な保護を導入することである。」「AIツールは、ヨーロッパ中の職場に目まぐるしいスピードで導入されている。その決定が、決定によって労働生活が左右される人々に対して説明責任を果たすような、人間が指揮を執るアプローチを確保するための取り組みは、今後も継続されなければならない。権利、安全、尊厳を尊重するAIの環境を形成するために、共に努力を続けよう。」
ETUCの対応の主なポイント
- ハイリスク分類：職場におけるAIアプリケーションはハイリスクに分類される。しかし、事業者の自己評価に依存しているのは大きな欠陥である。
- 冒頭の条項：欧州議会は冒頭条項を盛り込むことに成功し、加盟国と欧州連合に、AIの職場利用を規制する権限を付与した。この条項は、労働者の権利にとって重要な勝利である。
- 労働者のための透明性：合意は、AIシステムが職場に導入される際には、労働者とその代表者に情報を提供しなければならないと定めている。透明性は、労働者の利益を守るために不可欠である。
- 職場の課題への対応：このような前向きな進展にもかかわらず、AI法は、労働者が直面しなければならない現実や、労働者が必要とする的を射た対策に取り組むには不十分である。このギャップを埋めるため、ETUCは職場におけるアルゴリズム・システムに関する専用指令の制定を求めている。そのような指令は、人間が管理するという原則を支持し、労働組合や労働者の代表がAI導入の決定に影響を及ぼす権限を与えるものでなければならない。
※https://www.etuc.org/en/pressrelease/ai-act-sets-stage-directive-ai-systems-workplace
欧州議会と理事会が人工知能に関する世界初の包括的な法的枠組みに合意／2023年12月12日 欧州労働安全衛生機関
欧州議会と理事会は、信頼できるAIのための包括的な規則である人工知能法（AI法）について政治的合意に達した。この規則は、欧州におけるAIの安全性を確保し、基本的権利と民主主義を尊重するとともに、技術革新を促進し、欧州をこの分野のリーダーにすることを目的としている。
欧州委員会が2021年4月に提案したこの取り決めは、AIの潜在的なリスクと影響の度合いに基づいてAIについての義務を定めるものである。この合意は、規制を特定可能なリスクに集中させ、法的確実性を提供し、信頼できるAIの革新に道を開くものである。合意された文書がEU法となるには、今後、議会と理事会の双方で正式に採択される必要がある。
AIによる労働者管理は、われわれの「健康職場キャンペーン：デジタル時代における安全で健康的な労働」の優先分野のひとつである。このキャンペーンは、この課題に関連する機会（作業配分とスケジューリングの改善、労働組織の最適化、OSH問題の確認に役立つ情報の提供…）とリスク及び課題（作業量と作業ペースの増加、社会的孤立、プライバシーの侵害…）を強調している。人工知能（AI）が仕事の世界に与える影響はまた、最近の欧州雇用・社会権フォーラムの焦点でもあった。
欧州委員会はプラットフォーム労働の労働条件改善に関する政治合意を歓迎／2023年12月13日 欧州委員会（European Commission）
欧州委員会は、委員会が2021年12月に提案した「プラットフォーム労働における労働条件の改善に関する指令」が、本日、欧州議会とEU加盟国の間で政治合意に達したことを歓迎する。
プラットフォーム労働の労働条件改善に関する政治的合意は、フォン・デア・ライエン大統領が政治指針の中で表明したプラットフォーム労働者の労働条件改善に関する公約を踏襲するものである。
指令の狙い
この指令の目的は、デジタル労働プラットフォームを通じて働く人々が、権利を有する労働権と社会的給付を十分に享受できるようにすることである。
また、EUにおけるデジタル労働プラットフォームの持続可能な成長を支援することも目的としている。
とくに注目すべきは、このようなプラットフォームを通じて働く人々の雇用状態を正しく判断し、アルゴリズム管理（つまり、管理機能をサポートしたり、代替したりする自動化システム）の透明性と公平性を促進するための措置の概要である。
公正で競争力のあるプラットフォーム経済のための新ルール
「プラットフォーム労働指令」は、以下を含む、公正で競争力のあるデジタル労働プラットフォーム経済のためのEUルールを規定している。
・ 雇用形態
指令は、デジタル労働プラットフォームを通じて働く人々が、実際の労働形態に対応する雇用形態の恩恵を受けやすくし、それに伴う権利、義務、便益を提供する。
指令は、プラットフォームが、使用者としての資格を有するかどうかを判断するための具体的な指標とともに、雇用関係の法的推定を定めている。プラットフォームがそれらの指標のうち2つを満たす場合、「使用者」とみなされる。
影響を受けるプラットフォームまたは者は、当該者またはプラットフォームを通じて働く者の特定のカテゴリーが自営業者として正しく分類されているという証拠を提出することで、この推定に異議を唱えることができる。
指令の明確な指標は、プラットフォームとプラットフォームを通じて働く人々に法的確実性をもたらし、訴訟と行政負担を軽減する。
この推定により、プラットフォームで働く人々は、最低賃金（該当する場合）、団体交渉、労働時間・健康保護、有給休暇、失業・傷病手当など、「労働者」としての地位に関連する労働・社会的権利を享受することになる。
逆に、純粋な自営業者は、その地位を変えることなく活動を継続する。
・ アルゴリズム管理
指令は、デジタル労働プラットフォームにおける監視と意思決定における自動化システムの使用を規定する新たな規則を制定する。
これにより、アルゴリズム管理における透明性と説明責任の向上が促進され、労働条件に影響を与える決定について人々が認識し、異議を唱えることができるようになる。自動化されたシステムとその機能について知らされる権利がある。
指令はまた、労働条件の遵守を保証するために自動化システムの人間による監視を要求し、アカウントの解約や停止などの自動化された決定に異議を唱える権利を規定している。
さらに、デジタル労働プラットフォームは、プラットフォームを通じて働く人々がそのプラットフォームにログインしていない間は、個人データを収集することができなくなる。
誰かの感情や心理状態に関するデータを処理したり、人工知能ツールを使って労働者が労働組合に加入したりストライキを起こしたりするかどうかを予測したりすることは許されない。
プラットフォームを通じて働く人々は、あるプラットフォームから別のプラットフォームへデータを転送する権利を保持し、データのポータビリティとプラットフォーム間のシームレスな移動の可能性を確保する。
・ 執行、透明性、トレーサビリティ
指令は、特に国境を越えた状況において、プラットフォームに対し、業務が行われる国での業務申告を義務付けることで、プラットフォーム業務の執行とトレーサビリティを強化する。
指令は、プラットフォームが業務を申告し、その活動およびそのために働く人々に関する情報を国家当局に提供する義務を規定している。
これにより、加盟国はプラットフォーム労働者の数とその状況をより明確に把握できるようになり、国家当局は社会保障費に関するものを含め、プラットフォームによる既存の義務を執行できるようになる。
・ 情報と協議
指令は、アルゴリズム管理上の決定について、プラットフォーム労働者の代表者に情報を提供し、協議するという要件を導入している。この指令は、プラットフォームに対し、労働者とその代表者が自ら組織化するためのコミュニケーションチャンネルを確立するよう求めている。
仲介
指令は、プラットフォームが仲介企業を利用することを選択した場合でも、プラットフォームを通じて働く人々に対して同レベルの保護を保証する。このような場合、加盟国は責任メカニズムを確立し、適切な場合には連帯責任制度を含め、効果的な救済へのアクセスを確保しなければならない。
次のステップ
欧州議会と欧州理事会による正式な承認後、加盟国は2年以内にEU指令を国内法に組み込む。
背景
デジタル労働プラットフォームとは、労働者や自営業者が第三者のクライアントに提供する仕事を仲介し、組織化するインターネットベースの企業である。
現在、500以上のデジタル労働プラットフォームがEUで活動している。これらのプラットフォームは、企業、労働者、自営業者に機会を創出し、消費者のサービスへのアクセスを向上させている。
しかし、これらのプラットフォームは、EU全域で異なる法律や裁判所の判決に起因する課題にも遭遇しており、国境を越えて事業を拡大する能力を妨げている。
現在までに、EUのデジタル労働プラットフォームの90％以上が、そのプラットフォームを通じて働く人々を自営業者として分類している。これらの人々のほとんどは、純粋な自営業者である。
しかし、2021年にEUで推計される2,800万人のプラットフォームを通じて働く人々のうち、現在550万人が誤って分類されている可能性がある。
プラットフォームを通じて働く人々が直面しうるその他の課題には、労働条件の透明性や予測可能性の欠如、安全衛生リスク、社会的保護への不十分なアクセスなどがある。
フォン・デル・ライエン委員長は、政治指針の中で、「デジタルトランスフォーメーションは、労働市場に影響を与える急速な変化をもたらす」と強調した。彼女は、「プラットフォームで働く労働者の労働条件を改善する方法を検討する」ことを約束した。
「プラットフォーム労働の労働条件改善に関する指令」は、「欧州社会権の柱行動計画」の主要なイニシアティブのひとつである。
それは、プラットフォームとそこで働く人々が、プラットフォーム経済の恩恵を活用し、競争力と労働者の権利を守り、公正な労働条件を確保できるようにするためのEU共通のルールを定めるものである。
※https://ec.europa.eu/social/main.jsp?langId=en&catId=89&furtherNews=yes&newsId=10718
プラットフォーム協定は労働者の権利における「荒野」に終止符を打つべきだ／2023年12月13日 欧州労連（ETUC）
今日合意されたプラットフォーム労働指令によって、誤って自営業に分類され、その 基本的権利を奪われている何百万人もの労働者が恩恵を受けることになる。ETUC［欧州労働組合連盟］は加盟国に対し、この合意を採択し、その徹底的な実施と執行を確保するよう求める。労働組合は、プラットフォーム労働者の承認と条件改善を勝ち取るため、街頭や法廷で闘ってきた。この指令は、プラットフォーム労働者が労働者として適切に承認され、保護されるために重要な法的裏付けを与えるだろう。
国レベルでの施行がきわめて重要になる。そのためには労働監督官の数を増やす必要があるだろう。心配なことに、労働監督官の数は過去15年間で加盟国の半数で削減されている。
欧州議会、欧州理事会、欧州委員会の合意文書はまだ最終調整中であるが、以下のような改善点が含まれると報告されている。
- 立証責任の逆転。つまり、プラットフォームは雇用関係がないことを証明しなければならなくなる。
- 再分類が1回でも行われた場合、職場の検査が義務付けられる。つまり、ある労働者がこの手続きを行った場合、当局はその同僚の状況を評価しなければならなくなる。
- アルゴリズムをめぐる透明性は、合法的な労働組合活動に参加した労働者を罰するために使用された、プラットフォーム企業による仕事の設定・規制にまで利用されている。
- 進化するプラットフォーム経済における労働組合と団体交渉の中心的役割。
この合意について、ETUCのルドヴィック・ヴォエ総連合書記は次のようにコメントした。「この合意の最終文書を精査する必要があるが、労働者が直面する深刻な問題に対処しようとする真の試みがあることは明らかだ。」「プラットフォーム企業は、配達員やタクシー運転手、介護士や清掃員を含むその他の労働者を、休日手当や傷病手当、社会保障の支払いを避けるために、偽の自営業に追いやってきた。」「これが労働者の権利における『荒野』の終焉のはじまりであるべきだが、550万人のプラットフォーム労働者の生活に変化をもたらすのであれば、加盟国は本日合意された措置を適切に実施する責任がある。」「何が雇用関係を構成するかをめぐる立証責任の逆転は、重要な前進である。労働者は、傷病手当金のような基本的な権利を受け取るためだけに、企業弁護士の軍隊を引き受け続けることは期待できない。」「アルゴリズム管理に関する透明性は、労働組合に加入した者から仕事を奪って罰するといった、不名誉な組合つぶし戦術をプラットフォームが使うのを防ぐのにも役立つだろう。」「長く困難な交渉の末、労働者が一刻も早く恩恵を実感できるよう、私たちは今、理事会が義務を確認することを期待している。」
※https://www.etuc.org/en/pressrelease/platform-deal-should-end-wild-west-workers-rights
EUが2,800万人プラットフォーム労働者の労働条件改善で合意／2023年12月14日 欧州労働安全衛生機関
欧州議会と欧州理事会は、プラットフォーム労働者の労働条件を改善するための指令案について政治合意に達した。［…］デジタルプラットフォーム労働は、EU-OSHAが2024年2月より推進する健康職場キャンペーン「デジタル時代における安全で健康的な労働」キャンペーンの最初の優先分野である。このキャンペーンでは、労働者の柔軟性や自律性、労働市場へのアクセスが困難な人のための雇用の選択肢といった機会を強調している。しかし、アルゴリズムによる管理、孤立した働き方、仕事量をほとんどコントロールできないといったリスクや課題についても考察している。また、デジタルプラットフォーム労働に関連するリスクを防止するための政策イニシアティブも紹介している。
安全センター情報2024年3月号
