『季刊労働法』2021年冬号(275号)
「AI時代の労働法政策」
近年、第四次産業革命とかSociety5.0といったバズワードが飛び交っています。人工知能(AI)、モノのインターネット(IoT)、ビッグデータ、ロボットといった新たなデジタル技術によって産業社会が大きく変わり、労働社会のあり方も激変していくという未来図が繰り返し描かれています。その中で、労働法政策も否応なく変化を迫られていくことになりますが、本稿では後続する個別領域ごとの突っ込んだ分析に先だって、総論的に日本と世界、とりわけEUにおけるAI時代の労働法政策への取組みの諸相を概観していきたいと思います。
1 日本の労働政策における取組み
日本でAI時代の労働法政策を正面から取り上げたのは2016年1月に設置され、同年8月に報告書をまとめた「働き方の未来2035:一人ひとりが輝くために」懇談会です。座長がIT企業社長(金丸恭文)、事務局長が(労働経済学ではない)経済学者(柳川範之)、事務局次長が経済ジャーナリスト(磯山友幸)、その他経済界の人々がずらりと並び、メンバーに労働研究者は大内伸哉、山川隆一の二人だけという、これまでの労働関係の検討会とはかなり異色の人選でした(労働組合からはゼロ)。報告書も型破りで、2035年の未来社会像をかなり楽観的に描き出し、時間や空間に縛られず、企業に縛られない自由な働き方が広がるので、適切な情報が流れるための枠組み(働く人への情報開示)、新しい働き方に合わせたセーフティネットの構築、優越的地位に対する対処、能力開発機会の確保などが必要になると説いています。
全体としてややポエム的な叙述が目立つとはいえ、ポイントは概ね近年世界的に議論されてきている問題意識と対応するものです。情報通信技術の急速な発展により産業革命以来の雇用形式が揺らいでいき、労働時間規制など伝統的な労働法規制の意味が薄れていく一方で、企業の情報開示や個人情報保護といった情報に着目した新たな規制の必要性が高まり、また長期継続的な雇用関係を前提とした社会保障制度をより中立的なものにしていくことが求められるといった点については、後続の諸論考がさらに詳しく取り上げることになります。
これに対し、この報告書に欠落しているのは集団的(労使)関係の視点です。もちろん、働く人々とその相手方との交渉力のインバランスには着目しているのですが、それを「優越的地位に対する対処」という競争法的枠組みでのみとらえ、その競争法と矛盾する面を持つ集団的労使関係システムをいかに活用していくかという観点が抜け落ちているのは、やはり人選の帰結かも知れません。
次にこの問題に取り組んだのは労働政策審議会(労政審)の労働政策基本部会です。これも労政審の原則と異なり公労使三者構成ではないとはいえ、学者も労働系が多く、労働組合からも3名入るなど、やや地に足の付いた議論ができる形となっています。2017年7月から審議を開始した同部会は、2018年9月の報告書「進化する時代の中で、進化する働き方のために」において、AI等の技術革新が雇用労働に与える影響を実態把握し、それを踏まえた労働政策を検討すること、働く人全ての活躍を通じた生産性向上を図るため、人材育成・自己啓発や労働移動を進めること、時間・空間・企業に縛られない働き方として、雇用類似の働き方、テレワーク、副業・兼業について検討することを求めています。
このうちAI等の技術革新の労働への影響について同年12月から審議が再開され、翌2019年6月に報告書「働く人がAI等の新技術を主体的に活かし、豊かな将来を実現するために」をまとめました。AI等の普及による求められる働き方の変化として、労働環境の変化への対応方針の協議(労使コミュニケーション)、AI等との協働に必要なスキル、タスク変化に対応したスキルアップ・キャリアチェンジに向けた支援、AI等に対応できない労働者が排除されないような支援が挙げられ、働く現場でAI等が適切に活用されるための課題として、労働者のプライバシーの保護や情報セキュリティの確保、HRTechなどAIによる判断に関する企業の責任・倫理、円滑な労働移動の実現や新しい働き方への対応、政労使のコミュニケーションの重要性が指摘されています。
狭義のAI労働法政策としては、この労働者情報保護やアルゴリズムの問題が極めて重要ですが、日本ではその後特に議論が深められていません。その代わりに、労使コミュニケーションの問題について2019年12月から「技術革新(AI等)が進展する中での労使コミュニケーションに関する検討会」が開催され、コロナ禍を経て2021年6月に報告書をまとめました。ただ、どちらかというとAIの円滑な導入のための労使コミュニケーションの重要性というところに焦点が当てられ、アルゴリズムなどAIそのものに関わる問題には及んでいません。ここはなお今後の課題のようです。
2 日本政府のAIへの取組み
労働政策を超えて日本政府のAIへの取組みを見ると、2016年4月から人工知能技術戦略会議を設置し、総務省・文部科学省・経済産業省が所管する5つの国立研究開発法人を束ね、AI技術の研究開発を進めるとともに、AIを利用する側の産業の関係府省と連携し、AI技術の社会実装を進めました。2017年3月に同会議がとりまとめた人工知能技術戦略は開発と実装についてのみ論じています。2018年9月からは統合イノベーション戦略推進会議にイノベーション政策強化推進のための有識者会議「AI戦略」(AI戦略実行会議)が設けられ、2019年6月に『AI戦略 2019〜人・産業・地域・政府全てにAI〜』を策定しました。これは2021年6月に『AI戦略2021』に改訂されていますが、倫理については1頁触れているだけです。
一方内閣府では2016年5月から人工知能と人間社会に関する懇談会が設置され、2017年3月に報告書をとりまとめていますが、ここには上述の大内伸哉、柳川範之も構成員に入っています。同報告書は移動、製造、個人向けサービス及び対話・交流の4分野について、倫理的論点、法的論点、経済的論点、教育的論点、社会的論点、研究開発的論点にわたって検討しています。経済的論点では、労働者がAI技術と差異化して能力を伸張させることや労働移動の促進が挙げられています。2018年5月からは人間中心のAI社会原則検討会議が設置され、2019年3月に『人間中心のAI社会原則』をとりまとめました。こちらは構成員に労働関係者は見当たりませんが、人間中心の原則、教育・リテラシーの原則、プライバシー確保の原則、セキュリティ確保の原則、公正競争確保の原則、公平性、説明責任及び透明性の原則、イノベーションの原則を掲げています。
なお総務省でも2016年2月からAIネットワーク化検討会議を開催し、同年6月の報告書で目指すべき社会像として人間中心の社会像「智連社会」(WINS)を提唱した後、同年10月からAIネットワーク社会推進会議と改称し、2017年7月の報告書で国際的な議論のためのAI開発ガイドライン案を提示しました。そこでは、連携の原則、透明性の原則、制御可能性の原則、安全の原則、セキュリティの原則、プライバシーの原則、倫理の原則、利用者支援の原則、アカウンタビリティの9原則を掲げています。翌2018年7月の報告書では若干組み替えて、適正利用の原則、適正学習の原則、連携の原則、安全の原則 、セキュリティの原則、プライバシーの原則、尊厳・自律の原則、公平性の原則、透明性の原則、アカウンタビリティの原則の10原則としました。
同会議の下に2019年1月からAI経済検討会が設けられ(座長代理に柳川範之)、同年5月の報告書ではAI経済による雇用変容に対して日本的雇用慣行の有効性が乏しいと指摘し、人材育成システムの再構築を求めています。さらに翌2020年7月の報告書では、データ価値という新たな論点を展開しています。これは大変興味深いので紹介しておきましょう。データ価値の貢献者としてデータの生成者を重視する「労働としてのデータ」と、データの活用者を重視する「資本としてのデータ」の考え方があり、前者からはデータ生成したユーザに報酬を支払うことが提起されます。実際、EUでは2017年1月の職員作業文書「データの自由流通と欧州データ経済の新たな課題」(SWD(2017)2)で、データ生成者権が検討されたことがあります。労働としてのデータは収入を補完する重要な機会となり、格差の拡大に苦しむ市民に社会に貢献しているという意識をもたらすという意見に対しては、データは分析して初めて価値を生むものであり、データの分析者が報酬を受け取るべきという反論があり、さらにデータが生み出す価値の大部分を企業が私的利益として獲得していることへの批判もあります。これはもっと突っ込んで議論されていいテーマでしょう。
経済産業省では、2020年6月からAI社会実装アーキテクチャー検討会を開催し、2021年1月に中間報告書「我が国のAIガバナンスの在り方ver.1.0」をまとめ、その後AI原則の実践の在り方に関する検討会と改称して議論を進め、同年7月に報告書「我が国のAIガバナンスの在り方ver.1.1」と「AI原則実践のためのガバナンス・ガイドラインver.1.0」を公表しました。これは後述のEUのAI規則案を意識した内容になっています。
同報告書は、AIガバナンスの構造として(1)最終的に保護されるべき技術中立的なゴール、(2)横断的で中間的なルール、(3)個別分野等にフォーカスしたルール、(4)モニタリング/エンフォースメントにレイヤーを区分し、このうち(2)の横断的で中間的なルールの在り方として法的拘束力のないガイドライン等と法的拘束力のある横断的規制、そしてISO等の国際標準に分けて論じています。結論としては法的拘束力のない企業ガバナンス・ガイドラインによることが望ましく、「AIシステムに対する横断的な義務規定は現段階では不要」「AIを用いた特定の技術自体を義務的規制の対象とすべきではない」と法的拘束力あり規制には否定的です。
3 日本におけるプラットフォーム規制
AIとも関わる問題としてプラットフォームビジネスへの規制があります。2018年6月の『未来投資戦略2018―「Society 5.0」「データ駆動型社会」への変革―』において「プラットフォーマー型ビジネスの台頭に対応したルール整備」が打ち出され、同年7月から経済産業省、公正取引委員会、総務省によりデジタル・プラットフォーマーを巡る取引環境整備に関する検討会が開催され、同年12月の中間論点整理とそれを受けた3省庁の「プラットフォーマー型ビジネスの台頭に対応したルール整備の基本原則」では、公正性確保のための透明性の実現として、重要な取引条件の開示・明示を義務付けるなど、取引慣行等における規律の導入が提起されました。これは先行して進んでいたEUのプラットフォーム規制(後述)の影響が窺われます。
翌2019年2月の未来投資会議でデジタル市場のルール整備について議論が行われ、安倍首相が「取引慣行の透明性や公正性確保に向けた、法制又はガイドラインの整備を図る必要」を述べたことから、同検討会に透明性・公正性確保等に向けたワーキンググループ、データの移転・開放等の在り方に関するワーキンググループを設けて議論し、同年5月に「プラットフォーマー型ビジネスの台頭に対応したルール整備に関するオプション」を公表しました。同年9月には内閣にデジタル市場競争会議とワーキンググループが設置され、デジタル・プラットフォーマー取引透明化法(仮称)について審議し、翌2020年1月に法案の概要を決定しました。これを受けて法案作業が進められ、同年2月に国会提出、同年6月に特定デジタルプラットフォームの透明性及び公正性の向上に関する法律が公布されました。
本法の規制の対象たる特定デジタルプラットフォーム提供者は、当面公正取引委員会の調査で規約変更による取引条件の変更など利用事業者から問題が指摘されている大規模なオンラインモールとアプリストアとされました。有形無形の商品を販売する出店者の保護が中心で、ウーバーのような労働サービスのプラットフォームは対象ではありません。特定DPF提供者は、取引拒絶をする場合の判断基準や契約変更・契約にない作業要請等を行う場合の内容と理由の事前通知など数項目についての開示義務が課せられるほか、紛争処理体制の整備が求められます。行政が紛争処理をするわけではありません。
4 OECDの動向
経済協力開発機構(OECD)は2016年よりAIに関する国際的なガイドラインの策定を視野に入れた調査研究等の取組に着手し、2017年10月にはAIに関する国際カンファレンスを開催し、2019年6月には分析レポート『社会の中の人工知能』を作成しています。2018年5月から専門家会合を開催して勧告の策定作業に入り、2019年5月に「人工知能に関する理事会勧告」を採択しました。これは同年6月のG20首脳会合で首脳宣言の附属文書とされ、G20AI原則が合意されました。
その中の「信頼できるAIの責任あるスチュワードシップのための原則」として、人間中心の価値観及び公平性、透明性及び説明可能性、頑健性、セキュリティ及び安全性等を掲げられています。そのうち労働関係にも関わるものとしては、透明性・説明可能性の具体的内容として、「職場におけるものを含め、AIシステムが使われていることをステークホルダーに認識してもらうこと」、「AIシステムに影響されるものがそれから生じた結果を理解できるようにすること」、「AIシステムから悪影響を受けた者がそれによって生じた結果に対して、その要因に関する明快かつ分かりやすい情報並びに予測、推薦又は意思決定のベースとして働いたロジックに基づいて反論することができるようにすること」が示されています。
また、「信頼できるAIのための国内政策と国際協力」の中には、人材育成及び労働市場への変化への備えという項目があり、「各国政府は、就労期間を通じた訓練プログラム等を通じて、AIの普及がもたらす労働市場の変化が労働者にとって公平なものであるようにするため、かつ離職を余儀なくされた者を支援するため、かつ労働市場における新たな機会へのアクセスを付与するために、社会対話を通じた措置も含め、様々な措置を講じるべきである」と謳っています。
なお2020年6月には、日本を含む14か国及びEUによりAIに関するグローバル・パートナーシップが設立されています。
5 EUにおけるAI政策の展開
(1) 規則案の提案まで
EUの行政府である欧州委員会は2021年4月、新たな立法提案として「人工知能に関する規則案」(COM(2021)206)を提案しました。同提案は早速世界中で大反響を巻き起こしていますが、その内容に入る前に、これに至る近年のEUのAI政策の展開を概観しておきましょう。
2017年12月、理事会、欧州議会、欧州委員会のEU3機関は2018-19年の立法優先課題に合意し、その中で「AIとロボティクスの発展の利益を捉え、リスクを避けつつ、高水準のデータ保護、デジタル権利及び倫理基準を確保する」と謳いました。翌2018年4月、欧州委員会は「欧州のためのAI」(COM(2018)237)を公表し、その中でAI研究開発への投資、デジタルスキルへの教育訓練に加えて、潜在的にバイアスのかかった意思決定のリスクへの適切な倫理的・法的枠組みの確保を挙げ、年内に倫理的指針を策定することを表明しました。
直ちにAIに関するハイレベルグループが設置され、その「信頼しうるAIのための倫理指針」が翌2019年4月に公表されました。同指針は信頼しうるAIの条件として、適法性、倫理性、堅牢性を挙げ、人間の関与と監視、技術的な堅牢性と安全性、プライバシーとデータ管理、透明性、多様性・非差別及び公平性、社会的・環境的ウェルビーイング、説明責任の7要件を示しています。この最初の項目に関して、自動化されたプロセシングのみに基づく意思決定により利用者に法的効果が生み出されることのない権利が最重要だと述べています。
これより先、2018年12月の「AIに関する協調計画」(COM(2018)795)は、AI投資の極大化、欧州データ空間の創設、デジタル技能の養成、倫理的で信頼しうるAIの開発を掲げていました。そして2020年2月に出た「AI白書:卓越と信頼への欧州アプローチ」(COM(2020)65)により一般協議を行いました。そこで問われているのはAIのもたらすリスクに対する規制枠組みです。まず、個人データとプライバシー保護及び非差別を含む基本的人権ですが、当局が大衆を監視したり、使用者が被用者の行動を監視するのに使われたり、個人に関するデータを追跡し非匿名化することで、データセット自体は匿名化されていても個人データ保護へのリスクが生み出されるといった例を挙げています。またバイアスと差別は社会経済活動につきものですが、そうした人間の意思決定をAIが学習して再生産すると、その過程がブラックボックス化するだけに、その是正はきわめて困難になってしまいます。ここは、雇用労働問題との関係で最も重要な論点です。もう一つはAIの安全性と民事責任レジームの問題で、自動運転車が事故を起こした場合の責任の所在などが含まれます。EUの将来の規制枠組みとしてリスクに基づくアプローチを唱え、医療、運輸、エネルギー、公共分野などハイリスクのAIに特別の規制を加えることを提示していますが、ここで「採用過程や労働者の権利に影響を与えるAIアプリの利用は常にハイリスクとみなされ、それゆえ下記要件が常に適用される」と明記されている点が重要です。要件としては、訓練データ、データと記録保持、提供されるべきデータ、堅牢性と正確性、人間による監視等を挙げています。
規則案の提案までの1年あまりの間の各種の動きを見ておくと、同年10月に欧州議会がAI、ロボティクス及び関連技術の倫理的側面の枠組みに関する欧州委員会への勧告決議を採択し、その付録として欧州委員会が提案すべき「人工知能、ロボティクス及び関連技術の開発、設置及び利用の倫理原則に関する規則」の案が添付されています。その中には、自己学習能力のあるハイリスクAIは常に人間の監視の下に置かれ、倫理原則への違反があれば直ちに自己学習能力が無力化されるべきといった事項も含まれています。欧州議会はその他、AIの民事責任、知的財産権、刑事責任、教育文化問題等についても決議しており、具体的な立法提案としては初めて包括的なものとなっています。なお、同年7月には欧州労連(ETUC)が人工知能とデータに関する欧州戦略に関する決議を採択していますが、こちらは後に触れます。
(2) AI規則案
同年12月に白書に基づく一般協議結果がとりまとめられた後、翌2021年4月にはいよいよ人工知能に関する規則案が提案されました。ちなみに、EU法制において、規則は指令と異なり、加盟国の法律に転換する必要なく直接EU域内に適用されます。適用対象はEU企業やEU市民に限られません。EU域内に関わりを持つ限り、日本企業も中国企業もすべて適用されるのです。
本規則案では、AIをそのリスクによって4段階に分けています。最も上位にあるのが基本的人権を侵害する可能性の高い「許容できないリスク」で、潜在意識に働きかけるサブリミナル技術、政府が個人の信用力を格付けする「ソーシャルスコアリング」、そして法執行を目的とする公共空間での生体認証などが含まれます。これらは中国では政府が先頭に立って全面的に展開されているものですが、EUはその価値観からこれらを拒否する姿勢を明確にしているのです。規則案の公表以来、世界中のマスコミが注目しているのもこれら最上位のリスクを有するAIに対する禁止規定です。
しかしながら、その次の「ハイリスク」に区分されているAI技術の中には、雇用労働問題に深く関わるものが含まれています。本稿が注目するのももちろんこの分野です。ハイリスクのAIは利用が可能ですが、本規則案に列挙されているさまざまな規制がかかってくるのです。本規則案附則別表Vには、ハイリスクAIシステムとして8項目が挙げられています。生体認証及び自然人の識別、重要インフラの管理運営、教育訓練、雇用・労働者管理及び自営へのアクセス、必須の民間・公的サービス及び給付へのアクセス及び享受、法執行、移民・難民及び国境管理、司法及び民主プロセスです。このうち、第3項と第4項の詳細は次の通りです。
3 教育訓練
(a) 自然人の教育訓練施設へのアクセスまたは割り当ての目的で用いられるAIシステム
(b) 教育訓練施設における受講生の評価及び受入のために広く用いられる試験への参加者の評価のために用いられるAIシステム
4 雇用、労働者管理及び自営へのアクセス
(a) 自然人の採用または選抜、とりわけ求人募集、応募のスクリーニングまたはフィルタリング、面接または試験の過程における応募者の評価、のために用いられるAIシステム
(b) 労働に関連した契約関係の昇進及び終了に関する意思決定、課業の配分、かかる関係にある者の成果と行動の監視及び評価に用いられるAIシステム
これらがハイリスクとされる理由が規則案前文に書かれているので、そちらも引用しておきましょう。
(35)(教育訓練)なぜならこれらは人生における教育及び職業コースを決定し、それゆえその生計を維持する能力に影響するからである。かかるシステムが不適切に設計され利用されれば、教育訓練を受ける権利や差別を受けない権利を侵害し、歴史的な差別パターンを永続化させることになる。
(36)(雇用、労働者管理等)なぜならこれらシステムはこれらの人々の将来のキャリア見通しや生計に歴然たる影響を与えるからである。関連する労働関連契約関係は被用者及びプラットフォームを通じて役務を提供する人々にかかわる。かかる人々は原則として本規則に言う利用者とみなされるべきではない。採用過程を通じて、及び労働関連契約関係における評価、昇進または保持において、かかるシステムは女性、特低年齢層、障害者、特定の人種民族集団または性的指向の者に対する歴史的な差別パターンを永続化させうる。これらの人々の成果と行動の監視に用いられるAIシステムはそのデータ保護及びプライバシーの権利にも影響を与えうる。
このうちとりわけ4は、入口から出口までの雇用管理における重要な意思決定に関わるAIが本規則の適用対象に入ってくることを示しています。ただし、雇用に関わる全ての事項が対象に入るわけではありません。どれがハイリスクに含まれ、どれが含まれないかの判断基準は、現時点では上記附則別表Vの記述のみです。
こういったハイリスクAIシステム自体に対して、本規則案に規定されているさまざまな規制がかかってきます。具体的には、まずリスクマネジメントシステムを設定しなければならず(第9条)、データガバナンスを確立しなければなりません(第10条)。このデータガバナンスは、一定の品質基準を満たす訓練、確認及び検証用データセットに基づいて開発されなければならず、それにも細かい要件が規定されています。また市場に出す前に技術文書を作成し、更新する必要があり(第11条)、運用中は常に記録(ログ)を保存し(第12条)、利用者への透明性と情報提供が求められます(第13条)。これは、利用者がシステムの出力を解釈し、それを適切に利用できるようなものでなければなりません。提供すべき情報は同条に詳細に規定されています。特に重要なのが人間による監視(human oversight)です(第14条)。これは、AIシステムが用いられている間ずっと自然人により監視されているべきということで、安全衛生や基本的人権へのリスクを最小限にするためのものです。最後に当然正確性、堅牢性及びサイバーセキュリティも求められます(第15条)。
本規則案ではさらに、ハイリスクAIシステムのプロバイダーに対しても、品質管理システム(第17条)、技術文書(第19条)、適合性評価(第19条)、自動生成ログ(第20条)、是正措置(第21条)、通知義務(第22条)、当局への協力(第23条)が課せられています。また、ハイリスクAIシステムを組み込んだ製品の製造業者の責任(第24条)、EU域外のプロバイダーの域内における有権代表者指名義務(第25条)、ハイリスクAIシステムの輸入業者の義務(第26条)、販売業者の義務(第27条)等が規定され、最後に利用者の義務が規定されています(第29条)。雇用分野におけるAI利用者とは使用者を意味するので、その条文を示しておきましょう。
第29条(ハイリスクAIシステムの利用者の義務)
1. ハイリスクAIシステムの利用者は、第2項から第5項までに従い、システムに付随する利用説明書に従って当該システムを利用するものとする。
2. 第1項の義務は、EU法又は国内法による他の利用者の義務及びプロバイダーによって示された人間による監視措置を実施する目的でその資源と活動を編制する利用者の裁量権を妨げない。
3. 第1項に抵触しない限り、利用者はインプットデータに対するコントロールを行使する限度で、当該インプットデータはハイリスクAIシステムの意図された目的の観点で有意であることを確保するものとする。
4. 利用者は利用説明書に基づいてハイリスクAIシステムの運用をモニターするものとする。利用説明書に従った利用が第65条第1項にいうリスクをもたらすと考える理由があるときは、プロバイダー又は販売業者に通知し、システムの利用を中止するものとする。第62条にいう深刻な事態又は機能不全を発見したときもプロバイダー又は販売業者に通知し、システムの利用を中断するものとする。利用者がプロバイダーに接触できない場合は第62条を準用する。
5. ハイリスクAIシステムの利用者は、当該ハイリスクAIシステムによって自動生成されるログを、当該ログがその管理下にある限り、保存するものとする。当該ログはハイリスクAIシステムの意図された目的並びにEU法及び国内法による法的義務に照らして適当な期間保存するものとする。
6. ハイリスクAIシステムの利用者は、EU一般データ保護規則第35条又は刑事法分野における個人データ保護指令第27条によるデータ保護影響評価を実行する義務を遵守するために、第13条に基づき提供された情報を利用するものとする。
一方、ハイリスクの下には「限定リスク」と「僅少リスク」があり、前者については透明性を担保するためにAIによって作用されている旨の通知が必要であり、後者については規制はありませんが自主的な規範の作成が望ましいとされています。
(3) 労使団体の反応
規則案提案に先立って、同年7月に欧州労連(ETUC)が人工知能とデータに関する欧州戦略に関する決議を採択しています。そこでは、人権と労働者の権利に基づく法的なEU枠組みを求め、具体的には職場の不適切な監視を防ぎ、バイアスのあるアルゴリズムに基づく差別を禁止し、労使の交渉力格差を踏まえたEU一般データ保護規則を超えるデータとプライバシー保護の必要性を訴えていました。
規則案提案後の2021年6月、ETUCは欧州議会議員に対して書簡を送り、その中で採用や評価などに限らず、職場で用いられる全てのAIシステムをハイリスクに分類すべきだと述べています。また、雇用に係るハイリスクAIシステムに対する開発者やプロバイダーによるリスクアセスメントは中立性に欠け、少なくとも権限ある第三者機関によってなされるべきであり、できれば事前事後になされるべきだと主張しています。
これと並行して、ETUCのシンクタンクである欧州労研(ETUI)も同年7月に政策ブリーフ「AI規則:AI規制の冬に入る?」を出し、同規則案は雇用におけるAIの特殊性を捉えそこなっていると批判して、雇用におけるAIを対象とする指令が必要だと主張しています。指令に含まれるべき内容としては、まずプライバシーとデータ保護規則があります。AIはデータに飢えており、労働者は個人データの宝庫です。EU一般データ保護規則は強力な規則ですが、労働者が使用者に対して情報開示、情報へのアクセス、訂正、消去、処理の制限、データ移動、自動化された意思決定やプロファイリングの背後のロジックに抗議することは困難だからです。またアルゴリズムによる職場の説明可能性が透明性を超えて必要だといいます。これは、アルゴリズムがどのように作動しているのかの理解を日常言語で提供することです。この職場の説明可能性枠組みにより、労働者とその代表は職場におけるAIシステムの役割と影響を理解し、受動的な立場に置かれずにすみます。さらに、自動化された意思決定のうち、雇用関係の終了に用いられるアルゴリズムは禁止されるべきといいます。
近年注目されるアルゴリズムによる労働者監視についても、これは海面をスキャンするレーダーから水面下のあらゆるものを3D画像で再現するソナーになったようなものだと評し、指令によって禁止すべきだと主張しています。
一方欧州経団連(Business Europe)は10月末に公表したポジションペーパーで、リスクベースのアプローチには賛意を表しながら、そのハイリスクの分類が大ぐくり過ぎると苦情を呈しています。とりわけ「雇用、自営業又は労働者管理」で使われるAIを全てハイリスクに分類することは、人的資源管理におけるAIの活用を顕著に阻害すると批判し、実際に基本権に及ぼす影響に応じて異ならせるべきだと主張しています。
6 EUにおけるプラットフォーム規制
上述した日本の特定デジタルプラットフォームの透明性及び公正性の向上に関する法律の元になったのが、EUのオンライン仲介サービスのビジネスユーザーのための公正性と透明性を促進する規則(2019/1150)です。欧州委員会は2016年5月にオンラインプラットフォームとデジタル単一市場に関するコミュニケーション(COM(2016)288)を公表し、これへの意見等を踏まえて2018年4月に規則案を提案し、これが2019年6月に成立に至ったものです。
本規則の対象はオンライン仲介サービスとオンラインサーチエンジンで、これらを使って商品やサービスを消費者に提供するビジネスユーザーが保護対象です。いわゆるP2B規制です。サービスを提供する個人もここでいうビジネスユーザーなので、消費者向けに労務を提供するプラットフォームワーカーも含まれることになります*1。
まず透明性の向上として、オンライン仲介サービスのプロバイダーは、ビジネスユーザーの取引条件が取引関係の全段階で(契約以前の段階も含め)容易に理解可能でアクセス可能なようにしなければなりません。これには、ビジネスユーザーがプラットフォームから除名されることや、資格停止される理由を設定することが含まれます。また、プロバイダーは取引条件の変更に最低15日間の告知期間を置かなければならず、その間は効力が生じません。これらに違反する条項は無効です。一方、ビジネスユーザーにはプロバイダーとの契約を終了する権利があり、これは通知後15日で効力を有します(第3条)。
プロバイダーがビジネスユーザーへのサービス提供を制限、停止する場合はその理由を明示しなければならず、終了する場合にはこれが30日前までになります。また、これらの場合後述の苦情処理で対応しなければなりません(第4条)。また、商品やサービス、検索結果のランキングを決定する主要なパラメーターと、これらのパラメーターが重要である理由を、契約条件に示さなければならず(第5条)、プロバイダーが直接間接に提供する商品やサービスと一般のビジネスユーザーが提供する商品やサービスとは異なる扱い(通常は優遇)をする際には、その内容を契約条件に示さなければなりません(第7条)。
さらに、ビジネスユーザーや消費者が提供した個人データ等にビジネスユーザーがアクセスできるか否か、これらデータを第三者に提供するか否か、提供する場合にはその理由等を契約条件に示さなければなりません(第9条)。また、ビジネスユーザーが異なる条件で他のサービスを利用して商品やサービスを提供することを制限する場合には、プロバイダーはその理由を契約条件に示し、公に開示しなければなりません(第10条)。
プロバイダーは、ビジネスユーザーの苦情を無料で処理するシステムを内部に設ける義務があり(第11条)、また裁判外で紛争解決を行う2人以上の調停者を指定しなければなりません(第12条)。
7 EUのプラットフォーム労働指令に向けて
(1) 労使団体への第一次協議まで
今年(2021年)に入ってから欧州委員会はプラットフォーム労働指令に向けて動きを加速してきています。2月24日に労使団体への第一次協議、6月15日に同じく第二次協議を行い、年内にも指令案の提案に至ると見込まれています。
この政策の源流は、プラットフォームビジネスなど存在していなかった2000年当時の経済的従属労働者に関する政策提起に遡ることもできますが、EUがプラットフォーム労働という新たな就業形態に注目しはじめたのは、欧州委員会の外郭団体であるEU生活労働条件改善財団(以下「EU労研機構」)が2015年3月に公表した「新たな就業形態」報告です。これはクラウドワークなど9種類の新たな就業形態を分析しています。これらを受けて2016年3月、欧州委員会は「欧州社会権基軸」について一般協議を開始し、それに対する欧州議会の同年12月の決議は、近年拡大しているデジタル・プラットフォームの仲介による仕事や従属的自営業、さらにゼロ時間契約などのオンデマンド労働を念頭に、「あらゆる就業形態におけるディーセントな労働条件に関する枠組指令」を提案するよう求めました。
これを受けて2017年4月、欧州委員会は書面通知指令の改正と「あらゆる就業形態の人々の社会保護へのアクセス」に関して、条約154条に基づく労使団体への第1次協議を開始し、同年9月には前者についての、11月には後者についての第2次協議に進みました。そして同年12月には「透明で予見可能な労働条件指令案」を提案し、これには被用者の定義(プラットフォーム労働を含む)を含んでいましたが、2019年6月に成立した「透明で予見可能な労働条件指令」では被用者の定義規定は削除されていました*2。なお同指令はいわゆるゼロ時間契約に対する規制を盛り込んでおり、これは日本におけるシフト制アルバイトの問題に示唆するものがあります*3。
こうして、いったんプラットフォーム規制は経済政策サイドの上記規則に振り分けられたのですが、加盟各国でプラットフォーム労働者を労働者と判断する判決が相次ぐ中で、労働者性の問題を無視できなくなり、2021年2月24日に、欧州委員会がプラットフォーム労働者の労働条件について労使への第1次協議を開始したわけです。協議文書(COM(2021)1127)の大部分はこれまでの経緯の説明に充てられていますが、最後の数ページで「考えられる行動」が提示されています。
まず「プラットフォーム労働における就業上の地位の誤分類の是正」です。誤分類とは、本来労働者である者が自営業者に誤って分類されてしまうことですが、これを是正するために、反証可能な雇用の地位の推定と挙証責任の転換(つまり、利用者側が就業者が自営業者であると立証しない限り雇用労働者であると推定される)、デジタル労働プラットフォームに対する労働監督の強化、裁判外紛争解決手続きの整備が示されています。
次に「万人に対する公正な労働条件の確保」です。プラットフォーム就業者が全て各タスクをを引き受ける前に報酬額と活動期間についての情報を得られるようにすることや、不公正な解雇やプラットフォームからの切断、適切に仕上げたタスクに対する報酬の不払いからの保護のほか、探索・待機時間への支払い、安全衛生のための就業時間の監視、災害防止なども提示されています。
「プラットフォーム就業者の経済社会的リスクからの保護」としては、コロナ禍で自営業者や非典型労働者に失業給付や疾病給付へのアクセスが拡大された措置の恒常化やデジタル労働プラットフォームによる保険料負担の確保が示唆されています。
「透明性、人間による監視と説明責任、個人情報保護規則の尊重に基づくプラットフォーム労働における自動化された意思決定へのアプローチの促進」としては、アルゴリズムによる管理意思決定に対し労働者が是正を求める仕組みや、潜在的に差別的でありうる意思決定のリスクを避けるため自動化された意思決定プロセスに人間による監視を組み込むことなどが上げられています。ここは、上記AI規則案の問題意識と重なるところです。
「団体交渉や集団的権利へのアクセス」としては、プラットフォーム就業者の組織化や情報提供・協議権などが論じられていますが、EU条約の競争法規制と団体交渉権の問題は、担当部局が異なることもあり取り上げられていません*4。
「プラットフォーム労働と国境を越えた公正さの促進」としては、社会保障問題や裁判管轄権、適用法の問題が取り上げられています。
「プラットフォーム労働者のキャリア開発や職能開発」としては、評判やデータのポータビリティ、訓練や技能向上への支援が挙げられています。
(2) 労使団体への第二次協議
労使の回答を受けて同年6月15日に第二次協議が行われました。同協議文書では「誤分類」に対する施策についてさらに踏み込んで、次の選択肢を提示しています。第1の選択肢は、プラットフォーム事業者とそれを通じて就労する者との間の契約が雇用関係であるという反証可能な推定規定です。この推定を覆すためには、プラットフォーム事業者は司法手続きによりその者が真に自営業者であることを立証しなければなりません。かかる法的推定規定は、労働・社会保障当局が彼らを労働者として再分類する上で明確なルールを提供することとなるといいます。
第2の選択肢は、司法手続きにおける立証責任の転換又は証拠基準の低減です。プラットフォーム事業者を通じて就労する者は自動的に雇用関係とみなされるわけではありませんが、雇用関係が存在する証拠となるごくわずかな基本的事実(プリマ・ファシ)を提示すればよく、その場合その者が真に自営業者であることを立証すべきはプラットフォーム事業の側となります。プリマ・ファシとなりうるのは、報酬の水準がプラットフォーム事業者によって決められているとか、顧客とのコミュニケーションを制限しているとか、外見や接客について特定のルールを要求しているといったことでかまいません*5。
次にアルゴリズム管理に関連する新たな権利の導入です。協議文書が提示しているのは、次のような項目です。
・アルゴリズムが労働を管理する方法に関して、その影響を受ける者及びその代表者に対して情報提供を改善すること、
・アルゴリズムが顕著な影響を与える意思決定に対する適時の正当な人間による監視、管理、説明責任を保証する内部的手続きの確立、
・是正のための適切なチャンネルの確保、
・アルゴリズム管理システムに関する情報提供と協議の権利、労使団体の関与の確保、
勤務外時間におけるプライバシーの権利、個人データ保護規則の適用、
・レーティング(格付け)のポータビリティ、
・労働関連契約関係の自動的終了又は同等の行為の排除、
これらは性質上プラットフォーム労働を超える広がりをもった提案ですが、ここではあくまでもプラットフォーム労働に限定した立法提案であり、将来的に労働市場におけるAIの利用に向けたより広範なアプローチへの第一歩となりうると述べています。ここは上記AI規則案に対して労働側が要求している指令案の原型と見ることもでき、今後の労働法の未来を考えるうえでも興味深いものです。
(3) 労使団体の反応
ETUCは第一次協議に対して同年3月、第二次協議に対して同年9月に執行委員会決議で回答しました。プラットフォーム労働者は自営業者と扱われながらその地位の自律性を享受しておらず、一般的に雇用の地位を推定するとともに、挙証責任の転換を求めます。そして、デジタルプラットフォーム企業は単なるデジタル仲介業者ではなく、使用者であるか、派遣業者であるか、雇用仲介業者であって、いずれにしても当該業界に対する事業規制の対象となるべきだと主張します。ここは欧州委員会の協議文書を超える部分です。ETUCは労働者と自営業者の間の第三カテゴリーの創設には強く反対しています。そして、新たな立法はオンライン(データ処理等)であれオンロケーション(運送や雑役等)であれ適用すべきだと主張しています。
一方、欧州経団連(ビジネス・ヨーロッパ)は第一次協議に対して同年4月、第二次協議に対して同年9月に回答を公表しましたが、その中でプラットフォーム労働者とは法的カテゴリーではなく、様々な契約形態が含まれるので、一律の法規制は不適当であり、公正で効率的に運営しているプラットフォームにとっては有害だと主張します。それゆえ対策も各国、各業種ごとに状況に応じてなされるべきで、自営業者を法律で労働者にするようなことは受入れられないというのです。また、アルゴリズム管理についてはプラットフォーム労働も含め一元的に上述のAI規則案で対応すべきで、別個の立法は無用だとしています。
*1規則案提案時の影響評価職員作業文書(SWD(2018)138)には、含まれるサービスの例示として、Uber, Airbnb, Deliveroo, Uber Eats, Upworkといった企業が並んでいます。
*2濱口桂一郎「EUの透明で予見可能な労働条件指令案」『季刊労働法』2018年春号(260号)。
*3濱口桂一郎「シフト制アルバイトはゼロ時間契約か?」『労基旬報』2021年1月25日号。
*4濱口桂一郎「フリーランスと団体交渉」『季刊労働法』2021年春号(272号)。
*5この背景として、ここ数年来EU加盟国で立て続けに出されているプラットフォーム労働者の労働者性を認める判決があります。濱口「EU諸国におけるプラットフォーム労働政策」『労基旬報』2021年9月25日号を参照。