以下の文章は、コリイ・ドクトロウの「Bossware is unfair (in the legal sense, too)」という記事を翻訳したものである。
Pluralistic
金持ちは自分の行動に確信を持っている――と思いこむと大きな落とし穴にハマってしまう。たとえば、こんなふうに。「広告テクノロジーは人々の批判的思考をすり抜け、ビッグデータのインサイトを駆使して、人々の心を操って洗脳できるんだろう。もしそうでないなら、金持ちがそんな広告に巨額の投資をするはずがないじゃないか。」
https://pluralistic.net/2020/12/06/surveillance-tulip-bulbs/#adtech-bubble
あるいは、「プライベートエクイティの略奪者たちは投資家を富ませてくれるのだろう。そうでないなら、金持ちが彼らに何兆ドルもの資金を託すはずがない。」
https://thenextrecession.wordpress.com/2024/11/19/private-equity-vampire-capital/
しかし真実は、「金持ちも我々と同じように騙されやすい」である。むしろ、一度や二度の成功体験は悪く働く。イエスマンたちが作り出した泡の中で、自分は間違えるはずがないという無謬性の確信が膨らみ、ますますちょろいカモになってしまう。
金持ちも我々と同じように詐欺に引っかかる。誰でも標的になり得る。私だって騙される。
https://pluralistic.net/2024/02/05/cyber-dunning-kruger/#swiss-cheese-security（邦訳記事）
だが、金持ちが騙されるのと我々が騙されるのとでは、もたらされる結末は大きく異なる。ケインズの言葉を借りれば、「市場は投資家が支払い不能に陥るよりも長く、非合理的であり続けることができる」。カモが金持ち（さらに悪いことに超富裕層）であったなら、破産までにははるかに長い時間がかかる。そして、彼らが破産するまでの間、それが正しい状態だという幻想が生み出される。
著名なケインジアンのジョン・ケネス・ガルブレイスも、この点について考察を残している。彼は「ベズル（詐取）」という言葉を生み出した。これは「詐欺師が自分から横領したお金を手にしていることを知っているが、被害者がまだそれを失っているとは気付いていない魔法の時間」を指す。この魔法の時間が続いている間には、誰もが得をしたと感じる。カモは自分が得をしたと思っているし、詐欺師は自分が得をしたと知っている。
金持ちがカモになると、このベズルはとてつもなく長引く。常軌を逸した迷信や疑似科学に基づく経験的に誤った考えが、単に金持ち――あるいは金持ちたち――が自分たちにとって好ましいと確信しているという理由だけで、我々の人生全体を大きく狂わせることもある。
「科学的管理法」を例に取ろう。20世紀初頭、詐欺師のフレデリック・テイラーは、キャリパーとストップウォッチを使った一種の振り付けによって労働者の生産性を向上させることができると、富裕な実業家たちを言いくるめた。
https://pluralistic.net/2022/08/21/great-taylors-ghost/#solidarity-or-bust（邦訳記事）
テイラーと白衣を着た無慈悲な一団が、（テイラーの言う「愚か」で「精神的に鈍い」「牛のような」）工場労働者たちの脇に張り付き、彼らの一挙手一投足を完璧に振り付けし、彼らの仕事を従順さを表現するカブキに変えた。彼らはより効率的になったわけではなかったが、従順なロボットのように見え、それがボスを喜ばせた。ボスたちは、テイラーに莫大な報酬を支払った。たとえ彼の指示に従う労働者たちが以前より非効率的で、より少ない利益しか生まなかったとしても。ボスたちは、きびきびと動く人々が精密に作動する機械と連携する工場フロアの光景に魅了され、事業全体としては損失を生み出していることを理解できなかった。
テイラー主義の導入後に収益が減少していることに気づいたとしても、それは科学的管理が不十分だからだと考えた。テイラーは甘美な詐欺をしかけていた。彼のアドバイスの成果が悪ければ悪いほど、ボスたちはさらなるアドバイスを求めて金を支払った。
テイラー主義は、富裕で権力のある人々への完璧な詐欺だ。彼らの労働者に対する偏見と不信感を刺激し、労働者自身よりも労働者の仕事をよく理解しているという奢った自信をくすぐる。「科学的管理」という詐欺をしかければ、いつだって大金を稼げるのだ。
今日、それはアプリというかたちをとっている。「ボスウェア」は労働者を監視し規律するためのテクノロジーの一種で、パンデミックとリモートワークの台頭によって急激に強化された。ボスウェアとリモートワークの組み合わせにより、ボスはあなたが自宅にいる時でさえもあなたの生活を支配できるようになった――つまり、「在宅勤務」が「職場での生活」に変わったのだ。
https://pluralistic.net/2021/02/24/gwb-rumsfeld-monsters/#bossware
ギグワーカーはボスウェアの最前線にいる。ギグワークは「自分の仕事のボスになれる［be your own boss］」ことを約束しているが、ボスウェアはテイラー主義者のキャリパー使いをギグワーカーのスマートフォンに住まわせ、自分の車で荷物を配達したり乗客を拾ったりする間、彼らを監視し縛り続ける。
自動化の観点から見ると、このようにアプリに縛られた労働者は「逆ケンタウロス」と言える。自動化理論家は、機械によって強化された人間を「ケンタウロス」と呼ぶ――疲れを知らず力強い機械の体に支えられた人間の頭部――が、「逆ケンタウロス」は人間によって強化された機械である。たとえばAmazonの配送ドライバーのように、アプリに非人間的な配達ノルマを強要され、「間違った」方向を見たりラジオに合わせて歌ったりするだけで罰せられるような存在だ。
https://pluralistic.net/2024/08/02/despotism-on-demand/#virtual-whips
ボスウェアは現在のAIバブル以前から存在していたが、AIマニアによって超強化された。AIの推進者たちは、AIが絶対にできないはずのことをできると主張する。たとえば、「自律型ロボット」を発表したものの、実際にはロボットスーツを着た人間だったという具合に。そうして金持ちは「AI搭載」のボスウェアを購入するよう仕向けられる。
https://pluralistic.net/2024/01/29/pay-no-attention/#to-the-little-man-behind-the-curtain
イーロン・マスクやサム・アルトマンのようなAI詐欺師にとって、AIがあなたの仕事を代替できないという事実は重要ではない。ビジネスの観点からは、セールスパーソンが「AIは人間の代わりに仕事をしてくれる」とあなたのボスを説得できるかどうかだけが重要なのだ――もちろん、それが事実かどうかは関係ない。
https://pluralistic.net/2024/07/25/accountability-sinks/#work-harder-not-smarter（邦訳記事）
AIがあなたの仕事を代替できないとしても、あなたのボスが説得されてあなたを解雇し、その仕事をできないAIに置き換えようとしているという事実は、21世紀の労働市場における中心的な事実である。AIは「アルゴリズム管理」の世界を作り出している。そこでは人間は逆ケンタウロスに格下げされ、アプリによって監視され、指図される。
テックブロたちは、アプリを使って行う限り、何も犯罪ではないと考える。フィックテックが銀行規制に縛られずにすむ銀行を目指しているように、ギグエコノミーは労働法の規制を免れた職場を目指している。しかし、このトリックはあからさまで、執行者たちに仕事をする気があるのなら簡単に見破れる程度のものだ。そんな執行者の一人が、反トラスト法と労働者保護を熱心につなげようと試みるFTC委員のアルバロ・ベドヤである。
ベドヤは、反トラスト法が「労働」にとって負の歴史を歩んできたことを理解している。彼が言うように、反トラスト法の歴史を振り返れば、組合の結成がカルテルの形成とは異なることを法改正によって明確化された後でさえ、経営者に友好的な裁判官によって労働者の利益は損ねられてきた。
https://pluralistic.net/2023/04/14/aiming-at-dollars/#not-men
ベドヤは単なる歴史家ではない。彼は世界で最も強力な規制当局者の一人、つまりFTC委員であり、その権限を労働者、とりわけにギグワーカーのために行使しようとしている。ギグワーカーの不幸は、個人事業主として体系的に、雑に誤分類されることから始まる。
https://pluralistic.net/2024/02/02/upward-redistribution/
ベドヤはNYUのワグナー公共サービス大学院で行った講演で、既存のFTCの権限だけでもアルゴリズム管理を取り締まれると語った――つまり、アルゴリズム管理は、アプリで法律に違反したとしても、違法なのだ。
ベドヤはまず、ドクター・スースの詩に登場する架空の町、ホッチ・ホッチの魅力的な類推から始める。ホッチ・ホッチの経済は養蜂業に支えられている。ホッチ・ホッチの住民たちはミツバチの怠惰に心底腹を立てていて、ミツバチをもっと働かせよう（そしてもっと蜂蜜を収穫しよう）と決意する。そこで彼らは「ミツバチ監視人」を任命する。しかし、ミツバチが蜂蜜を生産する量が増えるわけでもない。ホッチ・ホッチの住民たちはミツバチ監視人が仕事中に居眠りをしているのではないかと疑い、ミツバチ監視人の監視人を雇う。それも効果がないとみるや、ミツバチ監視人の監視人の監視人を雇い、それでもダメならさらに……と続く。
ギグワーカーたちは、際限のないミツバチ監視人の監視に晒され続けている。コールセンターの労働者は、「AI」による映像監視と、彼らの共感を測定すると謳う「AI」による音声監視を受けていて、さらに別のAIが通話時間を測定する。おまけに2つのAIが通話の「センチメント」と、任意の指標を満たしたかどうかで労働者の成功を分析する。コールセンターの労働者は平均して5つのボスウェアに晒されていて、労働者の肩越しに労働者を採点する。そして、一切の異論を認めない。
たとえば、とあるコールセンターの経験豊富なオペレータが、家が浸水して加入する修理プランの申請をしたのに一向に来ない理由を教えてくれという顧客からの電話を受けた。そのオペレータはその顧客に修理プランを売り込まなかったとして、AIからペナルティを受けた。顧客がすでに修理プランに加入しているのに修理に来ないから苦情の電話をしてきたのだが、オペレータにその判断に反論する手段は用意されていなかった。
労働者たちは、この種の監視によって文字通り病んだと報告している――ストレスで吐き気や不眠に苦しむようになった、と。皮肉なことに、自動化が引き起こす病の最も典型的な原因の1つが、AIの詐欺師たちがボスに売り込む「（訳注：従業員の健康管理のための）AIウェルネス」アプリだ。
https://pluralistic.net/2024/03/15/wellness-taylorism/#sick-of-spying（邦訳記事）
FTCには「不公正な取引慣行」を阻止する広範な権限がある。そしてベドヤは、アルゴリズム管理がまさにその不公正な取引慣行にあたると言う。不公正な取引慣行の立証には3つのテストがある。すなわち、ある慣行が「重大な損害」を引き起こし、その損害を「合理的に回避できず」、かつ「相殺する便益」によって正当化されない場合、その慣行は不公正とされる。ベドヤは、アルゴリズム管理がこの3つのテストすべてを満たし、したがって違法であると論じている。
「重大な損害」に関して、ベドヤはeコマースサイトの倉庫作業員の一日を説明している。彼は、動く作業ベルトから10秒ごとに物を取り上げ、降ろすことをAIに要求され、これを10時間続けなければならない作業員の例を挙げた。作業員のパフォーマンスはリーダーボードで追跡され、ノルマを達成できない作業員は管理者から叱責や処罰を受け、アルゴリズムは自動的に解雇を実行する。
このような条件下では、その作業員が2つの椎間板を損傷し、永続的な障害を負うのは時間の問題だった。会社はこの傷害に対して100%の責任があると認定されている。OSHA［労働安全衛生庁］はアルゴリズムと傷害との間に「直接的な関連」があると認定した。倉庫の自動販売機が清涼飲料の代わりに鎮痛剤を販売しているのも不思議ではない。アルゴリズム管理が「重大な損害」をもたらしていることは明白だ。
では「合理的に回避できる」かはどうだろう。労働者はアルゴリズム管理による害を避けることができるのか。ベドヤは、自身が参加したニューヨーク市のライドシェアドライバーとの円卓会議での経験を語っている。ドライバーたちは「自分の仕事のボスになれる」という約束のもと、何万回もの成功した配車をこなしてきたと説明した。しかしその後、アプリは突然彼らを一時停止にし、何時間も配車を受けられない状態にし、人手不足のエリアへと街を横断して送り込んでは、それでもなお一時停止を続けた。コーヒーや用を足すために止まったドライバーは罰として何時間もアプリから締め出されるため、高圧的なアプリの機嫌を取ろうと、12時間のシフトを一度も休憩を取らずに運転し続けている。
これらすべてが、ドライバーの収入が減少し、クレジットカードの借金が膨らんでいる中で起きている。ドライバーの収入がどのように決定されているのかは、誰も説明しようとはしない。しかし、法学者のビーナ・デュバルによる「アルゴリズムによる賃金差別」の研究によれば、ライドシェアアプリは配車を拒否するドライバーの報酬を一時的に引き上げ、彼らがハンドルを握り直すと再び引き下げているという。
https://pluralistic.net/2023/04/12/algorithmic-wage-discrimination/#fishers-of-men
まるで、負けがこんだギャンブラーを何度も賭け卓に呼び戻すために無料チップをくれてやるカジノのマネージャーだ。「カジノ・メカニック」と呼ばれるのも納得である。主要なライドシェアアプリは2つしかなく、いずれも同じような高圧的な戦術を採用している。ベドヤにとって、これは「不公正な慣行」の2番目のテスト――合理的に回避できない――を満たしている。ライドシェアドライバーをしていれば、有害な罠から逃れることはできないのだ。
「不公正な慣行」テストの最後の要件は、この行為に害を相殺するだけの「相殺する便益」があるかどうかだ。
この点について、ベドヤはコールセンターに話を戻す。そこではオペレータのパフォーマンスが「音声感情認識［SER］」アルゴリズムによって評価される。これは声から感情を判定できると謳う疑似科学的なまやかしだ。そのSERは、顧客の笑い声を怒りと解釈することもあるような、まともには機能しない代物だ。さらに、その誤りは労働者によって異なる。南部なまりやフィリピンなまりのある労働者は、AIからより多くの非難を受ける。コールセンター労働者の半数が音声感情認識によって監視され、4分の1の労働者が「常時」SERで採点されている。
また、ボスウェアのAIは労働者の通話の文字起こしもしているが、なまりのある労働者の場合、「間違いだらけ」になる。そして、その間違いは重大な結果をもたらす。ボスは文字起こしに基づいてパフォーマンスを評価し、さらに別のAIがそれに基づいて自動的に業務スコアを生成するからだ。
つまり、アルゴリズム管理は無限に続くミツバチ監視人、ミツバチ監視人の監視人、ミツバチ監視人の監視人の監視人の行列だ。これはニセ科学だ。より優れたコールセンター労働者を生み出しているわけではない。コールセンターで最も優秀な労働者を、恣意的に罰しているだけだ。
アルゴリズム管理による避けられない重大な損害を相殺するような「相殺する便益」は存在しない。言い換えれば、アルゴリズム管理は「不公正な慣行」テストの3つの要件すべてを満たしており、つまりは違法なのだ。
では、我々はどうすべきか。ベドヤはFTCが「不公正な慣行」の権限のもと、労働者のために行動を起こすべきだと主張する。しかし同時に、労働者のプライバシーの欠如がこのアルゴリズム管理の地獄図のの根本にあることを指摘する。
彼は正しい。連邦議会が米国のプライバシー法を大きく更新したのは1988年が最後で、そのときはビデオ店の店員が客の借りたVHSカセットをどの新聞にも話せないようにするためだった。米国は新しいプライバシー体制を必要としている。アルゴリズム管理下の労働者たちは、それを実現する可能性が過去になく高まっている幅広い連合の一部だ。
https://pluralistic.net/2023/12/06/privacy-first/#but-not-just-privacy
労働者は自分のどのようなデータが収集され、誰と共有され、どのように使用されているかを知る権利を持つべきだ。我々全員がその権利を持つべきだ。これは俳優たちのストライキの理由の1つでもあった。俳優たちはデジタルの分身を作成するデータ収集のためだとして、モーションキャプチャスーツの着用させられていた。だが、その「自分の代替要因を訓練」するためのデータは、まさにディープフェイクを作り出すためのデータだった。
トランプ政権が目前に迫っているが、FTCの将来は不透明だ。しかし、新しいプライバシー法を求める連合には、トランプ陣営の最も強力な勢力も一部含まれている――たとえば、1月6日の暴動参加者たちだ。彼らの位置情報はGoogleに収集され、FBIに引き渡された。強力なプライバシー法は彼らの修正第4条の権利を守ることになる――そしてそれは、暴動参加者よりもはるかに頻繁に、はるかに深刻な結果を経験したBLMの抗議者たちの権利も守ることになる。
「アプリでやったのだから違法ではない」という言い訳は、日に日に説得力を失いつつある。アプリがあなたのボスなのであれば、あなたの本当のボスは責任逃れの手段、あなたの不幸の便利な身代わりを手に入れる。
あなたの仕事の質が低下し、ボスが損失を被るという事実は、あなたが保護されることを保証するものではない。金持ちはちょろいカモであり、あなたが破産するよりも長く、非合理的であり続けられる。市場はこの問題を解決しない――だが労働者の力はそれを解決できる。
Pluralistic: Bossware is unfair (in the legal sense, too) (26 Nov 2024) – Pluralistic: Daily links from Cory Doctorow
Author: Cory Doctorow / Pluralistic (CC BY 4.0)
Publication Date: November 26, 2024
Translation: heatwave_p2p
