以下の文章は、コリイ・ドクトロウの「Algorithmic feeds are a twiddler’s playground」という記事を翻訳したものである。
Pluralistic
オスカー・ワイルドが書いたように、「私は誘惑以外なら何にでも抗える」。私の大人への遅く、ゆっくりとした旅路は、まさにこの事実と格闘し、誘惑に屈する前にその道を切り開く過程であった。
行動経済学者は、誘惑に対抗するために取る手段を「ユリシーズ・パクト（Ulysses pact）」と呼ぶ。強い時に、やがて訪れる弱い時を認識して、取りうる可能性を排除することだ。
https://archive.org/details/decentralizedwebsummit2016-corydoctorow
有名な話として、ユリシーズはセイレーンの海を航海する前にこれを行った。セイレーンの歌を聞かないように耳に蝋を詰めるのではなく、その歌を聞いて溺死するのを防ぐために、ユリシーズは耳栓をせず、船員に自分をマストに縛り付けさせた。そうしてユリシーズは、セイレーンの歌を聞いて生き残った最初の人間となり、その物語を語れるまで生き延びた。
ユリシーズは、自分がいつか弱くなることを認められるほど強かった。自分の弱さから身を守ることで、強さを示したのだ。現代の生活は、あまり劇的ではないユリシーズ・パクトで満ち溢れている。ダイエットを始める日には、オレオ全部を捨てるのが賢明だ。そうすれば、午前2時には血糖値がセイレーンの歌を歌っても、服を着て鍵を探し、30分かけて24時間営業のスーパーまで運転するという面倒くささが抗ってくれる。
ユリシーズ・パクトは完璧ではないことに注意してほしい。オレオ欲しさにスーパーまで車をかっ飛ばしてしまうこともある。ユリシーズ・パクトが破られないことは稀だ。自分をマストに縛り付けることはあっても、鎖で縛ったり、念の為に手錠をかけたりはしない。
組織の運営者も、ユリシーズ・パクトを策定できる（し、そうすべきだ）。警察やスパイの「覗き見」令状の対象となりそうな機密データを保持する企業は、「令状のカナリア」を設定できる。
https://en.wikipedia.org/wiki/Warrant_canary
だが、これも完璧ではない。企業がNSAに侵食されたり、経営陣が変わってユーザのプライバシーを気にしない新しい責任者が任命されれば、定期的な透明性レポートの公開を中止してしまうかもしれない。
https://www.fastcompany.com/90853794/twitters-transparency-reporting-has-tanked-under-elon-musk
同様に、ユーザの信頼を望むソフトウェア企業は、そのコードを取り消し不能な自由/オープンソフトウェアライセンスでリリースし、そのライセンスでリリースされた各バージョンが永久に自由かつオープンであることを保証できる。これは良いことだが、完璧ではない。新しいボスが、そのフリー/オープンなコードをプロプライエタリなフォークに落とし、自由なバージョンを孤立させようとするかもしれない。
https://news.ycombinator.com/item?id=39772562
企業は、公益法人として自らを組織し、株主の利益よりもステークホルダーの利益を優先するという拘束力のある約束をすることができる。しかし、CEOが暗号通貨の回し者から1億ドルの賄賂を秘密裏に受け取り、ステークホルダーをシットコインのポンジスキームに誘い込もうとするかもしれない。
主要なリソースを、幅広いコミュニティの利益のために管理するよう任命された理事会を持つ非営利団体に委ねることもできるが、プライベートエクイティファンドに数十億ドルをちらつかされれば、理事会は売却こそが正しい道だと自分たちに言い聞かせるかもしれない。
https://www.eff.org/deeplinks/2020/12/how-we-saved-org-2020-review
ユリシーズ・パクトは完璧ではないものの、それでも非常に重要だ。少なくとも、ユリシーズ・パクトの策定は、自分が過ちを犯しうることを認めることから始まる。自分は誘惑されうるし、悪いと知っていながら悪い行動を取るように正当化してしまうのだ。大人になるということは、自分の弱さを知り、自分自身と自分を信頼してくれる人々を守ることこそが強さであると学ぶプロセスなのだ。
そして、メタクソ化の話につながる。メタクソ化とは、プラットフォームがユーザと顧客を裏切り、プラットフォームがクソの山になるまで、それぞれから価値を吸い上げるプロセスだ。
https://en.wikipedia.org/wiki/Enshittification
メタクソ化は多くの企業の衰退に適用できるスペクトラムだが、その最も純粋な形態として、メタクソ化は以下を必要とする。
a）プラットフォーム：ビジネス顧客とエンドユーザを互いに対立させられる両面市場。
b）デジタル・バックエンド：所有者が検索ランキング、価格、コストをユーザごと、クエリごとに簡単・迅速かつ検知されずに操作できる市場。
c）制約の欠如：プラットフォームの所有者が、競合他社、規制当局、従業員の退職、またはMOD、代替クライアント、ブロッカー、その他の「敵対的相互運用性」ツールを使用して製品のメタクソ化を解除し、ユーザとの関係を断ち切る技術者がもたらす、不正行為への代償を恐れる必要がない状況。
一般に、テックプラットフォームの創業者たちは、メタクソ化を目指しているわけではない。むしろ、彼らは常に、株主への価値の提供と、エンドユーザ、ビジネス顧客、そして自社の従業員への価値の分配をバランスさせようとする。創業者は完全な合理主義者であり、子育て同様、企業の設立には、かかる作業量と成功の可能性について継続的で低レベルな自己欺瞞をが求められる。失敗の可能性に直面すれば、創業者はどんな妥協であれ、事業を閉鎖するよりもマシだと自分に言い聞かせるようになる。「私は善人であり、もう一日生きて戦うことが何より大切だ。だから、ユーザ、ビジネス顧客、従業員への多少の不道徳は許されるはずだ。なぜなら、この危機を乗り越えたら、彼らに埋め合わせするからだ。彼らは知らないだろうが、すべて彼らのためなのだ。実際、私は二重の意味で道徳的だ。この事業を救うために進んで悪者を買って出て、世界をより良くするからだ」。
https://locusmag.com/2024/05/cory-doctorow-no-one-is-the-enshittifier-of-their-own-story/
（メタ）クソ（化）は下へと流れるので、下流のテックワーカーたちは彼らなりにこのジレンマと格闘しなければならない。自分の部門が自社にもたらす価値を最大化するという絶え間ない圧力に直面すると、彼らは相反する様々な戦術をバランスさせなければならなくなる。例えば、「ユーザ数やビジネス顧客数を増やす、場合によっては自社からステークホルダーに価値を移転し、その分を量で埋め合わせる」や、「既存のステークホルダーをロックインし、より厳しく搾り取る。搾取が巧妙になされれば、簡単にサービスから離脱することはできないはず」といった具合に。企業が大きくなればなるほど成長は難しくなる。それゆえ最大手の企業はサービスの改善によってではなく、ユーザを囲い込み搾取することで利益を確保しようとする。
https://pluralistic.net/2023/07/28/microincentives-and-enshittification/
ここで「いじくりまわし（twiddling）」の出番だ。デジタルプラットフォームは非常に柔軟性が高い。これはコンピュータが持つ特性であり、コンピュータは我々が持つ最も柔軟なツールだ。つまり、企業はプラットフォームの「ビジネスロジック」（エンドユーザにいくら支払わせるか、そのうちビジネス顧客にいくら渡すか、両者にどのようなオファーを提示するか）を高速かつ欺瞞的に、そして自動的に変更できる。
https://pluralistic.net/2023/02/19/twiddler/
（訳注：“twiddling”は、組んだ手の親指を“くるくる回す”とか、ラケットを”くるくる回す”といった意味合いで使われる。文脈的には“高速小細工”のような意味合いで使われているが、親指くるくるのニュアンスを残すため「いじくりまわし」と訳出した）
この種の詐欺は特に洗練されているわけではないが、そうである必要もない。求められるのは速さだけだ。どんなペテンでも、手の速さこそが目を欺く。
https://pluralistic.net/2024/03/26/glitchbread/#electronic-shelf-tags
通常の状況であれば、この手のいじくりまわしは社会の対抗力によって制約される。この種のビジネスルールの変更は詐欺であって、規制当局が介入してその行為を取り締まり、企業に純損失が出るほどの罰金を科すことを期待するだろう。しかし、あるセクターが極度に集中してくると、巨大企業は規制当局を取り込み、「大きすぎて罰せられない」ようになる。
https://pluralistic.net/2022/06/05/regulatory-capture/
そのため、巨大テック企業は、暗黒卿MBAの教訓を実践しがちだ。つまり、ステークホルダーの怒りを「取引を変更する。これ以上変更しないよう祈れ」と言って退けるのだ。
https://pluralistic.net/2023/10/26/hit-with-a-brick/#graceful-failure
規制当局が機能しなければ、テクノロジーが介入できる。デジタルプラットフォームの柔軟性は両刃の剣だ。企業が製品をメタクソ化するとき、サードパーティ製インクカートリッジ、代替アプリストアやクライアント、スクレイパー、ブラウザの自動化といったハイテクゲリラ戦によって、ユーザ自身でメタクソ化から逃れることもできる。
https://www.eff.org/deeplinks/2019/10/adversarial-interoperability
しかし、テック大手は規制当局を取り込んだことで、「知的財産権」を拡張して、この自助を妨げることができるようになった。製品の周囲に重なり合う知的財産権を慎重に配置することで、ユーザが価値を取り戻すためのテクノロジーを犯罪化し、「ビジネスモデル侮辱罪」という新たな犯罪を作り出すことができたのだ。
https://locusmag.com/2020/09/cory-doctorow-ip/
ライバル技術もなく、規制当局の監督もないままに、ユーザがプラットフォームの瞬間瞬間の決定に必ず従属させられる世界にあっては、企業は必然的にメタクソ化への強力な誘惑に直面する。
だからこそ、GoogleやAmazonの検索からFacebookやTwitterのフィードに至るまで、アルゴリズミックにフィードをランク付けするプラットフォームでメタクソ化が頻発しているのだ。検索エンジンは、あなたにとって最良の検索結果が何であるかについて、常に判断を下さなければならない。検索エンジンが、あなたを最も喜ばせる結果を予測するのが上手ければ、あなたはそこに戻り、自動的に最初の結果をクリックする（「I’m Feeling Lucky」）。
つまり、検索エンジンが検索結果の上位に奇妙な有料検索結果を滑り込ませれば、あなたの信頼を逆用して、あなたから投資家へと価値をシフトさせることができるのだ。デジタルサービスのコンフィギュアビリティ（congifurability：設定（変更）可能性 ）のおかげで、この手の詐欺をサービス中に不規則に散りばめて検知を難しくし、一時的な不具合だと言い逃れすることもできる。こうした小細工は次第に大胆になり、プラットフォームは品質を下げて利益を増やすことに夢中になる。そうして現代のGoogleができあがる。皮肉なことに、Googleは検索の質を下げて検索量を増やしているのだ。
https://pluralistic.net/2024/04/24/naming-names/#prabhakar-raghavan
次にAmazon。同社は、最良の検索結果をより高額・より低品質な製品の有料検索結果（訳注：広告）に置き換えるための賄賂で毎年380億ドルを稼いでいる。
https://pluralistic.net/2023/11/06/attention-rents/#consumer-welfare-queens
ソーシャルメディアのメタクソ化は異なる道をたどった。当初、ソーシャルメディアは決定論的なフィードを提供していた。プラットフォームに誰をフォローしたいか伝えると、プラットフォームはフォローするユーザの投稿を集め、時系列の逆順で表示するだけだった。
そのため、メタクソ化の余地はほとんどなかったが、それでも完璧ではなかった。プラットフォームに定着したユーザにとって、時系列の逆順フィードは制御不能な急流であり、高頻度の些細な投稿が重要な投稿を押し流してしまう。
一方、まだ多くの人をフォローしていない新規ユーザは、逆の問題に直面していた。フィードは空っぽのままで、自分以外のみんなが廊下の向こうの部屋で賑やかな会話をしているのに、自分はそこに行けないというぼっち感に苛まれていた。
その答えがアルゴリズミック・フィードだった。フォローしているアカウントからも、見知らぬ人からも、同じようにレコメンドされるフィードだ。理論的には、これはどちらの問題も解決できる。友達の重要な投稿を見落とすことなく、フィルターバブルの外側の重要で興味深い活動を把握できるからだ。多くのユーザにとって、この約束は実現され、アルゴリズミック・フィードは斬新さと関連性の源泉となった。
しかし、こうしたフィードは、実に魅力的なメタクソ化の標的だ。この手のアルゴリズムに対しては、主に「中毒性」と、プラットフォームがフィードの投稿の関連性を高めるように調整して「エンゲージメントをハックする」というアイデアに批判が集中してきた。
あまり注目されていないが、もっと重要な問題は、プラットフォームがその真逆のことを行ったことだ。「ブースト」されたコンテンツや広告のためのスペースを作るために、あなたがフィードで見たいと求めていた投稿、あるいはアルゴリズムがあなたが喜ぶと予測した投稿を削除するよう調整をかけたのだ。
https://www.reddit.com/r/Instagram/comments/z9j7uy/what_happened_to_instagram_only_ads_and_accounts/
この種のいじくりまわしにユーザは無力だった。同時に、彼らはプラットフォームにロックインされていた。（訳注：彼らがプラットフォームから抜け出せないのは）邪悪なテック野郎にドーパミンをハックされたからではなく、サービスの運営方法を心底嫌っていても、それ以上にそこにいる友人たちを愛していたからだ。
https://locusmag.com/2023/01/commentary-cory-doctorow-social-quitting/
その一方で、プラットフォームはそのテクノロジーを強力に支配し、知的財産を巧みに展開していたため、あらゆる対いじくりテクノロジーも即座に法律デスレーザーで焼き尽くされた。
TikTokに代表される新興ソーシャルメディアプラットフォームは、決定論的なフィードを完全に排し、アルゴリズムによる選択で構成されるフィードをデフォルトにしている。この種のプラットフォームにおけるフォローは、アルゴリズムに対する提案に過ぎない。これは完全にメタクソ化の温床だ。さまざまなビジネス部門が、それぞれの局所的な目的のためにアルゴリズムを無視するようノブをいじくりまわし、気づかれないほどの加減で品質とクソの比率を変更し、エンゲージメントが落ちたときにだけ一時的に品質を向上させる。
すべてのソーシャルプラットフォームはTikTokになりたがっている。表向きには、TikTokのアルゴリズミック・フィードが新規ユーザを惹きつけ、既存のユーザを夢中にさせ続けるのが上手いためだ、とされている。しかし、テック企業の幹部たちは、純粋にアルゴリズミック・フィードが、ユーザの離反を招くことなく、もっともらしく絶妙にメタクソ化できるブラックボックスの類いだということも理解しているのだ。
https://pluralistic.net/2023/01/21/potemkin-ai/#hey-guys
2004年、マーク・ザッカーバーグがFacebookの成功を掴みかけていた頃、彼は友人に、ハーバード大学の仲間の学生のメール、写真、社会保障番号の宝庫に座っていると自慢し、友人の暇つぶし（ちょっとした詮索）のために提供した。驚いた友人が「何だって？どうやってそんなことを？」と尋ねた。
そして例の悪名高いセリフだ。ザッカーバーグは「みんな勝手に提出したんだ。理由はわからない。『僕を信用している』らしい。バカだね」と答えた。
これは、当時19歳だったザッカーバーグにとって、注目に値する（そして、らしくない）自覚の瞬間だった。もちろん、ザックはそのデータを任せていい人物ではない。その信頼に答えるべきだと告げるジミニー・クリケットの声は、仲間に自慢したり、女子のクラスメートのファックしやすさを合意なしに品評する欲求にかき消されてしまったのだ。ザッカーバーグは何度も何度も、自分の権力を賢明に使うと約束しては、その約束を破れるようになるとすぐに破った。
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3247362
ザッカーバーグは反面教師だ。信頼に見合わない権力を蓄えていることを初期の段階から認識していながら、それでもユーザをスパイしないという拘束力のない約束のような、最も貧弱なユリシーズ・パクトしか策定しなかった。
https://web.archive.org/web/20050107221705/http://www.thefacebook.com/policy.php
しかし、プラットフォームはザッカーバーグから間違った教訓を学んだ。Facebookのメタクソ化を反面教師として扱うのではなく、ロードマップとして受け取ったのだ。そう、テック企業の役員室を支配しているのは暗黒卿MBAなのだ。
アルゴリズミック・フィードを始めとする「パターナリスティック」なコンテンツ表示は、情報過多の環境では必要であり、望ましいものでさえある。多くの場合、あなたが何を見るかについての決定は、あなたが信頼する第三者によって大部分をコントロールされなければならない。コメディクラブの観客がジョークが語られる前にオチを教えろということはないし、RPGプレイヤーがキャンペーン中の好きなチャレンジを提示するようダンジョンマスターに命令することはないのと同じだ。
しかしこの力は、プレイヤーがダンジョンマスターを交代させたり、観客が客席から立ち去ることの容易さと釣り合いが取れている。あなたがビデオゲームに100ドル以上つぎ込み、一緒にレイドするオンライン限定の友人グループがいるのなら、ゲーム会社はあなたの離脱を招くことなくさまざまなメタクソ化を進めることができる。そして、そのことをよく理解している。
https://www.theverge.com/2024/5/10/24153809/ea-in-game-ads-redux
時にやりすぎて撤回に追い込まれることがあっても、だ（以下の記事は、Steam版『Helldivers 2』のプレイヤーにPSNとの連携を義務づけたSonyが、コミュニティの反発を受けて撤回したことを報じている）。
https://www.eurogamer.net/sony-overturns-helldivers-2-psn-requirement-following-backlash
テック企業がアルゴリズミック・フィードへの信頼を勝ち取りたいなら、ユリシーズ・パクトが必要だ。さもなければ、必然的にメタクソ化の誘惑に屈するだろう。以下のように、強いものから弱いものまでグラデーションがある。
- そもそもアルゴリズミック・フィードを見せない。
https://joinmastodon.org/ - 複数の関係者がフィードを提供できる「構成可能なモデレーション」。https://bsky.social/about/blog/4-13-2023-moderation
- アルゴリズミックな「あなたへのおすすめ」フィードと時系列逆順の「友達」フィードを並べて提供し、デフォルトを友達にする。
https://pluralistic.net/2022/12/10/e2e/#the-censors-pen - 上記と同様だが、デフォルトを「あなたへのおすすめ」にする。
成熟とは、自分の弱点を知るのに十分な強さを持つことだ。誘惑に決して屈しないと言う人を信用してはいけない！ そうではなく、誘惑がいかに魅力的であるかを知り、誘惑が襲ってくる前に行動して抵抗しやすくしてくれる、成熟さと誠実さを持った人、そしてサービスプロバイダを探すべきだ。
(Image: Cryteria, CC BY 3.0; djhughman, CC BY 2.0; modified)
Pluralistic: Algorithmic feeds are a twiddler’s playground (11 May 2024) – Pluralistic: Daily links from Cory Doctorow
Author: Cory Doctorow / Pluralistic (CC BY 4.0)
Publication Date: May 11, 2024
Translation: heatwave_p2p
.jpg){kind=link}