以下の文章は、コリイ・ドクトロウの「AI is a WMD」という記事を翻訳したものである。
Pluralistic
面白い事実がある。「コモンズの悲劇」は、白人至上主義者のガレット・ハーディンが植民地支配された人々から土地を奪い、共同所有から「救い出して」私有財産にすることを正当化するために作り出したデマだった。彼の論理では、「合理的な自己利益」に基づいて適切に管理してくれる個人所有者の手に移せば、コモンズは救われるという。
https://pluralistic.net/2023/05/04/analytical-democratic-theory/#epistocratic-delusions
ご理解いただけただろうか？ もし重要な資源の管理権限がそれに依存する人々に分散されていたら、（ハーディンが言うには）誰もが利己的なアホとして振る舞い、コモンズを酷使し管理を怠るというのだ。（ハーディン曰く）そのコモンズを誰かが所有して地代（rent）を取るようになって初めて、健全な管理がなされるのだという。
その理屈で言えば、Googleはインターネットで最も有能かつ信頼できる管理者のはずだ。同社は資本市場へのアクセスを利用してインターネットの支配権を買収し、毎年何十億ドルもかけてGoogleの検索エンジン以外は使わせないようにし、90％のシェアを確保している。
https://pluralistic.net/2024/02/21/im-feeling-unlucky/#not-up-to-the-task
Googleは、インターネット上で我々に見せるものを決める問題を完全に解決したと考えているらしい。そうでなければ、800億ドルもの巨額を自社株買いにつぎ込み、昨年は12,000人のリストラ、今年は「中核チーム」の大幅削減と、何度も大量解雇できるはずもない。
https://qz.com/google-is-laying-off-hundreds-as-it-moves-core-jobs-abr-1851449528
にも関わらず、Googleの検索結果の1ページ目のトップには、詐欺やスパムが氾濫している。
https://pluralistic.net/2023/02/24/passive-income/#swiss-cheese-security
検索結果1ページ目に何を表示するかというGoogleの決定は、インターネット全体を左右する。Googleが情報的な議論や関連した情報よりもショッピングサイトの結果を優先したことで、インターネット全体が、アフィリエイトリンクまみれの「レビュー」生成へとシフトしていった。なぜなら、それがGoogleのフロントドアに表示されるからだ。
https://pluralistic.net/2024/04/24/naming-names/#prabhakar-raghavan
このことは、a）ヘッジファンドを所有し、b）「真実」や「事実」などの機能的な現実歪曲フィールドの維持管理の障害となる厄介なジャーナリストを煙たがってきた社会病質者どもにはまさに渡りに船だった。このチンカスどもは愛すべきニュースサイトを買い上げ、クソ「レビュー」やGoogleが喜ぶアフィまみれのナンセンスを吐き出すスパムファームに変えてしまった。
（こういったニュースサイトが買収されやすかったのは、主にGoogleのおかげだ。アドテクを独占するGoogleが広告1ドルにつき51セントを搾取し、モバイルOSを独占するGoogleがアプリ内課金1ドルにつき30セントを盗んでいるためだ）
https://www.eff.org/deeplinks/2023/04/saving-news-big-tech
さて、こうしたスパム記事は自動的に書かれているわけではない。Sports Illustratedやその他の由緒あるニュースサイトを買収したテック／金融のバカどもを悔しがらせたのは、もっともらしい言葉の寄せ集めを生成するためには人間のライターに金を払う必要があったことだ。彼らにとってこれは無駄金だった。その金をもっと有効な使い道、Googleのランキングアルゴリズムをリバースエンジニアリングして検索結果の目立つ場所を確保することに使えるというのに。
https://housefresh.com/david-vs-digital-goliaths/
そこAIが登場した。このスパイシーなオートコンプリートはジャーナリストの代わりにはなりえない。次の単語を予測するOpenAIや競合他社の破壊的プログラムは、矯正不能な嘘つきで、ニュースルームのコストを下げるどころか、「監視」コストを上乗せしてしまう。
https://pluralistic.net/2024/04/29/what-part-of-no/#dont-you-understand
だが、チャットボットは真実で有益な記事を生成できやしないが、とんでもないスケールでデタラメを量産することはできる。チャットボットは、ヘッジファンドのハゲタカどもが夢にまで見た労働者だ。疲れを知らず、不平も言わず、従順で、オンデマンドでナンセンスをひたすらひりだしてくれる。
だからこそ、資本家階級はチャットボットに貪欲なのだ。チャットボットはハリウッド映画の脚本を書くことはできやしない。だがスタジオの重役たちは、彼らの素晴らしいアイデアを取り入れ、熱心にそれを映画に仕上げてくれる「ライターロボット」の登場に色めき立っている。LLMへのプロンプトは、スタジオ幹部が脚本家にメモを渡すのとまったく同じだ。その違いは、LLMは「ETみたいなやつを犬主演で、中だるみしないようにラブストーリーを入れて、ラストは派手なカーチェイスで締めくくる」といった天才的なアイデアに皮肉を言ったり白い目を向けたりしないことだ。
https://pluralistic.net/2023/10/01/how-the-writers-guild-sunk-ais-ship/
同様に、チャットボットは、愛すべきニュースサイトを買収したヘッジファンドの連中にとっても夢のようなツールだった。Googleで上位にランクされ、アフィリンクから何百万ドルもの「不労所得」を保証するスケールとスピードでクソコンテンツを生成してくれるんだから。
そうしたクソコンテンツ企業の最高峰がAdvonだ。Advonは、ForbesからMoneyやUSA Todayに至るまで、空気清浄機から猫用ベッドまであらゆる商品のいい加減なベスト10リストをこれでもかと詰め込んだ、ステルス「レビュー」サイト量産時代を招来した立役者だ。
https://housefresh.com/how-google-decimated-housefresh/
Advonは、クソコンテンツを生み出しているのは生身の人間だけだとうそぶき、AIは使っていないと断言する。白々しいにも程があるのだが、同社従業員のLinkedInプロフィールにAIで「コンテンツ」を作成しているというご自慢が書かれているおかげで、簡単に反証できる主張である。
https://housefresh.com/wp-content/uploads/2024/05/Advon-AI-LinkedIn.jpg
Advonの主張はでたらめだ。AdvonはAIを使ってクソコンテンツを大量生産している。Futurismに掲載されたマギー・ハリソン・デュプレの丹念な取材記事では、Advonが惨めな人間のクソコンテンツライターを疲れ知らずのチャットボットに置き換えた証拠が示されている。
https://futurism.com/advon-ai-content
デュプレは、AdvonがYoga JournalからLA Times、Us Weekly、Miami Heraldなどのクライアントのメタクソ化にどのように貢献したかを説明している。
実にタイムリーだ。なぜなら、今週Googleがようやく重い腰を上げ、Advonのようなサードパーティの助けを借りて、こうしたSEOを詰め込んだニセレビューを作る「サイト評判の不正使用（site reputation abuse）」に従事するパブリッシャの順位を下げ始めたからだ。
https://pluralistic.net/2024/05/03/keyword-swarming/#site-reputation-abuse
（Googleのポリシーでは、サードパーティの助けを借りたサイト評判の不正使用のみを禁じている。パブリッシャがクソコンテンツの生成を内製化すれば、検索結果で上位を独占し続けることをGoogleは許可するかもしれない）
https://developers.google.com/search/blog/2024/03/core-update-spam-policies#site-reputation
ハーディンの人種差別的な「コモンズの悲劇」デマを多くの人が信じたのには理由がある。我々は直感的に、コモンズが脆弱だと理解しているからだ。たった一匹の怪物が、我々が飲み水を得る井戸にクソをしだせば、その井戸は汚染されてしまう。
金融市場はそういう怪物を好む。マーク・ザッカーバーグの重要な洞察は、世界人口の半分の人々の明かしたくないセンシティブ個人情報を本人の同意なしに収集すれば、何十億ドルも稼げる（ただし、データとシステムを攻撃から保護するコストは限界まで抑えなければならない）ということだった。要するにザックは、油まみれのボロ布の山から低品質の石油をたくさん絞り出せば金持ちになれる！（ただし消火設備には金はかけない）と気づいたのである。
https://locusmag.com/2018/07/cory-doctorow-zucks-empire-of-oily-rags/
今、我々のコモンズを乗っ取ったザッカーバーグや裕福な怪物たちに、因果応報の時が訪れている。プラットフォームの質を最低限維持するための貧弱な対策が、AIに圧倒されているのだ。これは完全に予見できたはずの結果だった。インターネットの歴史は、攻撃を自動化することでセキュリティシステムに組み込まれた前提を覆し、経済的に実行不可能な攻撃をグローバルな高速犯罪の波に変えた悪党の物語なのだから。
https://pluralistic.net/2022/04/24/automation-is-magic/
しかし、コミュニティがコモンズを維持することはできる。このことは、ハーディンが悲劇に転じた架空のコモンズを捏造するのではなく、実在のコモンズを研究していれば発見できていたはずだ。実際、それを発見した者もいる。ノーベル賞受賞者のエリノア・オストロムだ。
https://www.onthecommons.org/magazine/elinor-ostroms-8-principles-managing-commmons
オストロムは、コモンズが非常に長期にわたり、コミュニティの自治によっていかに賢く管理されうるかを説明した。彼女の研究によれば、コモンズの利用者は悪党から共有資源を守る力を持たなければならない。
それが機能しなくなると、コモンズはたちまち破綻する。便所まで100ヤード歩くくらいなら井戸にクソをしたって構わないと考える人間が必ずいるものだ。
メタクソ化とは、インターネットのコントロール権が、コモンズのメンバーによる自治から、井戸に何度もクソをする卑劣で貪欲なクソ野郎による無謀な破壊行為へと移行するプロセスである。
Googleの怠惰な無能ぶりに付け込んでいるのはスパマーだけではない。旧バージョンのクリエイティブ・コモンズ・ライセンス（画像のユーザが帰属表示でちょっとしたミスをすると、CCライセンスを終了させることができる）を付与した画像を投稿する「コピーレフト・トロール」を例に挙げよう。
最初期のコピーレフト・トロールは個人だったが、最近ではPixsyという企業がこの分野を牽引している。Pixsyは、写真家が著作権侵害者を見つけるのを助ける「権利保護」エージェンシーを装っているが、実際にはコピーレフト・トロールをサポートし、無実のクリエイティブ・コモンズ・ユーザを罠にかけ、自由に使えるはずの画像を使うのに何百ドル、時には何千ドルも支払わせることに全力を注いでいる。Advonが自動化によってスパムと欺瞞の経済を覆したように、Pixsyは弁護士の署名のない請求書を送るロボット弁護士によって、法的脅威を大規模に送信する方法を編み出したのだ（なお同社は、実在の弁護士が実際に確認したかについては明言を避けている）。
彼らの行為は井戸にクソするのと大差はない。それもデカい規模で。コモンズを破壊するために設計されたオンライン大量破壊兵器なのだ。クリエイティブ・コモンズは、何百万人もの創作者が何十億点もの作品をたたえるコモンズを生み出した。そして、Pixsyは、CCライセンスの初期バージョンの些細なエラーを悪用して無差別に法的な地雷を製造し、無実のコモンズ・ユーザの足を吹っ飛ばしては高笑いで銀行に直行するのだ。
https://pluralistic.net/2023/04/02/commafuckers-versus-the-commons/
オンラインのコモンズは実現可能だ。しかし、それはユーザによってユーザのために運営される場合に限られる。Googleが我々に示しているのは、オープンなインターネットを守るという名目で力を蓄えた「慈悲深い独裁者」は、やがて気にしなくてよい程に大きくなり（too big to care）、コモンズが井戸にクソする連中に破壊されようと、それを許してしまうのだ。
https://pluralistic.net/2024/04/04/teach-me-how-to-shruggie/#kagi
(Image: Cryteria, CC BY 3.0; Catherine Poh Huay Tan, Laia Balagueró, CC BY 2.0; modified)
Pluralistic: AI is a WMD (09 May 2024) – Pluralistic: Daily links from Cory Doctorow
Author: Cory Doctorow / Pluralistic (CC BY 4.0)
Publication Date: May 09, 2024
Translation: heatwave_p2p
