「いずれAIに使い潰される人」のためのAI批判ガイド

Pluralistic

昨夜、ワシントン大学計算神経科学センターが主催する「神経科学・AI・社会」講演シリーズで講演を行った。タイトルは「逆ケンタウロスのためのAI批判ガイド」で、来年6月にFarrar, Straus and Giroux社から刊行予定の次回作『逆ケンタウロスのためのアフターAIの人生ガイド』の原稿をもとにしている。

https://www.eventbrite.com/e/future-tense-neuroscience-ai-and-society-with-cory-doctorow-tickets-1735371255139

講演はチケット完売だったが、以下にその全文を掲載する。このような機会を与えてくれたワシントン大学と、素晴らしいシアトル滞在に心から感謝したい。

---

私はSF作家であり、テクノロジーと社会の現在の関係性について未来的な寓話を紡ぐのが仕事だ。問うのは、あるガジェットが何をするかだけではない。それが誰のために機能し、誰に対して作用するのかを探ることこそが本領である。

私がしないのは未来を予測することだ。未来を予測できる人間など誰もいない。そしてそれは良いことだ。もし未来が予測可能だとしたら、我々が何をしようが未来を変えられないということになる。未来は固定されたレールの上を走ってきて、舵を切ることができないということになる。

まったく、なんと惨めな話だろう！

もっとも、この区別を理解していない人も多い。SF作家を預言者か占い師だと思っている人たちだ。残念なことに、同業者の中にも「未来が見える」という妄想にとらわれている者がいる。

だが、自分が未来を書いていると思い込むSF作家が1人いるとすれば、自分は未来を読んでいると信じるSFファンは100人はいるだろう。そしてその中のうんざりするほど多くが、どうやらAIブロたちになってしまったようだ。こうした連中が、自分たちの気の利いた予測変換マシンがいつか目覚めて人類をペーパークリップに変えてしまう日¹訳注：「ペーパークリップ・マキシマイザー」は、哲学者ニック・ボストロムが提唱した思考実験。ペーパークリップの生産を最大化するよう命じられた超知能AIが、その目的を際限なく追求するあまり、地球上のあらゆる資源――人間を含めて――をペーパークリップの原料に変えてしまうという仮説で、AI安全性の議論においてしばしば引き合いに出される。について延々と語るものだから、混乱したジャーナリストやカンファレンスの主催者たちが私にAIの未来についてコメントを求めてくるようになった。

私はそれを必死に避けていた。暗号通貨が馬鹿げている理由を辛抱強く繰り返し説明するのに2年を無駄にしたことがあるからだ。暗号通貨信者たちからは容赦なく叩かれた。最初は「暗号通貨を理解していないだけだ」と言い張り、私が理解していることが明らかになると、今度は「金をもらって中傷しているに違いない」ときた。

サイエントロジーの信者と議論しているようなもので、それに付き合うには人生はあまりにも短すぎる。

だから、同じような泥沼にはまりたくなかった。そもそもAIがそれほど重要な技術だとは思っていないし、さりとてAIの何が問題で何が問題でないかについて非常に繊細で複雑な見解を持っているがそれを説明するには長い時間がかかる。

しかし周囲は聞くのをやめなかったので、いつもの方法を取った。本を書いたのだ。

この夏、AIについて自分が考えていることをまとめた本を書いた。正確に言えば、AI批判についての本であり、さらに言えば、優れたAI批判者になるための方法論の本だ。つまり「AIの中で最も害を撒き散らしている部分に最大限のダメージを与える批判者になるにはどうすればよいか」という問いに答える本だ。タイトルは『逆ケンタウロスのためのアフターAIの人生ガイド』で、2026年6月にFarrar, Straus and Giroux社から出版される。

だが、それまで待つ必要はない。なぜなら今夜、これから40分で、本の論旨のすべてを皆さんにお話しするからだ。かなり早口でしゃべらせていただこう。

#

まず、逆ケンタウロスとは何か。オートメーション理論では「ケンタウロス」とは、機械に補助された人間のことを指す。疲れを知らずロボットの体に乗った人間の頭部。車を運転すればケンタウロスになれるし、予測変換を使うのもそうだ。

そして当然、逆ケンタウロスとは機械の頭部に人間の体、つまり無慈悲な機械のために柔らかい肉の付属物として奉仕する人間のことである。

たとえばAmazonの配達ドライバー。AIカメラに囲まれたキャビンに座り、目線を監視され、禁止された方向を見れば減点され、口元の監視により仕事中の鼻歌を禁じられ、ノルマを達成できなければボスに密告される。

ドライバーがそのバンにいるのは、バンは自分では運転できず、歩道から玄関まで荷物を運べないからだ。つまり、ドライバーはバンの周辺機器である。バンはドライバーを超人的な速度で駆り立て、超人的な持久力を要求する。しかしドライバーは人間であるから、バンはドライバーを使うだけでなく、ドライバーを使い潰す。

ケンタウロスであるのは快適だが、逆ケンタウロスであるのは悲惨だ。たしかにケンタウロス的な可能性を持ったAIツールは数多くある。だが私の主張は、こうしたツールは逆ケンタウロスを生み出すという明確な目的のもとに作られ、資金提供されているということだ。誰も逆ケンタウロスになどなりたくないのに。

しかし先ほど述べたように、SF作家の仕事はガジェットが何をするかを考えるだけでなく、それが誰のために機能し、誰に対して作用するのかを掘り下げることだ。テック企業のボスたちは、テクノロジーの使い方は1つしかないと我々に信じ込ませたがっている。マーク・ザッカーバーグは、自分が盗聴しなければ友人との会話は技術的に不可能だと思わせたがっている。ティム・クックは、自分がインストールするソフトウェアに拒否権を持ち、ユーザが使う1ドルごとに30セント取らなければ、信頼できるコンピューティング環境は技術的に実現不可能だと思わせたがっている。サンダー・ピチャイは、プライバシーを隅から隅まで監視させなければウェブページを見つけることすら不可能だと思わせたがっている。

これらはすべて、ある種の卑俗なサッチャリズムだ。マーガレット・サッチャーの口癖は「他に選択肢はない（There is no alternative）」だった。あまりに繰り返すので「TINA」サッチャーと呼ばれたほどだ。「他に」「選択肢は」「ない」。TINA。

「他に選択肢はない」という言葉は、まやかしのレトリックだ。観察のふりをした命令に過ぎない。「他に選択肢はない」が意味するのは「選択肢を考えようとするのをやめろ」だ。それに対してはもう、くそくらえとしか言いようがない。

私はSF作家だ。朝食前に12個の選択肢を考えるのが仕事である。

では、このAIバブルで何が起きているのかを説明し、デタラメと実態をより分け、我々全員がいかにしてより優れたAI批判者になれるかを述べていこう。

#

まず、独占の話から始めよう。テック企業は巨大で、競争などしていない。セクター全体を、単独で、あるいはカルテルを組んで支配しているだけだ。

GoogleとMetaが広告市場を支配している。GoogleとAppleがモバイル市場を支配し、Googleは競合する検索エンジンを作らないようにとAppleに年間200億ドル以上を支払っている。そしてもちろん、Googleの検索市場シェアは90%だ。

テック企業にとって、セクター全体を支配しているのは好都合に思えるだろう。

しかし実際には危機的状況にある。企業が成長しているとき、それは「成長株」である。投資家は成長株が大好きだ。成長株を買うということは、その企業が成長し続けることへの賭けだ。だから成長株は利益に対して大きな倍率で取引される。これが「株価収益率」、いわゆる「PER」。

しかし企業が成長を止めると「成熟」株となり、はるかに低いPERで取引されるようになる。つまり、成熟企業であるTargetが1ドル稼ぐごとに、企業価値は10ドルとなる。PERは10。一方、AmazonのPERは36で、Amazonが1ドル稼ぐごとに市場はそれを36ドルと評価していることになる。

成長株を持つ企業を経営するのは素晴らしいことだ。自社株を現金同様に使える。他社を買収したり、重要な人材を採用したりする際に、現金の代わりに株式を提示できる。株式は社内で製造できる。スプレッドシートにゼロを打ち込むだけでよい。一方、ドルを手に入れるのはずっと難しい。企業がドルを得るには、顧客に売るか、債権者から借りるしかない。

だからAmazonがTargetと買収案件や人材の獲得で競り合うとき、Amazonはスプレッドシートにゼロを打ち込んで作った株式で入札でき、Targetは我々にモノを売ったりローンを組んだりして得たドルでしか入札できない。そのためAmazonがたいてい勝つ。

それが成長株の利点だ。しかし欠点もある。企業はいつか成長を止める。たとえば自社セクターで90%の市場シェアを握ってしまったら、どうやって成長を続けられるのか。

市場がその企業を成長株ではないと判断した瞬間、成熟株にふさわしいPERへと株価が切り下げられる。

支配的企業で成長株を持つ幹部は、市場からこれ以上成長しないと判断されることに常に怯えながら暮らさなければならない。2022年第1四半期にFacebookに起きたことを思い出してほしい。投資家に、米国での成長が予想をわずかに下回ったと報告しただけで、投資家はパニックを起こした。わずか1日で2400億ドルの売りが殺到したのだ。4分の1兆ドルが24時間で消えた。当時、人類史上最大かつ最も急激な企業価値の下落だった。

これが独占企業にとっての最悪の悪夢だ。「成熟」企業の舵取りをすることになれば、株式で報酬を受けていた中核人材は報酬が急落したことで次々と去っていく。再成長を助けてくれるかもしれない人材を失い、後任はドルで雇うしかなくなる。ドルで。株式ではなく。

成長を助けてくれそうな企業の買収についても同様で、相手は株式ではなく現金を要求してくる。これが成長株のパラドックスだ。支配的地位に向けて成長している間、市場は企業を愛する。しかし支配を達成した途端、価格決定力を信頼できなければ、市場は一撃で企業価値の75%以上を切り落とす。

だからこそ成長株企業は常に必死になってバブルを次々と膨らませ、何十億ドルも費やして動画へのピボット、暗号通貨、NFT、メタバース、AIを宣伝し続けるのだ。

テック企業のボスたちが勝つつもりのない賭けをしていると言いたいわけではない。だが、賭けに勝つこと――実用的なメタバースを作ること――は二次的な目標にすぎないのだ。第一の目標は、次のバブルが来るまで、自社が成長を続けると市場に信じさせ続けることだ。

これが彼らがAIを煽る理由であり、数千億ドルのAI投資の構造的基盤である。

#

次に、AIがどのように売り込まれているかについて話したい。AIの成長ストーリーとは、AIが労働市場を「ディスラプト［創造的破壊］」するというものだ。ここでの「ディスラプト」は、最も胡散臭い、テックブロ的な意味で使っている。

AIの約束――AI企業が投資家にする約束――は、あなたの仕事をこなせるAIが登場し、ボスがあなたを解雇してAIに置き換え、あなたの給料の半分を自分のものにし、残りの半分をAI企業に渡すという筋書きだ。

それだけだ。

これがモルガン・スタンレーが語る13兆ドルの成長ストーリーである。大口投資家や機関投資家がAI企業に何千億ドルも注ぎ込んでいるのはこのためだ。そして彼らが殺到するから、一般の人々も巻き込まれ、退職後の蓄えや家族の経済的安定が危険にさらされている。

仮にAIがあなたの仕事をこなせたとしても、これは依然として問題だろう。技術的失業者をどうするか考えなければならないのだから。

しかしAIにはあなたの仕事はこなせない。仕事を助けることはできるが、だからといって誰かの人件費が節約できるわけではない。放射線科を例に取ろう。AIが一部の放射線科医が見落とす固形腫瘍を発見できることがあるという証拠はある。正直にお話すると、私はがんを患っている。幸いにもきわめて治療しやすい種類だが、放射線診断がなるべく信頼でき、正確であることには個人的な利害がある。

もし私が通っているカイザーの病院がAI放射線診断ツールを導入し、放射線科医たちにこう言ったとしよう。「皆さん、こういうことです。現在、1日に約100枚のX線写真を処理していますね。今後はAIからの即時セカンドオピニオンを受けてもらいます。AIが腫瘍の見落としを指摘したら、たとえ1日の処理枚数が98枚に減っても、もう一度確認してください。それで構いません。我々が目指しているのは腫瘍を一つ残らず見つけることです」

もしそう言われたなら、私は大喜びするだろう。しかし、AI企業に数千億ドルの投資が集まっているのは、放射線診断を高額にしたい²訳注：1日100件の診断が、1日98件になれば、精度は上がるが結果的に生産性は低下し、さらにAI導入コストが上乗せされる。からではない。たとえそれが診断の精度向上を伴うとしてもだ。市場がAIに賭けているのは、AIのセールスマンがカイザーのCEOを訪ね、このように売り込むことだ。「いいですか、放射線科医の10人中9人を解雇すれば年間2000万ドルの節約になります。我々に年間1000万ドルを払えば、差し引き1000万ドルの利益。残った放射線科医の仕事は、AIが超人的なスピードで出す診断を監視することです。AIはたいてい正しいのですが、壊滅的に間違えることもあります。それでも何とか注意力を保ってもらいましょう。」

「もしAIが腫瘍を見落としたら、それは人間の放射線科医の責任です。なぜなら彼らが『ヒューマン・イン・ザ・ループ』なのですから。診断書に署名しているのは彼らです」

これが逆ケンタウロスであり、特殊な逆ケンタウロスだ。ダン・デイヴィスが言うところの「アカウンタビリティ・シンク［責任の受け皿］」である。放射線科医の本当の仕事は、AIの仕事を監視することではない。AIのミスの責任を取ることなのだ。

ここにAIバブルを理解し、ゆえにそれを萎ませる鍵がある。AIにはあなたの仕事はこなせない。しかしAIのセールスマンは、あなたのボスを説得して、あなたの仕事をこなせないAIであなたを置き換えさせることができる。ここが重要なのは、AIバブルとの闘いに勝てる連帯の形を築くためのポイントだからだ。

もしあなたががんを心配している人間で、放射線診断を限界まで安くするための代償として米国の3万2000人の放射線科医の再就職先を見つけなければならないが、その代わり放射線診断を拒否される人は誰一人といなくなる、と言われたら、こう答えるかもしれない。「まあ、放射線科医には気の毒だし、職業訓練やUBI［ユニバーサル・ベーシック・インカム］も全面的に支持している。でも放射線科の目的はがんと闘うことであって、放射線科医に給料を払うことではないのだから、どちら側につくかは明白だ」

AIの売り込み屋と、経営幹部の顧客たちは、一般大衆を味方につけたがっている。AI導入者と、逆ケンタウロス労働の果実を享受する人々との間に、階級的な同盟を築きたいのだ。要するに、我々に労働者（つまり我々自身）の敵になってほしい、ということだ。

政治的理由や個人的信念から労働者側につく人もいるだろう。少なくともみんな、ボスより労働者のほうが好きだ。しかし、あなたの労働から恩恵を受けるすべての人を味方につけたいなら、AIの産物が低品質であることを理解し、強調しなくてはならない。人々は劣化した製品やサービスに、より高額な料金を請求されることになるのだと。労働者はあなたと構造的な利害を共有しているのだと。

さて、AIの生み出すモノは低品質なのだろうか？ そう考えるべき理由は十分にある。先ほど「自動化盲目」に触れた。めったに起こらない事態に対して注意力を保つことが物理的に不可能だという現象だ。TSA［運輸保安庁］の職員は水筒を見つけるのがとてつもなくうまい。年がら年中、その（訳注：違法な物を隠しているかもしれない何かを探す）訓練しているからだ。一方で、政府のレッドチームが検問所にこっそり持ち込む銃や爆弾を見逃してしまう。その訓練はしていないからだ。そもそも、TSAの検問所にわかりやすく銃や爆弾を持ち込む者はいないのだから。

自動化盲目は「ヒューマン・イン・ザ・ループ」のアキレス腱だ。

AIによるソフトウェア生成を考えてみよう。AIを使いこなしているプログラマーは少なくないが、例外なく彼らは経験豊富なシニアプログラマーであり、自分でツールの使い方を決められる立場にある。たとえば、複数のブラウザの複数バージョンでウェブページを忠実に表示するためのCSSファイル一式をAIに生成させるといった具合に。実に面倒な作業ではあるのだが、コードが動くかどうかの検証は比較的簡単で、いくつかのブラウザで目視確認すればよい。あるいは、単発のデータファイルをインポートするためだけに変換ユーティリティをイチから書きたくない、といった場合もある。

こうしたタスクはプログラマーの効率を真に向上させ、コーディングの楽しい部分――つまり厄介で抽象的なパズルを解くこと――に充てる時間を増やしてくれる。しかし、経営者たちがプログラマー向けのAIプランについて語るのを聞くと、ケンタウロスを作ろうとしているわけではないのは明白だ。

経営者たちが望んでいるのは、テック労働者を大量に解雇し、残った者にAIを使わせてその穴を埋めさせることだ。実際、過去3年で50万人が解雇された。だがそれが可能になるのは、厄介で創造的な問題解決をすべてAIに任せ、人間には最も退屈で魂を削る部分――AIのコードのレビュー――だけをやらせた場合に限られる。

そしてAIは単なる単語予測プログラムにすぎない――つまり次に来る最も確率の高い単語を計算しているだけなので、AIが犯すエラーはとりわけ巧妙で発見しにくい。なぜなら、そのバグは文字通り、動作するコードと統計的に区別がつかないからだ（バグであるにもかかわらず）。

例を挙げよう。コードライブラリとは、プログラマーが自分のアプリに組み込める標準的なユーティリティで、反復的なプログラミングを省くためのものだ。テキストを処理したければ標準ライブラリを使う。HTMLファイルならlib.html.text.parsingといった名前かもしれないし、DOCXファイルならlib.docx.text.parsingだろう。しかし現実は混沌としており、人間は不注意であり、物事はいつも順調というわけにはいかない。だから時として、PDF解析用のライブラリがlib.pdf.text.parsingではなくlib.text.pdf.parsingと名付けられていたりする。

さて、AIは統計的推論エンジンであり、過去に入力されたすべての単語に基づいて次の単語を予測するだけなので、lib.pdf.text.parsingというライブラリを「幻視」してしまう。そして問題は、悪意あるハッカーがAIのこの間違いを知っていることだ。そこで彼らは、AIが幻視してくれるであろうライブラリを実際に作成する。ライブラリは自動的にプログラムに取り込まれ、ユーザデータの窃取や同一ネットワーク上の他のコンピュータへの侵入を試みる。

そしてヒューマン・イン・ザ・ループであるあなた――逆ケンタウロスであるあなたは、この巧妙で見つけにくいエラー、動作するコードと文字通り統計的に区別がつかないバグを見つけなければならない。経験豊富なシニアプログラマーなら見つけられるかもしれない。何度も場数を踏んできたし、この手の罠をよく知っている。

だが、テック企業のボスたちが優先的に解雇してAIに置き換えたがっているのは誰か？ シニアプログラマーだ。口うるさく、権利意識が高く、飛び抜けて高給の労働者たち。自分を労働者だとは思っていない。自分は創業者予備軍であり、経営トップの同輩だと考えている。国防総省向けのドローン照準システムの開発に抗議してストライキを主導するようなプログラマーだ。そいつらのせいでGoogleは2018年に100億ドル³訳注：の政府契約を失ったのだから。

AIが価値を持つためには、高給の労働者を置き換えなければならない。そしてまさにその経験豊富で、業務知識と長年の勘を持ち、統計的にカモフラージュされたAIエラーの一部を見抜けるかもしれない労働者こそが、ターゲットなのだ。

繰り返すが、ここでのポイントは高給労働者の置き換えだ。

そしてAI企業がプログラマーの解雇を切望する理由の1つは、プログラマーが労働界のプリンスだからだ。彼らは最も安定して特権的で、引く手あまたで、高待遇の労働者だった。

プログラマーをAIで置き換えられるなら、AIで置き換えられないのは誰だ？ AI企業によるプログラマーの解雇はそれ自体がAIの広告でもある。

ここでAIのアートの話に移ろう。AIアート――あるいは「アート」――もまたAIの広告だが、AIのビジネスモデルの一部ではない。

説明しよう。平均すると、イラストレーターは稼げていない。すでに最も困窮し、不安定な立場に置かれた労働者集団の1つだ。彼らは「職業的畏敬［vocational awe］」と呼ばれる病理に苦しんでいる。これは図書館司書のフォバジ・エタールが作った用語で、自分の仕事に心からやりがいを感じているがゆえに職場での搾取にさらされやすい労働者を指す。看護師、図書館司書、教師、そしてアーティストがそれにあたる。

もしAI画像生成が今日のイラストレーター全員を失業させたとしても、その結果節約される人件費は、画像生成AIの訓練・運用コスト全体に占める割合としては検出すら不可能なほど微々たるものだ。商業イラストレーターの人件費総額は、OpenAIのキャンパスのたった1つの社員食堂のコンブチャ代にも満たない。

AIアートの目的――そしてAIアートがアーティストの葬送の鐘だという物語の目的――は、AIは驚くべきもので驚くべきことを成し遂げるのだと大衆に信じ込ませることだ。話題を作ることだ。だからといって、OpenAIの元CTOミラ・ムラティがカンファレンスの聴衆に「そもそも存在すべきではなかった創造的な仕事もある」と語ったことが不快でないわけではないし、彼女と同僚たちがアーティストの作品を使ってそのアーティストの生計を破壊することを自慢しているのが格別に不快でないわけでもない。

ムカつくのも当然だ。アーティストたちに「AIは私の仕事ができるし、仕事を奪おうとしている！許せない！」と大騒ぎさせるための発言なのだから。

そう、AIの顧客――企業のボスたち――にとっては、AIが労働者の仕事を奪うのはひどいことではない。むしろ素晴らしいことだ。

しかしAIにイラストレーターの仕事、あるいはどんなアーティストの仕事ができるのだろうか？

少し考えてみよう。私は17歳で最初の短編小説を売って以来、プロのアーティストとして活動してきた。そしてアートとは何かについて深く考えてきた。私が思うに、それはこういうことだ。まずアーティストがいて、その心に広大で、複雑で、神秘的で、還元不能な感情がある。アーティストはその感情をある芸術的な媒体に注ぎ込む。歌を作り、詩を書き、絵を描き、踊り、本を書き、写真を撮る。そしてあなたがその作品を体験するとき、その大きくて神秘的で還元不能な感情の写しがあなたの心の中に立ち現れる。それがアートだ。

さて、アートを定義したところで、少し寄り道させてもらおう。

私には法学教授の友人がいる。チャットボットが登場する前、法学生は本当に優秀でない限り、教授に推薦状を頼むべきではないと心得ていた。書くのがとてつもなく大変だからだ。したがって、ポスドクの公募に著名な教授の推薦状を持った応募者が現れたなら、その書類を携えているという事実のみで、その学生が高く評価されていることがわかる。

しかしチャットボットが登場し、3つの箇条書きをLLMに放り込めば、学生に関する華麗なナンセンスが5段落ほど吐き出されることを誰もが知るようになった。

友人がポスドクを公募すると、推薦状が大量に押し寄せてくるようになった。この洪水に対処するため、すべての推薦状を別のチャットボットに入力し、3つの箇条書きに戻してもらう。当然ながら、元と同じ箇条書きに戻ることはない。まったく、酷いありさまである。

しかし同様に明白なのは、その5段落の推薦状には、元の3つの箇条書き以外に学生に関連する情報は何もないということだ。チャットボットは学生を知らない。学生について何も知らない。学生に関する真実の、あるいは有用な記述を1つとして手紙に付け加えることができない。

では、これがAIアートとどう関係するのか？ アートとは、大きく、神秘的で、還元不能な感情を、アーティストから他者へと転写することだ。しかし画像生成プログラムは、あなたの大きくて神秘的で還元不能な感情について何も知らない。知っているのは入力されたプロンプトだけであり、その数行の文章は100万ピクセルや10万語の中に希釈される。その結果、生成された作品の平均的な伝達密度はゼロと区別がつかない。

もちろん、より多くの伝達意図を作品に注入することは可能だ。より詳細なプロンプトを書いたり、多くのバリエーションから選択する作業を行ったり、AI画像を事後的に絵筆やPhotoshopやGIMPで直接加工したりすることで。もしいつかAIアートに優れたアート――単に目を引いたり、興味深かったり、巧みなデッサンの見本であるだけでなく――が生まれるとすれば、それはこのような追加的な創造的意図が人間によって注入されたからである。

そしてそれまでは、それは悪いアートだ。マーク・フィッシャーが「何もないはずの場所に何かがある、あるいは何かがあるはずの場所に何もない」と表現する「ぞっとするもの（eerie）」という意味で、悪いアートなのだ。

AIアートにぞっとさせられるのは、すべての単語、すべてのピクセルの背後に、意図する者と意図があるように見せかけるからだ。絵には画家がいて、文章には書き手がいるという一生涯の経験が我々にそう告げる。しかし何かが欠けている。伝えるべきものが何もないか、あるとしてもあまりにも希薄で検出できない。

トリックを見破る前、その画像は印象的だった。だが今やそれは、雲や落ち葉の中に見出す像と変わらない。景色の一部にフレームを描き、ある輪郭に注目し、別の輪郭を無視しているのは我々自身なのだ。我々が眺めているのはインクの染みであって、それは何も語ってはいない。

時にそれは視覚的に目を奪うものであり得るし、プロンプターと鑑賞者のコミュニティの中で人々を楽しませる限りにおいて、害はない。

私の知人に、毎週Zoom越しにダンジョンズ＆ドラゴンズをプレイしている人がいる。ダンジョンマスターのコンピュータでローカルに動いているオープンソースモデルがセッションを書き起こし、その夜の内容を要約して、画像生成AIに重要な場面のイラストを作らせる。これらの要約とイラストは、エラーだらけだからこそ面白い。害のないちょっとした楽しみで、少人数のグループにささやかな喜びをもたらしている。7本指のパラディンが手が1本余計なオークと格闘するD&Dイラストを画像生成しているからといって、誰もイラストレーターを解雇しようとはしないだろう。

しかし経営者たちはイラストレーターを解雇してきたし、今後もするだろう。なぜなら、クリエイティブな専門家を不要にしてAIにプロンプトを打ち込むだけで済むようになるという幻想を抱いているからだ。AIにはイラストレーターの仕事はこなせないが、AIのセールスマンはイラストレーターのボスを説得して、その仕事をこなせないAIに置き換えさせることができるのだから。

これに腹を立てていいし、恐怖を覚えていい。肩をすくめて、サッチャリズム的宿命論――「他に選択肢はない」――を受け入れてはならない。

ではほかに何か選択肢はあるのか？ 多くのアーティストとその支持者たちは、答えを持っていると考えている。モデルの訓練に関わる活動に著作権を拡大適用すべきだ、と。

ここで断言するが、それは間違いだ。社会的に有益な活動にひどい副作用をもたらし、現在は許容されている――正当な理由があって許容されている――活動が著作権によって大幅に制限されるようになるからだ。

AI訓練の手順を分解してみよう。

まず、大量のウェブページをスクレイピングする。これは現行の著作権法の下で明白に合法だ。著作物の一時的なコピーを分析目的で作成するのに許諾は不要であり、そうでなければ検索エンジンは違法になる。スクレイピングを禁止すれば、Googleが最後の検索エンジンとなり、Internet Archiveは廃業し、オーストリアのあの男――スーパーのサイトを全部スクレイピングして大手チェーンが結託して価格を操作していることを暴いた人物――は窮地に陥る。

次に、それらの作品に対して分析を行う。基本的には、数を数える。ピクセルとその色、他のピクセルとの近接度を数える。あるいは単語を数える。これは許諾を必要とすることではない。著作物の構成要素を数えることは違法ではない。そしてそうあるべきだ。どんな学術研究に関心があるにせよ。

重要なのは、数を数えること自体は、違法に入手したコピーから作業していても合法だという点だ。たとえば、フリーマーケットで海賊版の音楽CDを買い、家に持ち帰って歌詞のすべての副詞リストを作り、そのリストを公表しても、著作権侵害にはならない。

海賊版CDを入手したことで著作権を侵害しているかもしれないが、歌詞を数えたことでは侵害していない。

Anthropicが海賊サイトからダウンロードした大量の書籍でモデルを訓練したことに対し15億ドルの和解金を提示したのはこのためだ。書籍の単語を数えることが誰かの権利を侵害するからではなく、ファイルのダウンロードについて1冊あたり15万ドルの法定損害賠償を請求される恐れがあったからだ。

さて、すべてのピクセルや単語を数え終えたら、最後のステップは公表だ。なぜなら、モデルとは一種の文学的著作物（つまりソフトウェア）であり、他の著作物に関する大量の事実――単語やピクセルの分布情報――を多次元配列にエンコードしたものだからだ。

ここでもまた、著作権は著作物に関する事実の公表を絶対に禁じていない。他者がどの真実の事実記述を公表できるかを、誰かが決められる世界に住みたいと思う人はいないだろう。

だがまあ、これはすべて詭弁だと思うかもしれない。私がでたらめを言っていると。結構だ。そう思われるのは初めてではない。

結局のところ、現行の著作権法の仕組みについて私が正しかったとしても、訓練活動を禁止するよう著作権法を変えられない理由はない。巧みに条文を練り上げれば、好ましくない悪いことだけを捕捉し、スクレイピング、分析、公表から生まれる良いことにはすべて影響しないようにできるかもしれない。

しかし、そうだとしても、この新しい著作権でクリエイターを助けることにはならない。助けられると考えているなら、この事実と向き合う必要がある。1976年以来、著作権は着実に拡大され続けてきた。今日、著作権はより多くの種類の作品を対象とし、より多くの利用に対して排他的権利を付与し、存続期間も長くなっている。

そして今日、メディア産業はかつてないほど大きく、利益を上げている。だが同時に、メディア産業の収入のうちクリエイティブワーカーに渡る割合は、実質額でもまた、メディア企業の上層部が手にした信じがたい利益に対する比率としても、過去最低だ。

では、クリエイターにこれだけ多くの新しい権利を与え、その新しい権利が莫大な利益を生んでいるのに、なぜクリエイターはより貧しくなったのか？ それは、出版社5社、映画スタジオ4社、レコード会社3社、モバイルアプリストア2社、そして電子書籍とオーディオブックの全てをコントロールする1社が支配する創作市場において、クリエイティブワーカーに交渉のための追加権利を与えることは、いじめられっ子に弁当代を多く持たせるようなものだからだ。

どれだけ弁当代を持たせようが、いじめっ子が全部奪っていく。十分な金額を溜め込んだいじめっ子は代理店を雇って「お腹を空かせた子どもたちのことを考えて！ もっと弁当代を！」というグローバルキャンペーンを展開するだろう。

大手スタジオやレーベルによる訴訟を応援するクリエイティブワーカーは、階級闘争の第一法則を思い出すべきだ。ボスにとって良いことが、自分にとって良いことであるケースはまれだ。

DisneyとUniversalがMidjourneyを提訴した日、DisneyとUniversalの音楽部門を代表するRIAAからプレスリリースが届いた。Universalは世界最大のレーベルだ。SonyとWarnerと合わせて、現在著作権が存続するすべての音楽録音の70%を支配している。

そのリリースはこう始まる。「AIイノベーションを促進し、同時に人間の芸術性を育む、明確な前進の道がある」

そしてこう締めくくられる。「DisneyとUniversalによるこの行動は、人間の創造性と責任あるイノベーションのための重大な一歩である」

署名はRIAA CEOのミッチ・グレイジャーだ。

その名前をご存じの方はほとんどいないだろう。では、ミッチ・グレイジャーとは何者か。現在、グレイジャーはRIAAのCEOで、年俸は130万ドル。しかし1999年までは議会の主要スタッフであり、1999年に、無関係の法案――衛星家庭視聴改善法――に修正条項をこっそり忍び込ませ、ミュージシャンがレコーディングをレーベルから取り戻す権利を抹殺した。

この権利は特に「遺産アーティスト［heritage acts］」（レコード業界の婉曲表現で「黒人が録音した古い音楽」の意）にとって重要で、家賃を払えるか路上に迷うかの分かれ目だった。

グレイジャーがこのミュージシャンを貧困に追いやる策略を仕組んだことが明らかになると、世論の反発が非常に大きく、議会はわざわざ特別会期を開いて再投票し、グレイジャーの修正条項を取り消した。そしてグレイジャーは議会の楽な職を追われたが、その後RIAAが「音楽産業の代表」として年間100万ドル以上の報酬を支払い始めた。

これが私の受信箱にあったプレスリリースに署名した男だ。そして彼のメッセージはこうだ。問題は、Midjourneyが著作物で生成AIモデルを訓練し、そのモデルでアーティストを困窮させようとしていることではない。MidjourneyがRIAAのメンバーであるUniversalやDisneyにモデル訓練の許諾料を払わなかったことだ。もしMidjourneyがDisneyとUniversalにカタログの訓練権を数百万ドルで支払っていれば、両社は喜んで心ゆくまで訓練させ、できあがったモデルを買い取り、できる限りのクリエイティブな専門家を解雇していただろう。

ハリウッドのストライキをまだ覚えているだろうか？ 私は忘れていない。私はDisney、Universal、Warnerの本拠地であるバーバンクに住んでいて、所属組合であるIATSE 830（アニメーション・ギルド）のライターズ・ユニットのメンバーとして、全米脚本家組合の仲間たちとピケラインに立って連帯を示していた。

ある脚本家が私に向かってこう言ったのを忘れない。「LLMにプロンプトを入力するのって、幹部が脚本家チームにくだらない注文をつけるのとまったく同じだよね。ほら、『ETを作れ、ただし犬の話で、恋愛要素を入れて、第二幕にカーチェイスを入れろ』みたいなやつ。違いは、脚本家チームにそう言えば全員が、とんだスーツ野郎だとけなしてやれるけど、LLMに同じことを言えば嬉々としてその仕様通りのひどい脚本を吐き出すってこと（ほら、エア・バディだよ）」

こうした企業はAIで労働者を置き換えることに必死だ。Getty Imagesが AI企業を訴えるのは、写真家の利益を代弁しているからではない。Gettyは写真家に金を払うのが大嫌いだ！ Gettyは訓練データの使用料を払ってもらいたいだけで、できあがるAIモデルにはガードレールをつけて、Getty以外のクライアントにはGettyの画像と競合する画像の生成を拒否するようにしてほしいと考えている。しかしGetty自身は、可能な限り多くの写真家を破産に追い込むために自社のモデルを確実に使うだろう。

モデル訓練のための新たな著作権を作っても、モデルがアーティストを破壊するために使われない世界は実現しない。クリエイティブ労働市場全体を支配するひと握りの企業の標準契約が更新され、新しい訓練権を企業側に譲渡するよう求められる世界になるだけだ。新たな著作権を要求することは、ボスにとっての便利な駒になること、政策闘争で掲げられる人間の盾になること、「飢えたアーティストのことを考えて！」という紙一枚の口実になることにすぎない。

本当に要求しているのは、AI企業の投資資金の30%が自分たちの株主のポケットに入る世界だ。貪欲な独占企業に食い荒らされているアーティストにとって、奪われた獲物の分け前がどう振り分けられようと何の意味もなさない。

必要なのは、AIの略奪からアーティストを守ることであり、アーティストが自分の困窮に腹を立てる次の理由を作ることではない。

そして驚くべきことに、そのための非常にシンプルな方法がある。20年以上にわたりアーティストの権利に関して一貫して間違い続け、ひどい対応を続けてきた米国著作権局が、ついに、見事に、素晴らしく正しいことをした。このAIバブルを通じて、著作権局は――正しく――AI生成作品は著作権保護の対象にならないという立場を維持してきた。著作権はもっぱら人間のためのものだからだ。だからこそ「猿のセルフィー」はパブリックドメインにある。著作権は、有形の媒体に固定された人間の創造的表現にのみ付与される。

そして著作権局はこの立場を取っただけでなく、法廷で精力的にこれを擁護し、この原則を支持する判決を繰り返し勝ち取ってきた。

AI生成作品がすべてパブリックドメインに属するという事実は、Getty、Disney、Universal、Hearst紙がAIで作品を生成した場合、他の誰もがその作品をコピーし、販売し、あるいは無料で配布できることを意味する。そしてこうした企業がクリエイティブワーカーに報酬を払うこと以上に嫌っているのは、他者に自社のものをタダで使われることだ。

米国著作権局は、企業が著作権を得る唯一の方法は人間にクリエイティブな仕事の対価を支払うことだという立場をとっている。これはケンタウロスのための処方箋だ。プロンプトを使ってアイデアやバリエーションを生み出すビジュアルアーティストやライターにとっては何の問題もない。最終的な作品はその人間から生まれるのだから。群衆シーンに映る200人のエキストラの視線をディープフェイクで修正するビデオ編集者にとってもそうだ。確かにその眼球はパブリックドメインかもしれないが、映画全体の著作権は維持される。

しかし、クリエイティブワーカーは、米国政府にAIの略奪者から救ってもらう必要はない。自分たちで守れるのだ。歴史的な脚本家ストライキで脚本家たちがそうしたように。脚本家たちはスタジオを屈服させた。それが可能だったのは組織化され連帯していたからだが、他のほとんどの労働者には許されていないあることができたからでもある。「セクター別交渉」だ。セクター内のすべての労働者がセクター内すべての雇用者と契約交渉できるのだ。

これは1940年代後半のタフト＝ハートレー法で、ほとんどの労働者に違法とされた。より多くの収入とより大きな労働への支配力を求めて新法の制定を訴えるのであれば、著作権の拡大ではなく、セクター別交渉の復活を訴えるべきだ。

著作権拡大のキャンペーンにおける味方は雇用主であり、彼らが我々の利益を考えたことは一度もない。一方、セクター別交渉を求める闘いにおける味方は国中のすべての労働者だ。あの歌にあるように、「あなたはどちらの側に立つ？」⁴訳注：”Which Side Are You On?” 社会活動家、詩人のフローレンス・リースが1931年、炭鉱ストライキの最中に書いた労働運動のアンセム。

さて、時間がなくなってきたのでそろそろ着地させなければならない。最後にこう締めくくろう。AIはバブルであり、バブルというものは恐ろしい。

バブルは、尊厳ある老後を過ごそうとしているだけの普通の人々の生涯の貯蓄を、我々の社会で最も裕福で最も倫理観のない人間に移転する。そしてすべてのバブルはいずれ崩壊し、人々の貯蓄もろとも消え去る。

しかしすべてのバブルが同じではない。何か生産的なものを残すバブルもある。Worldcomは光ファイバーケーブルの注文について投資家を欺き、一般の人々から何十億ドルも盗んだ。CEOは収監され、そこで亡くなった。しかし光ファイバーは彼より長生きした。今も地中に埋まっている。私の自宅では2Gbpsの対称型光ファイバーが使えるが、それはAT&TがかつてのWorldcomのダークファイバーの一部を点灯させたからだ。

そもそも論で言えば、Worldcomなど存在しなかったほうがよかっただろう。しかし、Worldcomがあれだけの恐ろしい詐欺を働いたことよりさらに悪いのは、その残骸から何も救い出せないことだ。

たとえば暗号通貨からは、あまり救い出せないだろうと思う。もちろん、Rustでセキュアなプログラミングを学んだプログラマーが少しはいるだろう。だが暗号通貨が消滅したとき、後に残るのは粗悪なオーストリア経済学と、それに輪をかけてひどい猿のJPEGだけだ。

AIはバブルであり、崩壊する。企業の大半は倒産する。データセンターの大半は閉鎖されるか、部品として売り払われる。では何が残るのか？

応用統計学に非常に長けたプログラマーたちが残される。安価なGPUが大量に出回る。VFXアーティストや気候科学者にとっては朗報だ。重要なハードウェアを二束三文で購入できるようになる。そして汎用ハードウェアで動作するオープンソースモデルが残る。音声や動画の書き起こし、画像の説明、文書の要約、背景の除去や写真から通行人を消すといった手間のかかるグラフィック編集作業の自動化など、多くの有用なことができるAIツールだ。これらは我々のノートパソコンやスマートフォンで動き、オープンソースのハッカーたちが開発者の想像を超えた使い方を見つけ出すだろう。

AIバブルなど存在せず、コンピュータ科学者やプロダクトマネージャーが数年かけてバックプロパゲーション［誤差逆伝播法］や機械学習、敵対的生成ネットワークの面白い新アプリを試行錯誤しただけだったなら、ほとんどの人はコンピュータができるようになった興味深い新機能に喜んだだろう。そしてそれを「プラグイン」と呼んでいたはずだ。

最悪なのはバブルであって、これらのアプリケーションではない。バブルは安くて便利なものを求めない。高価で「ディスラプティブ」なものを求める。毎年何十億ドルもの損失を出す巨大な基盤モデルを。

AI投資熱が冷めれば、そうしたモデルの大半は消えていく。データセンターを稼働させ続けることが経済的に見合わなくなるからだ。スタインの法則が言うように、「永遠に続けられないことは、いつかｔ止まる」。

AIバブルの崩壊は醜いものになるだろう。7つのAI企業が株式市場の3分の1以上を占め、同じ1000億ドルの借用証書を際限なく循環させている。

経営者たちは生産的な労働者を大量解雇し、ぎこちないAIに置き換えている。そのぎこちないAIが消えたとき、解雇された労働者の大半を見つけて再雇用することは誰にもできず、我々は機能不全のAIシステムから何もできない状態へと移行することになる。

AIは我々の技術社会の壁に吹き付けられたアスベストだ。暴走した金融セクターとテック独占企業が手当たり次第に撒き散らしたものだ。その除去作業には一世代以上かかるだろう。

だからこのバブルを終わらせなければならない。できるだけ早くはじけさせなければならない。そのためには、バブルを駆動する構造的要因に焦点を当てなければならない。バブルを駆動しているのは、ディープフェイクポルノでも、選挙の偽情報でも、AI画像生成でも、スロップ広告でもない。

いずれもひどく有害だが、投資を動かすものではない。これらのアプリケーションがもたらす金額は、AIの資本支出と運用コストに比べれば、微々たるものだ。周辺的で副次的な用途でしかなく、派手だがバブルにとっては重要ではない。

これらの用途をすべて排除しても、AI企業の予想収益はゼロに丸められるほどの微小な額しか減らない。

「AI安全性［AI Safety］」なるものについても同様だ。AIが知覚を獲得して我々をペーパークリップに変えてしまうのを防ぐことが目的だと称する、あのナンセンスだ。まず、これは表面的にばかげている。単語推測プログラムに単語とGPUをさらに投入しても、知覚が生まれるわけがない。「馬をどんどん速く走れるように品種改良しているのだから、雌馬が機関車を産むのも時間の問題だ」と言っているようなものだ。人間の精神は大量の単語を追加した単語推測プログラムではない。

SF的な思考実験は大歓迎だが、SFを予言と取り違えてはいけない。超知能のSF作品は未来的な寓話であって、事業計画書でも、ロードマップでも、予測でもない。

AI安全性の論者たちはAIが世界に終末をもたらすことを懸念している。とはいえ、AI企業のボスたちはこの変人たちをこよなく愛している。一方では、AIが世界を滅ぼすほど強力なら、どれほどの金を生み出してくれるか考えてみればいい！ 他方で、どのAI事業計画書にも「人類ペーパークリップ化による収益」という行は収益予測のスプレッドシートに載っていない。だからAI企業にこれを禁じても、投資資本を1セントも減らすことはない。

バブルをはじけさせるには、バブルを生んだ力をくじかなければならない。つまり、AIはあなたの仕事を代替できるという嘘を暴くこと――あなたの給料が高いほど、ボスはそれを奪い返したがっている。成長企業は生き延びるために、ますます荒唐無稽なバブルを次から次へと必要としているだけだと理解すること。そしてこの戦いは、労働者と彼らが奉仕する大衆が一方の側に、経営者とその投資家が他方の側にいるのだと認識することだ。。

AIバブルは本当に非常に悪い知らせであるがゆえに、真剣に闘う価値がある。AIとの真剣な闘いはその根源を叩くものでなければならない。我々全員をパンの配給列に並ばせ、壁という壁をハイテクのアスベストで満たすために浪費されている、数千億ドルの資本を支える構造的な要因そのものを。

(Image: Cryteria, CC BY 3.0, modified)

Pluralistic: The Reverse-Centaur’s Guide to Criticizing AI (05 Dec 2025) – Pluralistic: Daily links from Cory Doctorow