以下の文章は、コリイ・ドクトロウの「Even if you think AI search could be good, it won’t be good」という記事を翻訳したものである。
Pluralistic
検索に関する今週のビッグニュースは、Googleが「AI検索」へのシフトを続けていることだ。検索ワードを入力してウェブサイトへのリンクが表示されるのではなく、Googleに質問をすると、AIがウェブ上で見つけたものに基づいて回答を生成するという方向に進みたいらしい。
https://blog.google/products/search/generative-ai-google-search-may-2024
Googleはこれを「Googleにググらせよう（let Google do the googling for you.）」と宣伝している。自分でウェブを検索するのではなく、この作業をGoogleに任せてくれ、と。この宣伝は、Google検索がもはや情報を検索するには不便で信用できないということを暗に認めているに等しい。いまやGoogle検索には、AIが生成したスパム、わかりにくいラベルの広告、SEOのゴミで溢れかえってるのだから。
https://pluralistic.net/2024/05/03/keyword-swarming/#site-reputation-abuse
かつてのGoogle検索は簡単だった。検索ワードを入力すると、非常に関連性の高い結果が表示された。今日、検索結果の上位のリンクをクリックすると、（検索ワードに最もマッチしたサイトではなく）上位に表示されるために金を支払ったサイトにたどり着く。さらに下のリンクをクリックしても、詐欺、AIのゴミ、粗製乱造されたSEO目的のカス記事が表示される。
AI検索は、これを解決すると約束する。Googleの検索結果を改善するのではなく、Googleが提供し続けるゴミを選り分けて、高品質な結果を要約するためにボットを使うのだと。
さて、この計画がうまくいかない明白な理由がいくつかある。まず、なぜGoogleは検索結果を改善しようとしないのか。Googleが有料広告や出し抜かれて上位表示しているゴミを選り分けるためにLLMを構築するのではなく、なぜゴミの提供をやめないのだろう。それが可能であることは分かっている。Googleのバックエンドへのアクセスに対価を支払う検索エンジンは、その結果をフィルタリングすることで、良質な検索結果を提供しているのだから。
https://pluralistic.net/2024/04/04/teach-me-how-to-shruggie/#kagi
2つ目の理由は、ボットに食わせるためだけにウェブを書く人がいるだろうか、ということだ。このボットはあなたが書いたものを要約しても、あなたのウェブページには誰も送らない。広告やサブスクリプションで収益をあげたい商業パブリッシャであろうと、私のように人々の考えを変えるためにオープンアクセスで公開する人であろうと、あなたの文章を要約するが、インターネットユーザには一切見せないGoogleに魅力を感じるだろうか。これが不公正かどうかはさておき、うまくいくかどうかを考えてみよう。これがGoogleの未来の有り様だというなら、あらゆるパブリッシャがGoogleクローラーをブロックしないのだろうか。
3つ目の理由は、AIがダメだということだ（道徳的に云々ではなく（道徳的にダメかもしれないが！）、技術的にダメなのだ）。ナンセンスな答えを「幻覚」すするし、危険なナンセンスも含まれる。自信満々にうそをつき、あなたを殺すことさえありうる。
Googleの謳い文句を含め、AIの約束はあまりに大げさに喧伝されすぎている。たとえば、Googleは、そのAIが何百万もの有用な新材料を発見したと主張する。だが現実には、Deepmindが発見した実用可能な新材料は一つもない。
https://pluralistic.net/2024/04/23/maximal-plausibility/#reverse-centaurs
AIの最も印象的なデモンストレーションもすべてそうだ。たとえば、「AI」のデモと言いつつ、遠隔地のコールセンターにいる低賃金の人間労働者がロボットのふりをしていたことも判明している。
https://pluralistic.net/2024/01/31/neural-interface-beta-tester/#tailfins
あるいは、ステージ上で踊るAIロボットが、文字通りロボットスーツを着てロボットのふりをした人間だったこともある。
https://pluralistic.net/2024/01/29/pay-no-attention/#to-the-little-man-behind-the-curtain
「ハリウッド映画製作の存亡の機器」と評されたAIビデオのデモは、実際には非常に扱いにくく、ほとんど役に立たない（そして既存の製作技術よりもはるかに劣っている）。
https://www.wheresyoured.at/expectations-versus-reality
しかし、ここではGoogleの言葉をそのまま受け取ることにしよう。つまり、こういうことだ。
a) Googleは検索を修正はできず、その上にゴミフィルタリングAIレイヤーだけを追加する。
b) Google以外の世界は、Googleにインデックスされても何の利益も得られないにもかかわらず、Googleにページのインデックスを作成させ続ける。
c) GoogleはまもなくAIを修正し、AI能力についてのすべての嘘は、ついに実現した時期尚早の真実であることが明らかになる。
それでもAI検索はひどいアイデアだ。AI検索が最悪なアイデアである明白な理由のほかに、この計画には微妙な（そして修正不可能な）欠陥がある。AI検索がおれほど優れたものになっても、Googleが我々をだますのをあまりにも容易にしてしまうのだ。そしてGoogleは我々をだますのをやめられない。
覚えておいてほしい。メタクソ化が起こっているのは、サービスが有用有益であった時代に比べて、テック企業の経営者が悪人になったからではない。むしろメタクソ化は、サービスの品質を落として利益を増やすことを妨げていた制約が崩壊したことによって生じているのである。
https://pluralistic.net/2024/03/26/glitchbread/#electronic-shelf-tags
これらの企業は常に、（パブリッシャなどの）ビジネス顧客や（検索者などの）エンドユーザから価値を吸い上げる力を持っていた。それは当然のことだ。デジタルビジネスは、「ビジネスロジック」を瞬時に、そしてユーザごとに変更できる。任意のタイミングで、任意のユーザの支払い、価格、ランキングを変更できるのだ。私はこれを「いじくりまわし（twiddling）」と呼んでいる。システムのバックエンドのノブを回して、胴元が常に勝つようにできるのだ。
https://pluralistic.net/2023/02/19/twiddler/
変わったのは、これらのビジネスのリーダーの人格でも、我々をだます能力でもない。変わったのは、チートがもたらす結果だ。テック企業が独占企業になった結果、競合他社にビジネスを奪われることを恐れなくなった。
Googleの90％の検索市場シェアは、検索ボックスを備えるサービスやプラットフォームに賄賂をばらまき、その検索ボックスをGoogleに接続させることで達成されている。毎年数百億ドルを使って、誰もGoogle以外の検索に接触できないようにすることは、Googleが最高の検索エンジンであり続けることをよりも安く済む。
https://pluralistic.net/2024/02/21/im-feeling-unlucky/#not-up-to-the-task
かつてGoogleにとって競争は脅威だった。長年、Googleの合言葉は「競争はワンクリックでやってくる（competition is a click away）」だった。今日、競争はほぼ存在しない。
そして、監視ビジネスは少数の企業に統合された。商用監視業界を支配する2社、GoogleとMetaは、共謀して市場を操作している。
https://en.wikipedia.org/wiki/Jedi_Blue
その結託は必然的に規制の掌握につながる。競争圧力を失ったこのセクターを支配する2社は、立法者にまとまったメッセージを送ることができ、独占がもたらす利益をテコにそのメッセージを政策に反映させることができる。
https://pluralistic.net/2022/06/05/regulatory-capture/
だからこそ、Googleはプライバシー法を恐れずにいられるのだ。Googleは米国の連邦消費者プライバシー法の制定を阻み続けてきた。米国が最後に連邦消費者プライバシー法を制定したのは1988年のことだ。その法律は、ビデオ店の店員が客の借りたVHSカセットを新聞社に教えることを禁止するものだった。
https://en.wikipedia.org/wiki/Video_Privacy_Protection_Act
欧州に目を移すと、Googleが稼ぎ出す莫大な利益のおかげで、同社は都合よくアイルランドの旗を掲げることができている。これにより、脱税や欧州プライバシー法違反に対するアイルランドの寛容さを利用することができる。
https://pluralistic.net/2023/05/15/finnegans-snooze/#dirty-old-town
Googleは競争を恐れていないし、規制も恐れていない。ライバルのテクノロジーも恐れていない。Googleとビッグテックカルテルのメンバー企業は、知的財産法を拡大し、第三者によるリバースエンジニアリング、ハッキング、スクレイピングを阻止できるようにした。Googleは、広告ブロック、トラッカーブロック、Googleに利益をもたらす低品質な結果を排除するスクレイパーを懸念する必要はなくなった。
https://locusmag.com/2020/09/cory-doctorow-ip/
Googleは競争を恐れず、規制も恐れず、ライバルのテクノロジーも恐れず、労働者も恐れない。Googleの従業員は、かつてはその希少性と売り手市場のおかげで、会社の方向性に大きな影響力を持っていた。しかし、Googleは従業員への依存を乗り越え、利益を増やし、数百億ドルを自社株買いに浪費しながら、大規模な人員削減を行っている。
https://pluralistic.net/2023/11/25/moral-injury/#enshittification
Googleは恐れを知らない。ビジネスを失うことも、規制当局に罰せられることも、ライバルのエンジニアとのゲリラ戦に巻き込まれることも恐れていない。従業員を恐れてもいない。
Googleにとって、検索を劣化させることは良いことだ。検索品質を下げれば、ユーザが答えを見つけるために行う検索回数、つまり広告の表示回数を増やせる。
https://pluralistic.net/2024/04/24/naming-names/#prabhakar-raghavan
Googleは検索の品質を悪化させてもビジネスを失うことはなく、むしろもっと金を稼げる。市場、規制当局、テクノロジー、労働者による規律がなければ、検索ユーザやパブリッシャから自社への価値の移転を妨げるものは何もない。
ここで、AI検索に話を戻そう。Googleがページへのリンクの代わりに独自の要約を表示するようになると、その要約に優先的に表示することの見返りにパブリッシャに支払いを求める無数の機会が生まれる。
これはまさに、アルゴリズミック・フィードで起こったことだ。アルゴリズムに基づくフィードは、膨大な情報の意味を理解するために重要かつ不可欠でさえある一方で、我々をカモにする高速なペテンにも使える。
https://pluralistic.net/2024/05/11/for-you/#the-algorithm-tm
誰かに真実を要約してもらうことに依存するようになると、その人物の利己的な嘘に極めて脆弱になる。理想的な世界では、そうした仲介者は「受託者」として、自分の利益よりもあなたの利益を優先する厳粛な（そして法的拘束力のある）義務を負う。
https://pluralistic.net/2024/05/07/treacherous-computing/#rewilding-the-internet
しかし、Googleは株主に対する義務を最優先にしている。パブリッシャに対してでも、検索ユーザに対してでも、「パートナー」や従業員に対してでもない。
AI検索はチートを極めて容易する。そしてチートはGoogleの常套手段である。実際、AIの欠陥は、Googleの明白な自己欺瞞の言い訳の余地を与える。「誰かに金をもらって（例えば、製品やホテルの部屋、政治的言説をレコメンドする）嘘を伝えたわけではない。確かに彼らは我々に金を支払ってはいるが、この嘘はあくまでもAIの『ハルシネーション（hallucinations ：幻覚）』に過ぎない」
広く知られるようになったAIのハルシネーションの存在は、Google検索のさらなるメタクソ化に対して、もっともらしい否定の余地を生み出す。マデリーン・クレア・エリッシュが書いたように、AIは「モラルの衝撃吸収帯」として機能するのだ。
https://estsjournal.org/index.php/ests/article/view/260
それゆえ、Googleが優れたAI検索を作れると信じたとしても、Google自身がそうしようとはしないと断言できる。
(Image: Cryteria, CC BY 3.0; djhughman, CC BY 2.0; modified)
Pluralistic: Even if you think AI search could be good, it won’t be good (15 May 2024) – Pluralistic: Daily links from Cory Doctorow
Author: Cory Doctorow / Pluralistic (CC BY 4.0)
Publication Date: May 15, 2024
Translation: heatwave_p2p
.jpg){kind=link}