見識

Pluralistic

私の見るかぎり、マッカーサー賞を受賞した数学者テレンス・タオとChatgptとのあいだで交わされた「ヤコビアン予想の反例」についての対話は、実に見事なものだ。

https://chatgpt.com/share/6a5fdc7a-d6f8-83e8-bbea-8deb42cfed56

もっとも、この一文は「私の見るかぎり」という留保なしには成り立たない。私はそれなりに数学のリテラシーがあるほうだ。大学一年の微積分程度までは修めたし、数学者だった父の傍らで生涯を過ごしてもきた。とはいえ「ヤコビアン予想」など聞いたこともなかった。該当するWikipediaの項目の冒頭段落に出てくる単語の意味はすべてわかるのに、それらが組み立てる文のどれ一つとして読み解けない。

https://en.wikipedia.org/wiki/Jacobian_conjecture

つまり私には、タオが理論をやりとりした相手であるチャットボットの出力を評価するだけの見識［discernment］が欠けている。もし同じくらい難解な、AI精神病サイコーシスを患った奇人とチャットボットとの「会話」の記録――数学的にはまるででたらめな代物――を見せられたとしても、どちらが堅実な数学的理論で、どちらが数学の味つけをしただけのワードサラダなのか、ア・プリオリに判断することはできないだろう。

多くの熟練プログラマが証言するように、チャットボットはきわめて有用な出力を生み出しうる。だが、AI支援コーディングの最も熱心な信奉者ですら認めるように、チャットボットが書いたコードは、目を疑うようなあからさまな（加えて、気づきにくい微妙な）誤りに満ちてもいる。

https://pluralistic.net/2025/08/04/bad-vibe-coding/#maximally-codelike-bugs

こうした誤り（業界が「ハルシネーション」――気まぐれで、実態を曖昧にし、擬人化するための婉曲表現――で呼ばせたいもの）こそが、AIを信頼できる形で使うにはスキルと専門性に裏打ちされた見識を必要とする理由である。私は執筆した記事のスペルチェックにローカルのチャットボットを使っていて、一般的なスペルチェッカーが見逃すあらゆる誤字を拾いあげてくれる。

https://pluralistic.net/2026/02/19/now-we-are-six/#stock-buyback

AIを使っているなんてけしからん、とわざわざ言いに来る反動的な連中がいる。この手の会話はまるで不毛だ。というのも、説教してくる連中のゴールポストを動かす音があまりに騒々しくて、こちらには一言も聞き取れないからだ。

彼らはまず、私が地球を焼き尽くしているのだ、という。だが、実際には自分のコンピュータでCPU負荷の低いソフトを動かしているだけだ。自分のマシンでチャットボットを走らせても、画像編集ソフトでぼかしをかけるのと大差ない炭素しか出ない。そう説明すると、次は、お前は軽率にもAI企業に自分の個人データを差し出しているのだと言い出す。そこで、私のローカルのチャットボットがネットワーク上のデータを一切送受信していないことを示すネットワークログを見せる。

すると今度は、誤字探しにチャットボットを使うことの認知面への影響とやらに矛先が向かう。私はAIに文章を書かせているのでも、何かを説明させているのでもない。段落末に句点を打ち忘れていないか、「ever」を「every」と打ち間違えていないか、そういう箇所を指摘させているだけだ、と説明する。チャットボットが見つけた誤字を修正した記事の「修正前」と「修正後」まで送ってやることもある。

https://craphound.com/before.txt

https://craphound.com/after.txt

ここから先はいよいよ不毛さが増していく。対話の相手は、このLLMベースのスペルチェッカーを使うことがなぜ不道徳なのか、危険なのかについて、茶番めいた理屈をひねり出してくる。曰く、私は計算資源を使いすぎていて、同じことはもっと単純なソフトでできるはずだ、と（これは事実に反するうえ、馬鹿げてもいる。私は自分のコンピュータでジャーナリングファイルシステムも動かしているが、テキストファイルを編集するにはとてつもなく過剰だ）。あるいは、公開された著作物を複製して、その要素と要素間の関係を数え上げる行為そのものが罪なのだ、と言い張る。だがその基準に照らせば、検索エンジンもInternet Archiveも、そしてOxford English Dictionaryさえも干上がってしまう。

https://pluralistic.net/2023/09/17/how-to-think-about-scraping/

AI企業を憎むのは大いに結構だし、クリエイティブワーカーを貧困に追いやろうとする連中の唾棄すべき策動を終わらせるべく動くのもいい。だが、メディア経営者の味方をするという罠にはまってはならない。なにせ連中は、サム・アルトマンがデヴィッド・ザスラブに金を払ってWarnerのカタログ全部をOpenaiのチャットボットに放り込む権利を買ったとき、クリエイティブワークに救済が訪れたと言っていたくらいだ。

https://pluralistic.net/2026/03/03/its-a-trap-2/#inheres-at-the-moment-of-fixation（邦訳）

さて、対話の相手は次に、ローカルかつオープンソースのLLMスペルチェッカーを使っていると物書きとして劣化する、とおっしゃる。実に奇妙な言い分だ。私の最初のワープロソフトは、街角の店で買った雑誌に掲載されていたプログラムリストを、Apple ][+に延々と手打ちしたものだった。それから40年余りのあいだに、ワープロソフトには山ほどの新機能が加わった。有用だと思ったものも多かったが、鬱陶しいと感じたものはさらに多かった。なかには、使い手である書き手の腕を実際に落とした機能もあった――私の（専門家としての）判断では。

だが私ははじめから、スペルチェッカーに文書の校正を丸投げしてはならないことを知っていた。何しろ私はSF作家だ。「メタクソ化［enshittification］」という語を捻り出す何十年も前から、ふざけた造語をこしらえてきた。タイプの仕方を覚えてからというもの、スペルチェッカーに「うるさい、黙れ」と言い続けてきた。文章の下手な人間にとって、スペルチェッカーは危険であり、その「高度さ」が増すほど危険性も増す。

私の共同作業者のなかには、文書の共同作業時にOffice 365のAI搭載版Wordを使ってくれと言ってくる人もいる。あれは気が狂いそうになる。M365が私の顔面に押しつけてくる提案は、良い提案1つにつき悪い提案が100といったところで、実際のところ使い物にならない。あまりのひどさに、作業中のテキストブロックをテキストエディタにコピーして修正作業を続け、それをWordのウィンドウに貼り戻すことも珍しくない。

この手の提案をたとえ10%でも受け入れたなら、たしかに私の仕事は著しく劣化するだろう。Wordにチャットボットを詰め込んだことで、あれは「鬱陶しい」から「メタクソ化しつつある」へと変わった。自分の作品の編集をチャットボットに頼れば作品が悪くなりうる、というのは理解できる。

そこで必要とされるのが見識である。私はこの25年で30冊を超える本を書いてきた。自分のワードチョイスを弁護してきた経験ならたっぷりある。相手は高飛車なスペルチェッカーの機械判定だけではない。過剰に踏み込んでくる編集者や、疑心暗鬼の出版社顧問弁護士も相手にしてきた。私は自分がどの言葉を書きたいのかを知っているし、なぜそれを書きたいのかも知っている。だからこそ、提示された修正案が妥当なのか、それとも誤りなのか、愚かなのか、あるいは単に不器用なだけなのかを見分けられる。こと文章に関して、私には見識がある。

高等数学ではそうはいかない。「ヤコビアン予想の反例」の説明をチャットボットに求める気にはとうていなれない。創作講座の受講生に、自分の小説をどう直せばいいかチャットボットに訊いてこいと言うのと同じくらいありえない。

https://pluralistic.net/2026/01/07/delicious-pizza/#hold-the-gravel（邦訳）

私は数学についてチャットボットに説明を求めたり、自分の答案を検算させたり、さらには学びたい分野について人間が書いた文献の書誌を組ませたりできるほどの知識を、まるで持ち合わせていない。「ヤコビアン予想の反例」を理解したいなら、私は数日を空けて、あの厄介なWikipediaの項目とその参考文献、関連概念への青いリンクを一つずつ丹念に辿っていくだろう。本気で理解したいのなら、Open UniversityかKhan Academyの講座にも登録する。

LLMを用いたボットに初めて触れて以来、こうしたことはすべて、私にとって自明だった。ある主題を本当によく理解していれば――有用なボット出力と問題のある出力を見分けられるほどに理解していれば――ボットは役に立ちうる。ときにはきわめて有用に、たいていは並程度に有用に。たとえば、私はこのPluralisticを6年半ほど書き続け、これまでに1,683本の記事を書いた（この記事を公開すれば1,684本になる）。コーパスがそれなりの規模になってくると、丹念にタグを付けてきたのに、あるいはWordPressのURL行オプションでタグとキーワードを組み合わせてデータベースを検索する術に通じているのに、参照したい記事を見つけ出すのに苦労することがある。

そこで、コーパス全体をエクスポートしてローカルチャットボットに流し込んでしまおうか、という考えをもてあそんでいる。そうすれば「チャットボットの出力を人に見せることの弊害について書いたのはどの記事だったか」と打ち込むだけで、該当するエッセイへのリンクが得られる。

https://pluralistic.net/2026/03/02/nonconsensual-slopping/#robowanking

（このリンクはまだ辿らないでほしい。この先で参照する予定の記事だ。今日書きはじめたとき、探し出すのに難儀した記事こそこれだった。公開時に「ai」とすべきタグを「at」とタグ付けし、その打ち間違いを見落としていたせいだ。）

「自分が書いたエッセイ」ほど私に見識のある主題はそう多くない。どの記事かをチャットボットに尋ねれば、返ってきた候補のどれが正しくどれが違うかを即座に判別できる。この作業をこなす資格において、宇宙の誰も私に及ばない。今後も及ぶ者は現れないだろう。

そして実のところ、自分の仕事についてチャットボットがどれほどひどい間違いを犯しうるかを、私は正確に知っている。見知らぬ人々が私についてチャットボットに尋ね、そのうえで――理由はまるで理解しかねるが――その出力を私に送りつけてくるからだ。頼むから、相手が見たいと言ったのでないかぎり、チャットボットの記録を人に見せないでほしい。よくて気恥ずかしく、悪ければ迷惑でしかない。

https://pluralistic.net/2026/03/02/nonconsensual-slopping/#robowanking （邦訳）

（先ほど予告した参照はこれだ。もうリンクを辿ってかまわない。）

繰り返すが、チャットボットから有用な仕事を引き出すなら、見識こそがすべてである。私の仕事について何も知らない人間がチャットボットに説明を求めれば、ひどくミスリードされる公算が大きい。私の仕事に通じている人間が、ある主題を私が説明している最良の例を挙げよとチャットボットに求めるなら、良い答えが得られるかもしれないし、悪い答えが返ってきたとしても、これじゃないと気づくこともでこる。

生産的なAI利用にとって見識が中心的な役割を果たすことは自明である。だからこそ私には、AIをティーチングアシスタントとして――最悪なのは教師として――活用できるのだという主張が、そら恐ろしいほど不可解に思える。定義上、学生は自らが学んでいる主題の専門家ではない。だからこそ学んでいるのだ。知識を、ひいては見識を身につけるために学んでいる。チャットボットの説明を通じて学べと学生に求めるのは、道理に合わないどころか危険ですらある。

教師がチャットボットを有用に使える場面は疑いなく存在する。だが頼むから、教えるために使うのだけはやめてくれ。学生にチャットボットから学ばせずとも、教師がチャットボットを活用する道はいくらでもある。

一例を挙げよう。私の娘は数年前、米国のごく普通の大規模高校を卒業した。その高校時代を通じて、私は教師たちが強いられている悪しき妥協に対し、次第に怒りを募らせていった。

米国の教育制度は「Common Core」と「Advanced Placement」によって極度に標準化されている。教師は特定の科目の特定の概念を特定の順序で教えるよう強い圧力にさらされ、学生たちは、自分の人生が重要な試験を突破できるかどうかにかかっていると言い聞かされる。

https://pluralistic.net/2024/01/16/flexibility-in-the-margins/#a-commons

これは教師にとっても学生にとってもストレスの種となっているが、なかでも私の怒りに火をつけたのは、娘の数学教師たちの試験のやり方だった。教師は虎の子の問題セットを一組だけ持っていて、それが外部に流出してカンニングツールになることを恐れて暮らしていた。娘が受けた高等数学の授業ではどれもそうだった。その結果、教師は生徒の数学の試験や小テストを回収し、返却しなかった。生徒は試験を受け、問題を解き、成績を受け取る――だがどこで間違えたのかを確認するために答案を持ち帰ることは許されなかった。

いいだろう、私は数学者ではないし、数学教師でもない。それでも、これが正気の沙汰ではないとわかる程度には教育学を知っている。これでは、的に矢を放っておきながらどこに当たったかを確認しない弓術の練習と変わらない。めちゃくちゃだ。

同時に、教師たちがそうせざるをえないと感じた理由も理解できる。特定の概念を特定の順序で問う試験問題を作るのは大変な労力を要する作業であり、新学期を迎えるたびにクラスごとに新しい試験を用意するというのは途方もない仕事であり、授業計画や生徒との面談の時間さえ食い潰してしまう。

各試験問題のプロンプトを作り、クラスごとに新しい問題用紙と解答キーをチャットボットに吐き出させる教師の姿は容易に想像しうる。こうした問題は、熟練した教師なら難なく検証できる。教師とは定義上、その問題が要求を満たしているかどうかを見分ける見識を備えた存在だからだ。問題を吐き出す小さなアプリをバイブコーディングでこしらえるのも悪くないだろう――もっとも、その場合でも教師には毎回問題を自ら解いてみて、妥当性を確かめてほしいのだが。

私の両親はどちらも教師だったし、兄弟も教師である。私自身、ときおり教壇に立つ。教師たちは反復的で報われない仕事を大量にこなしている。同時に、困難で創造的な、きわめて重要な仕事も数多く担っている。優れた教師は、良い教材と悪い教材を選り分ける見識を備えていて、すでにそれを実践している。というのも、出来の悪いスペルチェック提案を生み出すのにLLMが要らないのと同じように、水準に達しない教材を生み出すのにもLLMは要らないからだ。それを一日中やってくれる「教育」出版社なら腐るほどある。

AIは普通のテクノロジーに過ぎない。つまり、役に立つ場面もあれば、無意味な場面や大いに有害な場面もあるということだ。チャットボットに関する経験則の一つは、LLMが必ず吐き出す欠陥のある出力を無視できる見識を備えた専門家に対してのみ、有用な情報を提供しうる、というものである。だとすれば、チャットボットが教師の代替となるという夢は、悪夢以外の何物でもない。

チャットボットがあるからという理由で教師を廃止するのは、ペストが蔓延しているからという理由で医者を廃止するようなものである。

Pluralistic: Discernment (28 Jul 2026) – Pluralistic: Daily links from Cory Doctorow