学校教育とAI：生成AIの使用禁止とAI検出ツールは生徒たちを害する

Electronic Frontier Foundation

生成AIは今年（訳注：2023年）初めから広く注目を集めたが、それに誰よりも早く対処しなければならなかった人々がいた。教育関係者だ。教師や学校の管理者は、2つの大きな疑問に直面した。生徒の生成AIの使用を禁止すべきか、そして生徒が生成AIを使用したかどうかを検出する新しいツールを学校で導入すべきか、である。EFFはこれら2つの質問への答えはノーだと考えている。

AI検出ツールは生徒を害する

数十年にわたり、生徒たちは学校での増え続ける各種の侵害的なテクノロジーから自身を守らなければならなかった。生徒監視ソフトウェア、リモートプロクタリングツール、包括的な学習管理システムなどの懲戒的なテクノロジーから、カメラ、顔認識、その他の生体認証などの監視技術まで。「AI検出」ソフトウェアはこのミックスに加えられた新しい世代の不正確で危険なテクノロジーだ。

GPTZeroやTurnItInなどのAI検出ツールは、生徒の作文が生成AIツールによって作成された可能性があるかどうかを(正確性はさまざまだが)判断できると主張している。しかしこれらの検出ツールは危険なほど不正確で、すでに虚偽の剽窃容疑をかけている。リモートプロクタリングと同様に、このソフトウェアは必ずしも不正を示すわけではないシグナルを探す。例えば、語彙が予測可能で文章が複雑でない場合にAIによる生成と判定される可能性が高い。その結果、研究では一部の学生グループ、例えば非ネイティブスピーカーに対する誤検出が多いことが示されている。

生徒がAIで作文したかどうかを証明するソースドキュメントがないツールも多い。AIライティングツールが改善され、人間のライティングのあらゆる変化を反映できるようになれば、AIの関与を検出できるツールの精度はますます低くなっていくだろう。現在までの混乱が前口上なのだとしたら、一部の学校ではAIライティングツールの普及に対抗して、さらなる監視と正確性に欠ける懲戒処分に突き進むかもしれない。生徒、管理者、教師はこれに対抗すべきだ。

学校の許可なく生成AIを使用したと誤って疑われた場合、生徒はどうすればよいのだろうか。それについては、ワシントン・ポストの解説記事が参考になるだろう。自分を守るために、下書きを保存するか、自動的に保存するドキュメント管理システムが推奨されている。

学校での生成AIの禁止は生徒を害する

AI検出ツールが広く利用可能になる前に、ニューヨーク公立学校やロサンゼルス統一学区など、米国最大の学区の一部は、不正の恐れからChatGPTなどのLLM AIツールへのアクセスを一時的に完全に禁止していた。幸いにも、その後多くの学校が禁止を見直し、教える価値のあるものと認識し始めている。ニューヨーク市公立学校はわずか4か月でこの禁止を撤回し、生成AIに関するポリシーとカリキュラムを整備する学校も増えている。ニューヨーク市公立学校の教育長は「この画期的な技術を学び、探求することを教職員や生徒に奨励し、支援するとともに、学校間で調査結果を共有できるリポジトリやコミュニティを作る」と記した。すべての学校が採用すべき正しいアプローチである。

もちろん、生成AIツールを全面的に支持しているわけではない。多くの問題を抱えているのも事実だ。しかし全面的に禁止したところで、学校の機器を通じた生成AIツールの使用を防ぐことしかできず、授業時間外での使用は止められない。学校こそ、教師がその仕組みやメリット・デメリットを説明できる場所であるはずなのに。

こうした禁止措置は驚くべきことでもない。学校の管理者や教師たちは、新しい技術、とりわけインターネットの使用を禁止してきた長い歴史がある。電卓が一般家庭に普及しきってから数十年が経っても、教育者は生徒が教室で電卓を使ってよいかを議論してきた。検索エンジンの使用も禁止した。ウィキペディアも禁止された。いずれも教育に役立つ可能性があり、教師はそのニュアンスを説明する立場にあった。近道を提供するツールがあるなら、教師や管理者はそのツールの仕組み、できること、そしてできないことを教えることを検討すべきだ（多くのオンラインツールの場合、収集するデータについても）。学校が生成AIテクノロジーでは異なる軌道をたどることを願う。

人工知能は生徒の人生に影響を与える可能性が高い。学校環境はそのようなツールの利点と欠点の一部を理解するよい機会を提供する。悪者扱いするのではなく、学校は生徒に、この潜在的に有用な技術がどのように機能するか、また適切に使用するタイミングについて教えることで、生徒を助けるべきだ。

To Best Serve Students, Schools Shouldn’t Try to Block Generative AI, or Use Faulty AI Detection Tools | Electronic Frontier Foundation