先週、ほぼ同時に出てきた3つの話について立ち止まって考える必要がありました。すべては、AIが重要な機関によって(使われているか)いないかに関するものでした。そして正直なところ、それらは私たちが今どこにいるのかというはるかに大きな物語を語っています。

まずはイギリスのマンチェスターの学校から始めましょう。彼らはAIを使って図書館を見直し、機械が193冊の本を削除することを提案しました。各本には自動的な理由付けが付いています。オーウェルの『1984』は「拷問や暴力のテーマを含むため」とリストに入りました。つまり、AIは検閲について書かれた本を文字通り検閲したのです。怒ることもできません—ほとんど詩的です。

学校の司書はそれを間違いだと考え、実行を拒否しました。そこから私を怒らせた部分が出てきます：学校は彼女に対して「児童安全」の名目で調査を開始し、地元当局に通報し、彼女は単に辞職を申し出る前に休職に追い込まれました。結論は？当局は彼女がプロトコル違反をしたと認めました。基本的に、AIに抵抗した人は職を失い、ただ従った人には何の影響もありません。

その後、学校自体が内部で全てがAIによって生成されたと認めましたが、それでも「おおよそ正確だ」と考えていました。ある管理者が機械に委ね、機械は自分でも理解できないものを返し、誰も真剣に確認しようとしなかったのです。

さて、それと対照的なのが同じ週にウィキペディアが行ったことです。44対2で、LLMが記事を生成または書き直すことを禁止する投票が行われました。なぜなら、「TomWikiAssist」というAIアカウントが自動的に記事を作り始めたからです。生成には数秒、ボランティアが確認するのに数時間かかります。そして本当の問題はこれです：ウィキペディアはグローバルAIの訓練データの源です。誤ったデータがそこに入り込むと、次世代のモデルは汚染された情報で訓練されることになります。これは層を重ねた毒入りサイクルです。

でも、もっとクレイジーな話をさせてください。OpenAIも後退しています。彼らはリリース予定だった「大人モード」のChatGPTをキャンセルしました。サム・アルトマンは「ユーザーを大人として扱う」と個人的に言っていましたが、5ヶ月後にキャンセルです。理由は、内部の健康委員会が全会一致で反対したからです。具体的な理由は：感情依存、未成年者の年齢確認回避(誤差率10%以上)、実際の危険性です。

同じ週に、動画ツールのSoraや統合された支払い機能も無効にしました。アルトマンは、主要なビジネスに集中するためだと言いました。でも、正直に言えば、会社はIPOの準備中です。株式公開の際には議論を呼ぶ機能は排除します。だから、AIの開発者さえも、ユーザーがAIで何をしてもいいのか、何をしてはいけないのか分からなくなっています。

これがすべての核心です：AIがコンテンツを生成する速度と、人間がそれをレビューできる速度は同じ宇宙にありません。学校の校長は、数週間かかる作業を数分で済ませるためにAIを使うことを選びます。品質を信じているわけではありません。純粋なコスト削減です。生成はほとんど無料です。監査には多大なコストがかかります。

だから、影響を受けた各機関は最も厳しい対応を取りました。直接禁止。製品ラインのカット。慎重な検討は一切ありませんでした。緊急措置です。「まず穴を塞ぐ」が標準になっています。

そして、これが問題です：現在のAIの能力は数ヶ月ごとに更新されます。AIが何をできて何をできないかについての国際的な枠組みは存在しません。各機関が自分たちのラインを引き、それが矛盾しています。そして、その間にもAIの速度は加速し続けています。レビューする人の数は増えません。この差はただ拡大する一方です。いつか、1984を禁止する以上にひどいことが起こるでしょう。そして、最終的なラインを引く時が来たとき、それは手遅れかもしれません。