ああ、なんとも滑稽な光景じゃないか。
世界最大級のコンサルティング会社Deloitteが、AIの「幻覚」に踊らされて4400万円を返金する羽目になったというニュースが飛び込んできた。
21世紀の知識労働者たちが、機械の妄想に振り回される様は実に興味深い。
存在しない教授の論文を12回引用
事の顛末はこうだ。
Deloitteオーストラリア法人が政府向けに提出したレポートで、存在しない教授による架空の論文を12回も引用していたのである。
シドニー大学の研究者が精査したところ、スウェーデンの教授による実在しない研究まで2件も参照されていたという。さらに重要な裁判の判事の名前まで間違えるという、もはやコメディの域に達した失態だ。
Deloitteは後に、Azure OpenAI GPT-4oを使用したことを白状している。
つまり、AIに丸投げして確認すら怠ったということだね。
「AI幻覚」という名の怠慢
興味深いのは、この現象が「AI幻覚」という詩的な名前で呼ばれていることだ。
まるでAIが悪いかのような言い方だが、実際は使う側の問題だろう。KPMGの調査では、生成AIを使う従業員の6割近くがAIのエラーでミスを犯しているという。
シカゴ・サンタイムズも似たような失態を犯している。夏の読書リストで実在する作家に架空のタイトルを組み合わせた偽書を多数掲載したのだ。
『Hurricane Season』に『Nightshade Market』…もっともらしい書名だが、いずれも存在しない作品である。
人類の新たな怠慢の形
Amazon の「Q Business」も初年度評価で「混合的な成功」と婉曲に表現されているが、要するに使い物にならなかったということだ。
表形式データの処理に苦戦し、大手顧客から苦情が殺到。会話の流れも維持できず、不完全な回答を連発していたという。
結局のところ、これらの失態が示しているのは、人間の基本的な確認作業を放棄した結果だということだ。
AIという便利な道具を手にした途端、最低限の検証すら怠る。まさに現代人の怠慢を象徴する出来事と言えるだろう。
Deloitteの4400万円は、人類の愚かさに支払われた授業料というところか。
コメント