AI関連の資料を作る際に使えるフリー素材集

１．AI関連の資料を作る際に使えるフリー素材集まとめ

・chatGPTはあれほど賢いのに、何故、幻覚を見てしまうのか？
・幻覚は幻覚と見抜けないと
・話題のボット、入っています！

２．チャットボットが幻覚を見てしまう理由を説明するフリー素材

アイキャッチ画像は妖精さんに囲まれて幻覚を見てしまうチャットボット。ブログを更新しないとやはりまだ気分的に落ち着かないですが、とは言え、現在はサイト再構築に全力投球中です。

以下、Twitterには少し投稿してみたのですが、SNSはやはり流れてしまうので素材系はブログの方が良いなと思ったので、Twitterには投稿してない素材も含めてWebで限定公開！

本ページ内のフリー素材と明記されている画像は常識の範囲内で自由にお使いください。（他のページの画像はまだ未解決な複雑な問題が関わってくる可能性があるのでご勘弁ください）

（１）chatボットと幻覚(フリー素材)

「chatGPTはあれほど賢いのに、何故、嘘をつくのでしょうか？」という質問に答える際に作った画像です。チャットボットが嘘をつく事をAI用語では「幻覚(Hallucination)を見る」と言うのですが、それを以下で説明しています。

人間のフィードバックを使った強化学習(Reinforcement Learning from Human Feedback)。
チャットしているとチャットボットは非常に良い奴に思えてきますが、それは「人間が気に入るチャットの仕方」を人間と実際に対話して直接フィードバックを受けて学習したからであって、それは表面的な部分です。

教師有り学習
チャットボットは人間と同様な倫理観や一般常識を持っているように思えてきますが、それは人間が教師となって教え込んだ部分や正誤がはっきりとしているデータから学んだ事であり「こういう質問にはこのように答えなさい」と教えられているからです。深く問い詰めていくと、特定の分野では一定のパターンしか返さない「言わされてる感」がある事に気づきます。人間っぽく見えるのは表層の部分です。

教師なし学習
水面下にあるチャットボットの根本部分は玉石混交のインターネット上のテキストから学習した部分です。何をどう学んでどう解釈したのかは不明であり、人間にはとっては「嘘」としか思えない事がAIにとっては嘘ではなく、それはもしかしたら「忖度」なのかもしれませんし、子供にせがまれておとぎ話を語っている人間を真似ているのかもしれません。

現実世界の肉体を持っておらず物理世界を経験した事がないという点でも異質なので、とんでもない認識ズレが発生する恐れがある異質な存在である事を十分に認識しておく事が重要です。

AIの「理解」が人間と根本的に異なる可能性を警告するこういったちょっと怖い感じのイラストはインターネット上のMEMEとして何パターンかあり、英語圏ではクトゥルフ神話に登場する怪物を念頭に「ショゴス(Shoggoth)」と表記される事があります。

ショゴスは物語の中で「数億年前に地球に飛来した「古のもの」によって作られ、肉体労働のための奉仕種族として扱われていた。もともと知能はなく「古のもの」の催眠術のような暗示で働いていた。しかし自身が発生させた脳を固定化することで知能を持つようになり、創造主である「古のもの」に反抗して全面戦争を引き起こした(wikipediaより引用)」とされています。

現在の人間とAIの関係に当てはまるように見える事もあり、これを転じてAIを意図した通りにコントロールしようとする試みを「ショゴスを飼いならす方法」と表現する事があります。