AIをクトゥルフ神話のショゴスで表現するミームは一体なんなのか？

by Luis Daniel Carbia Cabeza

メジャーなミームというわけではありませんが、AIのことをクトゥルフ神話に登場するクリーチャー「ショゴス」を用いて表現することが一部で行われています。AIとクトゥルフ神話の間にはこれといった関係はなさそうですが、実際にはそれなりに意味のあるたとえになっているとThe New York Timesのケビン・ルーズ氏が報告しています。

How the Shoggoth Meme Has Come to Symbolize the State of A.I. - The New York Times
https://www.nytimes.com/2023/05/30/technology/shoggoth-meme-ai.html

「ショゴス」はH・P・ラヴクラフトの小説「狂気の山脈にて」で登場した不定形のクリーチャーです。イラストでは、タコやイカのように複数の長い足を持つ生き物のように描かれることがあります。

AI関連でイラストに用いられた事例の1つとして、Scale AIはティム・バウアー氏のイラストをトートバックにしています。

また、Novel AIは擬人化イラストにショゴスを用いて「ショギー(Shoggy)」の愛称をつけています。

Text Model Progress is going Good! | by NovelAI | May, 2023 | Medium
https://blog.novelai.net/text-model-progress-is-going-good-82a94855445e

顔にスマイルマークをつけたショゴスが「AI言語モデルとして、私は役に立ち、有益で、客観性を意図した応答を生成するようにトレーニングされてきました……」とつぶやく画像をTwitterのイーロン・マスクCEOがツイートしたこともあります。なお、マスクCEOはこのツイートを削除しています。

Elon Musk on Twitter: "☺️ https://t.co/Xok0CX2MUU" / Twitter
https://web.archive.org/web/20230223004549/https://twitter.com/elonmusk/status/1628491148124884992

ルーズ氏が業界人から聞いた話によると、AI関連の仕事をしている人にとってショゴスは「人気のある参考資料」であり、大規模な言語モデルが実際のところどのように機能するかを視覚的に如実に示しているとのこと。

最初にAIをショゴスで表現したのは@TetraspaceWest氏による以下のツイートで、左のショゴスはGPT-3を、右の面をつけたショゴスはRLHF(人間による評価をモデルの出力に反映させるプロセス)を加えたGPT-3を表現しています。これは、「AIによる危険な振る舞いを防ぐために、AI企業は無害な振る舞いをするように訓練(＝RLHF)しなければいけない」ことを示したジョークでした。

しかし実際問題、RLHFを経て言語モデルを微調整したからといって基礎にあるモデルの奇妙さや不可解さが減るわけではなく、あくまで薄っぺらい人懐っこさの仮面をつけただけの謎の獣であるとAI研究者らは考えているとのことで、本質を突いたイラストでもあるというわけです。

今後、AIが世界にとって「善」となるのか「悪」になるのかの確信を持つこともできていないという点も、単純な善悪では語れないクトゥルフ神話と重なる部分があるとみられます。

また、いまのAIで行われていることが、一部の人にとってはソフトウェア開発プロセスの1種というよりも「召喚」のように思えるという部分もまた、クトゥルフ神話っぽさを強化しています。

より大きくより強力になるショゴスが、恐ろしい部分を覆うだけの大きなスマイルマークをつけていることを開発者らは願っているとルーズ氏は結んでいます。