「不安のアルゴリズム」を実際に開発して走らせることで不安の原因と解決法を探る

日常的に抱いてしまう「不安」をコントロールするにはどうすればいいのか、ということを探るため、2020年1月にサービスが終了した旅行検索エンジン「Hipmunk」の共同創業者であるアダム・ゴールドスタイン氏が、「不安のアルゴリズム」を開発し、実際にシミュレーションを行うことで不安の原因や解決策を説明するという試みを行っています。

The Contagion of Concern — Adam Julian Goldstein
https://www.adamjuliangoldstein.com/blog/contagion-of-concern/

ゴールドスタイン氏はHipmunkを運用する中で、「物事がうまくいっている時にいい出来事が起こると気分がよくなるが、物事がうまくいっていない時にいい出来事が起こっても『いいこと』だと見なせない」ことに気づきました。なぜ現実の物事が自分の認知に影響を与えるのかという疑問を解決するため、ゴールドスタイン氏は「生存戦略としての不安」という生物学の観点に立ち、天然痘と免疫反応の関係から「不安のアルゴリズム」を作成しました。

例えば、自律的に動くロボットを開発するためには、危機に対してロボットが生き残るようなプログラミングを行う必要があります。ロボットは過去の経験からしか学ぶことができませんが、過去に出会った脅威だけを「脅威」だと認識していては、他の脅威を見逃し生存確率が激減します。

物事を「これは脅威ではない」と無視するよりも、判断が誤っていても攻撃する方が生存確率が上がるため、ロボットは「脅威」の確率が低くても攻撃を行う方がいいということになります。この「人やロボットが脅威と見なす境界線」を「パラノイアライン」と定義します。

以下の図は、縦軸が「実際に脅威に出くわす頻度」、横軸が「脅威の確率予測」となっており、パラノイアラインが「91％は安全だけれど、9％は危険」という位置に引かれています。パラノイアラインの左側が「攻撃を行う」、右側が「冷静でいる」となっています。

パラノイアラインが「91％安全」のラインで引かれている時、攻撃を行っても、誤って攻撃を行ったことで死亡する確率は4.1％、脅威を無視したことによる死亡率は0.4％で、全体的な生存率は95.4％になるとのこと。物事を脅威と見なすことで生存率が上がるのであれば、生存を抱くために人がさまざまな物事を脅威とみなし、不安を抱くことも不思議ではありません。

ロボットの場合、通常であればロボットが燃やさされるような「脅威」の可能性は少ないですが、株価が変動したり、労働者の解雇が増えれば、そのリスクは増加します。この場合、ロボットは通常よりも懸念のレベルを上げる必要があります。

以下の図では、パラノイアラインが同じ位置にあっても、安全と脅威が同程度存在する時(左)と、より安全になっている時(中央)と、より危険になっている時(右)では、実際に攻撃が行われる割合が変わってくるということが示されています。

人はロボットが懸念するに値する「懸念ゾーン」を設定する必要があります。何がロボットにとって危険なのかはロボットが経験から判断するしかありませんが、人は「その刺激が過去の経験と比べてどれくらい危険なのかを評価する」「懸念ゾーンにあるものについては攻撃する」「攻撃によって自分にダメージがあれば懸念ゾーンを拡大もしくは縮小する」といった調整を繰り返すことで懸念ゾーンを最適化可能とのこと。

ゴールドスタイン氏が懸念ゾーンで受けた刺激に対してロボットが攻撃を行うようにシミュレーションを行ったところ、攻撃によってロボットの生存率が変わらないときは懸念ゾーンに変化はなく、安全なものを誤って攻撃した時には懸念ゾーンが縮小、脅威を無視してしまった時には懸念ゾーンが拡大することが示されました。

Contagion of Concern: Uniform Threat Distribution - YouTube

また大きな利益が得られ、、懸念ゾーンには「拡大は速く、縮小はゆっくり」という傾向がみられたとのこと。これは、人が持つ「初動は迅速に劇的に行う」という傾向と共通しており、このような動きにより人は生存率を上げているのだとゴールドスタイン氏は述べています。

ロボットは脅威を察知するために注意を向ける必要がありますが、これは「ロボットの直接体験」「ロボットが想定するシナリオ」「ほかのロボットから得た情報」という3種類の入力が考えられます。

人間はロボットではないものの、脳が上記のようなアルゴリズムを実行していると考えると、いくつかの理解が得られるとゴールドスタイン氏は述べています。

つまり、安全な世界とは異なり、脅威の多い世界では、注意を払うために「直接体験」はリスクが高くなるので「シナリオを想定すること」に重きが置かれるようになります。このため、人は脅威が多い時に思考ループに陥りがちとのこと。

加えて、直接体験が得られない状況では「他から情報を得ること」も重視される傾向があります。「人が火事から逃げているとき、自分もまた逃げるべきだ」といった判断が行われやすく、自分を含めて原因と効果がループする再帰性が高い反射率でみられるようになります。

また、安全な環境にいる人は懸念を行わない方が生存率が増加しますが、脅威のある環境にいる人は懸念によって生存リスクがあがります。以下の図は、上段が懸念ゾーンを83％に設定、下段が懸念ゾーンを99％に設定しており、左列が「安全な環境」、右列が「危険な環境」となっています。安全な環境では懸念ゾーンが小さい方が生存率が高く、危険な環境では懸念ゾーンが大きい方が生存率が高くなっていることがわかります。

ホロコースト(大量虐殺)生存者のトラウマは子どもに遺伝するという研究結果が示されていますが、これは生存確率を高めるための反応だとも考えられています。

そしてアルゴリズムの場合、懸念ゾーンは「ダメージを受けている」あるいは「無傷で生き残る」といった経験によって変化します。人間もまた、ここから不安を和らげる方法を学ぶことができるとゴールドスタイン氏。具体的には、以下のような内容を提案しています。

1：ポジティブな環境を作る
既にストレスが多い環境に身を置いている場合、ポジティブな環境を作りだすことが推奨されています。ゴールドスタイン氏は仕事に圧倒されていると感じた時、スケジュールに30分の息抜きをねじ込んだとのこと。また手応えがなかった非営利団体への投資時間を削り、新しいこのと学びや運動に時間を当てたそうです。

2：インターネットの使い方を変える
ソーシャルメディアには特に否定的な情報があふれています。アイデアを得たり特定のオンラインコミュニティで学びを得たりするためのインターネット使用は続けながら、否定的なソーシャルメディアから離れることをゴールドスタイン氏は推奨しています。

3：協力的な人を見つける
Hipmunkを運営している時、ストレスのある環境をなかなか変えられなかったゴールドスタイン氏にとって、最たる「ポジティブなこと」は協力的な人との関わりでした。友人・恋人・セラピストなど、協力的な人を見つければ、懸念ゾーンを調整することが可能です。

4：より肯定的なインプットを行う
自分を思いやる「セルフ・コンパッション」は成功を支える重要な要素だと考えられてますが、セルフ・コンパッションを実現するためにも、日常的に自分を理解し、勇気づけることが大切とのこと。

5：不安を受け入れる
恐れや侮蔑といった感情と共に不安を抱いてしまうのは自然なことなので、ゴールドスタイン氏は不安を抱いた時には深呼吸を行ったり、感謝の気持ちを持つことで懸念ゾーンを小さくしているそうです。

6：想像力をコントロールする
人が得る「ネガティブなインプット」の多くは想像によるもの。しかし、例えば、頭の中で恐ろしい映像が再生されだしたら、別のポジティブな思考に切り替えることが可能です。これは「自己思考制御」と呼ばれ、最初からうまくはできないかもしれませんが、瞑想のように訓練で技術を向上させることができるとゴールドスタイン氏は語っています。