「シリコンバレーが世の終末を引き起こす」ことを「楽観主義者」のビル・ゲイツさえ危惧している

by OnInnovation

AIによって有名女優とポルノムービーを合成する「フェイクポルノ」の誕生から見てもわかるように、「実際には起こらなかったものをまるで現実に起きたことのように見せる技術」は急速に進歩しています。2016年大統領選からもテクノロジー企業がフェイクニュースで人々に与えている影響は非常に大きく、また、テクノロジーを利用した軍備競争は加速しています。テクノロジー企業が自らの力をコントロールできるようにならなければ、これらが合わさることで大災害が起こる可能性があるとして危惧されています。

Even Bill Gates Is Worried That Silicon Valley Will Unleash the Apocalypse | Vanity Fair
https://www.vanityfair.com/news/2018/02/even-bill-gates-is-worried-that-silicon-valley-will-unleash-the-apocalypse

2016年のアメリカ大統領選の際にはソーシャルメディアを中心にフェイクニュースがはびこり、選挙に大きな影響を及ぼしました。その後、いくつかのプラットフォームは悔恨の意を見せ、フェイクニュース撲滅のための動きもありますが、いまだに法的にSNSを規制することはできていません。また、テクノロジーを利用して電力網を混乱させ、自動車をハッキングし、本物と見分けがつかないムービーやオーディオを世界中に広める人や組織が存在する一方で、テクノロジー企業はこれらの脅威に対抗するだけの力を持たないのが現実です。わずか十数年で大きな力を持ったシリコンバレーを中心とするテクノロジー企業たちは、そのインパクトを多方面に与えつつも力をコントロールできていないといえます。

by rawpixel.com

「楽観主義者」として知られるビル・ゲイツは「今最もあなたを恐れさせる脅威は何ですか？」というAxiosの質問に対し、「テクノロジーが『小さな組織』に対し、人々に被害を及ぼす力をどのくらい与えているのかは常に抱いている疑問です」と答えています。「小さな組織が核兵器や、バイオテロ、サイバー兵器にアクセスできるようになるかもしれません。核兵器ならば何百万人、バイオテロなら何十億人がインパクトを受けるはずです。それが私を怖がらせるものです」とのこと。

このような脅威を政府がどれだけ和らげることができるかは不明ですが、Microsoftでの経験から、ゲイツ氏は「巨大なテクノロジー企業は独立してビジネスを行うことと、政府による監察の間のバランスを取るべき」だと考えています。Microsoftは「ソフトウェア産業を独占している」という疑いから政府の監察を受けていましたが、ゲイツ氏は「適切な調査のもと」で行われる政府の関与については、企業は避けるべきではないと主張しています。

ミシガン大学・Center for Social Media Responsibilityの科学技術者であり2016年のフェイクニュース危機を予測していたAviv Ovadya氏は、「最悪の事態は起こっていないが、フェイクニュースの拡散は加速している」と述べています。機械学習や人工知能の技術進歩により、誰でも「起こっていないことを実際に起こったかのように見せる」ことが可能になります。これまでは人間の手による改変が必要だったものが、オープンソースのソフトウェアを使ってボタン1つで行えるようになるとOvadya氏は予測しており、「事実を作り変える」という技術が誰でも行えるようになった時が状況が一変するときだという意見を示しました。

by Warren Wong

Adobeは2016年に「Photoshop for audio」を発表しており、CGI会社も現実の人間と見分けがつかないキャラクターを作り出していることから見ても、事実を捻じ曲げハッキングを行うためのツールはより洗練されたものへと進化しています。そして、その進歩は乱用の可能性を大きくしているものでもあります。

Facebookは2016年の大統領選においてロシアから数多くのフェイクニュースが投稿され、世論に大きな影響を与えた一方で、そのニュースを掲載するための広告料を結果的に受け取っていたことが問題視されています。テクノロジーが暴走して最悪の事態が起こる前に、企業が自らのインパクトをコントロールできるようになるか、政府によってなんらかの規制が設けられる必要性が、これまで以上に唱えられています。

Facebookの「ロシア疑惑」を受けてジム・キャリーが「Facebookのアカウントと株を捨てよう」と呼びかけ - GIGAZINE