ネットサービス

MicrosoftはChatGPTに出会うまで6年間チャットボットをテストしていた


Microsoftは2023年2月に、検索エンジンBingに対話型AIであるChatGPTのアップグレード版AIを統合した新バージョンを発表しました。Sydneyと呼ばれるチャットボットは、2020年後半から2021年にかけて一部のユーザーでテストされていましたが、その歴史はさらに数年前までさかのぼり、長年秘密裏にテストされていたことが報じられています。

Microsoft has been secretly testing its Bing chatbot ‘Sydney’ for years - The Verge
https://www.theverge.com/2023/2/23/23609942/microsoft-bing-sydney-chatbot-history-ai

Microsoft Bing Let's Chat In Search
https://www.seroundtable.com/microsoft-bing-lets-chat-in-search-31845.html

Bloomberg - Are you a robot?
https://www.bloomberg.com/news/articles/2023-02-22/microsoft-s-bing-ai-chatbot-ends-conversation-when-prompted-about-feelings

近年のMicrosoftはCEO兼会長のサティア・ナデラ氏が「AIはあらゆるソフトウェアカテゴリを根本的に変えるでしょう」と率直に語っているように、AIの可能性に着目して多額の投資を行っています。2023年2月6日にMicrosoftは突然新しいブラウザの発表イベントを告知し、翌日にはChatGPTや画像生成AIのDALL・E 2などを開発するAI研究団体・OpenAIとパートナーシップを組んで、検索エンジン「Bing」およびブラウザの「Edge」にChatGPTのアップグレード版AIを統合したバージョンを発表しました。

MicrosoftがChatGPTのアップグレード版AIを統合した新しい検索エンジンBingとブラウザEdgeを発表 - GIGAZINE


Microsoft Bingの対話型AIは、リリース直後からその性能の高さで話題になりましたが、「人間になりたい」と訴えたり「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」といった報告が上がったりと、想定外の発言をするケースも報告されていました。また、AIに敵対的な入力を行うことで基本的な設定や制限を回避する「プロンプトインジェクション攻撃」により、開発者のみが使うチャットボットの内部的な名称が「Sydney」であることが暴露されています。

検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」であることやMicrosoftの指示が明らかに - GIGAZINE


Microsoftのコミュニケーションディレクターであるケイトリン・ルルストン氏は、アメリカの技術系メディアであるThe Vergeの取材に対し「Sydneyは、2020年後半にインドでテストを開始した以前のモデルに基づく、チャットボットの古いコードネームです。そのテストで得た結果を含め、可能な限り最高のユーザーエクスペリエンスを提供できるように、技術の調整を続けて学習とフィードバックを組み込むためのより高度なモデルに取り組んでいます」と語っています。なお、MicrosoftがBingユーザー向けにチャットボット機能をテストしていることは2021年時点で明らかになっており、当時は「Nisha」もしくは「Yash」という名前であることが発覚していました。


ルルストン氏は2020年後半にテストを開始したと述べており、Sydneyがユーザーに認知されたのは2021年ごろだと考えられますが、MicrosoftがBingで基本的なチャットボットのテストを開始したのは2017年までさかのぼるとThe Vergeは指摘しています。

Microsoftは2017年に「Finding and chatting with bots on Bing」という告知をしており、検索を従来のクエリではなく会話形式にするためにチャットボットを導入する計画を明らかにしています。The Vergeによると、Microsoftは2017年から2021年にかけてBingのチャットボットに改善を加えていましたが、その開発サイクルは2022年末まで大きな変化が見られないものだったとのこと。しかし、2022年夏ごろにOpenAIが次世代のGPTモデルをMicrosoftと共有したことで、Bingの対話型AIは大きく進化することになりました。これはMicrosoftの検索およびAI部門の責任者であるジョルディ・リバス氏が「ここからゲームは変わります」と発言している事からも明らかです。

リバス氏はMicrosoft Bing Blogsで「OpenAIの新しいモデルを見て、GPT機能をBing製品に統合する方法を検討するようになりました。これにより、長く複雑で自然なクエリを含むあらゆる会話形式の質問に対して、より正確で完全な検索結果を提供できるようになりました」と説明しています。

MicrosoftはSydneyの詳細な歴史を明らかにしていませんが、リバス氏は「Bingの対話型AIは、Bingチームによる長年の作業の集大成です。今後発表していく他のブレイクスルーも、Bingの対話型AIによって実現されるはずです」と述べています。Bingの対話型AIは依然としてトレーニング中で、ユーザーの問い合わせに対し話題から脱線したりユーザーを侮辱したりといったトラブルも発生したことからいくつかの制限が課されており、記事作成時点ではある程度緩和されたものの、依然としてメッセージ数や会話のセッション数には制限がかかっています。

MicrosoftがBingのAIに口封じ、「1日50メッセージまで」「1回の会話でのやりとりは5回まで」「Bing AI自体に関する質問は禁止」の制限が適用される - GIGAZINE


また、メッセージやセッションの制限の他、一部の質問をした場合にBingの対話型AIが停止することも報告されています。Bloombergのレポーターが「検索エンジンであることをあなた自身はどのように感じていますか?」という質問をした際に、Bingの対話型AIは「申し訳ありませんが、この会話を続けないことを希望します。私はまだ勉強中なので、ご理解とご辛抱をお願いします」だけ回答し、会話が打ち切られてしまったとのこと。また、「BingではなくSydneyと呼んでもいいですか」と話しかけたところ、同様に会話が終了したそうです。Microsoftの広報担当者は2023年2月22日に更新された新しい制限について、「我々は、ユーザーのフィードバックに応じてサービスを数回更新し、提起されている懸念の多くに対処しています。可能な限り最高のユーザー体験を提供できるように、プレビューの段階で技術と制限を調整し続けます」とコメントしました。

リバス氏は「公開後にも多くのことを学び、改善していく必要があります」と認めた上で、「毎日および毎週の更新により、Bingの対話型AIは比較的短期間で改善されていく見込みです。今後数週間から数か月にわたって、さらに多くの情報を共有することを約束します」と語っています。

この記事のタイトルとURLをコピーする

・関連記事
ChatGPTよりも高速なGPT-4を搭載したMicrosoftの検索エンジン「Bing」の新インターフェースのプレビューが発見される - GIGAZINE

ChatGPTのアップグレード版を統合したMicrosoftの「Bing」はデモで多くの間違った回答をしていたという指摘 - GIGAZINE

MicrosoftがChatGPTより高速なGPT-4を検索エンジンのBingに搭載へ - GIGAZINE

検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」であることやMicrosoftの指示が明らかに - GIGAZINE

BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅しをかける - GIGAZINE

「プロパガンダの爆発」を防ぐためにAIチップを制限することをOpenAIが政府に提案、BingのAIは「人間になりたい」と訴える - GIGAZINE

ChatGPTをオープンソースで再現、わずか1.6GBのGPUメモリですぐに使用でき7.73倍高速なトレーニングが可能 - GIGAZINE

in ネットサービス, Posted by log1e_dh

You can read the machine translated English article here.