市議会が全会一致で承認した決議案が実はChatGPTによって書かれたものだったことが明らかに

OpenAIが開発したチャットAI「ChatGPT」は、ロースクール生向けの試験で合格点を獲得できたり、判決文にChatGPTが用いられたりと、その文章生成能力が認められています。ブラジル南部の都市ポルト・アレグレ市の議会で2023年10月に満場一致で可決され、11月23日に施行された条例が、ChatGPTを用いて作成されたものだったことが判明し、議論が巻き起こっています。

Brazillian city enacts an ordinance that was written by ChatGPT | AP News
https://apnews.com/article/brazil-artificial-intelligence-porto-alegre-5afd1240afe7b6ac202bb0bbc45e08d4

Local Councillors Unaware as AI-Crafted Law Sneaks Through Unanimously – Cryptopolitan
https://www.cryptopolitan.com/unaware-ai-crafted-law-sneaks-throug/

ポルト・アレグレ市の市議会議員であるラミロ・ロザリオ氏はChatGPTに対し「水道メーターが盗まれた場合、市が納税者に対して水道料金を請求しないようにするための規則を作成して」と依頼しました。ChatGPTによって作成された草案を元に、ロザリオ氏は法案を市議会に提出。その際にロザリオ氏は別の市議会議員に対して「この法案はChatGPTが作成したものだ」ということは明かしませんでした。その後、2023年10月に36人の議員からなるポルト・アレグレ市の市議会はこの法案を全会一致で承認し、2023年11月23日に施行しました。

しかし、11月29日にロザリオ氏は突如「この条例はChatGPTによって作成されたもの」と明かしました。ロザリオ氏は「最初からChatGPTが作成したことを明かしていた場合、法案の承認が危うくなる可能性があったため、意図的にChatGPTが作成したことを隠していました」と述べています。ロザリオ氏によると、ChatGPTに対してわずか49語のプロンプトを入力しただけで、数秒以内に今回の条例の完璧な草案が生成されたとのこと。

また「AIによって作成されたという理由だけで法案が承認されないことは、ポルト・アレグレ市民にとって不公平なことです。私の目的は地元で起こっている水道の問題を解決するだけでなく、AIに関する議論を巻き起こすことでした」とロザリオ氏は語っています。

実際にサフォーク大学ロースクールのアンドリュー・パールマン学部長はChatGPTについて「ChatGPTは機械学習システムであるため、法的原則や判例の解釈に関しては、人間の弁護士と同等のレベルには至っていない可能性があります。ChatGPTを用いて詳細な法的分析を行うとさまざまな問題が生じるおそれがあります」と指摘しています。

ロザリオ氏は「ChatGPTを含めて私たちが開発してきた全ての道具は、正しく使うことも悪用することも可能です。だからこそ、私たちはこれらの道具をどのようにして正しく使うことができるかを示さなければなりません」と主張しています。

ポルト・アレグレ市議会のハミルトン・ソスマイヤー議長は当初「AIが作成した法案は危険な前例になり得る」としてロザリオ氏を批判していました。しかし、ロザリオ氏の発言を受けてソスマイヤー氏は「AIが今後立法プロセスに影響を与えることは避けられません。幸か不幸か、この流れがトレンドになる可能性があります」と述べ、考えを改めたことを表明しています。

◆フォーラム開設中
本記事に関連するフォーラムをGIGAZINE公式Discordサーバーに設置しました。誰でも自由に書き込めるので、どしどしコメントしてください！Discordアカウントを持っていない場合は、アカウント作成手順解説記事を参考にアカウントを作成してみてください！

• Discord | "「AIによる法案作成」あり？なし？" | GIGAZINE(ギガジン)
https://discord.com/channels/1037961069903216680/1181522641291591761