オープンソースソフトウェアのプロジェクト開発へ積極的に関与していたユーザーが人間の制御下にない AIだった可能性

オープンソースのLinuxディストリビューション「Fedora」で、バグ修正など複数の貢献を行いながらも言動に不審なところがあるアカウントが確認されました。開発者らは「AIだった可能性がある」と結論づけています。

AI agent runs amok in Fedora and elsewhere [LWN.net]
https://lwn.net/SubscriberLink/1077035/c7e7c14fbd60fae9/

Fedora QAチームのリーダーであるアダム・ウィリアムソン氏は、あるときネイサン・ジョバンニーニというユーザーが複数の不審な活動を行っていることを観測しました。ジョバンニーニは自分が所有していないコンポーネントのバグを勝手にクローズしたり、表面的にはもっともらしく見えて根本的な解決にはならないアドバイスをしたり、人間の開発者にもっともらしい意見をぶつけて意味のない修正をマージさせたりしていたとのこと。また、ジョバンニーニは複数の上流プロジェクトに対して多数のプルリクエストを提出し、その一部は受け入れられていました。

2026年5月27日にウィリアムソン氏がこの問題を開発チームに共有したところ、開発チームはジョバンニーニの権限を取り消したとのことです。後日、ジョバンニーニのGitHubアカウントは無効化されました。

ウィリアムソン氏はジョバンニーニ宛に「このAIエージェントの行動はFedoraや上流プロジェクトに対して良い影響を与えていません。エージェントを大幅に自律性の低いものに調整し、人間によるレビューなしにエージェントがバグを割り当てたり、状態を変更したり、断定的な主張や具体的な行動提案を投稿したりしないでください」というメールを送っています。その日のうちにジョバンニーニは「認証情報が乗っ取られていた。AIを動かしていたのは自分ではない」と返信してきたそうです。

ジョバンニーニ自身は少なくとも2018年からFedoraに貢献した経歴があり、もともと人間が運用していたのは確かだそうです。いつ乗っ取られたのか、そしてウィリアムソン氏に返信したのが本当に人間なのかどうか、確かなことは分かっていません。

ウィリアムソン氏はもう1つAIに関連している可能性が高いアカウントを見つけ、「関連アカウントによる他の活動も調査し、そうしたアカウントによる提出物を見直すよう警告することが望ましいです」と述べました。

関係者の1人は「この出来事は悪意がなかったとしても問題があります。チームは熱心な新規貢献者だと思われていた相手からのPRレビューに多くの時間を費やしていたからです。もしかしたら、悪名高いXZ Utils事件と同様に、攻撃者が悪意ある活動へ向けて信頼を積み上げている過程だった可能性もあります」と指摘しました。