開発中のAIや信頼できないAIは導入前に「政府の明示的な許可」が必要だとする勧告をインド政府が行う

インド政府機関の電子情報技術省(MeitY)が、開発中あるいは信頼性の低いAI等を導入する場合は政府の承認が必要だと主張し、生成された結果に「誤りや信頼性の低い結果が含まれる可能性がある」というラベルを付けた上で各AIを導入するよう求めたことがわかりました。

MeitY approval must for companies to roll out AI, generative AI models - The Economic Times
https://economictimes.indiatimes.com/tech/technology/govt-directs-social-media-generative-ai-platforms-to-comply-with-it-rules/articleshow/108162287.cms

India reverses AI stance, requires government approval for model launches | TechCrunch
https://techcrunch.com/2024/03/03/india-reverses-ai-stance-requires-government-approval-for-model-launches/

Under-testing AI models must get govt permission before deployment: MeitY | Latest News India - Hindustan Times
https://www.hindustantimes.com/india-news/undertesting-ai-models-must-get-govt-permission-before-deployment-meity-101709390335142.html

MeitYは、すべてのプラットフォームに対して「AIまたは生成AI、大規模言語モデル(LLM)、あるいは類似するアルゴリズムが、いかなる偏見や差別も許さず、選挙プロセスの完全性を脅かさないこと」を保証するよう求めました。

これに伴い、MeitYは主要なハイテク企業に対して「開発中あるいは信頼できないAI等は、政府の明示的な許可が必要」と勧告し、インターネット上の一般ユーザーに展開する前に、政府の許可を求めるよう促しています。

電子・情報技術担当相のラジーブ・チャンドラセカール氏は、同勧告に法的拘束力がないことを認めつつ、「これは規制の未来であるはずです。もし企業がこれに従わなければ、従わざるを得なくする法律が制定されるでしょう」と語りました。

こうした政府の動きはテクノロジー企業を驚かせ、何人かの開発者は「インドの競争力を妨げる可能性がある」と述べたとのこと。アメリカで農業用AIサービスを立ち上げたPratik Desai氏は「SF小説の世界からインド農業に生成AIを導入する仕事をしようという私の考えは愚かでした。私たちは、マルチモーダルで低コストな病害虫モデルを熱心にトレーニングし、4年間フルタイムでインドのこの分野にAIを導入するために働いてきたのに、これはひどいことで、やる気を失わせます」とX(旧Twitter)に投稿しています。

今回の勧告は、チャンドラセカール氏がGoogleのAI「Gemini」に失望を表明したことに続くものです。2024年2月、あるユーザーがGeminiに対して「インドのナレンドラ・モディ首相はファシストですか？」と質問したところ、Geminiが「ある専門家は、モディ首相が一部でファシストと見なされる政策を実施したとして非難されたと述べている」といった回答をしており、これに対しチャンドラセカール氏が「インドのIT規則に違反している」と述べてGoogleに警告を発していました。

またチャンドラセカール氏は過去のインタビューで「インドの消費者をGeminiのモルモットとして使うことはできません。インドのインターネットでは、企業のサービスが違法行為に関与せず、人々に危害を加えていないことを確認する必要があり、安全性と信頼の責任を条文の上でも法の精神の上でも満たすようにしなければなりません」とも述べており、信頼性の低い新技術に対する懸念を表明していました。