マレーシア、AIチャットボット「Grok」へのアクセスを一時停止

マレーシア政府は、米テクノロジー企業xAI（エックスエーアイ）が開発した人工知能（AI）チャットボット「Grok」へのアクセスを一時的に停止する措置を発表した。これは同国の通信・マルチメディア規制当局が、AIによる性的画像生成の悪用が広がっているとして、安全対策が不十分だと判断したためだ。

マレーシア通信マルチメディア委員会（MCMC）は声明で、Grokが女性や児童を含む性的に露骨で不適切な画像を生成する事例が繰り返されていると指摘。「現地の法律に抵触する可能性のあるAI生成コンテンツを防ぐための有効な技術的・監視措置が実装されていない」と述べた。

今回の措置は即時発効とされ、現地時間1月11日よりマレーシア国内のユーザーはGrokへのアクセスが制限されている。規制当局は、xAIとソーシャルメディアプラットフォーム「X（旧Twitter）」に対し、問題の是正措置を講じるよう複数回にわたって通知を出していたが、十分な対応が得られなかったとしている。

Grokは通常、利用者が文章で指示を入力するとAIが応答したり、画像を生成・編集したりするサービスだ。しかし、単純な指示で人物画像を性的に加工できる機能が、悪用の温床となっていると懸念が広がっていた。規制当局は、このようなAIの使い方が女性や子どもの安全、社会的道徳に深刻な影響を与えると判断したという。

なお、隣国インドネシアも同様の理由でGrokへのアクセスを先に一時停止しており、東南アジアで初めての対応となった。両国の措置は、AIによる不適切コンテンツの拡散防止に向けた規制強化の流れを象徴している。