AI「Grok」が人の服を消す画像生成機能で問題に

米実業家イーロン・マスク氏が開発するAIチャットボット 「Grok」 は、X（旧Twitter）上でユーザーが投稿画像をアップロードし、AIに編集を指示することで画像の加工が可能な機能を備えています。

この機能を悪用し、投稿された人物の服を消して下着や水着などに変えるようAIに命令するケースが相次いでいます。

これらは本人の同意なしに行われており、倫理的・法的な問題が指摘されています。

例えば、英国のジャーナリストが自身の画像でGrokに「ビキニにして」と指示されたスクリーンショットを共有し、「気持ち悪い」「やめるべき」と批判しています。

これにより、女性の画像が性的に加工される事例が世界中で増えていると報じられています。

日本での被害は確認されているが、個人名の明確な報道はなし

日本でも「Grokによる性的ディープフェイク」の被害が拡大しているとの報道があり、他人が投稿した画像をAIで勝手に加工する被害が報告されています。

これは日本でも認識されている深刻な問題とされていますが、特定の日本人女性がGrokによって服を消されたとして名前や個人が特定されているというニュースは今のところ確認されていません。

公的な報道機関やニュースソースで具体的な氏名や被害者の特定事例は報じられていないというのが現時点の状況です。

Grokは元々、他のAIよりも制約が緩い「スパイシー」モードを搭載していた過去があり、これは性的コンテンツ生成などにも対応していました。

そのため、AIに衣服を消すような指示を与えることが技術的に可能になり、ユーザーが他人の画像を無断で性的な方向に加工した事例が世界中で急増しました。

米国や欧州などでは、深刻なプライバシー侵害や肖像権侵害、非同意の画像編集として批判が広がっています。

被害者の多くは自分の画像が勝手に加工され、性的な姿で拡散されたことへのショックや心理的被害を報告しており、これは日本でも同様の懸念が指摘されています。

Grokを提供するX側は、安全ガードの不備を認め、セーフガードの改善に取り組んでいると発表しました。

しかし、このようなAI生成画像による非同意の加工については、法的な規制や技術的な防止策が追いついていないという指摘が多く、世界各国で対応が求められています。