ニュース

Stable Diffusionで「性的に露骨なコンテンツの生成」が禁止に、Stability AIが利用規約を改定

対象は非営利目的/研究目的/商用目的での利用

Stability AIが利用規約を改定、性的に露骨なコンテンツの生成が禁止に

 英Stability AIは、同社のAIモデルや製品、サービス等に関する利用規約を改定し、性的に露骨なコンテンツの生成を禁止すると発表した。改定後の利用規約は現地時間7月31日より施行される。

 Stability AIは、現在の画像生成AIブームの中心的存在として、2022年に登場した画像生成AIモデル「Stable Diffusion」の開発会社。「Stable Diffusion」は、ローカル環境で実行可能なのが特徴で、オープンソース化もされており、Hugging Face上でコードをダウンロードできるほか、GUI環境を構築できるツールも複数展開されている。

 今回の改定では、禁止条項として「合意のないヌードや違法なポルノコンテンツを作成すること」のみを明示している現在の利用規約に対し、「同意のない性的画像(NCII)」「違法なポルノコンテンツ」に加えて「性交、性行為、または性的暴力に関連するコンテンツ」の条項が明記された。生成AIの悪用例のひとつである「性的ディープフェイク」問題への対策強化といえる。

性的に露骨なコンテンツの生成を禁止する条項を明示

 改定後の規約は、非営利目的、研究目的、商用目的での利用が対象。規約違反者にはアクセス停止(BAN)のペナルティが課せられる。また、セルフホスティングや、サードパーティがホストするプラットフォームサービスを介したStability AIモデル等も該当するとしているが、個々のローカル環境に対して、どれだけ規約違反を判定できるかは疑問の残るところだろう。