ニュース
Stable Diffusionで「性的に露骨なコンテンツの生成」が禁止に、Stability AIが利用規約を改定
対象は非営利目的/研究目的/商用目的での利用
2025年7月15日 06:45
英Stability AIは、同社のAIモデルや製品、サービス等に関する利用規約を改定し、性的に露骨なコンテンツの生成を禁止すると発表した。改定後の利用規約は現地時間7月31日より施行される。
Stability AIは、現在の画像生成AIブームの中心的存在として、2022年に登場した画像生成AIモデル「Stable Diffusion」の開発会社。「Stable Diffusion」は、ローカル環境で実行可能なのが特徴で、オープンソース化もされており、Hugging Face上でコードをダウンロードできるほか、GUI環境を構築できるツールも複数展開されている。
今回の改定では、禁止条項として「合意のないヌードや違法なポルノコンテンツを作成すること」のみを明示している現在の利用規約に対し、「同意のない性的画像(NCII)」「違法なポルノコンテンツ」に加えて「性交、性行為、または性的暴力に関連するコンテンツ」の条項が明記された。生成AIの悪用例のひとつである「性的ディープフェイク」問題への対策強化といえる。
改定後の規約は、非営利目的、研究目的、商用目的での利用が対象。規約違反者にはアクセス停止(BAN)のペナルティが課せられる。また、セルフホスティングや、サードパーティがホストするプラットフォームサービスを介したStability AIモデル等も該当するとしているが、個々のローカル環境に対して、どれだけ規約違反を判定できるかは疑問の残るところだろう。