生成AIストリーム
画像生成AIが焦がす「善悪の彼岸」
2023年6月15日 10:00
はじめまして！しらいはかせの新連載「生成AIストリーム」がはじまりました。
誰もが「日々ついていけない感じ」がする生成AIの進化と社会の移り変わり、これを「爽やかに掘り下げる連載」を目指してみようと思います。
記念すべき連載第1回のテーマは「画像生成AIが焦がす『善悪の彼岸』」です。
画像生成AIが大きくその概念を揺さぶっている、著作権の常識や生成物の利用において知っておかねばならない法律、善悪、価値、意味といった倫理について、様々な視点で「爽やかに」理解して行くための考え方を並べていきたいと思います。（初回からこんな危ないテーマを設定したのは担当編集ハセガワ氏の趣向です）
経産省で熱く語ってきた
先日、「生成AIについて意見交換させてください」ということで経産省(略称METI)の某課におよばれして、2時間ぐらい濃縮意見交流会をさせていただきました。
ちょっとmeti ってきます
— Dr.(Shirai)Hakase #AI神絵師本 #技術書典14 (@o_ob)May 12, 2023
担当者にドレスコード聞いたんだけど普段着でいいというので…https://t.co/RrgIoBFdtgpic.twitter.com/Jc7wEcJZDP
こういうことは普段、研究者・開発者・生成AI関係の作家である筆者だけでなく、業界のインフルエンサーさんだったり、専門家だったりといった方に声がかかっているようです。民間の方々のご意見をちゃんと聞いてくれるお役所、尊い。
経産省の方々は「今までビックデータ活用」や「デジタルコンテンツ産業政策」、「中小企業のAI活用促進」「AI人材育成」などに力を入れてきました。総務省も「AIの普及促進」、内閣府は「Society5.0」、そして文化庁は改正著作権法（詳細解説します）でAI活用にはかなり力を入れてきました。それなのに、なんだか社会には「生成AI反対」など混乱があり、新聞社の報道では「AIを規制する」といった論調が毎日のように視界に入ります。「これはいったい何なのか……」と。そして誰が何のためにこんな議論をしているのか？ そんなディスカッションがありました。
これは国会でも話題になっていたらしく、ちょうど同じタイミングで開催されていた衆議院・経済産業委員会（2023年5月12日）にて、足立康史(日本維新の会)議員が21分にわたってAI規制議論について、文化庁中原審議官への質問という形で「現行法で問題ない」というディスカッションをされております（衆議院インターネット審議中継・ビデオライブラリ）。
このディスカッションでも「規制議論ではなく、現行法で問題ないのだから、もっと周知されるべき」という結論でした。本記事は『え？でも本当に？』『なんか腑に落ちない……』という方々に向けてお送りいたします。
悪いことは悪いこと……まず「画像生成AIは違法」なのか
「ネット上でしてはいけないこと」、というルールを、ネット上で新しく登場する技術やサービスすべてにおいて定めることはなかなか難しいですね。こういう時は「現実の社会でしてはいけないことは、ネットでもしてはいけない」という基本原則に当てはめてみるとシンプルに物事の善悪が可視化できてよいと思います。
そして、ちょうど先日、文化庁が生成AIの著作権侵害の事例について明確な見解を示しました。
文化庁ならびに内閣府が5月30日に公開した「AIと著作権の関係等について」と題された文書で、生成AIによる学習および生成物と既存作品の著作権の関係に対する見解が明らかにされた。
（中略）
AIの開発および学習段階において、著作物に表現された思想または感情の享受を目的としない利用行為は「原則として著作権の許諾なく利用することが可能」だという。ただし、「必要と認められる限度」を超える場合や、「著作権者の利益を不当に害することとなる場合」は規定の対象とならない、としている。
一方生成と利用段階において、AI生成画像をアップロードして公表したり、複製物を販売したりする場合の著作権侵害の判断は、私的な鑑賞/行為などを著作権法で利用が認められている場合を除き、通常の著作権侵害と同様に扱う。
まず大きな分類として「AI開発・学習段階」については可能、一方で「生成・利用段階」については、「既存の著作物との類似性や依拠性が認められれば」「著作権者は著作権侵害として損害賠償請求・差止請求が可能であるほか、刑事罰の対象ともなる」と明記されています。これは画像生成AIに限定していません。
「画像生成AIを作ること」は違法ではないことが改正著作権法「30条の4」によって明記されています。これは「権利者の許諾なく行える」という世界でも珍しい規定なのですが、こちらも「必要と認められる限度を超える場合」や「著作権者の利益を不当に害することとなる場合」は許諾されない、と明記されています。
著作権法はアップデートされている、社会の認識も更新せねば
日本の著作権はアップデートされています。最新の総務省の資料にもある通り、2018年に成立した改正著作権法は、30条の4でAIが文章や画像を学習する際、営利・非営利を問わず著作物を使用できると定めています。
この手の話をすると「日本では学習するのは違法じゃない」とか「著作権は親告罪だろ？つまりバレなければ、訴えられなければいいんだよ」といった甘く見た議論をしている方々がいらっしゃいますが、この認識にも注意が必要です。最新の総務省資料にある通り、刑事罰になる可能性もあります（※）。
最近では漫画村事件が記憶に新しく、賠償額も大変大きいものとなっております。
※記事掲載当初、法律の解釈において、誤解を招く表現がありましたので、著者との相談の上、修正させていただきました。該当部分については、後日、専門家の解説を交えた記事を企画しております。ご意見をいただき、ありがとうございました。（編集部 2023/6/16）
「知的財産権は著作権だけじゃない」
工業所有権についても目を向けねばなりません。著作権は著作物を作成した時点で自動的に著作権が発生して登録等は不要ですが、工業所有権は登録することでもっと明確な権利と保護が存在します。これを扱う工業所有権法も平成10年に法改正されており、侵害罪については従来の親告罪を非親告罪とする改正が行われました。
つまりAI画像生成や「ChatGPT」などの文書生成においては「このIPを誰が持っているのか？」について、真剣に考える必要があります。明確に「このIPは私が持っています」と言える人は、特許庁への出願なり登録なりといった認識の根拠があるはずです。一方で「IPの所有者をあいまいにしたい」もしくは「IPバイオレーション（違反）である！」と言いたい人は誰なのか？について、生成AIの利用者であれば、目を向けていく時期が確実に来ていると考えます。
生成AI時代の『善悪の彼岸』チェックリスト6か条
生成AI時代の『善悪』について、その境界があいまいなままで生成物をつくり公開する行為は無免許運転のようなものです。以下に「生成AI時代の『善悪の彼岸』チェックリスト6か条」を作ってみました。もしあなたが、「Stable Diffusion」や「ChatGPT」を使って何か生成したときに、眺めてみてください。「ChatGPT」や生成AIを利用した企業活動であったとしても役に立つと思います。
- どんなプロンプトで生成したか？
- そのプロンプトに他者のIPは含まれていないか？
- どんな感想を抱くために作られたか？
- それは誰かの依頼で作られたものか？
- それを公開することで困る人はいないか？
- それを公開して配布する理由はあるか？
どんなプロンプトで生成したか？
画像生成AIでは、他人が生成した素晴らしい画像を生み出すプロンプトをそのまま打ち込むことで、全く同じようなクオリティを持った画像を生成することができます。しかしこれを「俺が作りました！」と宣言することは良いことでしょうか？ 現在の法律ではそれを直接罰することは難しいかもしれませんが、他人のプロンプトの剽窃であることは間違いありません。オリジナリティを1％でも含んでいるか？ 創作の意図も含まれているか？ を常に考えましょう。むしろ考えていなければ「生み出した」とはいえないただの作業なのではないでしょうか。
そのプロンプトに他者のIPは含まれていないか？
先述の工業所有権の中で、最もわかりやすい生成AIにおけるIPバイオレーション（IP侵害）は「商標権」です。例えば「ミッキーマウス」、「ディズニー」、「初音ミク」、「ピカチュウ」など、それぞれの単語は著作権ではなく、文字商標として登録された登録商標で権利者がいます。他者がこのような固有名詞を使って既に登録された区分での商業的な画像やグッズを製作し販売すれば、確実に損害賠償請求が可能になります（説明的、記述的に使用される場合は除外できます、この記事のように）。
損害賠償請求は算出方式もあるので、有名IPであればその額はとても大きなものになり大変リスキーです。加えて、「Stable Diffusion」や関連サービスのライセンスには明確に「他者の商標を侵害しないこと」と明記されています。つまり、他者の保有するIPを含むプロンプトで画像や作文を生成した場合、これは商標侵害の動かぬ証拠になるということです。特に日本の商標は簡単に検索できますので、ぜひ危ないキーワードで生成する前に誰が権利者なのか、検索してみましょう。
どんな感想を抱くために作られたか？
日本の著作権法は冒頭で紹介した総務省の資料でも書かれている通り、「思想または感情を創作的に表現した著作物を保護するためのものであり、単なるデータ（事実）やアイデア（作風・画風）などは含まれない」とあります。この「思想または感情」というふわっとしたものだとなかなか定義が難しそうですが、例えば画像を売る場合「その画像の商品性はどこにあるのか？」もしくは「どんな感想を抱くために作られたか」と解釈するとわかりやすくなります。
例えば「タイの民族衣装を着た細身の女性が大好きな男性に向けた性的に刺激する画像」であればその感想を抱くために作られたのであり、偶然そのようになることはありません。
それは誰かの依頼で作られたものか？
上記の記事のように服を着たイラストレーションを作るだけならともかく、一線を超える猥褻な画像を依頼された場合はどうでしょうか。生成するところまではギリギリセーフです（家族に見つかったりすると社会的に死亡するかもしれません）。
しかしそれを他人に見せたり（陳列）ネットに置いたり（公衆送信）、印刷して配ったりしたり（頒布；はんぷ）することは、刑法175条(わいせつ物頒布等罪)という法律で罰されます。
1 わいせつな文書，図画，電磁的記録に係る記録媒体その他の物を頒布し，又は公然と陳列した者は，2年以下の懲役若しくは250万円以下の罰金若しくは科料に処し，又は懲役及び罰金を併科する。電気通信の送信によりわいせつな電磁的記録その他の記録を頒布した者も，同様とする。
2 有償で頒布する目的で，前項の物を所持し，又は同項の電磁的記録を保管した者も，同項と同様とする。
刑法175条より引用
「生成する」まではギリギリセーフ、人に配るとアウトです。つまり「依頼」されても、作ってはいけません。作っても渡してはいけません。
もちろんそれでお金をもらうのも、アウトです。画像生成サービスとして「AIが勝手に作りました」という言い訳はできません。難しいところは、誰かが生成したものを配信可能にするサービスの運営者も、利用規約や禁止ワードでNSFW設定などを行っていなければ、アウトという点は認識しておかねばなりません。
それを公開することで困る人はいないか？
「それを公開する人で困る人はいないか？」という視点、ふだんだったら当たり前のことではあるのですが、生成AIに夢中になっているユーザーでこれを想像できる人が意外と少ない感じがします（性癖ドリブンな生成サイクルで脳が興奮状態に陥り倫理観にバイアスがかかっていくのかもしれません、筆者も身に覚えがあります）。
『あぶなそうな画像を作っている人』は、公開する前に一度は考えてください。まずは原作があり、モノマネとか二次創作ではなく「真贋が判定しづらい生成物」は、すでに解説した通り、他者のIPバイオレーションで完全にアウトです。これは訴えられるとか生易しいことではなく、いきなり賠償請求がきます。むしろプロなら「しばらく泳がせて、もう二度と再起できないぐらいの請求額になるまで待ってから請求」するぐらいの考えをするプロがいらっしゃいますから本当に気を付けてください。
次に「迷惑する人」は、実写そっくり系の画像ではないでしょうか。例えば写真であれば、肖像権侵害、つまり無断で自身の写真や動画を撮られたり、公開されたりすることで、民法上の「不法行為」に該当するため、被害者は加害者に対して損害賠償請求をすることが可能です。
これは現在の画像生成AIでは直接当てはまりませんが、意図して他者の評判を落とすような「ディープフェイク」のような使い方であれば、名誉棄損罪が成立します。偶然にも顔が似てしまったと言い訳しようにも、そもそも「激似」と書いてプロモーションした例は有罪判決が出ています。
一方で、お亡くなりになった方のご家族が、生前の姿から画像や歌声をAI生成している素晴らしい作品もあります。松尾公也(@mazzo)さんの「妻音源とりちゃん[AI]」です。
それを公開して配布する理由はあるか？
インターネットネイティブの世代にとっては、公開する、配布する、販売するといった「出版(publish)」行為と「個人で楽しむ」といった境界がちょっとわからない人がいるかもしれません。しかし「公開して配布する」には明確な理由が必要だった時代があります。
例えばテープレコーダーといった録音技術が普及し始めたころ、レコードを借りてきて、音楽を録音して個人で楽しむ製品や「レンタルレコード店」といった店舗が存在しました。街中のストリートミュージシャンが演奏する音楽を「いつでも再生できるようにした装置」がカラオケの始まりでもあります。
他人に音楽や歌を聴かせる、という距離や時間に制限がある情報を、メディアやネットワークを経由して配信することが容易になった時代に我々は生きています。ストリートで演奏することも、YouTubeで演奏することも演奏者としては変わらない感覚があるかもしれませんが、それぞれにJASRACなどの権利処理団体に使用料をお支払いし、「著作物使用料分配規程」にもとづいて、そこからクリエイターに報酬が配分されていきます。
公衆送信の上では、演奏する権利や音源を使用する権利（原盤権）を解決する必要があります。またオリジナルの歌であっても他者を傷つけるような歌詞や、他人の歌をあたかも自分のオリジナルのように剽窃する行為も望ましい行為ではありません。これは法律以前に「悪いことは悪いこと」という原則で、読み手や受け手を限定することになるので、あえて他者を傷つけるような出版はおすすめしません。
健全なAIアートのために、いまは他者を叩くのではなく……
以上、現在の日本の現行法に基づいた基本的な用語、法律、習慣、人々の理解に沿った『善悪の彼岸』を問えるようなチェックリストを作りました。
現在の改正著作権法はAIのためだけでなく、海賊版を摘発しやすく、著作権者の売り上げを守り、コンテンツ産業の後押しになることも考えられて改正されています。一方で同人誌等の二次創作活動については文化の発展として罪とはならないものもあります。これは権利者が「二次創作OK」と明示許諾している場合です。
また、トレースや模写によって作成された作品に著作権は発生しません。写真やコピー機、模写であったとしても複製する権利を持たない人が、個人で模写を楽しむだけなら問題にはなりませんが、勝手に作品の複製をネットに配布する権利はありません。
文化庁が子供でもわかるような資料として配布していますので紹介しておきます。
もちろん、新しい技法込みで世に問うのがアートという考え方もありますし、萌え絵や江戸末期の浮世絵・錦絵・版画のように、ある程度のフォーマットに沿って消費される（再販目的でなく買って消費される）画像や、広告のように人の目を引けばそれで良いという画像もあります。
しかし新しい技法が「AIである」ということで封じられてしまった例も出てきてしまいました。
技術的にはAIを活用して開発された先進的なゲームシステムであり、従来のIPを活用して公式に開発された製品であり、そのブランドにおいて一定の品質がある作品のはずですが、AI機能は封じられてしまいました。このこと自体が「AIを活用する」という視点で大きなダムを築いたりしないことを祈ります。
スクウェア・エニックスAI部の今後の挑戦に期待したいと思います。
豊饒なコンテンツを生む肥沃な環境と群知能が日本の挑戦
生成AI(Generative AI)が有名になる前は、この分野の研究は集合知（wisdom of crowds）もしくは群知能（Swarm Intelligence）とも呼ばれていました。群知能は「衆愚の知」です。必ずしも賢くはありません。というか平均的な知能とかテストの成績みたいに「比べて頭がいい」とかではなく、ある一定のアルゴリズムに従って行動する集団が「あたかも知能のように見える」という自然現象です。
アニメ、漫画、ゲームといった「売れるコンテンツを育てる日本市場」は社会のフィードバックを含め、日本の群知能とも呼べます。日本にはコンテンツを生み出す企業環境と、コンテンツを読んで感じて反応する皆さんと、同人作家のような個人クリエイターのみなさんがいる肥沃な環境ともいえます。漫画やアニメ、ゲームといった産業の水脈、同人作家や漫画研究部、コミケのようなオープンイベントのおかげもあって個人クリエイターが社会的に認められる環境が長年かけてできてきました。私の知っている限りでは、1980年代よりは社会的な認知は上がってきていると思います。
それでも（世界での評価に対して）まだまだ日本国内では低いように感じます。感受性が豊かでコンテンツを正しく購入する方々が「作品を味わう」という感覚が本当は理想ですが、「コンテンツを消費する」という視点において、作り手のことを十分に想像できないリテラシーの問題かもしれません。
日本はコンテンツ大国です。しかし最新の改正著作権法においては「生成AIを無断で生成可能」という特殊な著作権を作ってしまいました。これを国の活力としたいところですが、非常に狡猾にその法律を利用する方々も存在しています。
技術者・開発者として言いたいことはたくさんあります。そもそも技術で検出できる話ではありますし、善悪や犯罪のような倫理観を強く引きすぎることで生成AIの起こりの初期の段階から大きなダムで堰き止めるということは、一見合理的な治水には見えますが、実際には下流の氾濫を繰り返して本来肥沃な大地が生まれるはずだった土地を失うことになります。
企業が考えなければならないのはレピュテーションリスクだけではありません。誰が権利を持ち、誰が火をつけていて、誰が困っているのか。
社会のすべての方々が、きちんと法律を理解し、利用規約を読み、そしてただ平謝りするのではなく、主体者として社会に正しい情報を発信していくというリテラシーと社会的責任を身に着ける必要があるのかもしれません。知らないから、怖いから、怪しいから、犯罪者だから、という恐怖や不理解こそが、混乱の正体です。そして「AIだから叩いていい」ということもないはずなのです。
賢い人類が学ぶべきことは、「生成AIの悪用方法」ではなく、生成AIとともに、すべての人々が楽しく表現し、感じ、考えていける世の中のために、何ができるか、ではないでしょうか。
初回から、長くて重たい話ですみません！
これからも爽やかに生成AIの最先端の話を掘り下げていくので、どうぞよろしくお願いします。
VRエンタメとAIの未来研究で国際的に活動する研究者。博士(工学)。様々な職業を経験し、複数の言語を喋るクリエイター。趣味はチャットボット開発。著書『しらいはかせの未来のゲームデザイン -エンターテインメントシステムの科学-』、『AIとコラボして神絵師になる 論文から読み解くStable Diffusion』他