それはさておき、「しずかなインターネット」というサービスがあるらしい。ミニマルで扇動を誘発しなそうなデザインがなんとなく気に入ったので、何か思うものがあったときにまとまった文を書くのも良さそうだと思っている。
最近思うことは様々あるのだが、試運転としてたまたま話題になっていた生成AIについての所感を、画像生成AIを念頭に置いてまとめようと思う。
こういうことを言うと「AI関連事業の回し者」みたいな話が出かねないので、前もって生成AI技術との利害関係を記しておくと以下の通りである。
現在本業の一環として「機械翻訳技術においてAIに学習されるデータ」に関連する仕事を行っている。AI技術に貢献しうる仕事であり、自分もそれを歓迎しているので、回し者といえば回し者である。ただしAIによる学習を目的に携わっているわけではなく、一応は「AIに成果物を (勝手に) 利用される」立場でもある。
絵は純粋に趣味として描いている。絵を生業にしたり生活費の足しにする気は全く無い。まあ小金が稼げるなら嬉しいのは事実だが、対価を求めるほど絵に責任を負う気力が無い。
生成AI技術は公私ともに補助的に利用している。ある程度の外国語文はweb辞書等を参照して読むが、精読の必要が無い文や、精読の際も解釈の妥当性を確かめたい文はDeepL等に通すことがある。画像生成は専らデザインの参考資料として生成している。
2023年11月末現在の自分の生成AIに対する立場は、一語でまとめるならば「推進派」である。一文でまとめるならば「AIそのもの、つまり学習や生成に罪はないが、生成結果やモデルを公開した人間は罪に問われる可能性があるし、その責任を持て」という立場である。以下、論点ごとに分けて述べる。
AIによる学習と生成について
AIの学習≒モデルの作成は「狙い撃ちLoRA」も含めて自由であるべきと考える。というより、技術的には規制のしようが無いのではないかと思う。「お前のデータ取得で回線がヤバい」みたいな話はできるだろうけど……
是非という点では、AIの「学習」と人間の「学習」は原理的には同じプロセスであると考えている。専門家ではないので誤認があったら恐縮 (指摘してほしい) だが、現在主流のAIは、例えば「りんご」という注釈 (タグ) が含まれた画像を大量に読み込み、「りんご」という注釈と「(概ね) 赤くて丸い」という画像内の特徴を対応付けるという形で学習を行っている。人間の学習はAIほど大量のデータを要しないし学習できない、注釈と画像の特徴の対応付けを直接学習できる、学習に意識的・無意識的な選好によるノイズが入るなどの違いがあるにせよ、「参考資料から特徴を一般化する」という点では同じといって良いと思う。人間の学習が「特定作者への狙い撃ち」も含めて問題視されていないのだから、AIの学習それ自体も問題視する理由は無いはずである。
生成という観点では、少なくとも公開せず私的に鑑賞する限りはどんな学習を元にどんな画像を生成しても自由である。というか、これも技術的には (後略)。ある程度名のある生成AIサービスには「あからさまに倫理や著作権に触れそうな画像は生成しないような機能」が付けられていると聞くので、webで一般提供されるサービスには標準搭載して良いのではないかと思う。
この点については「児童ポルノ」が代表的な反論として挙げられるが、そもそも厳密な意味での児童ポルノは実在児童の性的な・性的虐待の記録物であって、「児童のように見える、実在しない存在を性的に描写した表現物」ではない。後者が児童への性加害欲求を惹起して……という主張に対しては、既に様々な人が様々な証拠を以って反論しているのでここでは立ち入らない。「学習データに児童ポルノが含まれていて、それに酷似した画像が生成される恐れがある」という問題はあるにしても、それは児童ポルノが公開されているのが根本的問題であって、生成AIの学習や生成を規制することで解決するとは思わない。
AI生成画像やモデルの公開について
AIによって生成された画像を公開する場合、生成者ないし公開者はそれによるトラブルを起こさないように努めるべきだし、トラブルが起きた際には責任を取らなければならないと考える。ただしこれは「非難されたら無条件に取り下げるべきだ」という意味ではなく、「取り下げるにせよ正当性を主張して公開継続するにせよ、対応する覚悟を持て」という意味である。
この主張は「手描き」の画像にも全く同じことが言えるし、生成した画像に加筆して、もしくは参考にしつつ手描きした画像も同様である。ある公開された画像を見て「それは権利を侵害している (『パクリ』)」と思ったならばAI生成・手描き・ハイブリッドを問わず訴えればよい。現行法は手描きの場合咎められる「パクリ」をAI製なら免責するという形にはなっていないはずだし、手描きであっても「パクリ」を予見的に、少なくとも公開されていないものを規制する技術は無いのだから、公開されたものを個別判断するべきであるしする他ないと考える。
ただし生成AI特有の問題として、「モデル (LoRA) の公開・配布」がある。これは「生成された画像の公開」に近い扱いになるのではないかと思う。明らかに特定個人への業務妨害や嫌がらせを目的としていたり、倫理やセキュリティの観点で問題のあるデータを集中的・意図的に学習したモデルの公開に対しては、取り下げや迷惑料請求が認められて然るべきだろう。
「AIをめぐる議論」に対する雑感
云々言っているが、自分自身の心情としてはそこまでAI「推進」派ではない。「容認派」ぐらいの温度感でないのかとは思っている。手を抜いてよいところで手を抜いたり、個々人の感性を相対化することで新たな表現の可能性を切り開くという点でAI技術の発展を歓迎しているが、AIの妄信は知性の軽視であり端的に害悪である。理念だけでなく現場の観点でも、質の高い模造品 (ディープフェイク、「絵柄パクリ」) 作成の敷居が低くなったのは無視できない脅威である。原理的にはAIが無くてもできる迷惑行為であるが、量や質の違いを考慮した上で改めて対処を議論する必要があると考えている。推進派の意見を笠に着てこのタイプの悪用をやったり擁護したりする「推進派」は非常に忌々しい。
しかし一方で「反対派」の主張に対しては賛同できないことがほとんど、というのが正直な感想である。何よりi2iと「モデル作成としての学習」を未だに混同しているような、基本的な事実関係すら整理できていないとしか考えられない主張で、生成AIの懸念点にも目を向ける「推進派」の意見が封殺される状況は目に余る。個人的な関心から言えば、「無断学習」を咎めるのであれば無断学習の賜物筆頭である機械翻訳をはじめテキストベースのAI技術にも筋の通った態度を見せてほしいというのもある。
おわりに
自分は「技術は模倣を核にして身に着けるもの」と思っているので、自分の絵柄を模倣されるだの他者の絵柄の類似点を指摘されるだのといったことに抵抗が全く無い。こそばゆいかもしれないが。なお当たり前だが類似性を元に「自分が描いてないものを描いたことにされる」「パクリだとか著作権侵害だと吹っ掛けられる」とかは別の話である。故にAIによる絵柄の模倣それ自体にはどうこう言う気にならないというのもあるのだが、その辺特異な感覚なんすかね。