問題提起
使用したAI
Stable Diffusion XL
本当は あまり大っぴらにするべきでない話なんですけど、
PixAIで偶然、個人イラストレーターの「けそ」氏の絵柄をハイレベルで再現した作品を見かけて、
「あー、とうとう けそ絵もLoRA作られちゃったかー」
と思ったんですが、生成設定を拝見したらLoRA未使用で " meyuu (kso) "を含むプロンプトで生成されててショックを受けました。
↓その作品の設定・呪文を お借りして生成さた見本。
https://pixai.art/artwork/1843329977775465330?utm_source=copy_web
学習そのものは違法ではないし、生成結果が類似「してしまう」のは仕方ないとして、
これは「意図的に学習データと作家名を紐付けている」わけで、ちょっと話は違ってきます。
これは、言ってみれば「特定作家の贋作を意図的に製造するための機能」なわけで、割と即 作家の不利益に繋がります。
しかも、作品から読み取ったデータだけでなく「作家の名前」をも無許可で使用している、という受け取り方も出来ます。
PixAIは営利運用されているサービスです。
まあ、無料で利用してるユーザーが大半ではあるのですが、生成結果という「商品」を提供している形であり、そうなると何らかの法律に抵触する危険性が極めて高い。
これが後付けのLoRAなら利用を差し止めれば済みますが、ベースモデル自体の問題となると かなり難しい作業が必要になります。時間も手間も、費用だって かかる。
生成AIのような複雑なシステムの場合、最悪「構築したは良いが、開発者ですら紐付けの解除方法が分からない」という事態すら有り得ます。
訴訟なり改善命令がなされても迅速に対応出来なければ、社会的に「違法」の烙印が押されてしまい、サービスの継続が困難になるかも知れません。
画像生成AIは、極めてグレーな分野です。
発展途上ゆえに「大胆な経営戦略」も必要でしょう。
ですが、幾つかのサービスにおける「危機意識の低さ」には 眉をひそめざるを得ません。
二次創作と同様に「お目溢し」が無ければ成り立たない分野である事への自覚が、ユーザーはともかく経営者すら薄い、という現状に不安を拭えません。
そんな会社のサービスは安心して使えないし、心から楽しむ事が出来ません。
生成AIユーザーになってからというもの、そんな不安が日増しに膨らんでいくのを感じています。
PixAIで偶然、個人イラストレーターの「けそ」氏の絵柄をハイレベルで再現した作品を見かけて、
「あー、とうとう けそ絵もLoRA作られちゃったかー」
と思ったんですが、生成設定を拝見したらLoRA未使用で " meyuu (kso) "を含むプロンプトで生成されててショックを受けました。
↓その作品の設定・呪文を お借りして生成さた見本。
https://pixai.art/artwork/1843329977775465330?utm_source=copy_web
学習そのものは違法ではないし、生成結果が類似「してしまう」のは仕方ないとして、
これは「意図的に学習データと作家名を紐付けている」わけで、ちょっと話は違ってきます。
これは、言ってみれば「特定作家の贋作を意図的に製造するための機能」なわけで、割と即 作家の不利益に繋がります。
しかも、作品から読み取ったデータだけでなく「作家の名前」をも無許可で使用している、という受け取り方も出来ます。
PixAIは営利運用されているサービスです。
まあ、無料で利用してるユーザーが大半ではあるのですが、生成結果という「商品」を提供している形であり、そうなると何らかの法律に抵触する危険性が極めて高い。
これが後付けのLoRAなら利用を差し止めれば済みますが、ベースモデル自体の問題となると かなり難しい作業が必要になります。時間も手間も、費用だって かかる。
生成AIのような複雑なシステムの場合、最悪「構築したは良いが、開発者ですら紐付けの解除方法が分からない」という事態すら有り得ます。
訴訟なり改善命令がなされても迅速に対応出来なければ、社会的に「違法」の烙印が押されてしまい、サービスの継続が困難になるかも知れません。
画像生成AIは、極めてグレーな分野です。
発展途上ゆえに「大胆な経営戦略」も必要でしょう。
ですが、幾つかのサービスにおける「危機意識の低さ」には 眉をひそめざるを得ません。
二次創作と同様に「お目溢し」が無ければ成り立たない分野である事への自覚が、ユーザーはともかく経営者すら薄い、という現状に不安を拭えません。
そんな会社のサービスは安心して使えないし、心から楽しむ事が出来ません。
生成AIユーザーになってからというもの、そんな不安が日増しに膨らんでいくのを感じています。
呪文
入力なし
