生成機能のNGワード改善のおしらせ
Aipictors事務局です。
いつもご利用いただき、ありがとうございます。
生成機能について、NGワードを完全一致としておりましたが
ワード判定処理を改良し、完全一致ではなくトークンの分析をした上で判定するようにいたしました。
これにより、さらに意図せず規約違反の画像を生成してしまうケースを軽減できる見込みです。
対応は暫定であり、今後チューニングされていきます。
アップデート後、誤判定と思われるケースなどございましたら、ご意見をお寄せください。
詳細：
・Stable Diffusion と同じ方式でプロンプトをトークンに分割し、その上でNGワードマッチを行います。
・例えば cucumber は、全体で1トークンとなるため、cum 等のNGワードとマッチすることはありません。
・NGワードにはスコアを設けており、一定以上のスコアになった場合は生成ができなくなります。
新しいNGワードでも規約違反画像を生成された場合は、この判定基準を厳しく変更させていただくことがございます。
・生成ができない場合は、エラーメッセージで該当のNGワードを表示しますので、プロンプトの修正をお願いいたします。
・トークン単位に分解するため、NGワードそのままがプロンプトに含まれないことがあります。
例えば、プロンプトに bdlosm がある場合、bd lo sm の3トークンに分割されるため、
NGワード bdsm（bd sm の2トークン）がすべて含まれることになり、NGワードにマッチします。
複数トークンNGワードをプロンプトから探す場合、その点にご注意ください。
2023-10-23