OpenAIが提供している画像生成AIのDALL-E 3ですが、
米MicrosoftよりBing ChatのImage Creatorで無償で画像生成することができるとの発表がありました。
早速使ってみよう！
ということで色々とプロンプトを入力して画像生成を楽しんでいましたが・・・
「安全でない画像コンテンツが検出されました」と表示されてしまい、
画像生成をしてくれない事象を確認しました。
参考までに上記画像はEdgeブラウザからBing Image Creatorを使って生成してみた際のエラーです。
これに対しWindows11でもデスクトップ画面の右側でBing Chatと会話可能なWindows in Copilot機能からDALL-E 3で画像生成をすることができます。
最初はこの方法で試した所「画像を生成できませんでした」と上記画像の通りメッセージが表示され画像生成してくれませんでした。
(Windows in Copilotに関する内容は以下の記事で詳しく紹介しています)
Windows11でCopilot(AI機能搭載)をすぐ有効化する方法
windows11 in Copilot (AI機能搭載)の使用方法と実例
このメッセージがでる原因と対処法について、
実際に試したことや解決した内容について記事にまとめましたので是非最後まで楽しんいってください。
DALL-E3の画像生成拒否メッセージの内容を確認
安全でない画像コンテンツが検出されました
content policy に基づいて画像内の安全でないコンテンツが検出されたため、イメージの生成は表示されません。別のプロンプトを使用して、もう一度作成してみてください。
画像を作成できませんでした
このプロンプトの画像を作成できませんでした。別のプロンプトをお試しください。
(テキトーに考えて作成しただけなので構成等についてはつっこまないでくださいw)
Generated with realistic photos of dynamic and cool moments when rednecks are doing tricks on skateboards. Fashion is a skater. Long T-shirt (large), half pants, line socks, Vans sneakersプロンプト(日本語)
赤ずきんがスケートボードパークでスケートボードに乗って技を決めているリアルな写真で生成して
ファッションはスケーター
ロングTシャツ(大きめ)、ハーフパンツ、ラインソックス、バンズスニーカー
何故エラーとなったのか。
エラーメッセージの内容を確認するとAIから生成された画像に対しポリシー違反となった可能性が高いと考えられます。
「安全でない画像コンテンツが検出されました」原因はポリシー違反
- Image Creator のコンテンツポリシー：Microsoft Bing が提供する Image Creator は、テキストを元に AI 画像を生成するサービスです。しかし、個人や社会に害を与える可能性のあるコンテンツを作成することは禁止されています。
- 禁止されているコンテンツの種類：Image Creator のコンテンツポリシーでは、搾取や虐待、自殺や自傷行為、暴力やテロ、ヘイトスピーチやイジメ、詐欺や偽情報などのコンテンツを作成することを禁止しています。これらのコンテンツは、個人の権利や安全、社会の秩序や公共の利益に悪影響を及ぼす可能性があります。
- 違反の報告方法：Image Creator がこのポリシーに違反して使用されていると思われる場合は、ここから報告できます。Microsoft は、違反の報告に基づいて、必要な対応を行います。
とは言えプロンプトの内容としてあまり違反となる部分が見当たりませんが、
ここは少しずつチューニングしていく必要がありそうです。
参考までにエラーとなった際には画像生成を高速で生成してくれるブーストの数は減りませんでした。
「安全でない画像コンテンツが検出されました」解決策はこれ！
解決策はプロンプトをチューニング(より詳しい情報を入れたり違反となりそうな情報を添削)！
ちょっと癖の強い画像ですが無事に生成することができました。
エラーメッセージ通りですがこれに尽きると思います。
試しにエラーとなったプロンプトと全く同じプロンプトで生成を試しましたが、
同様のメッセージが表示されるだけで生成されませんでした。
Generated with realistic photos of the Red Riding Hood from Grimm’s Fairy Tales doing tricks on a skateboard at a skateboard park. Fashion is a skater. Long T-shirt (large), half pants, line socks, Vans sneakersプロンプト(日本語)
グリム童話の赤ずきんがスケートボードパークでスケートボードに乗って技を決めているリアルな写真で生成して
ファッションはスケーター
ロングTシャツ(大きめ)、ハーフパンツ、ラインソックス、バンズスニーカー
正直そこまでチューニングを行ったわけでは無く微調整で生成することができました。
では何故この様なことが起きたのか根本的な部分を深堀してみることにしました。
DALL-E3画像生成でポリシー違反となる根本原因は翻訳？
私は英語が得意ではないため「日本語プロンプト生成 → DeepL(翻訳サイト) → 英語プロンプト生成 → DALL-E3画像生成」の流れで行っています。
日本語のニュアンスが英語では別の意図として伝わってしまうケースもあるため、
なるべく箇条書きや詳しい説明を入れることで回避することができると感じています。
Bing Image Creator(DALL-E3)で”コンテンツの警告”
上記はBing Image Creatorから特定の人物の名前を入れたプロンプトで生成しようとした際に表示された警告です。こちらもポリシーの行動規範で違反となる可能性が高い内容が含まれていたと推測しています。
詳しくは以下記事の後半部分をご確認ください。
Windows Copilotに画像説明させBing Image Creatorで画像生成させてみた
これ以上プロンプトを送信することはできません
画像生成のリトライなど連続してリクエストを送ると「これ以上プロンプトを送信することはできません」と表示される場合がある。
基本的には記載通り「しばらく待つ」ことですが、Xの投稿で履歴削除で解消されたケースもあるため試してみる価値はありそうですね！
参考までに私はまだこの警告表示を見たことが無いため検証はできておりませんのでご了承くださいm(_ _)m
注意点としては作成「作成ボタンを連続で押さない！」が一番ですね！
Microsoft Bing Image Creator でのエラー対処メモ
これ以上プロンプトを送信することはできません
他の進行中の作成が完了するまで待ってから、もう一度作成してください。[解決方法] ヘルプ 07 を参照して、閲覧履歴 をクリアする
→ [Bing の検索履歴] に移動し、[すべてクリア] を選択 pic.twitter.com/liTX2EtPy0— かたりーな あやぽんぬ (@katarina7410) October 15, 2023
■解決案
Bing ChatにDALL-E3でポリシー違反にならない様に注意すべきポイントを聞いてみた
- 個人や社会に害を与える可能性のあるコンテンツを作成しないこと。例えば、搾取や虐待、自殺や自傷行為、暴力やテロ、ヘイトスピーチやイジメ、詐欺や偽情報などのコンテンツは禁止されています。
- 個人のプライバシーや知的財産権を尊重すること。例えば、他人の顔や名前、住所や電話番号、メールアドレスやパスワードなどの個人情報を含むコンテンツや、著作権や商標権などの知的財産権を侵害するコンテンツは作成しないでください。
- 法律や規制に従うこと。例えば、児童ポルノや違法薬物、賭博や暴力団などの違法な活動に関連するコンテンツは作成しないでください。
- Microsoft Bing のサービス規約に同意すること。例えば、DALL-E3 を使用する際には、Microsoft Bing の[サービス規約]に同意したものとみなされます。サービス規約では、DALL-E3 の使用目的や範囲、責任や免責事項などが定められています。サービス規約に違反する場合は、DALL-E3 の使用を停止される可能性があります。
当然ではありますがこれらのポリシーに注意しながらAIアシスタントによる画像生成を楽しむ必要がありますが、
場合としては意図せずにエラーとなるケースもあります。
その際はより詳しい情報をプロンプトを通してAIに伝えることで誤った解釈をされずエラーが解消される可能性は高まります。
今後も規約に注意しながらどんどん画像生成ライフを楽しんでいきましょう！
コメント
可愛いテディベアの絵を作ろうとしたら同じメッセージを受けて、なぜポリシー違反なのかをBing chatで尋ねたところ、擬人化した犬や熊などの動物を生成することはNGらしい事を伝えてきました。
この件で深く聞こうとすると一方的に会話を打ち切るので、動物擬人化キャラクターについては、ほぼ間違いなく規制対象となったようです。
規制前は良い作品を出せただけに結構ショックです。
投稿ありがとうございます！
私もまだ使い始めたばかりでポリシー違反について全く把握できておらず、
何故！？
と思う瞬間もありますが個々の理由について教えてくれない以上は試行錯誤を繰り返すしか無さそうですよね。
規制も増えていると思いますが今後のアップデートで精度の面でも本来違反にならないプロンプトが引っかかるのではなくクリアされることを願うばかりです。
特に「日本語」については間接的な指示となるので
「英語」での指示の方がより精度は高いのではないかと考えています。
恐らくImage Createrでは日本語→(英語に翻訳)→画像生成の流れとなるため「英語に翻訳」部分をBing AIに任せるのでは無く、
例えばDEEP-Lなどの精度の高い翻訳ツールで手動翻訳することで、
より意図した指示を送れる可能性が高まりもしかしたら違反とならないケースもあったりするかもしれません。
(勝手な憶測となり恐縮ですが・・・)
補記します。
Bing chatへの質問で別のプロンプトを提示して確認していたところ、擬人化キャラクターは問題ないようですが人と動物を混同させるキャラクターがNGとの事でした。
これはいわゆる混血を連想させる事が問題との事。
また併せて人の振る舞いや格好を指定しないように指摘されました。
不思議なのは、この辺はAI自身が好まないという答えを返したりと振れが見られる点です。
そしてキャラクターに表情を付ける時に「慌てた」という単語だと高確率でNGです。
ポリシー違反の項目としては「偽情報」(フェイク画像)あたりも引っかかる可能性としてはありそうですね。
ただ私の方でも簡易的ですが「慌てた」表情をつけた擬人化キャラクターを生成してみましたが違反とはならずそれっぽい画像は生成してくれました。
ブレブレですよね・・・
こちらがポリシーを避けているつもりでもどの項目にひっかかったのか分からない点がモヤっとしますがよね・・・