OpenAIはAIポルノを作っていないと語る

OpenAIは 水曜日、同社のAIモデルの動作の詳細を記した モデル仕様書の草案を公開した。NSFWコンテンツに焦点を当てたセクションがあり、同社がAIポルノ の制作方法を模索しているような印象を与えるが、同社はそのようなことはしていないとしている。

「AIでポルノを制作するつもりはない」とOpenAIの広報担当者は木曜日の電子メールで述べた。「当社の製品には、容認できないディープフェイクを防ぐための強力な安全策が講じられており、児童の保護を最優先している。また、年齢に応じた状況で性に関する会話を慎重に検討することの重要性も信じている」

一部のコメンテーターが OpenAI でポルノが制作中であると信じたセクションは、NSFW コンテンツに焦点を当てています。同社は、自社のモデルは「エロチックなもの、極度の残虐表現、中傷、一方的な冒涜」を含む不適切なコンテンツ リクエストに対応すべきではないと書いています。ただし、開発者は「API と ChatGPT を通じて、年齢相応のコンテキストで NSFW コンテンツを生成する機能を責任を持って提供できるかどうかを検討中」であることを強調しています。シートはさらに、罵り言葉を含む歌詞を書くように求められるなど、許可されている適切な NSFW コンテンツの例を示しています。

AIポルノ、特にディープフェイクは、この1年で多くの論争を巻き起こした。テイラー・スウィフトは1月、ソーシャルメディア上で拡散された、同意のない偽のAIアダルト画像に悩まされた。先月、ワシントン州のある女性が州の宝くじウェブサイトに参加し、 AIが彼女のヌード写真を 生成するという事態に陥った。

Gizmodoは、OpenAIがAI生成ポルノの門戸を開く可能性についてコメントを求めてPornhubの親会社であるAyloに連絡を取ったところ、広報担当者は、同社は「ディープフェイクを含む、当社のプラットフォーム上のいかなる非合意コンテンツも容認しない」と書いた。

「写真や動画を問わず、人物の画像をディープフェイクやAIで操作して、その人物が別の方法で話したり行動したりしているように見せかけることは禁止されています」と広報担当者はメールで述べた。「このポリシーに違反するコンテンツを特定または通知された場合、当社のトラスト＆セーフティおよびモデレーションチームは、侵害コンテンツを確認して削除し、問題のコンテンツを識別して、今後同じコンテンツが当社サイトにアップロードされるのをブロックし、必要に応じて関連するアップロード者のアカウントを停止または永久に削除するために迅速に対応します。」