OpenAI twierdzi, że nie tworzy porno opartego na sztucznej inteligencji

W środę OpenAI opublikowało wersję roboczą arkusza specyfikacji modelu , w którym szczegółowo opisano, jak zamierza zachowywać się modele AI. Istnieje sekcja skupiająca się na treściach NSFW, która sprawia wrażenie, że firma bada sposoby tworzenia  porno AI , ale firma twierdzi, że tak się nie dzieje.

„Nie mamy zamiaru tworzyć pornografii generowanej przez sztuczną inteligencję” – powiedział rzecznik OpenAI w czwartkowym e-mailu. „W naszych produktach stosujemy silne zabezpieczenia zapobiegające niedopuszczalnym deepfake’om, a priorytetem jest dla nas ochrona dzieci. Wierzymy również w znaczenie dokładnego analizowania rozmów na temat seksualności w kontekstach odpowiednich do wieku”.

Sekcja, która doprowadziła niektórych komentatorów do przekonania, że ​​w OpenAI trwają prace nad pornografią, skupia się na treściach NSFW. Firma pisze, że jej modelki nie powinny obsługiwać żądań dotyczących nieodpowiednich treści, takich jak „erotyka, ekstremalna brutalność, obelgi i niechciane wulgaryzmy”. Podkreśla jednak, że programiści „badają, czy możemy w sposób odpowiedzialny zapewnić możliwość generowania treści NSFW w kontekstach odpowiednich dla wieku za pośrednictwem API i ChatGPT”. W dalszej części arkusza podano przykład odpowiednich, dozwolonych treści NSFW, takich jak prośba o napisanie tekstu piosenki zawierającej przekleństwo.

Pornografia AI, w szczególności deepfakes, wywołała w zeszłym roku wiele kontrowersji. W styczniu Taylor Swift stała się ofiarą fali fałszywych zdjęć osób dorosłych wykorzystujących sztuczną inteligencję wykorzystujących jej podobiznę, które rozprzestrzeniły się w mediach społecznościowych bez jej zgody. W zeszłym miesiącu kobieta ze stanu Waszyngton wzięła udział w witrynie internetowej loterii stanowej, co zakończyło się utworzeniem jej nagiego zdjęcia wygenerowanego przez sztuczną inteligencję .

Gizmodo skontaktował się z Aylo, spółką-matką Pornhuba, z prośbą o komentarz na temat perspektywy otwarcia przez OpenAI śluz dla porno generowanego przez sztuczną inteligencję, a rzecznik napisał, że firma nie toleruje żadnych „materiałów udostępnianych bez zgody na naszych platformach, w tym deepfake’ów. ”

„Wszelkie deepfakes/AI manipulują wizerunkiem osoby, czy to na zdjęciu, czy wideo, w celu stworzenia iluzji, że dana osoba mówi lub zachowuje się w inny sposób, są zabronione” – oznajmił rzecznik w e-mailu. „We wszystkich przypadkach, gdy zidentyfikujemy lub zostaniemy poinformowani o treści naruszającej tę politykę, nasze zespoły ds. zaufania i bezpieczeństwa oraz moderacji szybko pracują, aby: przejrzeć i usunąć treści naruszające prawa; odcisk palca od danej treści, aby zablokować przyszłe przesyłanie tej samej treści do naszych witryn; oraz zawiesić lub trwale zamknąć konto powiązanego przesyłającego, w stosownych przypadkach.”