Google Fotos no te permitirá usar Magic Editor para crear una identificación falsa

Nov 08 2023

Google está tratando de evitar que usted utilice el aprendizaje automático para hacer algo nefasto, como alterar una licencia de conducir o un pasaporte.

UH uh uh. No puedes editar eso sin la palabra mágica.

Todo el mundo habla de lo espeluznante que es la IA generativa , por lo que Google Photos no le permitirá editar imágenes de su licencia de conducir, tarjetas de identificación ni nada de identificación personal. Si intenta utilizar Magic Editor con un dispositivo Pixel compatible, Fotos muestra una ventana para informarle que no puede completar la acción ya que puede violar sus términos de uso .

Google podría ampliar esa advertencia en una versión futura de la aplicación Fotos. Android Authority investigó el código en el último APK de Google Photos , versión 6.60, que comenzó a implementarse el 1 de noviembre. Encontraron evidencia de un mensaje de error específico que dice: “Magic Editor no puede editar fotos de tarjetas de identificación, recibos y otros documentos que violan los términos GenAI de Google”. Enlaza con los términos de uso y sugiere que pruebes Magic Editor en una foto diferente.

Probé esto en mi Pixel 8 con las muchas fotos que tengo de mi licencia de conducir y mi pasaporte. Seleccioné solo la parte de mi foto de cabeza para que Magic Editor jugara con ella, y se negó rotundamente a través de un cuadro de diálogo que decía que Magic Editor no podía "completar la acción" en una foto de mi tarjeta. Tengo curiosidad por saber qué habría hecho si hubiera intentado algo porque la imagen es mala, con la mitad de la tarjeta ocupada por una sombra proyectada y parte de mi frente faltante debido al resplandor. Pero hoy no es un día en el que lo descubriremos.

Una captura de pantalla que muestra el cuadro de diálogo actual que aparece en Google Photos cuando intentas editar una foto de una tarjeta de identificación.

Me comuniqué con Google para preguntar sobre el mensaje y lo actualizaré cuando tenga noticias. También probé la función Magic Eraser en el Pixel 8 Pro . Recibí el mismo mensaje que muestra Android Authority en sus capturas de pantalla, que incluían las nuevas tarjetas de identificación de referencia vernácula.

En este momento existe inquietud ante la incursión global en la edición impulsada por IA. El temor parece centrarse principalmente en personas que “falsifican” documentación oficial con fines nefastos, como cambiar una fotografía en una tarjeta de identificación para obtener acceso o comprar algo en línea. Si bien esas cosas sucedieron en el pasado antes de que la inteligencia artificial las hiciera más accesibles, la cuestión es que no era tan fácil de hacer.

Es posible que Android Authority también haya encontrado un código que sugiere que la generación de imágenes basada en mensajes de texto está en camino a Google Photos, pero eso no es una sorpresa. Si tienes un Pixel 8/8 Pro , técnicamente puedes “remezclar” una foto ahora usando Magic Editor y crear una imagen completamente nueva sin ningún contexto adicional. Dirígete a Magic Editor y pídele que estilice tu foto. Verás cómo esa máquina se pone a trabajar.