El miércoles en Google I/O 2023, Google Anunciado tres nuevas funciones diseñadas para ayudar a las personas a detectar imágenes falsas generadas por IA en los resultados de búsqueda, informes Bloomberg. Las funciones identificarán los orígenes conocidos de una imagen, agregarán metadatos a las imágenes de IA generadas por Google y etiquetarán otras imágenes generadas por IA en los resultados de búsqueda.

Gracias a los modelos de síntesis de imágenes de IA como Midjourney y Stable Diffusion, se ha vuelto trivial crear grandes cantidades de falsificaciones fotorrealistas, y esto puede afectar no solo a la desinformación y la propaganda política, sino también a nuestra concepción del registro histórico a medida que cantidades masivas de artefactos de medios falsos entran en circulación.

En un intento por contrarrestar algunas de estas tendencias, el gigante de las búsquedas introducirá nuevas funciones en su producto de búsqueda de imágenes «en los próximos meses». de acuerdo con para Google:

El sesenta y dos por ciento de las personas cree que encuentra información errónea a diario o semanalmente, según un estudio de 2022. estudio de puntos. Es por eso que continuamos creando herramientas y recursos fáciles de usar en la Búsqueda de Google para ayudarlo a identificar información errónea en línea, evaluar rápidamente el contenido y comprender mejor el contexto de lo que está viendo. Pero también sabemos que es igual de importante evaluar el contenido visual que encuentre.

La primera característica, «Acerca de esta imagen», permitirá a los usuarios hacer triple clic en una imagen en los resultados de Google Imágenes, buscar con una imagen o captura de pantalla en Google Lens, o deslizar hacia arriba en la aplicación de Google para descubrir más sobre el historial de una imagen. . incluyendo cuándo la imagen (o imágenes similares) fue indexada por primera vez por Google, dónde pudo haber aparecido por primera vez y dónde más se ha visto la imagen en línea (es decir, sitios de noticias, sociales o de verificación de datos).

Más adelante este año, Google dice que también permitirá a los usuarios acceder a esta herramienta haciendo clic derecho o manteniendo presionada una imagen en Chrome en computadoras de escritorio y dispositivos móviles.

Este contexto adicional sobre una imagen puede ayudar a determinar su confiabilidad o indicar si merece un examen más detenido. Por ejemplo, al usar la función «Acerca de esta imagen», los usuarios pueden descubrir que una imagen que ilustra un alunizaje fabricado ha sido marcada por los medios como generada por IA. tambien podria ponerlo contexto histórico: ¿Esta imagen ya existía en el registro de investigación antes de que surgiera el ímpetu para falsificarla?

La segunda característica aborda el uso creciente de herramientas de IA en la creación de imágenes. A medida que Google comienza a implementar herramientas de síntesis de imágenes, planea etiquetar todas las imágenes generadas por sus herramientas de IA con «etiquetas» especiales o metadatos almacenados en cada archivo que indican claramente sus orígenes de IA.

Y tercero, Google dice que también está colaborando con otras plataformas y servicios para alentarlos a agregar etiquetas similares a sus imágenes generadas por IA. Midjourney y Shutterstock firmaron la iniciativa; cada uno incorporará metadatos en sus imágenes generadas por IA que Google Image Search leerá y mostrará a los usuarios en los resultados de búsqueda.

Es posible que estos esfuerzos no sean perfectos, ya que los metadatos se pueden eliminar o modificar potencialmente más adelante, pero representan un intento notable de abordar el problema de las falsificaciones profundas en línea.

A medida que la IA genera o aumenta más imágenes con el tiempo, es posible que la línea entre «real» y «falso» comience a desdibujarse, influenciada por las cambiantes normas culturales. En este punto, nuestra decisión sobre en qué información confiar como un reflejo fiel de la realidad (independientemente de cómo se haya creado) puede depender, como siempre, de nuestra fe en la fuente. Por lo tanto, incluso en medio de una rápida evolución tecnológica, la credibilidad de la fuente sigue siendo fundamental. Mientras tanto, soluciones tecnológicas como la de Google pueden ayudarnos a evaluar esa credibilidad.