oh nuevo Samsung Galaxy S24 está totalmente interesado en la IA, hasta tal punto que el fabricante de teléfonos ha dado mucha importancia a cómo su nueva marca de agua de IA pretende disuadir a los usuarios de difundir en línea imágenes alteradas por IA o puramente falsas. El problema es que el T24 Tiene tantas funciones de inteligencia artificial que una simple herramienta similar a Magic Eraser puede eliminar la misma marca de agua sin problemas.

En tu Galaxia sin comprimir En el evento del pasado miércoles, Samsung declaró que cualquier imagen que utilizara los recursos de generación de la compañía vendría con una marca de agua. Aparece en la parte inferior izquierda de cada imagen como el logotipo «brillante» de Samsung.

Gizmodo ha confirmado que la propia herramienta de borrado de objetos basada en IA de Samsung, la función anunciada que puede eliminar y reemplazar partes no deseadas de una foto, puede eliminar la marca de agua que se supone marca si una imagen fue generada por IA. Esto funcionó en Galaxia S24 Ultra modelo de prueba, y algunos otros también señalaron la gran supervisión destinada a evitar que las imágenes falsas hagan que Internet sea aún más inhóspito de lo que ya es.

Pero se vuelve aún más confuso. En las pruebas de Gizmodo, algunas imágenes en las que usamos la herramienta de borrado de objetos no aparecieron con marcas de agua, mientras que otras, incluido un fondo de pantalla modificado por IA, sí lo hicieron. En Samsung vuelva a publicar la grabación de su conferencia Unpacked, la marca de agua aparece cuando Mr. Beast usa la herramienta de borrado de objetos para deshacerse de la grúa de su barra de chocolate gigante (de sabor horrible). En el texto que se encuentra al final del mismo clip, Samsung dejó en claro que no se culpa por ningún deepfake inexacto.

“Generative Edit requiere una conexión de red y un inicio de sesión de cuenta Samsung. La edición con edición generativa da como resultado una foto redimensionada de hasta 12 MP. Una marca de agua visible se superpone en la salida de la imagen al guardarla, para indicar que la imagen fue generada por IA. No se garantiza la precisión y confiabilidad de los resultados generados”.

Samsung no respondió de inmediato a la solicitud de Gizmodo de comentar si está al tanto de estos problemas y está trabajando para solucionarlos. La herramienta de borrado de objetos, como el Magic Eraser de Google, reemplaza los píxeles de objetos no deseados en una imagen para mezclarlos con el fondo. Aún no está claro por qué el sistema no reemplaza simplemente la misma marca de agua en la nueva imagen.

A las grandes empresas de IA les gusta Adobe Es a la casa blanca han promovido las marcas de agua como una forma de lidiar con la afluencia de deepfakes de IA en línea. Estas marcas de agua, incluida la de Samsung, también introducen metadatos en cada imagen, notificando que la imagen ha sido modificada. Sin embargo, editar los metadatos de una imagen con sólo un poco de conocimiento es muy fácil. Las imágenes cargadas en aplicaciones como Instagram no mostrarán ningún metadato a los usuarios que se desplazan sin pensar por sus 'gramas'.

Por otra parte, La IA ha demostrado desde hace tiempo que es capaz de eliminar marcas de agua. Si Samsung soluciona el problema y hace que las marcas de agua sean más herméticas, no impedirá que los usuarios tomen la misma foto en cualquier otra aplicación similar para eliminarla. DeepMind de Google ha declarado anteriormente que tiene una manera de instalar una marca de agua más permanente dentro de los propios píxeles de una imagen. DeepMind no ofreció ninguna idea sobre cómo funciona esto o qué herramientas podrían usar las personas para identificar estas imágenes alteradas, pero la compañía mencionó que la función solo funcionaría en fotos modificadas con las propias herramientas de Google.

El resto de nosotros tendremos que conformarnos con medidas a medias.