“Ya no puedes creer en NADA que provenga de un dispositivo digital. Contrástalo todo”, dice el periodista Robert Scoble en un tuit que acompaña a una presunta imagen de Elon Musk cogiendo la mano de la política estadounidense Alexandria Ocasio-Cortez, conocida como AOC. Es uno de los muchos mensajes de alerta que se han visto en unos días llenos de fakes en internet. Imágenes de Donald Trump arrestado y su eventual huida de la cárcel y del Papa Francisco con un sofisticado abrigo de plumas de Balenciaga, las imágenes falsas e hiperrealistas que circulan en las redes desde la semana pasada han mostrado que la información entra en una nueva era.

La inteligencia artificial (IA) generativa ya está suficientemente desarrollada para hacernos caer, al menos a simple vista, en unos bulos que hasta casi nada requerían de tecnologías complejas y usuarios expertos en manipulación digital. Hoy, prevenir que seamos engañados por las pantallas será cada vez más difícil, según los expertos. El blockchain se presenta como una solución compleja y a largo plazo, pero por ahora no hay más que un remedio de toda la vida: comprobar las fuentes, estar atento a los detalles y dudar de todo.

No es la primera vez que las imágenes generadas por la herramienta de IA Midjourney se han vuelto virales, pero ninguna se ha difundido tanto como el Papa de Balenciaga. Primero, porque parece mucho más verosímil que los demás supuestos de personas que tenían un aspecto artificial, como si fuera de un videojuego o con muchos filtros. También porque el contexto que rodea al pontífice puede suponer que quizá se vestiría de tal manera.

Sin embargo, al hacer zoom, se puede notar el tamaño de la oreja, la mano cortada que no está del todo agarrando la taza de café, la deformidad de las gafas o el crucifijo donde no se ve a Jesucristo esculpido y sin parte de la cadena que lo sostiene. Estos detalles indican que no es una fotografía real, sino que matizan los fallos de la IA: una herramienta que conoce bien la superficie de la realidad, pero no cómo interactúan los objetos físicos ni todas las características del cuerpo humano. Al menos por ahora.

Aun así, son factores que pasan desapercibidos, sobre todo si se está escroleando rápido y en el formato del móvil. En algunas imágenes del falso arresto de Trump, que circularon en las redes unos días antes, las evidencias de que se trata de un fake fueron más notables. El primer aspecto también es contextual: la detención del expresidente estadounidense sería portada en los grandes medios de comunicación, y no lo fue. Segundo, como ya habían afirmado algunos artistas, las herramientas generativas carecen de la habilidad de representar detalles del cuerpo humano, especialmente las manos. En algunas imágenes de Trump, las proporciones de su cuerpo pueden verse distorsionadas o incluso derretidas y hay un aspecto borroso. En otras, se observan textos distorsionados.

Pero estas herramientas están mejorando y es cuestión de tiempo que dejen de fallar en esos detalles y pasen a crear imágenes falsas que parecen extremamente reales, según los especialistas. La nueva versión del Midjourney ya es capaz de generar manos humanas realistas, eliminando lo que hasta ahora era la forma más fácil de identificar una imagen artificial.

La velocidad a la que se producen las mejoras es lo que genera inquietud. Elena Verdú, miembro del grupo de investigación Inteligencia Artificial y Robótica de la Universidad Internacional de La Rioja, ha explicado a Maldita.es que tan solo un mes es suficiente para que queden obsoletas algunas de estas recomendaciones para identificar a imágenes falsas. Estamos ante una preocupación colectiva sobre el poder que esas herramientas ejercen sobre la sociedad. Tanto es así, que expertos en inteligencia artificial reclamaron el miércoles en una carta abierta que se frenara seis meses la “carrera sin control” de los ChatGPT, que también utiliza IA generativa.

El periodista Robert Scoble explica en el tuit otras formas de poder identificar los deepfakes. Lo primero es contrastar con múltiples fuentes, de buena reputación, y verificar su credibilidad. También valorar el contexto. “Use el pensamiento crítico: analice la información que recibe y considere el contexto, la consistencia y la lógica detrás de ella”, sugiere el autor.

Cuando el contenido se viraliza, también sirve comprobar lo que se puede ver en internet. Google, por ejemplo, proporciona una herramienta de búsqueda inversa de imágenes, dónde es posible cargar una foto y chequear dónde ya se ha compartido y qué dice la gente al respecto. Si una foto supuestamente tomada por un fotoperiodista fue publicada por primera vez por desconocido anónimo en las redes, es una gran razón para desconfiar.

En Twitter también existe la opción calificar un contenido como falso, aunque es necesario que mucha gente lo haga para que haya un alerta en la publicación. Según recopila la revista Times, existe un abanico de software en el mercado que dicen ser capaces de detectar a los deepfakes. Sin embargo, hay pocas herramientas gratuitas y fiables, o que no están disponibles para el usuario final. Uno de los detectores, que está alojado en la plataforma de IA Hugging Face, pudo decir “con un 69 % de certeza” que la imagen del Papa fue generada por IA. Pero cuando se le presentó la presunta imagen de Musk con OAC, la herramienta falló al contestar que la foto era 54% verdadera.

Otros expertos hablan de cómo el blockchain podría ayudar a combatirlos. Conocida por ser la tecnología detrás de las criptomonedas como Bitcoin, el Fórum Económico Mundial apuntó su capacidad de proporcionar una validación de la autenticidad y una cadena de custodia clara que “la hace potencialmente eficaz” para rastrear y comprobar todo tipo de contenido, no solo financieros. La clave es que esta tecnología tiene un mecanismo que no permite la alteración del mensaje, ni del momento de publicación o el origen. Pero no es una solución para el presente: de la teoría a la práctica, todavía queda un largo recorrido.

El artículo señala que el blockchain también tiene sus limitaciones. Mientras que es capaz de verificar la existencia de un documento, no puede probar la propiedad intelectual, por ejemplo. Además, para que sea realmente efectiva para el usuario final, deberá integrarse en los chips que alimentan los teléfonos inteligentes y los ordenadores. Algo que depende también de una cohesión entre las comunidades internacionales, los gobiernos, las empresas y la sociedad civil para dar forma a un modelo de gobernanza al consumo de contenido digital.

EL PAÍS Tecnología

Italia ha dado un paso para poner cerco a la inteligencia artificial. En pleno auge de esta tecnología, Roma ha bloqueado este viernes, “con efecto inmediato” la herramienta ChatGPT, el chatbot inteligente capaz de simular y procesar conversaciones humanas y que pertenece a la tecnológica estadounidense OpenAI, a la que el país transalpino acusa de no respetar la ley de protección de datos de los consumidores. La suspensión se levantará cuando demuestre que cumple la normativa italiana sobre privacidad.

El Garante italiano para la Protección de Datos Personales, una autoridad administrativa independiente que vela por la protección de datos de los usuarios y consumidores, considera que la plataforma recoge datos de los usuarios de manera ilegal y ha abierto una investigación para esclarecer el funcionamiento preciso de esta herramienta y determinar si ha cometido una infracción.

El organismo italiano asegura que este chat, el más conocido de la emergente inteligencia artificial generativa, sufrió el pasado 20 de marzo una pérdida de datos (o violación de datos) sobre sus usuarios y las conversaciones que mantienen con la máquina y la información de pago de sus abonados.

El Garante italiano ha criticado, a través de un comunicado, “la falta de información a los usuarios y a todas las partes interesadas” sobre el proceso de recogida y gestión de datos privados de la plataforma. Y denuncia “la ausencia de base jurídica que justifique la recogida y almacenamiento masivos de datos personales con el fin de ‘entrenar’ los algoritmos que gestionan el funcionamiento de la plataforma”.

La autoridad italiana alega, basándose en “las comprobaciones efectuadas” que la información facilitada por ChatGPT “no siempre se corresponde con los datos reales”, lo que según el garante “da lugar a un tratamiento inexacto de los datos personales”.

Por último, Italia lamenta “la ausencia de todo tipo de filtro” en la verificación de la edad de sus usuarios, a pesar de que el servicio esté dirigido a mayores de 13 años. Y reprueba “la exposición de los menores a respuestas totalmente inadecuadas con respecto a su nivel de desarrollo y autoconocimiento”.

Italia ha pedido a OpenAI que comunique en un plazo de 20 días las medidas adoptadas para dar cumplimiento a la petición del Garante o, de lo contrario, podrá enfrentar una sanción de hasta 20 millones de euros o hasta el 4% del volumen de negocios anual global.

Guido Scorza, miembro del consejo de la autoridad de protección de datos, ha censurado en una entrevista con el diario La Repubblica “la falta de información sobre el tratamiento de los datos personales de los usuarios” que ofrece la empresa estadounidense. Y ha hablado de los riesgos que entrañan este tipo de herramientas: “Con ChatGPT y los chatbots mantenemos conversaciones, y en estas conversaciones a menudo tendemos a compartir gran parte de nuestras vidas. Puedes preguntar cuándo nació Paolo Rossi y obtener una respuesta. Esto son datos personales. Cada pregunta sobre la vida de las personas es un tratamiento de datos. Por no hablar de los que trata erróneamente”, indica. Y pone un ejemplo: “Si le pregunto al chatbot cuándo se afilió Guido Scorza al colegio de Garantes de la Privacidad me dice que en 2016. Pero yo me colegié en 2020. Además de tratamiento de datos ilícito, se da el caso de que el tratamiento en muchos casos es inexacto”.

Scorza asegura que Italia ha actuado de manera autónoma, porque OpenAI no tiene sede en Europa, por lo que queda fuera de los procedimientos de cooperación de la UE, pero auspicia “un debate a nivel europeo para ver si se puede cooperar y actuar conjuntamente y cómo”.

El uso de la inteligencia artificial cada vez es más frecuente y por ello la Unesco ha urgido a los países que apliquen “sin demora” el Marco Ético Mundial sobre esa tecnología, que los 193 Estados miembros adoptaron de forma unánime en 2021 y que contiene orientaciones para maximizar los beneficios de la IA y reducir los riesgos que esta conlleva. “El mundo necesita normas éticas más estrictas para la inteligencia artificial: este es el gran reto de nuestro tiempo”, ha señalado la directora general de la Unesco, Audrey Azoulay.

Hace unos días, el fundador y multimillonario dueño de Tesla, Elon Musk, y más de 1.000 investigadores tecnológicos, entre los que se encuentran, entre otros, el cofundador de Apple, Steve Wozniak; Jaan Tallin, cofundador de Skype, además de ingenieros de Meta o Microsoft hicieron un llamamiento para pausar el desarrollo de inteligencias artificiales avanzadas durante al menos seis mese. Señalan que el fin es frenar lo que han denominado “una peligrosa carrera que está llevando al desarrollo de modelos más impredecibles y con capacidades cada vez mayores”. “Los sistemas de inteligencia artificial pueden suponer un profundo riesgo para la sociedad y la humanidad. Por desgracia, no se está desarrollando con el nivel de planificación y cuidado adecuado”, apuntan en su misiva.

En Estados Unidos varias organizaciones han pedido también la suspensión de ChatGPT por recelar de estos experimentos con inteligencia artificial.

EL PAÍS Tecnología

Hace cinco días, Adrián Contreras (Ibiza, 26 años) marcó un gol ante 92.522 personas en el Spotify Camp Nou. Una hora más tarde, y con dos millones de espectadores conectados, El Barrio se convertía en el primer equipo en ganar la Kings League al derrotar por un claro 3-0 a los Aniquiladores del streamer mexicano Juan Guarnizo. En la final de esta competición, que congregó a dos millones de espectadores en directo, los presidentes de los clubes tienen la oportunidad de lanzar un penalti a demanda de su entrenador: “Le dije a Juan [Arroita] que quería tirarlo cuanto antes”, recuerda Contreras en una entrevista con EL PAÍS, realizada hoy en Madrid. Dicho y hecho: minuto 1 de la final y este joven creador de contenido mira al cielo y, en un gesto nervioso, se muerde el labio inferior. Por su mente puede que pasen momentos como aquel en que su madre le dijo que no podría estudiar Periodismo porque no tenían dinero como para pagarle una habitación en Madrid. Puede que recuerde los dos años trabajando en El Chiringuito (La Sexta, MEGA), acostándose “a las 4 o 5 de la mañana con un solo día libre a la semana”. Puede que la mente de Adri, como sus millones de seguidores le conocen en redes, le devolviera al frío de Butarque, el primero de los estadios donde se pasó temporadas acreditado por medios digitales donde, habitualmente, no cobraba por sus crónicas. “Había fallado los tres penaltis anteriores y, no sé por qué, estaba convencido de que iba a marcar”. El balón fue a la escuadra derecha, imparable por colocación. “Noté un subidón de adrenalina, algo que me llenaba el estómago y me quedé quieto y con los ojos cerrados; no sabía ni qué hacía. Al abrirlos vi a todos los jugadores viniendo hacia mí con una cara de felicidad… y pensé, ha merecido la pena. Vamos a ganar la Kings League”, cuenta ahora Contreras, que acumula 4,4 millones de seguidores entre TikTok, Instagram y YouTube.

Después de abrazar a su equipo, Contreras fue a la banda en busca del siguiente abrazo. Le esperaba su madre, con quien comentó en directo y en Twitch la final a cuatro del torneo. “Estos días he pensado si ella fue la razón por la que tuve una visión tan positiva de los partidos. Por naturaleza soy pesimista cuando juega mi equipo, pero con ella allí estaba feliz”, cuenta. En plena adolescencia, se fueron juntos a Granada tras la separación de sus padres y de una infancia igualmente feliz en Ibiza. “Estos días juntos hemos recordado cuando fui a enseñarle la nota de Selectividad que me permitía ir a la Complutense, pero no teníamos dinero ni para pagarme una habitación en Madrid”, explica. De forma expeditiva, la solución llegó con una mudanza a casa de sus abuelos en Toledo y un autobús de línea donde se pasó el primer curso de Periodismo haciendo dos horas de trayecto de ida y otras dos de vuelta. “Tenía claro a lo que me quería dedicar. Si alguien me pregunta qué soy, sigo respondiendo de manera automática que periodista, aunque es evidente que hace tiempo que me dedico principalmente a la creación de contenido” cuenta.

Pese al esfuerzo físico y mental, Contreras consiguió una beca y, no sin esfuerzo familiar, ya pudo irse a compartir piso “a una habitación baratita de Madrid. Pero ya estaba donde quería, en la ciudad donde estaban los medios, podía entrevistar…”, explica. Empezaron las incontables colaboraciones no remuneradas y el compaginar el Grado con cualquier acreditación: “Bernabéu, Calderón, la Final Four de Baloncesto en Madrid… a mí todo me venía bien”. Y todo ello acabó en un currículum “de tres hojas” que llamó la atención del periodista Josep Pedrerol. “Allí [en el programa El Chiringuito] entrevistan a decenas de estudiantes al mes, pero le había puesto fotos mías en estadios, recortes de entrevistas a periodistas que trabajan con él, artículos, de todo. Me ficharon enseguida y pasé dos años muy intensos donde aprendí mucho de él y de su autoexigencia”.

Sin embargo, en la historia del ganador de la Kings League hay un signo propio de su tiempo y distinto al de generaciones anteriores. Contreras lo explica así: “Le envié un WhatsApp a Josep [Pedrerol]. Le dije que les daba un tiempo, pero que me iba. YouTube había empezado a llamarme la atención y, de hecho, me fui a un canal, Charlas de Fútbol. Lo entendió, aunque siempre piensas si no la estás cagando”. Cobrando menos que en televisión, gestionando redes y editando, aprovechando que entonces podía vivir en casa de su padre y controlar sus gastos, apostó por la creación de contenido. El giro definitivo en el guion del que era un joven periodista deportivo sucedió en marzo de 2020: “Llegó el confinamiento y me descargué TikTok. Literalmente, recuerdo pensar que nadie estaba haciendo contenido sobre fútbol. Supe lo importante que iba a ser convertirse en el primero, aprendí que había que publicar muchísimo contenido y, de repente, en abril, un vídeo con los mejores jugadores de la historia superó las 100.000 visitas. Me marqué como objetivo publicar 20 vídeos diarios, y lo demás es historia”.

A finales de 2021, TikTok celebró por primera vez en España sus premios No lo sabes todo sobre TikTok y Adri Contreras se alzó con el galardón a mejor creador en esta red dentro de la categoría de deportes. La bola de nieve estaba lanzada, pero la siguiente obsesión acabaría por internacionalizarle: “2022 era, sí o sí, ir a Catar. Seis meses antes del Mundial ya estaba desplegando todos los contactos posibles y lo conseguí. Otros creadores que pusieron mucho empeño no lo lograron y eso me hizo consciente de que ese iba a ser un punto de inflexión”. En la creación de contenido y especialmente en TikTok, los hitos pueden cuantificarse: en el mes de la competición, el periodista deportivo más seguido de la red sumó 800 millones de visualizaciones. Es una cifra estratosférica y, explica, no relacionada con su fichaje como uno de los presidentes de club El Barrio por parte de Gerard Piqué. “Le debo todo esto”, dice, sobre el ex barcelonista. “Todavía recuerdo la impresión que me causó su follow en Twitter y su primer mensaje”. El 7 de septiembre del pasado año se reunieron por primera vez y Contreras no podía creer que desde Kosmos estuvieran pensando en una competición deportiva “que tenía todos los ingredientes para triunfar. Era un sueño, algo como hecho a mi medida”, cuenta. No obstante, el mérito por haber ganado el torneo comprende a un staff técnico y deportivo mucho mayor. “Ganar el campeonato empieza por fichar a Juan Arroita, a quien precisamente había conocido en Charlas de Fútbol. Él no quería, no se veía, pero le dije que no conocía a nadie que supiera más de fútbol. Técnica y deportivamente, tenía que estar. Y la otra pieza clave fue Joan Compte, el segundo entrenador y quien conocía a todos los jugadores del entorno de Barcelona que podían sumarse a la liga. Empezamos a ver horas y horas de vídeos, a cruzar hojas de Excel y nos marcamos un top 10 de jugadores a los que queríamos fichar en el draft. Cuando vi que habíamos conseguido a los seis primeros, supe que, perfectamente, podíamos ganar la Kings League”.

El Barrio hizo una temporada regular discreta, igualmente siendo un equipo difícil de vencer en todos los partidos: “En los chats, en directo, todos los presidentes decían que no nos querían ver ni en pintura. Por eso no le di tanta importancia a que llegáramos justos al playoff”, explica Contreras. Su equipo se impuso a las alineaciones de profesionales más conocedores en el deporte rey, como Íker Casillas, Sergio Kun Agüero o Gerard Piqué. Pero también a titanes de la otra pata del negocio del entretenimiento en directo y online, como Ibai Llanos, TheGrefg o DjMaRiio. “Al volver al hotel tras el partido, la cabeza me hizo cortocircuito. Todos se fueron de fiesta pero yo puse el móvil en modo ‘No Molestar’. Durante la Universidad tampoco salía de juernes por hacer desde casa alguna crónica de la Europa League, así que no me pareció tan raro quedarme y no salir”.

Conteras gestiona un club cuyos ingresos por patrocinio están llamados a dispararse de cara a la próxima edición de la Kings League. Además de a un cuerpo técnico y sus jugadores, dirige de manera directa a dos community managers, una fotógrafa, un filmmaker, dos editores de vídeo para TikTok, dos editores de vídeo para YouTube y un diseñador gráfico, gestoría y agencia de comunicación al margen. “Después de la final, la cabeza me dijo “basta”. Había fiesta, pero me quedé durmiendo y aun así he tardado dos días en recuperarme físicamente. Todavía no me creo todo lo que ha pasado. En muy poco tiempo, he vivido cosas que no me había dado tiempo ni a soñar”, cuenta ahora. No le queda mucho margen para el descanso porque, en apenas unos días, presentará sus credenciales para ganar la inminente Queens League (versión femenina del torneo). Lo hará como el presidente del primer club que ganó esta actualización del fútbol para las masas.

EL PAÍS Tecnología