EFE.- La banda británica de rock The Cure despierta de un extenso letargo de 16 años con su nuevo decimocuarto álbum de estudio, “Songs of A Lost World” (Canciones de un mundo perdido), un trabajo muy personal y desgarrador que saldrá a la venta el próximo 1 de noviembre.

Los de Crowley regresan a la primera línea de la música dando un puñetazo en la mesa y presentan un álbum fiel a su esencia, con ocho canciones en las que su vocalista, Robert Smith, se abre en canal y reflexiona sobre el paso de la vida, enfrenta su miedo a la muerte y rompe con las reglas del mercado musical actual.

“Tenemos que hacer un disco más. Tiene que ser el más intenso, triste, dramático y emocional de los que hemos hecho y después simplemente irnos”, dijo el teclista de la banda, Roger O’Donell, en una entrevista con la revista Classic Pop en 2020, donde afirmó que “todo el mundo estará feliz” con este álbum.

Cuatro años más tarde, el resultado es “Songs of A Lost World”. Y no es un disco apto para todos los públicos, no intenta sumarse a ninguna moda ni trend de TikTok, pero sin duda no decepcionará a los seguidores más acérrimos de la banda británica, sobre todo a aquellos que crecieron escuchando su música.

Café para cafeteros

En pocas palabras, este álbum es “café para cafeteros”: tiene un color muy oscuro, un sabor intenso y amargo y necesita de tiempo para saborearse correctamente, teniendo en cuenta que algunas canciones superan los 10 minutos de duración.

“Este es el final de cada canción que cantamos. El fuego se redujo a cenizas y las estrellas se apagaron con lágrimas”, dicen los de Crowley en “Alone” (Solo), el tema que inicia el disco y el elegido por Robert Smith, Simon Gallup, Jason Cooper, Roger O’Donnell y Reeves Gabrels como su primer sencillo en 16 años, que salió a la luz el pasado mes de septiembre.

El álbum también destaca por su calidad instrumental, con una atmósfera a base de pianos, guitarras, violines y sintetizadores que envuelve y mantiene en vilo hasta el momento (a veces muy tardío) en el que la voz de Smith hace su aparición en cada uno de los ocho temas.

“Prométeme que estarás conmigo en el final, di que estaremos juntos y sin remordimientos”, canta en “And Nothing Is Forever”, mientras que en “A Fragile Thing” asegura que “no hay nada que puedas hacer para cambiar el final” mientras pone banda sonora a la fragilidad del amor.

No se sabe si será el último álbum

Este álbum suena a despedida y podría (o no) ser también el último de la carrera profesional de The Cure, como pronosticaba O´Donnell, pero sin duda es una retrospectiva vital, porque Smith mira atrás en “All I Ever Am” y confiesa que ha “perdido” toda su vida reflexionando sobre el tiempo y los recuerdos.

Como no podía ser de otra forma, “End Song” (Canción final) pone el colofón al disco con unas estrofas que son a la vez viscerales y nostálgicas, donde Smith, a sus 65 años, se pregunta en qué momento ese niño con ganas de comerse el mundo ha envejecido tanto y qué le deparará la última etapa de su vida.

“Con el tiempo me perderé a mí mismo. No tardará. Todo se ha ido. Me quedo solo, sin nada, al final de cada canción”, concluye.

Corría el año 2019. La IA generativa todavía estaba en pañales, pero ya empezaban a escucharse y hacer ruido términos como redes neuronales (para bien, por su potencial) y deepfakes (normalmente, para mal). Uno de los escándalos más sonados de 2019 fue el de DeepNude, una web que permitía desnudar a cualquier mujer con solo subir una foto. Entre bambalinas, lo que había era una red neuronal que había sido entrenada con más de 10.000 fotos de mujeres desnudas.

La web llevaba meses circulando, pero tras su descubrimiento solo duró unas horas. El desarrollador, que decía llamarse Alberto y residir en Estonia, cerró la plataforma alegando que “la probabilidad de que la gente haga mal uso de esta” era “demasiado alta” (no se podía saber) y que “el mundo aún no está preparado para DeepNude”. Eso fue en 2019.

Hoy, en 2024, esta tecnología ha evolucionado hasta ser lo que es: un portento tecnológico cuya magnitud solo es igualada por el reto que supone frenar su mal uso. Porque la IA tiene infinitos casos de usos positivos, pero también puede usarse con fines menos éticos y morales. Fines como desnudar a personas a través de un bot de Telegram. Como DeepNude, pero más fácil y a la vista de todos. Porque el mundo, en 2024, sigue sin estar preparado para un desafío como este.

Cuatro millones de usuarios. Esos son los que, de acuerdo a una investigación de la revista WIRED, reúnen mensualmente al menos 50 bots de Telegram cuyo único fin es generar imágenes o vídeos de personas reales desnudas. Dos de ellos, asegura la revista, tienen 400.000 usuarios mensuales. Otros, 14 para ser exactos, superan los 100.000 usuarios.

Estamos hablando de miles de personas que (potencialmente) han generado imágenes de otras personas desnudas sin su consentimiento. Esto es, a todas luces, una violación de la protección de datos o privacidad, así como de la intimidad, honor y propia imagen. Y lejos de ser algo inocente, es una práctica que puede tener (y tiene) un impacto real en la vida de las personas. Entre 2022 y 2023, el contenido pornográfico deepfake aumentó un 464%, según el estudio State of Deepfakes de Home Security Heroes. El 99% de ese contenido está protagonizado por mujeres.

Cómo funcionan. Según detallan desde WIRED, estos bots se venden con mensajes como “Puedo hacer lo que quieras con la cara o la ropa de la foto que me des” y, en su mayoría, requieren que el usuario compre tokens con dinero real o criptomonedas. Que generen el resultado prometido o sean una estafa es otra historia. Algunos de estos bots permiten subir fotos de las personas para, afirman, entrenar a la IA y generar imágenes más precisas. Otros no se anuncian como bots para desnudar, pero sí enlazan a bots capaces de hacerlo.

El problema de fondo. No es que este tipo de bots se puedan encontrar y usar en Telegram, que también, sino lo complicado que es frenar este contenido. En lo que concierne a Telegram, una deep web en sí misma, la aplicación de mensajería ya ha sido objeto de polémica en alguna ocasión por cosas como esta.

El último caso es reciente, de hecho: la detención de su fundador. Pavel Durov fue detenido en Francia por, aparentemente, haber contribuido a cometer delitos en Telegram por la falta de moderación. Desde Telegram se defendieron, alegando que es “absurdo afirmar que una plataforma o su propietario son responsables del abuso de esa plataforma”. Tras su detención, Durov aseguró que convertiría la moderación en una de las prioridades del servicio.

No obstante, cabe destacar que, a tenor del artículo de WIRED, Telegram ha eliminado los canales y bots reportados por la revista. Ahora bien, esos canales son lo que están, pero seguramente no estén todos los que son. Telegram, como indicábamos, en una deep web en sí misma que, no obstante, pone a disposición del usuario todas las herramientas necesarias para encontrar contenido. Un buscador, sin ir más lejos.

Atajarlo es complejo. Luchar contra los deepfakes es “básicamente una causa perdida”. Esas fueron las palabras de Scarlett Johansson allá por 2019. La actriz fue una de las primeras víctimas de los deepfakes pornográficos (ni la única, desde luego) y hoy, en 2024, lo cierto es que la situación sigue más o menos igual. Ha habido algunos movimientos por parte de las grandes tecnológicas, pero la realidad es que los deepfakes siguen campando a sus anchas.

Ejemplo de imagen falsa generada con IA durante los estragos del huracán Helene | Pulsa en la imagen para ver el tweet original

Es más, las herramientas actuales han hecho que sea todavía más sencillo hacerlo. ¿Quieres una foto de Bill Gates sujetando un arma? ¿A Taylor Swift en lencería o apoyando a Donald Trump? Puedes hacerlo directamente en Grok, la IA de X, por ejemplo. Aunque algunas plataformas como Midjourney o DALL-E bloquean las peticiones polémicas, cualquier persona puede con una simple búsqueda en Internet, tiempo libre, muchas imágenes y mala idea entrenar su propia IA para vete a saber qué.

Ejemplos. Podemos encontrar tantos como queramos. Los más recientes los tenemos en Estados Unidos: los deepfakes generados a raíz de los estragos del huracán Helene. En Corea del Sur el problema del porno deepfake ha llegado a las más altas esferas y se ha convertido en una cuestión de interés nacional. Tanto que, hace unos días, se aprobaron una serie de leyes que contemplan penas de cárcel y multas por generar y hasta ver este contenido sintético. “Cualquier persona que posea, compre, almacene o mire material sexual sintético ilegal estará sujeta a una pena de prisión de hasta tres años o una multa de hasta 30 millones de wones (20.000 euros al cambio)”, recogen en la BBC. Como dato, Telegram también ha jugado un papel importante en la difusión del contenido pornográfico sintético en Corea del Sur.

Qué se ha intentado. Uno de los enfoques de la industria es el marcaje del contenido generado mediante IA con marcas de agua invisibles. De momento, marcar el contenido como sintético o no depende del creador (Instagram y TikTok tienen herramientas para ello, por ejemplo), pero una marca de agua evitaría, o al menos reduciría, la difusión de contenido falso y fake news. Además, permitiría una detección temprana.

Sin embargo, la realidad es que su implantación a nivel global no es la norma. Si hablamos de contenido pornográfico sintético, el desafío es mucho mayor. No solo es una cuestión de moderación en las plataformas, sino de detección precoz, de evitar que se pueda hacer el daño. Una marca de agua no soluciona el problema per se, ya que tiene que implementarse.

Marca de agua para el contenido generado con IA propuesta por OpenAI | Imagen: OpenAI

Para que la marca de agua sea eficaz, esta debería implementarse en todos y cada uno de los modelos y herramientas de generación de contenido sintético. No solo en los comerciales, sino en los que un usuario puede ejecutar en local. De esa manera, todo el contenido generado por IA estaría marcado en origen y su detección por parte de los sistemas de las plataformas sería más sencilla. Pero una cosa es decirlo y otra muy distinta hacerlo.

Imagen | Wikimedia Commons y Pixabay editada por Xataka

En Xataka | Tenemos un gigantesco problema con las imágenes generadas por IA. Google cree tener la solución

Nuestro cerebro es fascinante, pero también increíblemente complejo de descifrar. Sabemos que es un “superordenador” capaz de hacer sus propias copias de seguridad, que tiene una “potencia de cálculo” de 1,4 petabytes por milímetro cúbico y poco a poco vamos aprendiendo más de él. Sigue guardando misterios (el Alzheimer es uno de ellos), pero la habilidad para sentir cuando alguien nos mira fijamente no es uno de ellos.

De hecho, es más una curiosidad evolutiva que una función alucinante de nuestro cerebro. Y tiene un nombre: escopaestesia.

La mirada psíquica. Si alguna vez, en un espacio público rodeado de personas, has sentido que alguien te estaba mirando fijamente, te has dado la vuelta y, efectivamente, alguien te observaba, sabrás de lo que estamos hablando. Tener esa sensación de estar siendo observado, además de escopaestesia, recibe el nombre de “efecto de la mirada psíquica“. Y es algo que ha sido estudiado tanto por psicólogos como por parapsicólogos.

Un sexto sentido. Edward B. Titchener fue un psicólogo que, en 1898, se dio cuenta de que algunos estudiantes de primaria podían sentir cuando alguien los observaba a sus espaldas. No era algo nuevo, ya que ese “hormigueo” en la nuca cuando pensamos que nos observan fijamente se había descrito antes y se daba en espacios públicos, como aularios o por la calle. Quienes habían experimentado eso afirmaban que ese hormigueo solo se pasaba cuando se giraban para comprobar que, efectivamente, los estaban mirando fijamente.

Nada de telepatía. Titchener recurrió a la razón para proponer una hipótesis. Su planteamiento fue que, cuando una persona tenía la sensación de ser observada y se giraba, otra persona que tuviera a la primera en el campo de visión notaría ese movimiento y la miraría. De este modo, la persona que se sentía observada vería que realmente alguien estaba observándola, reforzando su idea inicial.

Y la explicación del psicólogo para ese picorcito inicial en la nuca que desencadena lo demás se debe a que la persona se estaba concentrando en esa parte del cuerpo, de igual manera que enfocarse en una rodilla, un codo o un pie puede aumentar una sensibilidad irreal en esas zonas. Vamos, que si pones todo tu esfuerzo en pensar en el pie derecho, seguramente cualquier mota de polvo que pase al lado hará que te pique.

Más experimentos. Titchener realizó experimentos de laboratorio con aquellos que decían ser capaces de notar que alguien los miraba y con aquellos que afirmaban que eran capaces de hacer que la gente se volviera. En ambos casos, los resultados fueron “invariablemente negativos”. Pero como la ciencia no se hace sola, los experimentos de Titchener se replicaron varias veces a lo largo de los años.

En 1913, John Edgar Coover —psicólogo y parapsicólogo— pidió a 10 sujetos que dijeran si podían o no sentir que un experimentador los miraba. Con una muestra de 100 posibles periodos de observación, las respuestas de los sujetos fueron correctas el 50,2% de las veces. ¿La conclusión de Coover? Pues que era una “aproximación asombrosa de pura casualidad”, corroborando esa explicación de Titchener del hormigueo infundado.

Estudios polémicos. Parecía claro que era una mera casualidad y que Titchener tenía razón, pero el parapsicólogo Rupert Sheldrake no estaba convencido. A comienzos de la década de los 2000, realizó un experimento en el que los sujetos debían hacer lo mismo: decir cuándo creían estar siendo observados. En el mismo, se afirmó haber encontrado una tasa de aciertos del 53,1%, demasiado alta como para ser aleatoria (aunque… no deja de ser el 50% de las veces), pero se criticó el experimento argumentando que las secuencias utilizadas eran cortas y no aleatorias, lo que podía facilitar que los sujetos de prueba se aprendieran el patrón.

Tirando de tecnología. Vale, pero… ¿qué ocurre si metemos cámaras en la ecuación? Un experimento realizado en 1963 empleó cámaras de circuito cerrado para observar a los sujetos y el resultado fue un llamativo 74% de éxito. Sin embargo, se criticó el experimento alegando que no se había controlado adecuadamente y, en 2009, se replicó utilizando tanto cámaras como un sistema de monitorización de la conductancia de la piel para detectar, realmente, ese hormigueo.

Los observadores debían jugar a videojuegos mientras no miraban a los sujetos de prueba para evitar pensar en ellos y se pidió a los sujetos que indicaran el momento en el que sentían que estaban siendo observados. Los resultados fueron… inconcluyentes.

Y explicaciones simples. Vale, hemos visto muchos estudios y parece que no tenemos una habilidad sobrenatural o un sexto sentido para notar cuándo nos miran, pero… ¿entonces qué ocurre? En The Conversation, Francisco José Esteban Ruiz —profesor de biología celular en la Universidad de Jaén— y Sergio Iglesias Parro —profesor de psicología en la misma universidad— comentan que uno de los factores que puede explicar esta sensación es que estamos diseñados para estar en constante vigilancia, incluso cuando no prestamos atención de manera consciente.

Esto es un sistema de alerta denominado “atención exógena” y es “la capacidad del cerebro para reaccionar automáticamente a estímulos repentinos o cambios en nuestro entorno”. Es algo que ha resultado crucial para la supervivencia humana, una habilidad para notar cuándo otro humano enemigo o un depredador están acechando. Actualmente no es algo necesario para sobrevivir estrictamente hablando, pero se nos ha quedado como un reflejo que puede seguir siendo útil, como a la hora de percibir peligros por la calle.

“Superpoderes”. De esta forma, inconscientemente podemos notar elementos que cambian a nuestro alrededor, como el movimiento ocular de otra persona, y ahí entra en juego la visión periférica. Con ella, no podemos ver claramente debido a que no estamos enfocando, pero se trata de una herramienta que permite notar cualquier minúsculo cambio.

¿Has visto vídeos de personas que prácticamente dan la espalda a un bebé a punto de caerse y, en el último momento, se dan cuenta de que eso va a ocurrir y reaccionan con unos reflejos dignos de Spider-Man? Pues ese es un ejemplo de lo bien que funciona nuestra visión periférica y lo alucinantes que son nuestros “reflejos” en esos momentos, que no es más que el cerebro procesando información sin que lo sepamos de manera consciente.

También somos un poco egocéntricos. Aquí también tiene que ver cómo somos. Por ejemplo, si alguna vez hemos notado ese hormigueo y nos volvemos para mirar, ya hemos visto que una persona a nuestra espalda puede notar nuestro giro de cabeza y mirar de forma instintiva. Sin embargo, pensaremos que nos estaba observando y lo que puede pasar es que eso condicione nuestro pensamiento al haber confirmado nuestra sospecha. También somos un poco egocéntricos y, cuando estamos en situaciones nuevas o incómodas, pensamos que todo el mundo nos está observando.

Por ejemplo, cuando vamos a un gimnasio por primera vez, con algo de vergüenza, y pensamos que todos están pendientes de nosotros en lugar de lo que realmente ocurre: que el resto de personas van a lo suyo.

Hay casos… y casos. Ahora bien, Sergio y José exponen que, en casos extremos, esa sensación de recibir miradas ajenas puede estar relacionada con la paranoia, sobre todo en personas que padecen ansiedad. Si ya están hipervigilantes, confirmar sus sospechas de que están siendo observadas puede llevar a que interpreten cualquier pequeño gesto como eso, que los están juzgando. Pero más allá de estos casos, esta escopaestesia o mirada psíquica es de lo más normal.

Imagen | prostooleh

En Xataka | El cerebro se acostumbra a todo y eso es veneno para nuestra productividad. Los consejos de una neurocientífica para evitarlo