Corría el año 2019. La IA generativa todavía estaba en pañales, pero ya empezaban a escucharse y hacer ruido términos como redes neuronales (para bien, por su potencial) y deepfakes (normalmente, para mal). Uno de los escándalos más sonados de 2019 fue el de DeepNude, una web que permitía desnudar a cualquier mujer con solo subir una foto. Entre bambalinas, lo que había era una red neuronal que había sido entrenada con más de 10.000 fotos de mujeres desnudas.

La web llevaba meses circulando, pero tras su descubrimiento solo duró unas horas. El desarrollador, que decía llamarse Alberto y residir en Estonia, cerró la plataforma alegando que “la probabilidad de que la gente haga mal uso de esta” era “demasiado alta” (no se podía saber) y que “el mundo aún no está preparado para DeepNude”. Eso fue en 2019.

Hoy, en 2024, esta tecnología ha evolucionado hasta ser lo que es: un portento tecnológico cuya magnitud solo es igualada por el reto que supone frenar su mal uso. Porque la IA tiene infinitos casos de usos positivos, pero también puede usarse con fines menos éticos y morales. Fines como desnudar a personas a través de un bot de Telegram. Como DeepNude, pero más fácil y a la vista de todos. Porque el mundo, en 2024, sigue sin estar preparado para un desafío como este.

Cuatro millones de usuarios. Esos son los que, de acuerdo a una investigación de la revista WIRED, reúnen mensualmente al menos 50 bots de Telegram cuyo único fin es generar imágenes o vídeos de personas reales desnudas. Dos de ellos, asegura la revista, tienen 400.000 usuarios mensuales. Otros, 14 para ser exactos, superan los 100.000 usuarios.

Estamos hablando de miles de personas que (potencialmente) han generado imágenes de otras personas desnudas sin su consentimiento. Esto es, a todas luces, una violación de la protección de datos o privacidad, así como de la intimidad, honor y propia imagen. Y lejos de ser algo inocente, es una práctica que puede tener (y tiene) un impacto real en la vida de las personas. Entre 2022 y 2023, el contenido pornográfico deepfake aumentó un 464%, según el estudio State of Deepfakes de Home Security Heroes. El 99% de ese contenido está protagonizado por mujeres.

Cómo funcionan. Según detallan desde WIRED, estos bots se venden con mensajes como “Puedo hacer lo que quieras con la cara o la ropa de la foto que me des” y, en su mayoría, requieren que el usuario compre tokens con dinero real o criptomonedas. Que generen el resultado prometido o sean una estafa es otra historia. Algunos de estos bots permiten subir fotos de las personas para, afirman, entrenar a la IA y generar imágenes más precisas. Otros no se anuncian como bots para desnudar, pero sí enlazan a bots capaces de hacerlo.

El problema de fondo. No es que este tipo de bots se puedan encontrar y usar en Telegram, que también, sino lo complicado que es frenar este contenido. En lo que concierne a Telegram, una deep web en sí misma, la aplicación de mensajería ya ha sido objeto de polémica en alguna ocasión por cosas como esta.

El último caso es reciente, de hecho: la detención de su fundador. Pavel Durov fue detenido en Francia por, aparentemente, haber contribuido a cometer delitos en Telegram por la falta de moderación. Desde Telegram se defendieron, alegando que es “absurdo afirmar que una plataforma o su propietario son responsables del abuso de esa plataforma”. Tras su detención, Durov aseguró que convertiría la moderación en una de las prioridades del servicio.

No obstante, cabe destacar que, a tenor del artículo de WIRED, Telegram ha eliminado los canales y bots reportados por la revista. Ahora bien, esos canales son lo que están, pero seguramente no estén todos los que son. Telegram, como indicábamos, en una deep web en sí misma que, no obstante, pone a disposición del usuario todas las herramientas necesarias para encontrar contenido. Un buscador, sin ir más lejos.

Atajarlo es complejo. Luchar contra los deepfakes es “básicamente una causa perdida”. Esas fueron las palabras de Scarlett Johansson allá por 2019. La actriz fue una de las primeras víctimas de los deepfakes pornográficos (ni la única, desde luego) y hoy, en 2024, lo cierto es que la situación sigue más o menos igual. Ha habido algunos movimientos por parte de las grandes tecnológicas, pero la realidad es que los deepfakes siguen campando a sus anchas.

Ejemplo de imagen falsa generada con IA durante los estragos del huracán Helene | Pulsa en la imagen para ver el tweet original

Es más, las herramientas actuales han hecho que sea todavía más sencillo hacerlo. ¿Quieres una foto de Bill Gates sujetando un arma? ¿A Taylor Swift en lencería o apoyando a Donald Trump? Puedes hacerlo directamente en Grok, la IA de X, por ejemplo. Aunque algunas plataformas como Midjourney o DALL-E bloquean las peticiones polémicas, cualquier persona puede con una simple búsqueda en Internet, tiempo libre, muchas imágenes y mala idea entrenar su propia IA para vete a saber qué.

Ejemplos. Podemos encontrar tantos como queramos. Los más recientes los tenemos en Estados Unidos: los deepfakes generados a raíz de los estragos del huracán Helene. En Corea del Sur el problema del porno deepfake ha llegado a las más altas esferas y se ha convertido en una cuestión de interés nacional. Tanto que, hace unos días, se aprobaron una serie de leyes que contemplan penas de cárcel y multas por generar y hasta ver este contenido sintético. “Cualquier persona que posea, compre, almacene o mire material sexual sintético ilegal estará sujeta a una pena de prisión de hasta tres años o una multa de hasta 30 millones de wones (20.000 euros al cambio)”, recogen en la BBC. Como dato, Telegram también ha jugado un papel importante en la difusión del contenido pornográfico sintético en Corea del Sur.

Qué se ha intentado. Uno de los enfoques de la industria es el marcaje del contenido generado mediante IA con marcas de agua invisibles. De momento, marcar el contenido como sintético o no depende del creador (Instagram y TikTok tienen herramientas para ello, por ejemplo), pero una marca de agua evitaría, o al menos reduciría, la difusión de contenido falso y fake news. Además, permitiría una detección temprana.

Sin embargo, la realidad es que su implantación a nivel global no es la norma. Si hablamos de contenido pornográfico sintético, el desafío es mucho mayor. No solo es una cuestión de moderación en las plataformas, sino de detección precoz, de evitar que se pueda hacer el daño. Una marca de agua no soluciona el problema per se, ya que tiene que implementarse.

Marca de agua para el contenido generado con IA propuesta por OpenAI | Imagen: OpenAI

Para que la marca de agua sea eficaz, esta debería implementarse en todos y cada uno de los modelos y herramientas de generación de contenido sintético. No solo en los comerciales, sino en los que un usuario puede ejecutar en local. De esa manera, todo el contenido generado por IA estaría marcado en origen y su detección por parte de los sistemas de las plataformas sería más sencilla. Pero una cosa es decirlo y otra muy distinta hacerlo.

Imagen | Wikimedia Commons y Pixabay editada por Xataka

En Xataka | Tenemos un gigantesco problema con las imágenes generadas por IA. Google cree tener la solución

Nuestro cerebro es fascinante, pero también increíblemente complejo de descifrar. Sabemos que es un “superordenador” capaz de hacer sus propias copias de seguridad, que tiene una “potencia de cálculo” de 1,4 petabytes por milímetro cúbico y poco a poco vamos aprendiendo más de él. Sigue guardando misterios (el Alzheimer es uno de ellos), pero la habilidad para sentir cuando alguien nos mira fijamente no es uno de ellos.

De hecho, es más una curiosidad evolutiva que una función alucinante de nuestro cerebro. Y tiene un nombre: escopaestesia.

La mirada psíquica. Si alguna vez, en un espacio público rodeado de personas, has sentido que alguien te estaba mirando fijamente, te has dado la vuelta y, efectivamente, alguien te observaba, sabrás de lo que estamos hablando. Tener esa sensación de estar siendo observado, además de escopaestesia, recibe el nombre de “efecto de la mirada psíquica“. Y es algo que ha sido estudiado tanto por psicólogos como por parapsicólogos.

Un sexto sentido. Edward B. Titchener fue un psicólogo que, en 1898, se dio cuenta de que algunos estudiantes de primaria podían sentir cuando alguien los observaba a sus espaldas. No era algo nuevo, ya que ese “hormigueo” en la nuca cuando pensamos que nos observan fijamente se había descrito antes y se daba en espacios públicos, como aularios o por la calle. Quienes habían experimentado eso afirmaban que ese hormigueo solo se pasaba cuando se giraban para comprobar que, efectivamente, los estaban mirando fijamente.

Nada de telepatía. Titchener recurrió a la razón para proponer una hipótesis. Su planteamiento fue que, cuando una persona tenía la sensación de ser observada y se giraba, otra persona que tuviera a la primera en el campo de visión notaría ese movimiento y la miraría. De este modo, la persona que se sentía observada vería que realmente alguien estaba observándola, reforzando su idea inicial.

Y la explicación del psicólogo para ese picorcito inicial en la nuca que desencadena lo demás se debe a que la persona se estaba concentrando en esa parte del cuerpo, de igual manera que enfocarse en una rodilla, un codo o un pie puede aumentar una sensibilidad irreal en esas zonas. Vamos, que si pones todo tu esfuerzo en pensar en el pie derecho, seguramente cualquier mota de polvo que pase al lado hará que te pique.

Más experimentos. Titchener realizó experimentos de laboratorio con aquellos que decían ser capaces de notar que alguien los miraba y con aquellos que afirmaban que eran capaces de hacer que la gente se volviera. En ambos casos, los resultados fueron “invariablemente negativos”. Pero como la ciencia no se hace sola, los experimentos de Titchener se replicaron varias veces a lo largo de los años.

En 1913, John Edgar Coover —psicólogo y parapsicólogo— pidió a 10 sujetos que dijeran si podían o no sentir que un experimentador los miraba. Con una muestra de 100 posibles periodos de observación, las respuestas de los sujetos fueron correctas el 50,2% de las veces. ¿La conclusión de Coover? Pues que era una “aproximación asombrosa de pura casualidad”, corroborando esa explicación de Titchener del hormigueo infundado.

Estudios polémicos. Parecía claro que era una mera casualidad y que Titchener tenía razón, pero el parapsicólogo Rupert Sheldrake no estaba convencido. A comienzos de la década de los 2000, realizó un experimento en el que los sujetos debían hacer lo mismo: decir cuándo creían estar siendo observados. En el mismo, se afirmó haber encontrado una tasa de aciertos del 53,1%, demasiado alta como para ser aleatoria (aunque… no deja de ser el 50% de las veces), pero se criticó el experimento argumentando que las secuencias utilizadas eran cortas y no aleatorias, lo que podía facilitar que los sujetos de prueba se aprendieran el patrón.

Tirando de tecnología. Vale, pero… ¿qué ocurre si metemos cámaras en la ecuación? Un experimento realizado en 1963 empleó cámaras de circuito cerrado para observar a los sujetos y el resultado fue un llamativo 74% de éxito. Sin embargo, se criticó el experimento alegando que no se había controlado adecuadamente y, en 2009, se replicó utilizando tanto cámaras como un sistema de monitorización de la conductancia de la piel para detectar, realmente, ese hormigueo.

Los observadores debían jugar a videojuegos mientras no miraban a los sujetos de prueba para evitar pensar en ellos y se pidió a los sujetos que indicaran el momento en el que sentían que estaban siendo observados. Los resultados fueron… inconcluyentes.

Y explicaciones simples. Vale, hemos visto muchos estudios y parece que no tenemos una habilidad sobrenatural o un sexto sentido para notar cuándo nos miran, pero… ¿entonces qué ocurre? En The Conversation, Francisco José Esteban Ruiz —profesor de biología celular en la Universidad de Jaén— y Sergio Iglesias Parro —profesor de psicología en la misma universidad— comentan que uno de los factores que puede explicar esta sensación es que estamos diseñados para estar en constante vigilancia, incluso cuando no prestamos atención de manera consciente.

Esto es un sistema de alerta denominado “atención exógena” y es “la capacidad del cerebro para reaccionar automáticamente a estímulos repentinos o cambios en nuestro entorno”. Es algo que ha resultado crucial para la supervivencia humana, una habilidad para notar cuándo otro humano enemigo o un depredador están acechando. Actualmente no es algo necesario para sobrevivir estrictamente hablando, pero se nos ha quedado como un reflejo que puede seguir siendo útil, como a la hora de percibir peligros por la calle.

“Superpoderes”. De esta forma, inconscientemente podemos notar elementos que cambian a nuestro alrededor, como el movimiento ocular de otra persona, y ahí entra en juego la visión periférica. Con ella, no podemos ver claramente debido a que no estamos enfocando, pero se trata de una herramienta que permite notar cualquier minúsculo cambio.

¿Has visto vídeos de personas que prácticamente dan la espalda a un bebé a punto de caerse y, en el último momento, se dan cuenta de que eso va a ocurrir y reaccionan con unos reflejos dignos de Spider-Man? Pues ese es un ejemplo de lo bien que funciona nuestra visión periférica y lo alucinantes que son nuestros “reflejos” en esos momentos, que no es más que el cerebro procesando información sin que lo sepamos de manera consciente.

También somos un poco egocéntricos. Aquí también tiene que ver cómo somos. Por ejemplo, si alguna vez hemos notado ese hormigueo y nos volvemos para mirar, ya hemos visto que una persona a nuestra espalda puede notar nuestro giro de cabeza y mirar de forma instintiva. Sin embargo, pensaremos que nos estaba observando y lo que puede pasar es que eso condicione nuestro pensamiento al haber confirmado nuestra sospecha. También somos un poco egocéntricos y, cuando estamos en situaciones nuevas o incómodas, pensamos que todo el mundo nos está observando.

Por ejemplo, cuando vamos a un gimnasio por primera vez, con algo de vergüenza, y pensamos que todos están pendientes de nosotros en lugar de lo que realmente ocurre: que el resto de personas van a lo suyo.

Hay casos… y casos. Ahora bien, Sergio y José exponen que, en casos extremos, esa sensación de recibir miradas ajenas puede estar relacionada con la paranoia, sobre todo en personas que padecen ansiedad. Si ya están hipervigilantes, confirmar sus sospechas de que están siendo observadas puede llevar a que interpreten cualquier pequeño gesto como eso, que los están juzgando. Pero más allá de estos casos, esta escopaestesia o mirada psíquica es de lo más normal.

Imagen | prostooleh

En Xataka | El cerebro se acostumbra a todo y eso es veneno para nuestra productividad. Los consejos de una neurocientífica para evitarlo

Nuevo sábado nuevo día de restricciones del Hoy No Circula. Y es que como seguro que ya conoces, las restricciones del programa ideado por la Secretaría del Medio Ambiente de la CDMX (SEDEMA) cuenta con sus propias normas el sábado.

Este plan, diseñado para reducir las emisiones contaminantes presentes en la atmósfera, saca de la ecuación a algunos automóviles específicamente los sábados. De esta manera, se reducen los automóviles que circulan y, evidentemente, las partículas contaminantes que respiramos.

Estas restricciones, por tanto, obligan a algunos automóviles a quedarse en casa allí donde se aplican. ¿Dónde es esto?  En las 16 alcaldías en la Ciudad de México y en los siguientes municipios conurbados del Estado de México:

• Atizapán de Zaragoza
• Coacalco de Berriozábal
• Cuautitlán
• Cuautitlán Izcalli
• Chalco
• Chicoloapan
• Chimalhuacán
• Ecatepec de Morelos
• Huixquilucan
• Ixtapaluca
• La Paz
• Naucalpan de Juárez
• Nezahualcóyotl
• Nicolás Romero
• Tecámac
• Tlalnepantla de Baz
• Tultitlán
• Valle de Chalco

A qué autos y placas afecta el Hoy No Circula sabatino

Teniendo todo esto en cuenta, lo primero que hay que entender es cómo funciona el Hoy No Circula y qué normas se aplican los sábados. Restricciones que se ponen en marcha utilizando como referencia el holograma de cada coche.

Estas limitaciones, que se aplican entre las 05:00 y las 22:00 horas, obligan a que algunos coches se queden en casa todas las semanas y otros, sin embargo, podrán moverse con total libertad. Por último, algunos sólo tendrán que hacerlo en sábados alternos…

Para tener una fotografía más clara de lo que estamos hablando, el Hoy No Circula sabatino se aplica de la siguiente manera:

• Los que pueden circular todos los sábados
• Los que tienen que descansar todos los sábados
• Los que descansan un sábado sí y otro no

Una vez tenemos todo esto en la cabeza. Lo primero que tenemos que tener claro es que los dueños de los coches con holograma 0 y 00 no tendrán que hacer frente a restricciones ningún sábado del año. Cualquier sábado, los coches con esta categoría pueden circular cuando quieran.

Todo lo contrario sucede con los autos con holograma dos. En este caso, los dueños no tienen tanta suerte y estarán obligados a quedarse en casa todos los sábados del año. Aquí, no hay mucho que pensar: sábado es sinónimo de dejar en casa el coche.

Los que pueden tener más dudas son los coches con holograma uno. En este caso, las restricciones se aplican alternativamente, semana sí y semana no. Esto dependerá del número de placa. Si el último número es impar, descansaremos los sábados de las semanas impares. Si es par, lo contrario.

En este caso, estamos ante el cuarto sábado del mes de octubre. Esto quiere decir que tendrán que quedarse en casa los coches con holograma uno y número de placa terminado en número par.

Pese a ello, no hay que olvidar que existen algunas excepciones que permiten la circulación de vehículos concretos como cualquier otro día de la semana. En este caso, no se aplica el Hoy No Circula y, por supuesto, tampoco el Hoy No Circula sabatino:

• Aquellos con holograma 0 y 00
• Aquellos que funcionan a electricidad, gas natural o sean híbridos
• Los que poseen placa para discapacitados
• Todos aquellos dedicados a servicios de transporte urbano (incluye los funerarios)
• Los que ofrezcan transporte escolar o de pasajeros
• Aquellos destinados a la seguridad pública y/o protección civil

En caso de incumplir estas restricciones, la multa será de 20 a 30 veces la Unidad de Medida y Actualización (UMA), lo que equivale a 1,924.40 pesos y hasta 2,886.60 pesos.

Imagen | engin akyurt

En Xataka | La contaminación no sólo te está haciendo vivir menos y peor. También te está haciendo más tonto