Connect with us

Actualidad

bots que desnudan a personas con IA

Published

on


Corría el año 2019. La IA generativa todavía estaba en pañales, pero ya empezaban a escucharse y hacer ruido términos como redes neuronales (para bien, por su potencial) y deepfakes (normalmente, para mal). Uno de los escándalos más sonados de 2019 fue el de DeepNude, una web que permitía desnudar a cualquier mujer con solo subir una foto. Entre bambalinas, lo que había era una red neuronal que había sido entrenada con más de 10.000 fotos de mujeres desnudas.

La web llevaba meses circulando, pero tras su descubrimiento solo duró unas horas. El desarrollador, que decía llamarse Alberto y residir en Estonia, cerró la plataforma alegando que “la probabilidad de que la gente haga mal uso de esta” era “demasiado alta” (no se podía saber) y que “el mundo aún no está preparado para DeepNude”. Eso fue en 2019.

Hoy, en 2024, esta tecnología ha evolucionado hasta ser lo que es: un portento tecnológico cuya magnitud solo es igualada por el reto que supone frenar su mal uso. Porque la IA tiene infinitos casos de usos positivos, pero también puede usarse con fines menos éticos y morales. Fines como desnudar a personas a través de un bot de Telegram. Como DeepNude, pero más fácil y a la vista de todos. Porque el mundo, en 2024, sigue sin estar preparado para un desafío como este.

Cuatro millones de usuarios. Esos son los que, de acuerdo a una investigación de la revista WIRED, reúnen mensualmente al menos 50 bots de Telegram cuyo único fin es generar imágenes o vídeos de personas reales desnudas. Dos de ellos, asegura la revista, tienen 400.000 usuarios mensuales. Otros, 14 para ser exactos, superan los 100.000 usuarios.

Estamos hablando de miles de personas que (potencialmente) han generado imágenes de otras personas desnudas sin su consentimiento. Esto es, a todas luces, una violación de la protección de datos o privacidad, así como de la intimidad, honor y propia imagen. Y lejos de ser algo inocente, es una práctica que puede tener (y tiene) un impacto real en la vida de las personas. Entre 2022 y 2023, el contenido pornográfico deepfake aumentó un 464%, según el estudio State of Deepfakes de Home Security Heroes. El 99% de ese contenido está protagonizado por mujeres.

Cómo funcionan. Según detallan desde WIRED, estos bots se venden con mensajes como “Puedo hacer lo que quieras con la cara o la ropa de la foto que me des” y, en su mayoría, requieren que el usuario compre tokens con dinero real o criptomonedas. Que generen el resultado prometido o sean una estafa es otra historia. Algunos de estos bots permiten subir fotos de las personas para, afirman, entrenar a la IA y generar imágenes más precisas. Otros no se anuncian como bots para desnudar, pero sí enlazan a bots capaces de hacerlo.

El problema de fondo. No es que este tipo de bots se puedan encontrar y usar en Telegram, que también, sino lo complicado que es frenar este contenido. En lo que concierne a Telegram, una deep web en sí misma, la aplicación de mensajería ya ha sido objeto de polémica en alguna ocasión por cosas como esta.

El último caso es reciente, de hecho: la detención de su fundador. Pavel Durov fue detenido en Francia por, aparentemente, haber contribuido a cometer delitos en Telegram por la falta de moderación. Desde Telegram se defendieron, alegando que es “absurdo afirmar que una plataforma o su propietario son responsables del abuso de esa plataforma”. Tras su detención, Durov aseguró que convertiría la moderación en una de las prioridades del servicio.

El problema de fondo está en lo complicado que es frenar la creación y difusión de este tipo de contenido

No obstante, cabe destacar que, a tenor del artículo de WIRED, Telegram ha eliminado los canales y bots reportados por la revista. Ahora bien, esos canales son lo que están, pero seguramente no estén todos los que son. Telegram, como indicábamos, en una deep web en sí misma que, no obstante, pone a disposición del usuario todas las herramientas necesarias para encontrar contenido. Un buscador, sin ir más lejos.

Atajarlo es complejo. Luchar contra los deepfakes es “básicamente una causa perdida”. Esas fueron las palabras de Scarlett Johansson allá por 2019. La actriz fue una de las primeras víctimas de los deepfakes pornográficos (ni la única, desde luego) y hoy, en 2024, lo cierto es que la situación sigue más o menos igual. Ha habido algunos movimientos por parte de las grandes tecnológicas, pero la realidad es que los deepfakes siguen campando a sus anchas.


Ejemplo de imagen falsa generada con IA durante los estragos del huracán Helene | Pulsa en la imagen para ver el tweet original
Ejemplo de imagen falsa generada con IA durante los estragos del huracán Helene | Pulsa en la imagen para ver el tweet original

Ejemplo de imagen falsa generada con IA durante los estragos del huracán Helene | Pulsa en la imagen para ver el tweet original

Es más, las herramientas actuales han hecho que sea todavía más sencillo hacerlo. ¿Quieres una foto de Bill Gates sujetando un arma? ¿A Taylor Swift en lencería o apoyando a Donald Trump? Puedes hacerlo directamente en Grok, la IA de X, por ejemplo. Aunque algunas plataformas como Midjourney o DALL-E bloquean las peticiones polémicas, cualquier persona puede con una simple búsqueda en Internet, tiempo libre, muchas imágenes y mala idea entrenar su propia IA para vete a saber qué.

Ejemplos. Podemos encontrar tantos como queramos. Los más recientes los tenemos en Estados Unidos: los deepfakes generados a raíz de los estragos del huracán Helene. En Corea del Sur el problema del porno deepfake ha llegado a las más altas esferas y se ha convertido en una cuestión de interés nacional. Tanto que, hace unos días, se aprobaron una serie de leyes que contemplan penas de cárcel y multas por generar y hasta ver este contenido sintético. “Cualquier persona que posea, compre, almacene o mire material sexual sintético ilegal estará sujeta a una pena de prisión de hasta tres años o una multa de hasta 30 millones de wones (20.000 euros al cambio)”, recogen en la BBC. Como dato, Telegram también ha jugado un papel importante en la difusión del contenido pornográfico sintético en Corea del Sur.

Qué se ha intentado. Uno de los enfoques de la industria es el marcaje del contenido generado mediante IA con marcas de agua invisibles. De momento, marcar el contenido como sintético o no depende del creador (Instagram y TikTok tienen herramientas para ello, por ejemplo), pero una marca de agua evitaría, o al menos reduciría, la difusión de contenido falso y fake news. Además, permitiría una detección temprana.

Sin embargo, la realidad es que su implantación a nivel global no es la norma. Si hablamos de contenido pornográfico sintético, el desafío es mucho mayor. No solo es una cuestión de moderación en las plataformas, sino de detección precoz, de evitar que se pueda hacer el daño. Una marca de agua no soluciona el problema per se, ya que tiene que implementarse.

Marca de agua para el contenido generado con IA propuesta por OpenAI | Imagen: OpenAI
Marca de agua para el contenido generado con IA propuesta por OpenAI | Imagen: OpenAI

Marca de agua para el contenido generado con IA propuesta por OpenAI | Imagen: OpenAI

Para que la marca de agua sea eficaz, esta debería implementarse en todos y cada uno de los modelos y herramientas de generación de contenido sintético. No solo en los comerciales, sino en los que un usuario puede ejecutar en local. De esa manera, todo el contenido generado por IA estaría marcado en origen y su detección por parte de los sistemas de las plataformas sería más sencilla. Pero una cosa es decirlo y otra muy distinta hacerlo.

Imagen | Wikimedia Commons y Pixabay editada por Xataka

En Xataka | Tenemos un gigantesco problema con las imágenes generadas por IA. Google cree tener la solución

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

Los anuncios de Facebook Marketplace se están llenando de mujeres sexys generadas con IA y hay una razón muy concreta detrás

Published

on


Lo de vender en plataformas de compraventa no siempre es tarea sencilla. Que los anuncios se pasen semanas sin que nadie se interese por ellos es bastante habitual, especialmente si lo que queremos vender es algo caro como un coche o una moto. Ante este problema, hay vendedores de Facebook Marketplace que han encontrado la fórmula para destacar entre la multitud sin tener que pagar por promocionar su anuncio. 

Mujeres generadas con IA. Lo cuentan en Business Insider. En Facebook Marketplace en Estados Unidos, cada vez es más habitual encontrar anuncios de coches y otros artículos en los que aparecen una o varias mujeres guapísimas; motos, coches y hasta piezas de tractores rodeadas de mujeres sospechosamente perfectas, sonriendo a cámara como si estuvieran posando para una revista. En el subreddit ‘isThisAI’ muchos usuarios discuten sobre estas imágenes, que como ya hemos adelantado están generadas con IA . El objetivo detrás es evidente: captar la atención de los potenciales compradores. 

El caso del Jeep Wrangler. El reportaje narra la historia de Rogelio Llamas, un californiano que está intentando vender su Jeep Wrangler. En el anuncio, junto al coche,  hay una mujer en bikini, shorts y botas de cowboy, pero no es real, sino que la añadió posteriormente con IA. Lo llamativo de su caso es que no era una mujer delgada, sino que optó por una más voluminosa. Dice que tomó la idea de un youtuber de compraventa que decía que así generaría más curiosidad. 

Mucho clic, poca compra. El objetivo es hacer destacar su anuncio sobre el resto, aumentando así las posibilidades de venta, o al menos esa es la teoría. Según este vendedor, el anuncio consiguió un montón de visitas e incluso recibió mensajes de personas preguntando cosas como si la chica va incluida en el coche. La realidad es que 19 semanas después, el coche sigue a la venta. 

El reclamo de la chica guapa. La publicidad y el sexismo han ido de la mano durante décadas, especialmente en ciertos artículos tradicionalmente masculinos como coches, barcos e incluso lo hemos visto en las ferias de tecnología  como el Mobile World Congress. Afortunadamente nos hemos ido quitando ese lastre, pero estas “azafatas IA” sirven el mismo propósito: ser el reclamo para llamar la atención del público masculino. Eso sí, no todos los anuncios que usan IA para destacar van en esa línea, hay otros que buscan simplemente impactar y explotar el factor sorpresa, como este de un luchador de sumo dentro de un cajón de herramientas.

Hemos dado una vuelta por Facebook Marketplace en España y también otras plataformas como Wallapop y Milanuncios y no hemos encontrado ejemplos de esta práctica. Parece que, de momento, es una moda de Estados Unidos, pero quién sabe si terminaremos importándola.

Imagen | Reddit

En Xataka | La locura de los productos proteicos está invadiendo los supermercados. Y por eso ahora tenemos atún para machos

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

una máquina a 35.000 rpm limando tu piel hasta desaparecer

Published

on


En el siglo XIX, un médico francés adaptó una herramienta dental para tratar un padrastro inflamado del rey Louis Philippe I. Aquel pequeño invento, el llamado “orangewood stick”, acabó convirtiéndose en la base de la manicura moderna. Casi dos siglos después, esa misma lógica de empujar y cuidar la cutícula ha dado paso a algo mucho más radical: borrarla por completo.

La manicura convertida en obsesión. Las llamadas manicuras rusas han pasado en pocos años de ser una técnica casi de nicho nacida en Europa del Este a convertirse en una obsesión global impulsada por TikTok y por una estética cada vez más obsesionada con la perfección absoluta. La promesa es aparentemente simple: uñas impecables, limpias, pulidas al milímetro y con un acabado que dura semanas. 

Pero como contaba esta semana The Guardian, detrás de esa imagen perfecta hay algo mucho menos glamuroso: una pequeña máquina girando a 35.000 revoluciones por minuto que literalmente va limando la piel hasta hacer desaparecer la cutícula. Esa es la paradoja de esta tendencia, que cuanto más natural parece el resultado, más agresivo es el proceso para conseguirlo.

El precio de la perfección. Porque la técnica elimina por completo la cutícula en seco mediante una lima eléctrica, algo que cambia por completo la lógica de una manicura tradicional. Esa barrera de piel que normalmente protege la base de la uña desaparece para ampliar el “lienzo” del esmalte y conseguir que este llegue más abajo y dure más tiempo. 

El efecto visual es potentísimo, qué duda cabe, y por eso tantas clientes están dispuestas a pagar el doble por ello. De hecho, ya no se vende como un servicio rápido, sino como una pieza de artesanía estética donde cada milímetro importa y donde el acabado perfecto se ha convertido casi en una exigencia social.

Cuando la belleza entra en lo médico. El problema es que la cutícula no está ahí por capricho. Recordaban en Health que muchos dermatólogos llevan tiempo recordando que funciona como un sello biológico que impide la entrada de bacterias, hongos y otros agentes externos. Al retirarla por completo, se abre una puerta directa a infecciones como paroniquia u onicomicosis, además de inflamaciones crónicas, sensibilidad extrema o uñas más frágiles. 

Y el riesgo aumenta porque esta moda se ha disparado tan rápido que no siempre va acompañada de formación técnica sólida. Un error con una herramienta así no es un pequeño fallo estético, es, en el peor de los casos, tejido vivo siendo erosionado a alta velocidad.

La química detrás de unas uñas eternas. Contaban este mes en el New York Times que esa agresión mecánica se suma otra capa menos visible: la química. La Unión Europea ha empezado a prohibir algunos esmaltes de gel que contienen TPO, un compuesto clave para endurecer y fijar el esmalte bajo lámparas UV o LED. Bruselas ha decidido vetarlo por posibles riesgos reproductivos, aunque las evidencias en humanos todavía son limitadas. 

La decisión refleja un cambio importante: la preocupación ya no está solo en cómo se trabaja la uña, sino también en qué sustancias se usan para mantener esa durabilidad extrema que el mercado exige.

La manicura como lujo emocional. El auge de estas técnicas también dice mucho del momento cultural. En tiempos de incertidumbre económica, muchas personas recortan gastos grandes, pero mantienen pequeños lujos que les dan sensación de control y bienestar. 

Precisamente las uñas han entrado de lleno en esa categoría. Son visibles, duran semanas y generan esa pequeña recompensa constante al mirarlas. Para muchas clientas no es solo estética: es una forma de regulación emocional, una microinversión en autoestima que justifica precios más altos y sesiones de varias horas.

La nueva frontera del cuerpo perfecto. Si se quiere también, todo esto puede encajar en una tendencia más amplia: la de la industrialización de la belleza cotidiana. Igual que el skincare se volvió ciencia y el fitness se llenó de métricas, la manicura se ha convertido en un proceso de precisión quirúrgica donde la piel, la química y la máquina se combinan para perseguir un ideal visual cada vez más exigente. 

Desde ese prisma, la cuestión parece más encaminada a una pregunta incómoda: hasta dónde estamos dispuestos a llevar esa búsqueda. Porque cuando una tendencia convierte una barrera natural del cuerpo en un “defecto” que hay que borrar, quizá la obsesión por la imagen y lo impecable ya ha cruzado una línea demasiado roja.

Imagen | Wikimedia

En Xataka | El truco que hacía que tus uñas resistieran tanto ya no se podrá usar en Europa: Bruselas lo ha vetado

En Xataka | Maquillaje en pareja y hombres con las uñas pintadas: el fin de la estética de género ha llegado



ues de anuncios individuales.

Source link

Continue Reading

Actualidad

primeras comuniones que parecen ‘mini bodas’

Published

on


Menos (muchas menos), pero más caras (mucho más caras). En España cada vez es más difícil encontrarse con familias que organizan primeras comuniones, pero quienes deciden celebrar la ceremonia cristiana se rascan mucho más el bolsillo que hace unos años. Lo muestra con claridad el último informe de la Asociación Española de Consumidores (AEC), que revela que a día de hoy el coste medio de las primeras comuniones supera los 6.800 euros, un 21% más que en 2025 y bastante por encima de los 4.000 euros que se pagaban hace solo tres años.

Hay quien las describe ya como ‘bodas en miniatura’.

El dato: 6.800 euros. No hay nada escrito sobre cómo debe celebrarse una primera comunión. Más allá de los requisitos de la ceremonia religiosa, el sacramento y la catequesis, todo lo demás suele ser elección libre de la familia: ropa, flores, banquete, fotografía, regalos… Los últimos datos de AEC muestran que, a la hora de plantearse esos ‘extras’, cada vez más padres tiran de chequera y se meten en presupuestos que superan holgadamente los 6.000 euros.

Para ser más precisos, la asociación calcula que el coste medio de las celebraciones ya supera los 6.800 euros.

Año

Horquilla de presupuestos

Coste medio

2023

1.900-10.000 €

4.000 €

2024

5.000 €

2025

2.500-13.500 €

5.600 €

2026

3.200-15.800 €

6.800 €

¿A qué se dedica el dinero? Lo primero que deja claro AEC es que hay tantas primeras comuniones como familias. Las fiestas quizás se han encarecido con el paso del tiempo, pero eso no significa que en todos los casos lo hayan hecho igual. Según su estudio, lo habitual es que las celebraciones se muevan en una horquilla que oscila entre los 3.200 euros de las fiestas más económicas y los más de 15.800 que se pagan por las más ostentosas, con alrededor de 50 invitados. Los más espléndidos incluso disparan la factura hasta los 22.000 euros.

Se trata de una diferencia considerable, pero es que (al igual que ocurre en las bodas) el catálogo de extras de las primeras comuniones también es amplio. AEC calcula que en el caso de las niñas los vestidos pueden costar entre 90 y 1.900 euros, una cantidad a la que luego habrá que sumar los zapatos, guantes, medias y joyas. La peluquería engrosa aún más la factura, entre 20 y 140 euros. Si hablamos de chicos, los trajes oscilan entre los 110 y 820, dependiendo de si los padres quieren vestirlo de “marinero o almirante”.

Como en una boda. El vestuario es solo uno de los (muchos) gastos que hacen las familias, entre los que se puede incluir también servicio de fotografía, recuerdos, regalos, música… Y el mayor de todos, la comida. 

“Las primeras comuniones están teniendo una consideración similar a los banquetes de boda, dejando de ser celebraciones más íntimas y estrictamente familiares como hace años”, explica AEC antes de precisar que el cubierto oscila entre 50 y 220 euros, aunque el precio medio suele moverse en torno a 90. Si invitamos a medio centenar de personas, eso eleva la factura a 4.500.

Año

nº Bautizos

Nº de primeras comuniones

nº de confirmaciones

nº bodas

2007

325.271

256.587

96.766

113.187

2011

292.143

250.916

109.275

67.313

2015

231.254

240.094

115.764

51.810

2019

175.844

204.618

124.258

36.650

2024

146.370

154.677

103.535

31.462

Cogiendo perspectiva. Lo más curioso del estudio de AEC no son tanto las cifras que desgrana como la tendencia que dibuja. La asociación lleva ya unos cuantos años calculando el coste medio de las primeras comuniones en España y al comparar sus análisis se observa que la factura no ha parado de aumentar: en 2023 la media rondaba los 4.000 euros, en 2025 se había disparado ya a 5.600 y ahora supera los 6.800. En resumen: un alza del 70% en solo tres años.

“La celebración de esta ceremonia puede suponer un importante desembolso para las familias, muchas de ellas atravesando grandes dificultades económicas”, señala AEC. El aumento de la factura no se explica únicamente por la subida de precios (no solo se han encarecido las primeras comuniones, lo ha hecho la cesta de la compra). Otra clave son los servicios extra que se han ido popularizando, como los reportajes fotográficos o de vídeo a cargo de profesionales.

Más caras, menos frecuentes. Lo más curioso (o no) es que lo único que aumenta es el ticket medio de las primeras comuniones. Si hablamos del número de ceremonias la cosa es bastante diferente. Las memorias de actividad que publica cada año la Conferencia Episcopal Española reflejan que los sacerdotes imparten cada vez con menos frecuencia ese sacramento. Si en 2007 se celebraron 256.587, en 2017 eran ya 229.602 y en 2024 no llegaron a 154.700.

Ese descenso se explica por dos factores: cambios culturales y una pérdida de población joven, sobre todo en la última década. Desde 2015 la cohorte de niños de entre 5 y 9 años se redujo casi un 10%, una realidad que se nota de forma especial en zonas rurales donde las sesiones de catequesis reúnen a un puñado de aspirantes a la primera comunión.   

¿Celebramos menos? No. Celebramos distinto. Quizás la fiesta del sacramento cristiano esté de capa caída, pero en los últimos años han ganado fuerza otros festejos que reflejan la transformación de la propia sociedad española.

Por ejemplo, hay familias que han cambiado los bautizos cristianos por otros de carácter civil. En zonas como la Comunidad de Madrid, donde la población latinoamericana se ha disparado en las últimas décadas, cada vez es más fácil encontrarse también con fiestas de quinceañera, una costumbre importada que ha calado entre los autóctonos. 

Imagen | Shalone Cason (Unsplash)

En Xataka | 40.000 euros por decir “sí, quiero”: las bodas en España se han convertido en eventos y su precio se está disparando

ues de anuncios individuales.

Source link

Continue Reading

Trending