Tecnologia
Desinformar con IA generativa: los expertos evitan caer en el pesimismo
La masificación de la inteligencia artificial generativa como ChatGPT o Midjourney levantó las alarmas por su posible impacto en la desinformación, aunque expertos consultados por EFE son cautos y rehúsan caer en el pesimismo.
Algunos de estos modelos ya han producido imágenes falsas —pero muy verosímiles— sobre el papa o Donald Trump, sin embargo, a menor escala también han servido para acusar falsamente de sobornos a un alcalde australiano o de acoso sexual a un profesor en Washington.
Juan De Brigard, experto colombiano de la Fundación Karisma, encargada de promover los derechos humanos en el mundo digital, comparte a EFE Verifica dos inquietudes que atañen a la desinformación.
Por un lado, señala que se está generando un volumen “sin precedentes” de contenido que es muy difícil de filtrar, y por otra parte, habla de que las herramientas están programadas para que lo que digan “parezca plausible”, sin estar necesariamente apegadas a la verdad.
“No están hechas con ningún parámetro que resguarde o que se preocupe o que conserve la verdad”, menciona De Brigard sobre las inteligencias artificiales generativas.
Sus algoritmos son entrenados con millones de datos e imágenes que pueden contener sesgos, con el peligro de que se puedan reproducir después en sus respuestas.
“Los datos históricos utilizados para entrenar a los sistemas reflejan un sesgo sistémico de larga data, y la IA replica, y en ocasiones incluso exacerba ese sesgo”, aclara Maura Grossman, investigadora en la Escuela de Ciencias de la Computación de la Universidad de Waterloo (Canadá).
Incidencias documentadas
El repositorio de la organización ‘Contra Incidentes y controversias de IA, algoritmos y automatización’ (AIAAIC, en inglés) que recopila incidentes relacionados con el mal uso de la inteligencia artificial (IA), demuestra cómo en algunos casos estas nuevas tecnologías han contribuido a desinformar o han dado pie a afirmaciones erróneas.
Por ejemplo, este año en Venezuela se usaron “deepfakes“, videos en los que la inteligencia artificial crea avatares que parecen personas reales, para que presentadores de televisión sintéticos mintieran sobre la salud económica del país.
También en Estados Unidos, ChatGPT acusó falsamente a un profesor universitario de haber acosado a una alumna, citando un artículo inexistente del diario The Washington Post.
Este mismo chatbot mintió sobre supuestos sobornos recibidos por un alcalde australiano, quien amenazó a la plataforma con acciones legales si no se corregía la equivocación.
Asimismo, en el contexto de la guerra de Ucrania, desinformadores suplantaron la identidad del presidente ucraniano Volodimir Zelenski en un video en el que se le veía pidiendo la rendición de su ejército, pero que también había sido creado con inteligencia artificial.
Expertos en inteligencia artificial son cautos
Jorge Vilas Díaz Colodrero, abogado y director de la Diplomatura en Gobierno 4.0 de la Universidad Austral en Argentina, decía en un seminario reciente que la IA contiene “un poder inmenso”.
“El problema del hombre es cómo llevar el poder y no contaminarse”, precisa.
En ese sentido, Yann LeCun, científico jefe de IA en Meta, la empresa matriz de Facebook, opina que la desinformación y la propaganda “siempre han existido”, aún cuando “hasta ahora, eran artesanales”.
Por tanto, considera que el obstáculo de la desinformación “no es la dificultad de crear contenido, sino la dificultad de difundirlo ampliamente”.
LeCun destaca el impacto “enormemente positivo” que ha tenido la IA en “el filtrado y moderación de contenido en redes sociales, correo electrónico y otras plataformas de comunicación”.
De igual modo, confía en que “en el futuro habrá sistemas de diálogo que puedan verificar hechos” o programas que el periodismo pueda aprovechar como “un asistente humano con una gran memoria”.
La urgencia de regular
Todos los expertos consultados están de acuerdo en que la IA necesita regulación, aunque no hay consenso en cómo tiene que ser.
LeCun, de Meta, sostiene que la regulación “puede ayudar”, pero tales restricciones “pueden entrar fácilmente en conflicto con la libertad de expresión“.
Mientras que Grossman expone la que para ella es la mejor propuesta que conoce, fundamentada en la creación de una “agencia experta dedicada”.
“Como la Administración de Drogas y Alimentos de los Estados Unidos (FDA), que aprueba los medicamentos antes de que puedan lanzarse al mercado. Creo que debería haber una FDA que revise y apruebe algoritmos que probablemente tengan un impacto significativo y potencialmente negativo en la vida de las personas”, explica.
En ese aspecto, Vilas Díaz Colodrero cita a Andrea Renda, director de gobernanza mundial, regulación, innovación y economía digital del Center for European Studies (CEPS), quien aconseja algo como “la venganza del captcha”.
Así como hoy en día los usuarios pasan por pruebas de “captcha” cuando entran a una página web para que el sistema compruebe que no son un robot, Renda plantea que se regule para que los sistemas informen “sí o sí al humano de que eso ha sido creado por una inteligencia artificial”.
Desde 2021, la Unión Europea está estudiando una legislación para abordar la IA.
Por ahora la alternativa es una ley que clasificaría a los sistemas de IA en cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo.
Mientras las leyes llegan, y a pesar de los potenciales riesgos para la desinformación, los expertos sugieren que estos son manejables. Todos coinciden en que regular es imperativo, al mismo tiempo que varios de ellos recomiendan educar el criterio a la hora de consumir contenido en línea.
Con información de EFE
La entrada Desinformar con IA generativa: los expertos evitan caer en el pesimismo aparece primero en López-Dóriga Digital.
ues de anuncios individuales.
La red social TikTok dejó de funcionar este sábado en Estados Unidos, tras la decisión en la previa del Tribunal Supremo de avalar una ley aprobada por el Congreso que le obligaba a desvincularse de su empresa matriz, la china ByteDance, o enfrentarse al cierre.
La plataforma, que cuenta con 170 millones de usuarios en EE.UU., envió a muchos de ellos un aviso en sus teléfonos con el mensaje: “Lo sentimos, TikTok no está disponible en este momento”, atribuyendo el cese de sus operaciones a la legislación impulsada por el Congreso.
It looks like TikTok has officially been shut down in the US pic.twitter.com/I06Ks1wYBh
— Joe Pompliano (@JoePompliano) January 19, 2025
Sin embargo, según el Gobierno de Joe Biden, TikTok ha tomado esta decisión por iniciativa propia.Tras el fallo del Tribunal Supremo, la Casa Blanca anunció que el actual Ejecutivo no haría cumplir la ley, dejando su aplicación en manos del nuevo presidente, Donald Trump, quien asumirá el cargo el próximo lunes.
Precisamente este sábado en una entrevista con la cadena NBC, Trump afirmó que “probablemente” concedería a la plataforma una prórroga de 90 días para evitar su prohibición en Estados Unidos.
El mensaje de TikTok en los dispositivos de los usuarios apareció aproximadamente una hora y media antes de la entrada en vigor de la ley, prevista para las 00:01 h del domingo, hora del Este de Estados Unidos.
Al intentar acceder a la plataforma, los usuarios recibieron un aviso informando de que la aplicación estaba bloqueada con un mensaje en el que la empresa afirmaba: “Tenemos la suerte de que el presidente Trump ha indicado que trabajará con nosotros en una solución. ¡Permanezcan atentos!”.
Además, algunos usuarios informaron de que TikTok había sido retirada de la tienda de aplicaciones de Apple en EE.UU., por lo que ya no se puede descargar.
En la práctica, la entrada en vigor de la ley obliga a Apple y Google a eliminar TikTok de sus tiendas de aplicaciones, así como a las empresas de alojamiento web que colaboran con la plataforma, como Oracle y Amazon Web Services, a cortar relaciones con ella.
El incumplimiento de la norma, que fue aprobada por motivos de seguridad nacional, conlleva sanciones económicas significativas: las empresas que sigan apoyando a TikTok podrían enfrentarse a multas de hasta 5.000 dólares por usuario, lo que podría traducirse en miles de millones de dólares, dado el tamaño de su base de usuarios en EE.UU.
El viernes por la noche, TikTok ya advirtió que se vería obligada a suspender operaciones este domingo a menos que la Administración de Biden garantizase que no impondría multas a las compañías que respaldan la aplicación.
En respuesta, anoche, la portavoz de la Casa Blanca, Karine Jean-Pierre, calificó la declaración de TikTok de “maniobra publicitaria” y reiteró que el Gobierno de Biden no tenía intención de hacer cumplir la ley, dejando la decisión en manos de Trump.
La legislación, aprobada en abril de 2024, daba a ByteDance un plazo de nueve meses para vender sus operaciones en EE.UU. a un comprador que no fuera considerado un “adversario” del país y establecía que, de lo contrario, sería prohibida el 19 de enero por motivos de seguridad nacional.
El Gobierno de Biden y los legisladores que promovieron la norma consideran imprescindible que TikTok se desvincule de ByteDance por el riesgo de que el Gobierno chino pueda acceder a datos de usuarios estadounidenses o influir en el debate público del país.
Frente a estos argumentos, TikTok asegura que ha tomado medidas para proteger la privacidad de sus usuarios y niega que su plataforma pueda ser utilizada por Pekín como herramienta de propaganda.
Además de TikTok, la prohibición también ha afectado a CapCut, una popular aplicación de edición de video propiedad de ByteDance y utilizada por muchos creadores para generar contenido en la plataforma.
Aunque Trump decidiera revertir la medida, la entrada en vigor de esta ley marca la primera vez en la historia que EE.UU. prohíbe una red social a nivel nacional.
Con información de EFE
ues de anuncios individuales.
Source link
El presidente electo estadounidense, Donald Trump, confirmó este domingo que otorgará una prórroga a TikTok para que pueda operar en el país y anunció que le gustaría que empresas estadounidenses tuvieran una participación del 50 % en esa plataforma propiedad de ByteDance para mantenerla “en buenas manos”.
En su red social, Truth Social, solicitó a compañías estadounidenses que no permitan que TikTok “permanezca en la oscuridad”.
TikTok dejó de funcionar este sábado en Estados Unidos después de que el Tribunal Supremo avalara el viernes una ley aprobada el año pasado por el Congreso que obligaba a la plataforma a desvincularse de su empresa matriz, la china ByteDance, o enfrentarse al cierre.
La decisión de TikTok se aplicó aproximadamente una hora y media antes de la entrada en vigor de la ley, prevista para las 00.01 del domingo, hora del este de Estados Unidos.
Según el Gobierno de Joe Biden, TikTok tomó este paso por iniciativa propia, porque tras el fallo del Supremo la Casa Blanca anunció que el actual Ejecutivo no aplicaría la normativa y que su cumplimiento quedaría en manos de la nueva Administración de Trump, quien asumirá el cargo el lunes.
Trump apuntó que su orden ejecutiva extenderá el plazo acordado a TikTok de modo que se pueda llegar a un acuerdo para proteger la seguridad nacional.
“La orden también confirmará que no habrá responsabilidad para ninguna empresa que haya ayudado a evitar que TikTok desaparezca antes de mi orden”, dijo el mandatario electo, según el cual los estadounidenses merecen ver su “emocionante” investidura.
Trump consideró que si Estados Unidos obtiene una participación del 50 % en la empresa conjunta, se salva TikTok y se le permite prosperar.
Sin la aprobación de Estados Unidos, dijo, no hay TikTok.
Con su aprobación, “vale cientos de miles de millones de dólares, tal vez billones”.
“Mi idea inicial es una empresa conjunta entre los propietarios actuales y/o los nuevos propietarios, mediante la cual EE.UU. obtenga una propiedad del 50 % en una empresa conjunta establecida entre EE.UU. y la compra que elijamos”, concluyó
ues de anuncios individuales.
Source link
TikTok afirmó que se encuentra en proceso de restaurar su servicio en Estados Unidos por las garantías ofrecidas a sus proveedores por el mandatario electo estadounidense, Donald Trump, que asumirá el cargo el lunes.
“TikTok se encuentra en proceso de restablecer el servicio. Agradecemos al presidente Trump por brindar la claridad y la seguridad necesarias a nuestros proveedores de servicios de que no enfrentarán sanciones al brindar TikTok a más de 170 millones de estadounidenses”, dijo la plataforma en un comunicado.
Según añadió, trabajarán con el futuro mandatario en una solución a largo plazo que permita su funcionamiento en Estados Unidos.
TikTok dejó de funcionar este sábado en Estados Unidos después de que el Tribunal Supremo avalara el viernes una ley aprobada el año pasado por el Congreso que obligaba a la plataforma a desvincularse de su empresa matriz, la china ByteDance, o enfrentarse al cierre.
La decisión de TikTok se aplicó aproximadamente una hora y media antes de la entrada en vigor de la ley, prevista para las 00:01 del domingo, hora del este de Estados Unidos.
Según el Gobierno de Joe Biden, TikTok tomó este paso por iniciativa propia, porque tras el fallo del Supremo la Casa Blanca anunció que el actual Ejecutivo no aplicaría la normativa y que su cumplimiento quedaría en manos de la nueva Administración.
Trump afirmó este domingo que emitirá una orden ejecutiva en su primer día en el cargo para permitir de forma temporal que TikTok continúe operando y añadió que le gustaría que Estados Unidos asuma una propiedad parcial.
“Me gustaría que Estados Unidos tuviera una participación del 50 por ciento en una empresa conjunta. Al hacer esto, salvamos a TikTok, lo mantenemos en buenas manos y le permitimos seguir creciendo. Sin la aprobación de Estados Unidos, no hay TikTok. Con nuestra aprobación, vale cientos de miles de millones de dólares, tal vez billones”, escribió en su red social, Truth Social.
Con información de EFE
ues de anuncios individuales.
Source link
-
Actualidad2 días agoaguas a 86 grados capaces de cocinar a quien caiga dentro
-
Actualidad2 días agoEl legado musical de David Lynch: 10 canciones más allá del cine
-
Curiosidades2 días agoInstrucciones para ver el amanecer entre las chinampas de Xochimilco
-
Actualidad1 día agoSin esta tecnología NVIDIA no ganaría tanto dinero. Ni arrasaría en el mercado de las GPU como lo hace hoy
-
Curiosidades2 días ago¿Cómo es la mudanza del nuevo Presidente a la Casa Blanca?
-
Actualidad2 días ago
aguas a 86 grados capaces de cocinar a quien caiga dentro
-
Actualidad2 días agoMarc Murtra, nuevo presidente ejecutivo de Telefónica
-
Curiosidades2 días ago¿Cuándo toma protesta Donald Trump como presidente de Estados Unidos?