Connect with us

Tecnologia

Desinformar con IA generativa: los expertos evitan caer en el pesimismo

Published

on

La masificación de la inteligencia artificial generativa como ChatGPT o Midjourney levantó las alarmas por su posible impacto en la desinformación, aunque expertos consultados por EFE son cautos y rehúsan caer en el pesimismo.

Algunos de estos modelos ya han producido imágenes falsas —pero muy verosímiles— sobre el papa o Donald Trump, sin embargo, a menor escala también han servido para acusar falsamente de sobornos a un alcalde australiano o de acoso sexual a un profesor en Washington.

Juan De Brigard, experto colombiano de la Fundación Karisma, encargada de promover los derechos humanos en el mundo digital, comparte a EFE Verifica dos inquietudes que atañen a la desinformación.

Por un lado, señala que se está generando un volumen “sin precedentes” de contenido que es muy difícil de filtrar, y por otra parte, habla de que las herramientas están programadas para que lo que digan “parezca plausible”, sin estar necesariamente apegadas a la verdad.

“No están hechas con ningún parámetro que resguarde o que se preocupe o que conserve la verdad”, menciona De Brigard sobre las inteligencias artificiales generativas.

Sus algoritmos son entrenados con millones de datos e imágenes que pueden contener sesgos, con el peligro de que se puedan reproducir después en sus respuestas.

“Los datos históricos utilizados para entrenar a los sistemas reflejan un sesgo sistémico de larga data, y la IA replica, y en ocasiones incluso exacerba ese sesgo”, aclara Maura Grossman, investigadora en la Escuela de Ciencias de la Computación de la Universidad de Waterloo (Canadá).

Incidencias documentadas

El repositorio de la organización ‘Contra Incidentes y controversias de IA, algoritmos y automatización’ (AIAAIC, en inglés) que recopila incidentes relacionados con el mal uso de la inteligencia artificial (IA), demuestra cómo en algunos casos estas nuevas tecnologías han contribuido a desinformar o han dado pie a afirmaciones erróneas.

Por ejemplo, este año en Venezuela se usaron “deepfakes“, videos en los que la inteligencia artificial crea avatares que parecen personas reales, para que presentadores de televisión sintéticos mintieran sobre la salud económica del país.

También en Estados Unidos, ChatGPT acusó falsamente a un profesor universitario de haber acosado a una alumna, citando un artículo inexistente del diario The Washington Post.

Este mismo chatbot mintió sobre supuestos sobornos recibidos por un alcalde australiano, quien amenazó a la plataforma con acciones legales si no se corregía la equivocación.

Asimismo, en el contexto de la guerra de Ucrania, desinformadores suplantaron la identidad del presidente ucraniano Volodimir Zelenski en un video en el que se le veía pidiendo la rendición de su ejército, pero que también había sido creado con inteligencia artificial.

Expertos en inteligencia artificial son cautos

Jorge Vilas Díaz Colodrero, abogado y director de la Diplomatura en Gobierno 4.0 de la Universidad Austral en Argentina, decía en un seminario reciente que la IA contiene “un poder inmenso”.

“El problema del hombre es cómo llevar el poder y no contaminarse”, precisa.

En ese sentido, Yann LeCun, científico jefe de IA en Meta, la empresa matriz de Facebook, opina que la desinformación y la propaganda “siempre han existido”, aún cuando “hasta ahora, eran artesanales”.

Por tanto, considera que el obstáculo de la desinformación “no es la dificultad de crear contenido, sino la dificultad de difundirlo ampliamente”.

LeCun destaca el impacto “enormemente positivo” que ha tenido la IA en “el filtrado y moderación de contenido en redes sociales, correo electrónico y otras plataformas de comunicación”.

De igual modo, confía en que “en el futuro habrá sistemas de diálogo que puedan verificar hechos” o programas que el periodismo pueda aprovechar como “un asistente humano con una gran memoria”.

La urgencia de regular

Todos los expertos consultados están de acuerdo en que la IA necesita regulación, aunque no hay consenso en cómo tiene que ser.

LeCun, de Meta, sostiene que la regulación “puede ayudar”, pero tales restricciones “pueden entrar fácilmente en conflicto con la libertad de expresión“.

Mientras que Grossman expone la que para ella es la mejor propuesta que conoce, fundamentada en la creación de una “agencia experta dedicada”.

“Como la Administración de Drogas y Alimentos de los Estados Unidos (FDA), que aprueba los medicamentos antes de que puedan lanzarse al mercado. Creo que debería haber una FDA que revise y apruebe algoritmos que probablemente tengan un impacto significativo y potencialmente negativo en la vida de las personas”, explica.

En ese aspecto, Vilas Díaz Colodrero cita a Andrea Renda, director de gobernanza mundial, regulación, innovación y economía digital del Center for European Studies (CEPS), quien aconseja algo como “la venganza del captcha”.

Así como hoy en día los usuarios pasan por pruebas de “captcha” cuando entran a una página web para que el sistema compruebe que no son un robot, Renda plantea que se regule para que los sistemas informen “sí o sí al humano de que eso ha sido creado por una inteligencia artificial”.

Desde 2021, la Unión Europea está estudiando una legislación para abordar la IA.

Por ahora la alternativa es una ley que clasificaría a los sistemas de IA en cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo.

Mientras las leyes llegan, y a pesar de los potenciales riesgos para la desinformación, los expertos sugieren que estos son manejables. Todos coinciden en que regular es imperativo, al mismo tiempo que varios de ellos recomiendan educar el criterio a la hora de consumir contenido en línea.

Con información de EFE

La entrada Desinformar con IA generativa: los expertos evitan caer en el pesimismo aparece primero en López-Dóriga Digital.

ues de anuncios individuales.

Tecnologia

Ordena a SpaceX investigue explosión de otra nave Starship

Published

on


La Administración Federal de Aviación (FAA en inglés) ha exigido a SpaceX que investigue qué causó la explosión del cohete Starship, durante su octavo vuelo de prueba del jueves y advierte que estará presente en cada paso de esa investigación.

‘La FAA está exigiendo a SpaceX que realice una investigación sobre la pérdida del vehículo Starship durante las operaciones de lanzamiento el 6 de marzo’ desde Texas, indica un comunicado de la agencia federal.

La compañía aeroespacial SpaceX, de Elon Musk, realizaba ayer su nuevo vuelo de prueba, luego de la explosión de su séptimo vuelo el pasado enero, y poco después de que el Starship se separara del Super Heavy que la impulsa al espacio, perdió contacto con esta, que también explotó.

Leer también: Gobierno de Trump reitera que Google debe vender su navegador Chrome

El pasado enero la explosión causó que los escombros se esparcieron por el Caribe, y en esta ocasión, los restos del Starship sorprendieron a conductores y transeúntes en Florida que no entendían qué estaba pasando y veían lo que describieron como una “nave a la deriva”. Cuatro aeropuertos fueron cerrados en el estado.

‘Una investigación de accidente está diseñada para mejorar la seguridad pública, determinar la causa del evento e identificar acciones correctivas para evitar que vuelva a suceder’, indica además el comunicado de la FAA, que investiga también la explosión del séptimo vuelo de prueba.

La agencia advirtió que estará presente ‘en cada paso del proceso de investigación’ del accidente y que deberá aprobar el informe final de SpaceX, incluidas las acciones correctivas.

También advirtió que otro vuelo de prueba estará basado en que la FAA ‘determine que cualquier sistema, proceso o procedimiento relacionado con el accidente no afecta la seguridad pública’

Con información de EFE.



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

Gobierno de Trump reitera que Google debe vender su navegador Chrome

Published

on


El Departamento de Justicia de EE.UU. aumentó este viernes sus esfuerzos contra la empresa Google para que venda su navegador Chrome, tras una decisión de un tribunal en agosto pasado, que halló a la compañía culpable de monopolio.

La agencia acudió hoy a un tribunal federal en Washington DC donde insistió en su propuesta de noviembre para dividir Google con la venta del navegador más popular del mundo, de acuerdo con The Washington Post.

Justicia insistió en su petición al tribunal de que “Google debe deshacerse del navegador Chrome, un importante punto de acceso de búsqueda, para brindar una oportunidad a un nuevo rival para operar una puerta de enlace importante para buscar en Internet, “libre del control monopólico de Google”, señala The Washington Post.

Mantener la misma línea que el Departamento de Justicia de la Administración del presidente Joe Biden es el primer paso importante de la división antimonopolio bajo el mandato de Donald Trump, y llega incluso antes de que la nueva jefa de la división, Gail Slater, haya sido confirmada por el Senado, destaca el diario.

Leer también: SpaceX confirma que perdió a su cohete Starship poco después de su lanzamiento

En agosto del año pasado un juez federal determinó que la empresa ha violado la ley antimonopolio en el mercado de los motores online de búsqueda, en el primer gran juicio de este tipo contra el gigante de internet.

El juez Amit Mehta, del tribunal del Distrito de Columbia, que había dictaminado que Google tenía un monopolio ilegal, decidirá sobre las medidas finales en abril. Los portavoces de Google no respondieron de inmediato a una solicitud de comentarios, señala además The Washington Post.

Con información de EFE.



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

SpaceX confirma que perdió a su cohete Starship poco después de su lanzamiento

Published

on


La compañía SpaceX lanzó finalmente este jueves su octavo vuelo de prueba del Starship, pero poco después perdió contacto con la nave, según confirmó poco después la empresa de Elon Musk.

“SpaceX confirma que la etapa superior de la nave Starship para el vuelo 8 se perdió después de perder los motores y el control de la marea unos 20 segundos antes de completar su ascenso”, indicó en su cuenta de X y agregó que pronto comenzarán una investigación sobre lo ocurrido, que parece recordar a un fallo similar que condenó al vehículo espacial Flight 7 de SpaceX en enero.

Explicó que durante el ascenso de Starship, el vehículo sufrió “un desmontaje rápido e imprevisto y se perdió el contacto. Nuestro equipo comenzó de inmediato a coordinarse con los funcionarios de seguridad para implementar respuestas de contingencia planificadas previamente”.

El incidente ocurrió poco después de que las dos partes de la nave se separaran y que el Super Heavy, que la impulsa, regresara con éxito a su base en Texas, por tercera ocasión en estas pruebas, en medio de los aplausos del público que acudió a presenciar el evento.

Leer también: Matrimonios de menores afectan al 21% de mujeres de Latinoamérica y Caribe, dice Unicef

El incidente de este jueves ocurre luego de haber sido cancelado en tres ocasiones esta prueba -inicialmente prevista para el 28 de febrero- una de ellas el pasado lunes por razones técnicas y de que una nave explotara el pasado enero y los pedazos se esparcieran por el Caribe, tras lo cual la Administración Federal de Aviación (FAA, sigla en inglés) inició una investigación.

No obstante, SpaceX contaba con el visto bueno de la FAA para hacer esta nueva prueba, en medio de la investigación.

“Vimos que varios de los motores empezaban a pararse. Una vez que se pierden suficientes motores centrales, se pierde el control de la actitud. Y entonces vimos que la nave comenzó a girar y, en ese momento, perdimos contacto con la nave”, dijo Dan Huot, de Comunicaciones de SpaceX que hacía la trasmisión junto a la ingeniera Kathy Tice.

“Obviamente, hay mucho que analizar, mucho que investigar y vamos a hacerlo de inmediato”, indicó además Huot durante los comentarios en vivo del lanzamiento. “Tenemos mucho más que aprender sobre este vehículo”, afirmó.

La nave despegó a las 18:30 horas impulsado por el Super Heavy desde la base de SpaceX en Boca Chica, en el sur de Texas, en la frontera con México.

Con información de EFE.



ues de anuncios individuales.

Source link

Continue Reading

Trending