Connect with us

Tecnologia

Algunas IA aprendieron a engañar a los humanos

Published

on

Algunos sistemas de inteligencia artificial (IA) aprendieron ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.

Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.

El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”.

Park indicó que “los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables en la IA, como el engaño”.

En términos generales el equipo cree que surge porque una estrategia basada en ese comportamiento fue “la mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos”, afirmó Park citado por la revista.

Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden información falsa, mediante el engaño aprendido.

 Engaño premeditado

El arte de engañar es “especialmente probable” cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creación de alianzas).

El estudio repasa ejemplos en los que los sistemas de IA aprendieron a engañar para lograr un rendimiento experto en un tipo de juego o tarea, entre ellos Cicero, diseñado para jugar a Diplomacy.

Meta afirma que lo entrenó para que fuera “en gran medida honesto” y “nunca apuñalara intencionadamente por la espalda a sus aliados humanos”, sin embargo, “se dedica al engaño premeditado, rompe los tratos y dice falsedades descaradas”, asegura el estudio.

Un caso de engaño premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intención de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspiró con Alemania para engañar a Inglaterra.

Después de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defendería si alguien invadía esa zona y un vez convencida informó a Alemania de que estaban listos para atacar.

Otros sistemas de IA demostraron su capacidad para ir de farol en una partida de Poker Texas Hold’em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.

 No soy un robot

En el caso de ChatGPT 4, el estudio señala cómo engañó a un humano con un test Captcha (los que se hacen para señalar a una web que no somos un robot). Esa IA aseguró que no era un robot, pero que tenía un problema de visión que le dificultaba ver imágenes.

Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a “grandes avances en las capacidades de engaño” que pueden derivar en formas más avanzadas en el futuro, consideró Park.

Algunos sistemas han aprendido a engañar en pruebas para evaluar su seguridad, haciéndose los muertos para evitar ser detectados por un test diseñado para eliminar las variantes de IA que se replican rápidamente.

Los principales riesgos a corto plazo de la IA engañosa incluyen facilitar a agentes hostiles la comisión de fraudes y la manipulación de elecciones, según el artículo.

 Normativas estrictas

Los responsables políticos deben apoyar una normativa estricta para sistemas de IA potencialmente engañosos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, además los legisladores deberían considerar nuevas normas para la supervisión de los sistemas avanzados de IA, indica el equipo.

El investigador de la Universidad de Edimburgo Michael Rovatsos, que no participó en el estudio, consideró que “los sistemas de IA intentarán aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ningún concepto del engaño ni ninguna intención de hacerlo”.

Rovatsos, citado por el Science Media Centre (una plataforma de recursos científicos para periodistas) estimó que la única forma de evitar el engaño es que sus diseñadores lo eliminen como opción”.

Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, “razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones”.

Con información de EFE

La entrada Algunas IA aprendieron a engañar a los humanos aparece primero en López-Dóriga Digital.

ues de anuncios individuales.

Tecnologia

Microplásticos se pueden acumular más en el cerebro que en el riñón o el hígado

Published

on


Los microplásticos pueden acumularse en niveles más altos en el cerebro humano que en el riñón y el hígado, con mayores concentraciones detectadas en muestras post mortem de 2024 que en las de 2016, apunta un estudio.

Aunque las posibles implicaciones para la salud humana siguen sin estar claras, estos hallazgos ponen de relieve una consecuencia del incremento de las concentraciones globales de plásticos ambientales, señalan los científicos responsables de la investigación, publicada en la revista Nature Medicine.

En este sentido, recuerdan que la cantidad de nanopartículas y micropartículas de plástico ha aumentado exponencialmente en los últimos 50 años.

Matthew Campen y su equipo de ciencias de la salud de la Universidad de Nuevo México (EE. UU.) utilizaron técnicas novedosas para analizar la distribución de micro y nanopartículas en muestras de tejidos hepáticos, renales y cerebrales de personas a las que se practicaron autopsias en 2016 y 2024.

Según Campen, las concentraciones de plástico en el cerebro parecían ser más altas que en el hígado o los riñones, y más elevadas que los informes anteriores para placentas y testículos.

Los hallazgos deberían activar la alarma”, afirmó en un comunicado de la universidad.

Para llegar a sus conclusiones, los investigadores analizaron un total de 52 muestras de cerebro (28 en 2016 y 24 en 2024); detectaron estas partículas en todas ellas y encontraron concentraciones similares en las muestras de tejidos de hígado y riñón obtenidas en 2016.

Sin embargo, las muestras de cerebro tomadas en ese momento, todas derivadas de la región de la corteza frontal, contenían concentraciones sustancialmente más altas de partículas de plástico que los tejidos de hígado y riñón.

El equipo también constató que las muestras de hígado y cerebro de 2024 tenían concentraciones significativamente más altas de micro y nanopartículas de plástico que las de 2016.

A continuación, compararon estos hallazgos con los de muestras de tejido cerebral de períodos anteriores (1997-2013) y observaron que había mayores concentraciones de partículas de plástico en las muestras de tejido más recientes.

Los científicos vieron asimismo una mayor concentración -10 veces más- de partículas micro y nanoplásticas en 12 cerebros de individuos con un diagnóstico documentado de demencia que en los que no lo tenían.

No obstante, sobre esto último, los propios autores señalan que los hallazgos no establecen una relación causal entre las partículas de plástico y los efectos sobre la salud.

Asimismo, sugieren que algunas variaciones en las muestras de cerebros podrían deberse a diferencias geográficas, ya que los ejemplares se tomaron en Nuevo México y en localidades de la costa este de Estados Unidos.

Por eso, dicen, se necesitan más estudios a largo plazo con poblaciones más amplias y diversas para determinar las tendencias de acumulación de micropartículas y nanopartículas y sus posibles implicaciones para la salud.

Estos resultados destacan la necesidad crítica de comprender mejor las vías de exposición, absorción y eliminación, y las posibles consecuencias para la salud de los plásticos en los tejidos humanos, en particular en el cerebro, concluyen los investigadores en su artículo.

En los últimos años han aparecido diversos estudios científicos sobre microplásticos y el cuerpo humano.

La pasada semana, por ejemplo, se publicó en la revista Pregnancy una investigación que indicaba que los microplásticos -menos de 5 milímetros- y los nanoplásticos, invisibles a simple vista, se habían encontrado en altas concentraciones en placentas de bebés nacidos prematuramente, más que en las de aquellos nacidos a término.

Y en el pasado se han hallado plásticos, entre otros, en la sección más profunda de los pulmones o en el torrente sanguíneo de los humanos.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

Proteína puede causar daño cerebral en enfermos de Alzheimer

Published

on


Un estudio del Barcelonaβeta Brain Research Center (BBRC), centro de investigación español de la Fundación Pasqual Maragall, ha identificado que la acumulación de la proteína beta amiloide puede, por sí sola, causar daño cerebral en etapas tempranas del Alzheimer.

El estudio del BBRC, publicado en la revista Alzheimer’s & Dementia: The Journal of the Alzheimer’s Association, proporciona nuevas claves sobre cómo se desarrolla esta enfermedad.

Los resultados del estudio, patrocinado por la Fundación “la Caixa”, han sido posibles gracias a la participación de 360 voluntarios de mediana edad sin deterioro cognitivo de la cohorte Alfa (grupo de individuos que comparten una característica común).

El hallazgo abre la puerta a enfoques preventivos y tratamientos más tempranos, que podrían ralentizar el avance de la enfermedad del Alzheimer.

Hasta ahora se creía que la neurodegeneración en el Alzheimer, especialmente la que afecta al lóbulo temporal medial del cerebro -una región esencial para la función de la memoria-, se producía únicamente cuando estaban presentes dos proteínas clave: la beta amiloide y la tau.

Te puede interesar: Microplásticos se pueden acumular más en el cerebro que en el riñón o el hígado

Sin embargo, este nuevo trabajo sugiere que la acumulación de la beta amiloide puede, por sí sola, desencadenar daño cerebral y pérdida de memoria en las primeras etapas, incluso sin la presencia de niveles altos de tau.

Para llegar a esta conclusión, el equipo de investigadores del BBRC, liderado por el doctor Raffaele Cacciaglia, ha trabajado con dos cohortes independientes de personas sin deterioro cognitivo, para analizar datos a través de resonancias magnéticas de alta resolución y marcadores de la enfermedad.

Los resultados demuestran que la acumulación de beta amiloide puede ser un indicador de cambios estructurales en el cerebro y un posible deterioro de la memoria antes de la aparición de síntomas evidentes.

Según el doctor Raffaele Cacciaglia, investigador del BBRC y líder del estudio, “en los últimos años se han aprobado los primeros medicamentos para reducir la acumulación de beta amiloide en el cerebro de personas en las primeras fases del Alzheimer”.

La investigación, ha añadido Cacciaglia, sugiere que “intervenir en etapas tempranas, antes de que aparezcan síntomas, podría ralentizar la progresión de la enfermedad”.

“La beta amiloide -ha precisado- parece afectar directamente el hipocampo, una región clave para la memoria, por lo que actuar de forma anticipada podría reducir significativamente los riesgos asociados al Alzheimer”.

Un paso más hacia la prevención del Alzheimer

El estudio ha analizado muestras de líquido cefalorraquídeo de 360 personas voluntarias de la cohorte Alfa impulsada por la Fundación “la Caixa”, y ha empleado tecnologías de última generación para capturar imágenes detalladas del hipocampo y otras estructuras del cerebro mediante técnicas avanzadas de resonancia magnética.

Además, los datos de los participantes Alfa se han cotejado con la cohorte de validación EPAD, sin síntomas de Alzheimer ni presencia de proteína tau.

El descubrimiento, según el cual la proteína beta amiloide por sí sola puede causar atrofia inicial en regiones críticas del cerebro, subraya la importancia de la detección temprana y la prevención.

Refuerza, además, la necesidad de los ensayos clínicos dirigidos a personas con perfiles de riesgo, antes de que el Alzheimer empiece a manifestarse.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

Trump pide a SpaceX traer a la Tierra cuanto antes a los astronautas varados en la EEI

Published

on


El magnate Elon Musk, consejero delegado de SpaceX, aseguró este martes que el presidente estadounidense, Donald Trump, pidió a su empresa aeroespacial traer de vuelta a la Tierra cuanto antes a los dos astronautas varados en la Estación Espacial Internacional (EEI).

En un mensaje en su red social, X, apuntó que el líder republicano le solicitó que el regreso tenga lugar lo antes posible y apuntó que se ha comprometido a hacerlo.

“Lo haremos. Es lamentable que la Administración de Joe Biden los haya dejado allí tanto tiempo”, sostuvo.

Sunita Williams, de 59 años, y Butch Wilmore, de 62, llevan en la EEI desde el pasado junio y la agencia espacial estadounidense (NASA) anunció a mediados de diciembre que no volverán a la Tierra hasta la primavera de 2025.

Los dos astronautas despegaron el 5 de junio desde Florida (EE.UU.) a bordo de la Starliner rumbo a la EEI como parte de la misión de prueba Crew Flight Test (CFT), el primer vuelo de Boeing que debía durar poco más de una semana.

Trump pide a SpaceX traer a la Tierra cuanto antes a los astronautas varados en la EEI - astronautas-butch-wilmore-y-suni-williams-1024x697Trump pide a SpaceX traer a la Tierra cuanto antes a los astronautas varados en la EEI - astronautas-butch-wilmore-y-suni-williams-1024x697
Astronautas Barry ‘Butch’ Wilmore y Sunita ‘Suni’ Williams. Foto de EFE/EPA/CRISTOBAL HERRERA-ULASHKEVICH

Te puede interesar: Un juez federal bloquea temporalmente la orden de Trump de congelar las ayudas federales

No obstante, poco antes de llegar se detectaron fugas de helio y fallos en los sistemas de propulsores que obligaron a extender la duración de la misión.

Este lunes, en una charla con alumnos de un instituto, Williams recalcó que lleva tanto tiempo en el espacio que está tratando de recordar cómo se camina.

“He estado aquí suficiente tiempo y ahora mismo estoy tratando de recordar cómo es caminar. No he caminado. No me he sentado. No me he acostado. No es necesario. Simplemente puedes cerrar los ojos y flotar donde estés”, les dijo.

La nave en la que viajaron acabó volviendo a la Tierra sin tripulación y la NASA determinó que los dos astronautas regresen a bordo de la cápsula Dragon de SpaceX. Según se dijo entonces, se estimó que esto tendría lugar “no antes de fines de marzo”.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Trending