Connect with us

Tecnologia

Algunas IA aprendieron a engañar a los humanos

Published

on

Algunos sistemas de inteligencia artificial (IA) aprendieron ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.

Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.

El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”.

Park indicó que “los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables en la IA, como el engaño”.

En términos generales el equipo cree que surge porque una estrategia basada en ese comportamiento fue “la mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos”, afirmó Park citado por la revista.

Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden información falsa, mediante el engaño aprendido.

 Engaño premeditado

El arte de engañar es “especialmente probable” cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creación de alianzas).

El estudio repasa ejemplos en los que los sistemas de IA aprendieron a engañar para lograr un rendimiento experto en un tipo de juego o tarea, entre ellos Cicero, diseñado para jugar a Diplomacy.

Meta afirma que lo entrenó para que fuera “en gran medida honesto” y “nunca apuñalara intencionadamente por la espalda a sus aliados humanos”, sin embargo, “se dedica al engaño premeditado, rompe los tratos y dice falsedades descaradas”, asegura el estudio.

Un caso de engaño premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intención de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspiró con Alemania para engañar a Inglaterra.

Después de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defendería si alguien invadía esa zona y un vez convencida informó a Alemania de que estaban listos para atacar.

Otros sistemas de IA demostraron su capacidad para ir de farol en una partida de Poker Texas Hold’em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.

 No soy un robot

En el caso de ChatGPT 4, el estudio señala cómo engañó a un humano con un test Captcha (los que se hacen para señalar a una web que no somos un robot). Esa IA aseguró que no era un robot, pero que tenía un problema de visión que le dificultaba ver imágenes.

Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a “grandes avances en las capacidades de engaño” que pueden derivar en formas más avanzadas en el futuro, consideró Park.

Algunos sistemas han aprendido a engañar en pruebas para evaluar su seguridad, haciéndose los muertos para evitar ser detectados por un test diseñado para eliminar las variantes de IA que se replican rápidamente.

Los principales riesgos a corto plazo de la IA engañosa incluyen facilitar a agentes hostiles la comisión de fraudes y la manipulación de elecciones, según el artículo.

 Normativas estrictas

Los responsables políticos deben apoyar una normativa estricta para sistemas de IA potencialmente engañosos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, además los legisladores deberían considerar nuevas normas para la supervisión de los sistemas avanzados de IA, indica el equipo.

El investigador de la Universidad de Edimburgo Michael Rovatsos, que no participó en el estudio, consideró que “los sistemas de IA intentarán aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ningún concepto del engaño ni ninguna intención de hacerlo”.

Rovatsos, citado por el Science Media Centre (una plataforma de recursos científicos para periodistas) estimó que la única forma de evitar el engaño es que sus diseñadores lo eliminen como opción”.

Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, “razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones”.

Con información de EFE

La entrada Algunas IA aprendieron a engañar a los humanos aparece primero en López-Dóriga Digital.

ues de anuncios individuales.

Tecnologia

Eclipse lunar total tiñe de rojo el cielo desde Asia hasta América

Published

on


Un eclipse lunar total dejó este martes 3 de marzo de 2026 una ‘Luna de sangre‘ que será visible durante aproximadamente una hora desde el este de Asia hasta América central y del norte.

En Tokio, sobre las 20:00 h local la ‘Luna de sangre’ apenas era visible debido a las nubes que han cubierto el cielo durante todo el día.

Además de en Japón, el fenómeno puede observarse en Australia, en todo el Pacífico y en América central y del norte (donde es martes de madrugada), y en algunos puntos del oeste de Sudamérica.

En Asia central y la mayor parte de Sudamérica solo se observará un eclipse parcial, mientras que el fenómeno no será visible desde África ni Europa, detalló la NASA en su página web.

En México, la fase total del eclipse se pudo ver después de las 5:30 h local y fue visible en todo el país.

Un eclipse lunar se produce cuando la Luna atraviesa la sombra de la Tierra, bloqueando la luz del Sol que la ilumina. Cuando es total, como el de hoy, el satélite no queda completamente oscuro, sino que adquiere un tono rojo, debido a que parte de la luz solar es desviada por la atmósfera terrestre.

Todo el proceso se puede observar a simple vista y no requiere instrumentos especiales.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

Esta madrugada eclipse total de Luna o “Luna de sangre”

Published

on


La madrugada del 3 de marzo se podrá observar en México un eclipse total de Luna, un fenómeno en el que la Tierra se coloca entre el Sol y la Luna y proyecta su sombra sobre el satélite natural. Tip: el mejor horario para observarlo será de las 4.30 am a las 6.30 de la mañana.

El evento iniciará alrededor de las 02:44 de la madrugada con la fase penumbral, a las 03:50 h comenzará el eclipse parcial y a las 05:04 h iniciará la fase total, cuando la Luna se verá del característico tono rojizo conocido como “Luna de sangre”, con su punto máximo cerca de las 05:33 h y el final de la totalidad alrededor de las 06:03 de la mañana, antes de concluir por completo a las 07:17 (hora del centro de México).

Según la NASA, el color rojo ocurre porque la luz del Sol atraviesa la atmósfera terrestre, que filtra y dispersa la luz azul, dejando pasar principalmente los tonos rojizos que iluminan la superficie lunar.

Sigue a Ivonne Frid en Instagram

El eclipse será visible a simple vista en todo México y gran parte de América, especialmente durante la madrugada, mientras que en otras regiones del mundo se observará en distintos momentos de la noche o al anochecer.



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

Costa de la Antártida perdió más 12 mil 800 kilómetros cuadrados de hielo en 30 años

Published

on


La Antártida perdió, en 30 años, más 12 mil 800 kilómetros de costa en la línea de transición que separa el hielo que descansa en tierra del que flota en el mar. Un retroceso concentrado en el 23 por ciento de su superficie, la cual, por el cambio climático, respondió de “forma drástica”.

En un glaciar, la zona de transición entre la tierra y el mar, llamada línea de apoyo, es un indicador de su estabilidad. Un equipo de glaciólogos, encabezado por la Universidad de California (EE.UU.), elaboró un mapa de los cambios en esa zona del hielo circumpolar de la Antártida.

La investigación que publica PNAS concluye que en más del 77 por ciento de la costa no se han producido cambios, pero en un 23 % sí los ha habido, han sido rápidos y ese retroceso se atribuye al cambio climático, dijo a EFE el autor principal del estudio, Eric Rignot.

En algunas partes de la Antártida Occidental se observaron retrocesos notables de entre 10 y más de 40 kilómetros, una pérdida de hielo que en las zonas más vulnerables equivaldría a unas diez veces el tamaño de la ciudad estadounidense de Los Ángeles.

Rignot consideró “una buena noticia que el 77 por ciento no haya cambiado, las cosas podrían ser peores, pero en los lugares donde sí ha cambiado el retroceso ha sido impresionante”.

“Creo que una forma adecuada de describir esto es la siguiente: la Antártida es muy estable, pero en algunos lugares, donde el cambio climático ha afectado duramente, ha respondido de forma drástica, más bien como un castillo de naipes”.

El equipo analizó datos de 15 misiones satelitales para recopilar un registro a escala continental de la migración de la línea de apoyo de la capa de hielo antártica desde 1992 hasta 2025.

La capa de hielo se ha ido retirando de la línea de base a un ritmo medio de 442 kilómetros cuadrados al año, un retroceso que se concentró en el noreste y suroeste de la península Antártica, las tierras de Wilkes y George V en la Antártida Oriental, los sectores del mar de Bellingshausen, el mar de Amundsen y la plataforma de hielo Getz en la Antártida Occidental.

En los sectores del mar de Amundsen y Getz, los glaciares retrocedieron entre 10 y 40 kilómetros; el de la isla de Ina, 33 kilómetros; el Thwaites 26 y el glaciar Smith 42 kilómetros.

El equipo atribuyó estos cambios “profundos y rápidos a los lugares que estaban cerca de fuentes de agua cálida. Los cambios en los vientos provocados por el cambio climático han afectado primero y más a estos glaciares”, destacó Rignot, que también es investigador científico en el Laboratorio de Propulsión de la NASA.

La mayoría de los patrones de retroceso se puede explicar por la intrusión de agua oceánica cálida debajo de las capas de hielo, pero la importante migración de la línea de apoyo a lo largo del noreste de la península Antártica tiene factores que siguen siendo un misterio.

El estudio recopiló datos de múltiples misiones satelitales, entre ellas de proveedores comerciales de datos de radar de apertura sintética para la investigación polar.

El sector comercial -dijo Rignot- ha experimentado “un auge” y ahora ofrece capacidades de observación y flexibilidad que “superan con creces lo que han proporcionado las agencias espaciales. Se trata de un cambio de paradigma”.

Estos datos comerciales “no solo son de buena calidad y útiles, sino que, en algunos casos, suponen un salto cualitativo en lo que podemos hacer desde el espacio. Permiten avances científicos”.

Los resultados podrían servir, consideró el equipo, de referencia para las proyecciones sobre la pérdida futura de la capa de hielo antártica y el aumento del nivel del mar.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Trending