Connect with us

Tecnologia

Algunas IA aprendieron a engañar a los humanos

Published

on

Algunos sistemas de inteligencia artificial (IA) aprendieron ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.

Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.

El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”.

Park indicó que “los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables en la IA, como el engaño”.

En términos generales el equipo cree que surge porque una estrategia basada en ese comportamiento fue “la mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos”, afirmó Park citado por la revista.

Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden información falsa, mediante el engaño aprendido.

 Engaño premeditado

El arte de engañar es “especialmente probable” cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creación de alianzas).

El estudio repasa ejemplos en los que los sistemas de IA aprendieron a engañar para lograr un rendimiento experto en un tipo de juego o tarea, entre ellos Cicero, diseñado para jugar a Diplomacy.

Meta afirma que lo entrenó para que fuera “en gran medida honesto” y “nunca apuñalara intencionadamente por la espalda a sus aliados humanos”, sin embargo, “se dedica al engaño premeditado, rompe los tratos y dice falsedades descaradas”, asegura el estudio.

Un caso de engaño premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intención de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspiró con Alemania para engañar a Inglaterra.

Después de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defendería si alguien invadía esa zona y un vez convencida informó a Alemania de que estaban listos para atacar.

Otros sistemas de IA demostraron su capacidad para ir de farol en una partida de Poker Texas Hold’em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.

 No soy un robot

En el caso de ChatGPT 4, el estudio señala cómo engañó a un humano con un test Captcha (los que se hacen para señalar a una web que no somos un robot). Esa IA aseguró que no era un robot, pero que tenía un problema de visión que le dificultaba ver imágenes.

Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a “grandes avances en las capacidades de engaño” que pueden derivar en formas más avanzadas en el futuro, consideró Park.

Algunos sistemas han aprendido a engañar en pruebas para evaluar su seguridad, haciéndose los muertos para evitar ser detectados por un test diseñado para eliminar las variantes de IA que se replican rápidamente.

Los principales riesgos a corto plazo de la IA engañosa incluyen facilitar a agentes hostiles la comisión de fraudes y la manipulación de elecciones, según el artículo.

 Normativas estrictas

Los responsables políticos deben apoyar una normativa estricta para sistemas de IA potencialmente engañosos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, además los legisladores deberían considerar nuevas normas para la supervisión de los sistemas avanzados de IA, indica el equipo.

El investigador de la Universidad de Edimburgo Michael Rovatsos, que no participó en el estudio, consideró que “los sistemas de IA intentarán aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ningún concepto del engaño ni ninguna intención de hacerlo”.

Rovatsos, citado por el Science Media Centre (una plataforma de recursos científicos para periodistas) estimó que la única forma de evitar el engaño es que sus diseñadores lo eliminen como opción”.

Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, “razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones”.

Con información de EFE

La entrada Algunas IA aprendieron a engañar a los humanos aparece primero en López-Dóriga Digital.

ues de anuncios individuales.

Tecnologia

Ordena a SpaceX investigue explosión de otra nave Starship

Published

on


La Administración Federal de Aviación (FAA en inglés) ha exigido a SpaceX que investigue qué causó la explosión del cohete Starship, durante su octavo vuelo de prueba del jueves y advierte que estará presente en cada paso de esa investigación.

‘La FAA está exigiendo a SpaceX que realice una investigación sobre la pérdida del vehículo Starship durante las operaciones de lanzamiento el 6 de marzo’ desde Texas, indica un comunicado de la agencia federal.

La compañía aeroespacial SpaceX, de Elon Musk, realizaba ayer su nuevo vuelo de prueba, luego de la explosión de su séptimo vuelo el pasado enero, y poco después de que el Starship se separara del Super Heavy que la impulsa al espacio, perdió contacto con esta, que también explotó.

Leer también: Gobierno de Trump reitera que Google debe vender su navegador Chrome

El pasado enero la explosión causó que los escombros se esparcieron por el Caribe, y en esta ocasión, los restos del Starship sorprendieron a conductores y transeúntes en Florida que no entendían qué estaba pasando y veían lo que describieron como una “nave a la deriva”. Cuatro aeropuertos fueron cerrados en el estado.

‘Una investigación de accidente está diseñada para mejorar la seguridad pública, determinar la causa del evento e identificar acciones correctivas para evitar que vuelva a suceder’, indica además el comunicado de la FAA, que investiga también la explosión del séptimo vuelo de prueba.

La agencia advirtió que estará presente ‘en cada paso del proceso de investigación’ del accidente y que deberá aprobar el informe final de SpaceX, incluidas las acciones correctivas.

También advirtió que otro vuelo de prueba estará basado en que la FAA ‘determine que cualquier sistema, proceso o procedimiento relacionado con el accidente no afecta la seguridad pública’

Con información de EFE.



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

Gobierno de Trump reitera que Google debe vender su navegador Chrome

Published

on


El Departamento de Justicia de EE.UU. aumentó este viernes sus esfuerzos contra la empresa Google para que venda su navegador Chrome, tras una decisión de un tribunal en agosto pasado, que halló a la compañía culpable de monopolio.

La agencia acudió hoy a un tribunal federal en Washington DC donde insistió en su propuesta de noviembre para dividir Google con la venta del navegador más popular del mundo, de acuerdo con The Washington Post.

Justicia insistió en su petición al tribunal de que “Google debe deshacerse del navegador Chrome, un importante punto de acceso de búsqueda, para brindar una oportunidad a un nuevo rival para operar una puerta de enlace importante para buscar en Internet, “libre del control monopólico de Google”, señala The Washington Post.

Mantener la misma línea que el Departamento de Justicia de la Administración del presidente Joe Biden es el primer paso importante de la división antimonopolio bajo el mandato de Donald Trump, y llega incluso antes de que la nueva jefa de la división, Gail Slater, haya sido confirmada por el Senado, destaca el diario.

Leer también: SpaceX confirma que perdió a su cohete Starship poco después de su lanzamiento

En agosto del año pasado un juez federal determinó que la empresa ha violado la ley antimonopolio en el mercado de los motores online de búsqueda, en el primer gran juicio de este tipo contra el gigante de internet.

El juez Amit Mehta, del tribunal del Distrito de Columbia, que había dictaminado que Google tenía un monopolio ilegal, decidirá sobre las medidas finales en abril. Los portavoces de Google no respondieron de inmediato a una solicitud de comentarios, señala además The Washington Post.

Con información de EFE.



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

SpaceX confirma que perdió a su cohete Starship poco después de su lanzamiento

Published

on


La compañía SpaceX lanzó finalmente este jueves su octavo vuelo de prueba del Starship, pero poco después perdió contacto con la nave, según confirmó poco después la empresa de Elon Musk.

“SpaceX confirma que la etapa superior de la nave Starship para el vuelo 8 se perdió después de perder los motores y el control de la marea unos 20 segundos antes de completar su ascenso”, indicó en su cuenta de X y agregó que pronto comenzarán una investigación sobre lo ocurrido, que parece recordar a un fallo similar que condenó al vehículo espacial Flight 7 de SpaceX en enero.

Explicó que durante el ascenso de Starship, el vehículo sufrió “un desmontaje rápido e imprevisto y se perdió el contacto. Nuestro equipo comenzó de inmediato a coordinarse con los funcionarios de seguridad para implementar respuestas de contingencia planificadas previamente”.

El incidente ocurrió poco después de que las dos partes de la nave se separaran y que el Super Heavy, que la impulsa, regresara con éxito a su base en Texas, por tercera ocasión en estas pruebas, en medio de los aplausos del público que acudió a presenciar el evento.

Leer también: Matrimonios de menores afectan al 21% de mujeres de Latinoamérica y Caribe, dice Unicef

El incidente de este jueves ocurre luego de haber sido cancelado en tres ocasiones esta prueba -inicialmente prevista para el 28 de febrero- una de ellas el pasado lunes por razones técnicas y de que una nave explotara el pasado enero y los pedazos se esparcieran por el Caribe, tras lo cual la Administración Federal de Aviación (FAA, sigla en inglés) inició una investigación.

No obstante, SpaceX contaba con el visto bueno de la FAA para hacer esta nueva prueba, en medio de la investigación.

“Vimos que varios de los motores empezaban a pararse. Una vez que se pierden suficientes motores centrales, se pierde el control de la actitud. Y entonces vimos que la nave comenzó a girar y, en ese momento, perdimos contacto con la nave”, dijo Dan Huot, de Comunicaciones de SpaceX que hacía la trasmisión junto a la ingeniera Kathy Tice.

“Obviamente, hay mucho que analizar, mucho que investigar y vamos a hacerlo de inmediato”, indicó además Huot durante los comentarios en vivo del lanzamiento. “Tenemos mucho más que aprender sobre este vehículo”, afirmó.

La nave despegó a las 18:30 horas impulsado por el Super Heavy desde la base de SpaceX en Boca Chica, en el sur de Texas, en la frontera con México.

Con información de EFE.



ues de anuncios individuales.

Source link

Continue Reading

Trending