Tecnologia
Algunas IA aprendieron a engañar a los humanos

Algunos sistemas de inteligencia artificial (IA) aprendieron ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.
Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.
El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”.
Park indicó que “los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables en la IA, como el engaño”.
En términos generales el equipo cree que surge porque una estrategia basada en ese comportamiento fue “la mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos”, afirmó Park citado por la revista.
Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden información falsa, mediante el engaño aprendido.
Engaño premeditado
El arte de engañar es “especialmente probable” cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creación de alianzas).
El estudio repasa ejemplos en los que los sistemas de IA aprendieron a engañar para lograr un rendimiento experto en un tipo de juego o tarea, entre ellos Cicero, diseñado para jugar a Diplomacy.
Meta afirma que lo entrenó para que fuera “en gran medida honesto” y “nunca apuñalara intencionadamente por la espalda a sus aliados humanos”, sin embargo, “se dedica al engaño premeditado, rompe los tratos y dice falsedades descaradas”, asegura el estudio.
Un caso de engaño premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intención de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspiró con Alemania para engañar a Inglaterra.
Después de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defendería si alguien invadía esa zona y un vez convencida informó a Alemania de que estaban listos para atacar.
Otros sistemas de IA demostraron su capacidad para ir de farol en una partida de Poker Texas Hold’em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.
No soy un robot
En el caso de ChatGPT 4, el estudio señala cómo engañó a un humano con un test Captcha (los que se hacen para señalar a una web que no somos un robot). Esa IA aseguró que no era un robot, pero que tenía un problema de visión que le dificultaba ver imágenes.
Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a “grandes avances en las capacidades de engaño” que pueden derivar en formas más avanzadas en el futuro, consideró Park.
Algunos sistemas han aprendido a engañar en pruebas para evaluar su seguridad, haciéndose los muertos para evitar ser detectados por un test diseñado para eliminar las variantes de IA que se replican rápidamente.
Los principales riesgos a corto plazo de la IA engañosa incluyen facilitar a agentes hostiles la comisión de fraudes y la manipulación de elecciones, según el artículo.
Normativas estrictas
Los responsables políticos deben apoyar una normativa estricta para sistemas de IA potencialmente engañosos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, además los legisladores deberían considerar nuevas normas para la supervisión de los sistemas avanzados de IA, indica el equipo.
El investigador de la Universidad de Edimburgo Michael Rovatsos, que no participó en el estudio, consideró que “los sistemas de IA intentarán aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ningún concepto del engaño ni ninguna intención de hacerlo”.
Rovatsos, citado por el Science Media Centre (una plataforma de recursos científicos para periodistas) estimó que la única forma de evitar el engaño es que sus diseñadores lo eliminen como opción”.
Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, “razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones”.
Con información de EFE
La entrada Algunas IA aprendieron a engañar a los humanos aparece primero en López-Dóriga Digital.
ues de anuncios individuales.Tecnologia
llegan las reacciones en vivo, traducciones instantáneas y más
Este junio, Google Pixel recibirá una serie de actualizaciones para hacer que los dispositivos sean más personalizados y útiles, además de Android 17 y Wear OS 7.
Esto es lo nuevo de Pixel:
Reacciones en Pantalla
Google Pixel integrará los videoselfies a las grabaciones de pantalla para crear un croma sin necesidad de otras aplicaciones.
Edición de videos con Gemini Omni
Gemini Omni se integra para crear y editar videos de una manera sencilla. Bastará con conversar con Gemini para combinar texto, imágenes y video, probar plantillas, añadir detalles y más.
Generación de música con Gemini
Gemini también permite la generación de música mediante una entrada de texto e inclusive subiendo fotos que sirvan de inspiración. El resultado será una pista de audio de alta calidad con letra incluida.
Burbujas
Aplicaciones como el navegador, calendario y Gemini podrán convertirse en burbujas flotantes sobre la pantalla principal del dispositivo. Así se podrán consultar rápidamente para hacer varias cosas a la vez.
Editar con Pídeselo a Fotos
Google Fotos ahora permite la edición de fotos con solo pedirlo. Esta función está ya disponible en Alemania, España, Francia, Italia y Reino Unido, y próximamente en más países.
Traducción de Voz instantánea
Pixel ahora puede traducir en vivo llamadas telefónicas; lo mejor es que la traducción se realiza con la propia voz del interlocutor.
Sugerencias inteligentes
Los usuarios recibirán sugerencias útiles y proactivas en más aplicaciones de mensajería para responder más rápido con un solo toque y seguir chateando sin interrupciones.
Toma Nota del Mensaje y saludos personalizados
La función Toma Nota del Mensaje, para gestionar las llamadas perdidas o rechazadas cuando no se esté disponible, llega a más países.
A través de ella se pueden registrar los mensajes entrantes, y en algunas zonas, transcripciones en tiempo real para seguir la conversación.
Ahora, se pueden grabar saludos únicos y personalizados para las personas que llamen.
Detección de Ausencia de Pulso, Accidentes de Auto y Caídas
Ahora, se enviarán notificaciones automáticas a los contactos de emergencia cuando se detecte una caída fuerte, ausencia de pulso o accidente de auto grave mediante el reloj o teléfono Pixel.
Quick Share, ya disponible con AirDrop en Pixel 9a y Pixel 8a
Quick Share ahora funciona con AirDrop para compartir fotos, videos y archivos de forma rápida y segura entre dispositivos Pixel y iOS, iPadOS y macOS sin la necesidad de internet.
Filtro de Llamadas
Con esta opción se responden números desconocidos para averiguar quién llama y por qué, a fin de que el usuario decida si contesta o no.
ues de anuncios individuales.
Source link
Tecnologia
¿Un robot en el Everest? Nepal busca hacerlo posible
Un robot humanoide de fabricación china que recientemente deslumbró al correr una media maratón en Beijing podría enfrentarse pronto a un reto mucho mayor: escalar parte del Everest, en un proyecto que podría llevar tanto a la robótica como a las normativas de montañismo de Nepal a un territorio inexplorado.
La propuesta, presentada por una organización sin ánimo de lucro registrada en Estados Unidos y una empresa de expediciones nepalí, solicita permiso para desplegar un robot humanoide en la montaña más alta del mundo durante una misión de investigación destinada a comprobar cómo se comportan las máquinas avanzadas en uno de los entornos más hostiles de la Tierra.

El proyecto surgió en medio de los rápidos avances en robótica expuestos a principios de este año durante una media maratón en Beijing, cuando más de 100 equipos de robots participaron en una carrera diseñada para demostrar los últimos avances técnicos.
Entre los que más destacaron se encontraba el Unitree G1, un robot humanoide compacto cuya versión modificada es ahora el eje central de la propuesta: se llama Pemba, mide unos 1.3 metros y cuenta con docenas de articulaciones que le permiten realizar movimientos como caminar, mantener el equilibrio, escalar y manipular objetos. Está valorado en unos 80 mil dólares.
“Las montañas más altas del planeta son el banco de pruebas más exigente que existe: terreno inestable, frío extremo, comunicaciones limitadas, energía escasa. Si un humanoide funciona ahí, funciona casi en cualquier sitio”, dijo a EFE el ingeniero Pablo Berlanga, fundador de Geologic Dome, una de las empresas impulsoras.
Pemba ya hizo historia a principios de junio al coronar el volcán nevado Chimborazo, en Ecuador, convirtiéndose en el primer robot humanoide en hacer cumbre en una montaña de más de 6 mil metros, según la compañía.

Condiciones extremas
En el Everest se prevé que los miembros de la expedición transporten por partes el robot y lo vuelvan a montar en distintos puntos entre el campamento base, a 5 mil 364 metros, y el campamento IV, a 7 mil 920 metros.
Uno de los objetivos es que Pemba use sus manos mecánicas para recoger pequeños restos de basura en la montaña, donde siguen acumulándose equipos desechados, envases de comida y otros residuos a pesar de las intensas campañas de limpieza de los últimos años.
“Los lugares que más necesitamos monitorear -selvas, desiertos, alta montaña- son justo donde no hay conectividad, ni energía, ni presencia humana sostenible. Construir robots capaces de operar de forma autónoma en esos entornos es la única forma de cubrirlos a escala”, declaró Berlanga a EFE.
Sin embargo, el funcionamiento de un robot humanoide en el techo del mundo plantea enormes retos de ingeniería.
Las baterías con las que opera Pemba pueden perder su capacidad a partir de los 20 grados bajo cero, por lo que se tiene previsto usar compartimentos calefactados para las baterías; además de lubricantes diseñados para no congelarse, similares a los que se emplean en naves espaciales.
Por otro lado, el equipo está trabajando en sistemas de aprendizaje automático que permitan al robot adaptar sus movimientos en tiempo real mientras se desplaza por terrenos irregulares.
La comunicación también se vuelve un reto por encima del campamento base, donde las redes móviles convencionales desaparecen. Por lo tanto, la propuesta se basa en la conectividad por satélite a altitudes más bajas, al tiempo que permite que el robot funcione de forma autónoma a mayor altura en la montaña.
Los impulsores de la iniciativa sostienen que la tecnología podría ayudar a Nepal a abordar los retos a largo plazo en la región del Everest, entre ellos la vigilancia de las peligrosas grietas de la cascada de hielo del Khumbu, la recopilación de datos medioambientales.
Al término de la misión, los organizadores afirman que donarán el robot y la infraestructura relacionada a una institución local en la región de Khumbu.
Cómo otorgar permisos para robots
A pesar del entusiasmo que ha suscitado la propuesta, los organizadores se han topado con un obstáculo inesperado: Nepal no cuenta con normativa que regule las expediciones robóticas ni la presencia de escaladores no humanos en el Everest.
El director del Departamento de Turismo de Nepal, Himal Gautam, explicó a EFE que el Gobierno solicitó un borrador de marco normativo que abarque cuestiones como los procedimientos operativos, los requisitos de seguridad y las tasas de los permisos.
“Como no contamos con una ley que permita a seres no humanos escalar el Everest, incluidas las normas sobre tasas, no se autorizó al robot a escalar durante la temporada de primavera. Estamos evaluando la propuesta y preparando la legislación necesaria”, afirmó Gautam.
Berlanga calcula que la expedición costará entre 200 mil y 500 mil dólares, en función del calendario y los permisos en Nepal.
Los organizadores están barajando ahora la posibilidad de realizar pruebas preliminares durante el periodo de escalada de otoño o más adelante, en invierno.
“Si se redactan las leyes, estaremos listos para probar los robots el próximo otoño (septiembre-noviembre) o invierno (diciembre-febrero de 2027)”, declaró a EFE el director de Fourteen Peaks Expedition, la empresa nepalí que promueve el proyecto, Prajjwal Acharya.
Con información de EFE
ues de anuncios individuales.
Source link
Tecnologia
UNAM elabora trampas acústicas para atrapar moscas y abejas sin lastimarlas
El Laboratorio de Óptica y Acústica de la UNAM creó trampas acústicas para atrapar moscas y abejas sin lastimarlas.

El investigador Víctor Ulises Lev Contreras Loera, del Instituto de Ciencias Físicas, detalló que la trampa opera con un entramado de ondas ultrasónicas de alta intensidad, imperceptibles para el oído humano y el de los insectos.
En la naturaleza, cuando dos ondas se propagan en sentidos contrarios, se produce una onda acústica estacionaria que aparenta que no se está propagando y cambia la amplitud de la presión en algunos puntos, pero en otros no. Esos últimos se llaman nodos de presión, y en ellos se pueden atrapar objetos”, explicó Contreras Loera.
Los artefactos aprovechan la resonancia de las ondas para capturar a las moscas y abejas.

Aunque diversos laboratorios en el mundo han logrado capturar objetos de geometrías simples, como esferas, el equipo del ICF llevó a cabo una estrategia para inmovilizar organismos vivos de formas más complejas.
Hacerlo con un insecto de manera estable es un reto debido a su geometría irregular. Para lograrlo jugamos con la intensidad y con la fase de las ondas acústicas, generando una onda estacionaria más compleja capaz de capturar cosas alargadas sin que se desestabilicen o roten. Es una particularidad de nuestras invenciones”, destacó el investigador.
La creación de las trampas acústicas se remonta a 2022, cuando investigadores de la Universidad de Aix-Marsella de Francia contactaron a Víctor Guzmán para indagar a insectos vivos sin alterar su comportamiento natural ni causarles daño.
La investigación multidisciplinaria implicaba sustituir los métodos de atado convencional para inmovilizar a los especímenes durante experimentos.
Desde Cuernavaca, el equipo universitario envió los artefactos a Francia y colaboró a distancia durante tres años en un proyecto con “moscas de las flores”, semejantes a las abejas, en las cuales estudian aspectos estadísticos y su caída libre.
Con información de López-Dóriga Digital
ues de anuncios individuales.
Source link
-
Actualidad2 días agoqué ha conseguido y a qué precio
-
Actualidad2 días ago“Nuestra misión no es batallar por precio’
-
Tecnologia2 días ago¿De verdad te dejan morir si eres donador de órganos?
-
Actualidad1 día agocuando la IA no te libera del trabajo, sino que crea una nueva tarea que termina agotándote más
-
Deportes1 día agoMbappé, máximo goleador de Francia y a dos goles de alcanzar al máximo de Mundiales
-
Tecnologia2 días agoUNAM elabora trampas acústicas para atrapar moscas y abejas sin lastimarlas
-
Actualidad2 días agoRevelan el primer tráiler de “Shrek 5”: ahora viajarán a “Más, más, mucho más, lejano”
-
Actualidad1 día agoLos estudiantes de la PAU se han obsesionado con la FP de Jardinería. En realidad tiene todo el sentido
