Tecnologia
Algunas IA aprendieron a engañar a los humanos

Algunos sistemas de inteligencia artificial (IA) aprendieron ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.
Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.
El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”.
Park indicó que “los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables en la IA, como el engaño”.
En términos generales el equipo cree que surge porque una estrategia basada en ese comportamiento fue “la mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos”, afirmó Park citado por la revista.
Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden información falsa, mediante el engaño aprendido.
Engaño premeditado
El arte de engañar es “especialmente probable” cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creación de alianzas).
El estudio repasa ejemplos en los que los sistemas de IA aprendieron a engañar para lograr un rendimiento experto en un tipo de juego o tarea, entre ellos Cicero, diseñado para jugar a Diplomacy.
Meta afirma que lo entrenó para que fuera “en gran medida honesto” y “nunca apuñalara intencionadamente por la espalda a sus aliados humanos”, sin embargo, “se dedica al engaño premeditado, rompe los tratos y dice falsedades descaradas”, asegura el estudio.
Un caso de engaño premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intención de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspiró con Alemania para engañar a Inglaterra.
Después de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defendería si alguien invadía esa zona y un vez convencida informó a Alemania de que estaban listos para atacar.
Otros sistemas de IA demostraron su capacidad para ir de farol en una partida de Poker Texas Hold’em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.
No soy un robot
En el caso de ChatGPT 4, el estudio señala cómo engañó a un humano con un test Captcha (los que se hacen para señalar a una web que no somos un robot). Esa IA aseguró que no era un robot, pero que tenía un problema de visión que le dificultaba ver imágenes.
Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a “grandes avances en las capacidades de engaño” que pueden derivar en formas más avanzadas en el futuro, consideró Park.
Algunos sistemas han aprendido a engañar en pruebas para evaluar su seguridad, haciéndose los muertos para evitar ser detectados por un test diseñado para eliminar las variantes de IA que se replican rápidamente.
Los principales riesgos a corto plazo de la IA engañosa incluyen facilitar a agentes hostiles la comisión de fraudes y la manipulación de elecciones, según el artículo.
Normativas estrictas
Los responsables políticos deben apoyar una normativa estricta para sistemas de IA potencialmente engañosos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, además los legisladores deberían considerar nuevas normas para la supervisión de los sistemas avanzados de IA, indica el equipo.
El investigador de la Universidad de Edimburgo Michael Rovatsos, que no participó en el estudio, consideró que “los sistemas de IA intentarán aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ningún concepto del engaño ni ninguna intención de hacerlo”.
Rovatsos, citado por el Science Media Centre (una plataforma de recursos científicos para periodistas) estimó que la única forma de evitar el engaño es que sus diseñadores lo eliminen como opción”.
Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, “razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones”.
Con información de EFE
La entrada Algunas IA aprendieron a engañar a los humanos aparece primero en López-Dóriga Digital.
ues de anuncios individuales.Tecnologia
Grok limita la edición de imágenes tras la polémica de los desnudos
La plataforma X del multimillonario Elon Musk limitó el uso de su herramienta de inteligencia artificial Grok para editar imágenes tras días de denuncias por el hecho de que accediera a peticiones de los usuarios para alterar imágenes de otras personas y desnudarlas sin consentimiento.
Ahora, la edición de imágenes podrá realizarse solo con la versión de pago de Grok, lo que implicará que el nombre y la información de pago del usuario estarían asociados a la imagen alterada sea del tipo que sea.
“Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”, señaló Musk en X.
Grok era una herramienta gratuita que permitía a los usuarios subir y editar fotos, y que ha atendido peticiones de usuarios para editar imágenes de mujeres y mostrarlas en bikini o sin ropa, lo que ha desatado una fuerte oleada de denuncias y quejas.
Según ha podido constatar EFE, desde este 9 de enero Grok informa a los usuarios que le piden que modifique las imágenes subidas a X de que “la generación y edición de imágenes están limitadas a los suscriptores de pago“, y que solo pagando podrán acceder a las funciones de edición bajo su propia responsabilidad.
La profesora de Filosofía de la Universidad británica de Cardiff, Daisy Dixon, una de las usuarias que había denunciado que había personas en la red X que utilizaban Grok para desnudarla, ha reaccionado al anuncio de la red social considerando que el cambio es “un parche”.
“Al parecer, Grok ha desactivado su función de generación de imágenes. Esto supondrá una pausa en las ofensas, lo cual es positivo, pero me preocupa que se trate de un parche improvisado para ocultar un problema de más grave: el diseño de una herramienta de inteligencia artificial poco ética y difusora de la misoginia”, señala Dixon en una publicación hecha esta misma mañana.
“El problema de la IA es un problema humano: hay que rediseñar Grok e implementar sus límites éticos. Pero Elon Musk debe reconocerlo, estamos ante otra violación por motivos de género”, añade la filósofa, quien en previas ocasiones ha llamado la atención de que más de las 95 por ciento de los abusos sexuales con imágenes no consentidas en esta red van dirigidos contra las mujeres.
Numerosos Gobiernos de todo el mundo, sobre todo europeos, han calificado de ‘repugnante’ la generación de imágenes sexualizadas de niños y mujeres mediante Grok en los últimos días y han anunciado medidas y posibles sanciones.
En el caso de España, la ministra de Juventud e Infancia, Sira Riego, ha pedido esta semana a la Fiscalía General del Estado que investigue a X y su herramienta de IA por presuntos “delitos de difusión de material de violencia sexual contra la infancia”.
Con información de EFE
ues de anuncios individuales.
Source link
Tecnologia
la nueva era de la conducción inteligente
LAS VEGAS.- La movilidad atraviesa una transformación profunda impulsada por la integración de tecnologías avanzadas que buscan convertir cada trayecto en una experiencia más segura, personalizada y completamente conectada. La industria automotriz avanza hacia vehículos inteligentes capaces de interactuar con el conductor y los pasajeros, anticiparse a sus necesidades y reducir riesgos en el camino.
En este escenario, LG cuenta con una división especializada en Vehicle Components, enfocada en el desarrollo de soluciones tecnológicas para el sector automotriz. Dentro de esta unidad, la compañía ha reunido atributos que reflejan su innovación, como pantallas OLED —incluyendo OLED transparente—, sensores, cámaras e inteligencia integrada.

Uno de los desarrollos más destacados es la cabina inteligente con pantalla OLED transparente, que funciona como un parabrisas avanzado. Esta tecnología permite al conductor ver el camino con total normalidad, mientras recibe información clave directamente en el cristal: mapas de navegación, notificaciones, alertas del camino y otros datos relevantes, sin necesidad de distraerse con el celular u otras pantallas.
Además, el sistema integra sensores biométricos y de comportamiento capaces de detectar signos de fatiga, como un ritmo cardíaco bajo, muchas horas continuas de manejo o distracciones constantes. Ante estas situaciones, el vehículo puede emitir alertas, sugerir descansos o incluso activar funciones de manejo asistido o autónomo durante periodos específicos, ayudando al conductor a recuperar la concentración y la calma.

Para los pasajeros, LG incorpora su sistema operativo webOS, diseñado para las pantallas laterales y traseras del vehículo. De acuerdo con Daniel Aguilar, director de Comunicación de LG México, incluso los cristales posteriores pueden convertirse en pantallas OLED transparentes táctiles, donde los ocupantes pueden interactuar con contenido, explorar lugares que ven en la calle —como un anuncio o un punto de interés— e incluso realizar compras directamente desde el vidrio.
De lo que se trata es de llevar tu casa a un viaje único en tu coche y hacer de la movilidad algo completamente personal”, comentó el vocero en el CES 2025.
Estas tecnologías ya están disponibles para las armadoras y fabricantes de autos, ya que LG opera como socio tecnológico. Un ejemplo reciente fue la colaboración con Cadillac, donde se presentó una cabina completa con display OLED integrado. La compañía también ha trabajado con distintas marcas en áreas como baterías, pantallas y otros componentes clave.

Aunque integrar este tipo de innovación puede incrementar el costo inicial de los vehículos, Aguilar destaca que, como ocurre con toda tecnología, los precios tienden a bajar con el tiempo. “Hace 13 años, un televisor OLED de 55 pulgadas costaba más de 100 mil pesos; hoy, un modelo 4K del mismo tamaño puede costar alrededor de 10 mil. A eso nos referimos con la madurez tecnológica y la economía de escala”, explica.
Finalmente, subraya que estas soluciones no se limitan al sector automotriz: las pantallas OLED transparentes ya se exploran en joyerías, hoteles y otras industrias, ampliando su adopción en distintos mercados. Sobre nuevos anuncios, adelantó que a lo largo del año se darán a conocer nuevas alianzas con diferentes armadoras, confirmando que la evolución tecnológica en los autos es una realidad en constante avance.

Por Dalia de Paz
ues de anuncios individuales.
Source link
Tecnologia
así funciona el robot doméstico con inteligencia artificial
LAS VEGAS. Tras casi una década de innovación en robótica, LG presentó CLOiD, un robot doméstico diseñado para el hogar inteligente que combina inteligencia artificial, automatización e inteligencia afectiva, durante el CES 2026. Así lo explicó Daniel Aguilar, director de Comunicación de LG México.
Aguilar recuerda que el camino comenzó con robots funcionales en entornos controlados, como aeropuertos. “Cuando presentamos nuestro primer robot en el aeropuerto de Incheon, en Corea del Sur, le mostrabas tu pase de abordar y te llevaba a tu sala; le preguntabas dónde estaba el baño o un restaurante y te guiaba. En ese momento era algo extraño, hoy ya es común”, señaló.
Con el paso del tiempo, LG expandió su robótica a la industria restaurantera, donde actualmente sus robots ayudan a meseros a transportar alimentos y bebidas, optimizando procesos. Durante la pandemia, la compañía también desarrolló robots desinfectantes para aulas y espacios comunes, así como brazos robóticos capaces de preparar café y bebidas como baristas automatizados.

Toda esa evolución tecnológica converge hoy en CLOiD, un dispositivo que no busca parecer humano. “No pretende ser un humanoide ni salir de tu casa. Su función es ayudarte y reducir la carga de trabajo doméstico bajo nuestra promesa de Zero Labor Home”, explicó el vocero de LG.
CLOiD funciona como un hub inteligente que conecta y controla los dispositivos del hogar mediante la voz, permitiendo una interacción conversacional y natural. El concepto central detrás de esta propuesta es la inteligencia afectiva, una inteligencia artificial diseñada para interactuar de forma más humana y cotidiana.
Entre sus capacidades, CLOiD puede cerrar ventanas si detecta lluvia, apagar el gas ante una fuga, abrir el refrigerador y entregar objetos, ayudar a colgar o doblar ropa, cargar y descargar la lavadora, y asistir en diversas tareas domésticas. “La idea es liberarte tiempo y espacio mental”, puntualizó Aguilar.
Por ahora, el objetivo de LG es demostrar su capacidad tecnológica y poner a disposición de la industria desarrollos como los LG Actuators, articulaciones inteligentes con sensores, cámaras y engranes que permiten a los robots moverse, percibir y reaccionar. “No solo sirven para LG, sino para toda la industria robótica”, explicó.
Actualmente, CLOiD no tiene fecha de lanzamiento ni disponibilidad comercial, ni en México ni en otros mercados. Aun así, Aguilar considera que el mensaje desde el CES es claro: “Esto marca una tendencia inevitable. Eventualmente veremos este tipo de agentes en nuestros hogares. Es solo cuestión de tiempo”.
Por Dalia de Paz.
ues de anuncios individuales.
Source link
-
Actualidad14 horas agode momento las marcas nos están vendiendo “asistentes con IA”
-
Actualidad2 días agoGracias a Starlink Papúa Nueva Guinea pudo acceder a Internet en sus zonas más remotas. Ese sueño se ha terminado
-
Actualidad2 días agoMedia España se ha enganchado estas Navidades a un juego de mesa que no es un juego de mesa: ‘El Impostor’
-
Actualidad18 horas agoSi tenías intención de replantar tu árbol de Navidad en el monte, Madrid tiene algo que decirte: no lo hagas
-
Actualidad10 horas agoEl CEO de Ryanair tiene claro cómo gobernaría un país. Nosotros tenemos la suerte de que no lo haga
-
Actualidad2 días agoMientras todo el mundo mira al petróleo, el verdadero tesoro de Venezuela se esconde en los sótanos de Londres: su oro
-
Tecnologia18 horas agola nueva era de la conducción inteligente
-
Actualidad2 días agoRusia y EEUU frente a frente
