Connect with us

Tecnologia

Algunas IA aprendieron a engañar a los humanos

Published

on

Algunos sistemas de inteligencia artificial (IA) aprendieron ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.

Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.

El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”.

Park indicó que “los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables en la IA, como el engaño”.

En términos generales el equipo cree que surge porque una estrategia basada en ese comportamiento fue “la mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos”, afirmó Park citado por la revista.

Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden información falsa, mediante el engaño aprendido.

 Engaño premeditado

El arte de engañar es “especialmente probable” cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creación de alianzas).

El estudio repasa ejemplos en los que los sistemas de IA aprendieron a engañar para lograr un rendimiento experto en un tipo de juego o tarea, entre ellos Cicero, diseñado para jugar a Diplomacy.

Meta afirma que lo entrenó para que fuera “en gran medida honesto” y “nunca apuñalara intencionadamente por la espalda a sus aliados humanos”, sin embargo, “se dedica al engaño premeditado, rompe los tratos y dice falsedades descaradas”, asegura el estudio.

Un caso de engaño premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intención de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspiró con Alemania para engañar a Inglaterra.

Después de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defendería si alguien invadía esa zona y un vez convencida informó a Alemania de que estaban listos para atacar.

Otros sistemas de IA demostraron su capacidad para ir de farol en una partida de Poker Texas Hold’em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.

 No soy un robot

En el caso de ChatGPT 4, el estudio señala cómo engañó a un humano con un test Captcha (los que se hacen para señalar a una web que no somos un robot). Esa IA aseguró que no era un robot, pero que tenía un problema de visión que le dificultaba ver imágenes.

Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a “grandes avances en las capacidades de engaño” que pueden derivar en formas más avanzadas en el futuro, consideró Park.

Algunos sistemas han aprendido a engañar en pruebas para evaluar su seguridad, haciéndose los muertos para evitar ser detectados por un test diseñado para eliminar las variantes de IA que se replican rápidamente.

Los principales riesgos a corto plazo de la IA engañosa incluyen facilitar a agentes hostiles la comisión de fraudes y la manipulación de elecciones, según el artículo.

 Normativas estrictas

Los responsables políticos deben apoyar una normativa estricta para sistemas de IA potencialmente engañosos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, además los legisladores deberían considerar nuevas normas para la supervisión de los sistemas avanzados de IA, indica el equipo.

El investigador de la Universidad de Edimburgo Michael Rovatsos, que no participó en el estudio, consideró que “los sistemas de IA intentarán aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ningún concepto del engaño ni ninguna intención de hacerlo”.

Rovatsos, citado por el Science Media Centre (una plataforma de recursos científicos para periodistas) estimó que la única forma de evitar el engaño es que sus diseñadores lo eliminen como opción”.

Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, “razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones”.

Con información de EFE

La entrada Algunas IA aprendieron a engañar a los humanos aparece primero en López-Dóriga Digital.

ues de anuncios individuales.

Tecnologia

NASA revela que desplazamiento de tierra de 60 centímetros causó daños extremos en Caracas

Published

on


La NASA aseguró este lunes que los daños extremos que el reciente doble terremoto de Venezuela dejó en Caracas y en La Guaira fueron producto de una violenta ruptura de la falla que desplazó hasta 60 centímetros la superficie terrestre.

La agencia espacial estadounidense publicó este lunes una serie de datos sobre el movimiento telúrico registrado con el satélite NISAR, que fue puesto en órbita hace un año para mapear con detalle milimétrico la superficie terrestre.

Según los datos recopilados por la NASA, la falla causante del terremoto se fracturó desde la localidad de Morón, avanzó por el mar y regresó a tierra firme cerca del aeropuerto internacional de Caracas.

Leer también: ¿Qué es la Ingeniería en Inteligencia Artificial? La carrera del futuro

“Esta falla forma parte de una red de fracturas situada a lo largo del límite entre la placa del Caribe, al norte, y la placa sudamericana, al sur”, explicó en un comunicado, en el que señaló que las fallas acumularon tensión “durante un largo tiempo” antes de fracturarse.

Al sur del aeropuerto de Caracas se registró uno de los mayores desplazamientos de tierra, de hasta 60 centímetros.

La gravedad del doble terremoto de magnitud 7.2 y 7.5, que azotó el país el pasado 24 de junio y ya suma 4 mil 561 fallecidos, provocó que se activara por primera vez el sistema de respuesta urgente de NISAR para cartografiar los daños de un gran sismo.

Este procesamiento rápido permite suministrar datos en un plazo de 12 a 24 horas para dar apoyo a las labores de respuesta ante desastres.

La cantidad de heridos y personas sin viviendas por los terremotos se mantiene en 16 mil 740 y 17 mil 907, respectivamente, según el último balance difundido en redes sociales por Jorge Rodríguez, presidente del Parlamento venezolano.

Desde el pasado 24 de junio se han presentado mil 254 réplicas, según el Gobierno.

Con información de EFE.



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

¿Qué es la Ingeniería en Inteligencia Artificial? La carrera del futuro

Published

on


La  Ingeniería en Inteligencia Artificial se ha posicionado como el motor principal de la transformación digital global. Si buscas liderar los cambios tecnológicos modernos en lugar de solo adaptarte a ellos, esta disciplina te brindará las herramientas necesarias para diseñar soluciones innovadoras que puedan revolucionar múltiples industrias, corporativos y comunidades.

De hecho, organismos internacionales como el Foro Económico Mundial destacan que la tecnología generará millones de nuevos empleos hacia 2030, pero para ello es necesaria una preparación óptima. Toma la oportunidad y conviértete en un profesional de este campo, desarrollando sistemas que optimicen procesos vitales y te abran puertas a un panorama laboral repleto de oportunidades inigualables.

¿En qué consiste la carrera de Ingeniería en Inteligencia Artificial?

Si este programa te interesa, conoce de qué trata y cuáles son las áreas que abarca en su campo de estudio.

Desarrollo de algoritmos avanzados

Durante tu formación, aprendes a construir y analizar modelos de IA. Esto significa que serás capaz de programar sistemas con el fin de que interactúen de manera fluida con las personas en la vida real, logrando que:

  • Tengan un aprendizaje autónomo
  • Procesen imágenes digitales
  • Reconozcan patrones complejos
  • Comprendan el lenguaje natural

Análisis estratégico de Big Data

En un mundo cada vez más interconectado, extraes, procesas y visualizas enormes volúmenes de datos alojados en la nube. Con esto, obtienes información útil y precisa que ayuda a las organizaciones a tomar mejores decisiones comerciales, proyectando escenarios futuros y resolviendo problemas complejos de manera rápida, eficiente y totalmente segura.

Innovación en robótica y conectividad

Tu trabajo también abarca el diseño de sistemas embebidos, la interconexión mediante el internet de las cosas y la creación de robots inteligentes.

Además, te enfocas profundamente en el área de la ciberseguridad, asegurando que cada nueva arquitectura tecnológica esté protegida frente a constantes amenazas digitales a nivel mundial.

¿Por qué la Ingeniería en Inteligencia Artificial dominará el mercado laboral?

Debido al potencial en su campo de estudio, la Ingeniería en Inteligencia Artificial es una de las carreras con mayor proyección a futuro. Aquí 3 razones que lo demuestran.

1. Alta empleabilidad y proyección global

La adopción tecnológica (en específico de la IA) por parte de las empresas ha ido en aumento, lo cual incrementa la demanda de talento especializado.

Al egresar de la Ingeniería en Inteligencia Artificial, te vuelves un activo indispensable para corporaciones líderes a nivel mundial que buscan innovar constantemente, garantizándote un alto nivel de empleabilidad y salarios competitivos.

2. Impacto en múltiples industrias estratégicas

No solo trabajas creando código tradicional, sino que tu conocimiento tiene aplicaciones biomédicas, financieras y manufactureras. Por lo tanto, tienes las aptitudes para:

  • Mejorar la salud humana mediante diagnósticos predictivos
  • Optimizar las líneas de producción industrial
  • Facilitar la gestión de grandes proyectos de infraestructura

De esta forma, generas un impacto positivo en la sociedad.

3. Formación humana y liderazgo directivo

Más allá del entorno digital, al estudiar esta carrera desarrollas:

  • Inteligencia emocional
  • Habilidades directivas
  • Comunicación efectiva
  • Capacidad de negociación

Este enfoque te permite gestionar proyectos complejos y liderar equipos multidisciplinarios.

Ser un verdadero estratega tecnológico te ayuda a alinear tus propósitos técnicos con una visión profundamente humana, ética y sobre todo sostenible.

Ingeniería en Inteligencia Artificial: el camino a la vanguardia

Al estudiar la carrera de Ingeniería en Inteligencia Artificial, te preparas para transformar activamente tu entorno, aportando un valor incalculable.

Domina las herramientas digitales del mañana y encamínate a ser un líder en el área tecnológica.



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

Detectan azúcar en el espacio interestelar

Published

on


Un equipo internacional liderado por el Centro de Astrobiología (CAB) de España descubrió por primera vez azúcar en una nube molecular cerca del centro de nuestra galaxia, gracias a la detección de dos radiotelescopios, lo que sugiere que estas moléculas imprescindibles para la vida pudieron llegar a nuestro planeta desde el espacio hace 4 mil millones de años.

Los azúcares son biomoléculas claves para la formación del ADN y el ARN y necesarios para muchos procesos biológicos en los organismos vivos y, según las teorías del origen de la vida, fueron componentes esenciales para que surgiera la vida tal y como la conocemos en nuestro planeta.

Detectan azúcar en el espacio interestelar - adn-genetica
Imagen de kjpargeter / Freepik

Sin embargo, una de las grandes incógnitas del origen de la vida es cómo y dónde se formaron esos azúcares.

Anteriormente se encontraron azúcares, como la ribosa (un componente del ARN) y la glucosa (fuente de energía para los organismos vivos) en fragmentos de meteoritos y en el asteroide Bennu, lo que sugería que algunas de estas moléculas podrían haberse originado en la nebulosa primordial en la que se formó nuestro Sistema Solar hace 4 mil 500 millones de años.

Pero nunca se había encontrado azúcar directamente en el medio interestelar, hasta ahora. El equipo, liderado por Izaskun Jiménez-Serra, del CAB , ha identificado el primer azúcar en el espacio interestelar, la eritrulosa, compuesta por cuatro átomos de carbono que en la Tierra se encuentra en las frambuesas y los autobronceadores.

El hallazgo se ha publicado en Nature Astronomy.

Encontrar eritrulosa “sugiere que estos compuestos complejos están más extendidos en el Universo de lo que pensábamos. El hecho de que otros azúcares, como la ribosa o la glucosa, se hayan detectado en meteoritos y asteroides forma parte de la misma historia: estas moléculas se podrían formar en las etapas más tempranas del nacimiento de los sistemas planetarios en sus nebulosas madre y posteriormente ser transferidas a cuerpos menores, como cometas y meteoritos”, detalla Jiménez-Serra a EFE.

Después, “muchos de estos cuerpos impactaron contra la superficie de la Tierra primitiva durante el Bombardeo Intenso Tardío (hace entre 4 mil 100 y 3 mil 800 millones de años), aportando una parte importante de ese material orgánico”, añade.

 Composición química

La eritrulosa fue detectada en estado de vapor en la nube molecular G+0.693−0.027, ubicada cerca del centro de la Vía Láctea, gracias a los estudios espectroscópicos (permiten descomponer la luz e identificar la composición química de los objetos), realizados con el radiotelescopio de 40 metros del Observatorio de Yebes (Guadalajara, centro de España) y el telescopio de 30 metros del Instituto de Radioastronomía en el Rango Milimétrico (IRAM), en Pico Veleta (Granada).

Junto a científicos de la española Universidad de Extremadura y de la Universidad de Radboud (Países Bajos), el equipo identificó 12 líneas espectrales que coinciden con el espectro de laboratorio de la eritrulosa medido en la también española Universidad del País Vasco, algo así como “la huella dactilar” del compuesto.

También determinaron que la eritrulosa es al menos ocho veces más abundante que otros azúcares similares de tres carbonos, ninguno de los cuales se detectó en la misma región.

Uno de los hallazgos más interesantes del trabajo es que demuestra que la eritrulosa muy probablemente se forma “en la superficie helada de granos de polvo interestelar a partir de dos precursores moleculares orgánicos -alcoholes y aldehídos (compuestos orgánicos) más simples, con solo dos átomos de carbono. Sería como unir dos bloques grandes de Lego para formar uno aún mayor”, apunta.

Además, basándose en la abundancia de eritrulosa medida en la nube molecular G+0.693−0.027, los autores estiman que entre 0.5 y 50 millones de toneladas de este azúcar podrían haber llegado a la superficie terrestre durante el Bombardeo Intenso Tardío.

Por tanto, la presencia de eritrulosa en el espacio interestelar “muestra cómo compuestos complejos esenciales para la vida, como los azúcares, podrían formarse en las nebulosas iniciales que dan lugar a sistemas planetarios, antes incluso de que se formen estrellas y planetas en su interior”, comenta a EFE.

“Su detección es muy emocionante porque abre la posibilidad de descubrir en el espacio otros azúcares como la ribosa, que forma parte del ARN, y otras moléculas importantes para el origen de la vida”, considera Carlos Briones, coautor del estudio.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Trending