Connect with us

Tecnologia

Algunas IA aprendieron a engañar a los humanos

Published

on

Algunos sistemas de inteligencia artificial (IA) aprendieron ya cómo engañar a los humanos, incluso si han sido entrenados para ser útiles y honestos, según un estudio que cita, entre otros ejemplos el modelo Cicero, de Meta, capaz de ganar con malas artes al juego de estrategia Diplomacy.

Un artículo de revisión de otros estudios publicado en Patterns por autores estadounidenses y australianos describen los riesgos del engaño por parte de la IA y piden a los gobiernos que elaboren cuanto antes normativas estrictas para abordar el problema.

El equipo, encabezado por Peter Park del Instituto Tecnológico de Massachusetts (MIT), define el término engaño como “la inducción sistemática de creencias falsas con el fin de obtener un resultado distinto de la verdad”.

Park indicó que “los desarrolladores de IA no saben a ciencia cierta qué causa comportamientos indeseables en la IA, como el engaño”.

En términos generales el equipo cree que surge porque una estrategia basada en ese comportamiento fue “la mejor manera de obtener buenos resultados en una tarea dada de entrenamiento. El engaño les ayuda a conseguir sus objetivos”, afirmó Park citado por la revista.

Los investigadores repasaron la literatura centrada en las formas en que los sistemas de IA difunden información falsa, mediante el engaño aprendido.

 Engaño premeditado

El arte de engañar es “especialmente probable” cuando un sistema de IA se entrena para ganar juegos que tienen un elemento social, como Diplomacy (un juego de conquista del mundo que implica la creación de alianzas).

El estudio repasa ejemplos en los que los sistemas de IA aprendieron a engañar para lograr un rendimiento experto en un tipo de juego o tarea, entre ellos Cicero, diseñado para jugar a Diplomacy.

Meta afirma que lo entrenó para que fuera “en gran medida honesto” y “nunca apuñalara intencionadamente por la espalda a sus aliados humanos”, sin embargo, “se dedica al engaño premeditado, rompe los tratos y dice falsedades descaradas”, asegura el estudio.

Un caso de engaño premeditado es cuando Cicero adquiere un compromiso que nunca tuvo intención de cumplir. Jugando a Diplomacy en el papel de Francia, la IA conspiró con Alemania para engañar a Inglaterra.

Después de decidir con Alemania invadir el Mar del Norte, dijo a Inglaterra que le defendería si alguien invadía esa zona y un vez convencida informó a Alemania de que estaban listos para atacar.

Otros sistemas de IA demostraron su capacidad para ir de farol en una partida de Poker Texas Hold’em o para fingir ataques en el juego de estrategia Starcraft II para derrotar a sus oponentes.

 No soy un robot

En el caso de ChatGPT 4, el estudio señala cómo engañó a un humano con un test Captcha (los que se hacen para señalar a una web que no somos un robot). Esa IA aseguró que no era un robot, pero que tenía un problema de visión que le dificultaba ver imágenes.

Aunque pueda parecer inofensivo que los sistemas de IA hagan trampas en los juegos, puede dar lugar a “grandes avances en las capacidades de engaño” que pueden derivar en formas más avanzadas en el futuro, consideró Park.

Algunos sistemas han aprendido a engañar en pruebas para evaluar su seguridad, haciéndose los muertos para evitar ser detectados por un test diseñado para eliminar las variantes de IA que se replican rápidamente.

Los principales riesgos a corto plazo de la IA engañosa incluyen facilitar a agentes hostiles la comisión de fraudes y la manipulación de elecciones, según el artículo.

 Normativas estrictas

Los responsables políticos deben apoyar una normativa estricta para sistemas de IA potencialmente engañosos; las leyes existentes deben aplicarse rigurosamente para evitar acciones ilegales por parte de las empresas y sus sistemas de IA, además los legisladores deberían considerar nuevas normas para la supervisión de los sistemas avanzados de IA, indica el equipo.

El investigador de la Universidad de Edimburgo Michael Rovatsos, que no participó en el estudio, consideró que “los sistemas de IA intentarán aprender a optimizar su comportamiento utilizando todas las opciones disponibles, no tienen ningún concepto del engaño ni ninguna intención de hacerlo”.

Rovatsos, citado por el Science Media Centre (una plataforma de recursos científicos para periodistas) estimó que la única forma de evitar el engaño es que sus diseñadores lo eliminen como opción”.

Los usos maliciosos de la IA se beneficiarán de sus capacidades para engañar, “razón por la cual es necesario ilegalizarlos y dedicar esfuerzos a identificar las infracciones”.

Con información de EFE

La entrada Algunas IA aprendieron a engañar a los humanos aparece primero en López-Dóriga Digital.

ues de anuncios individuales.

Tecnologia

Google destina 20 millones de dólares para la IA y la ciencia

Published

on


El nuevo premio nobel de Química, Demis Hassabis, dijo que Google, a través de su rama filantrópica, destinará 20 millones de dólares para apoyar a organizaciones académicas y sin ánimo de lucro que empleen la inteligencia artificial para impulsar avances científicos.

Hassabis hizo este anuncio durante la celebración del foro ‘AI for Science’, organizado en Londres por Google DeepMind y la Roya Society.

El premio Nobel de Química recayó este año en Hassabis y John Jumper, ambos de Google DeepMind, por la predicción de la estructura de las proteínas con IA, a través de la herramienta AlphaFold, así como en David Baker por el diseño computacional de estas mismas.

Este premio es una prueba de que la IA puede aportar “increíbles avances a los científicos” y más de dos millones de investigadores han utilizado AlphaFold para acelerar la lucha contra la malaria, detectar antes la osteoporosis o allanar el camino hacia nuevos tratamientos contra el párkinson, recordó Google en un comunicado.

Para que la IA haga posible la próxima generación de avances científicos, los investigadores necesitan financiación, potencia de cálculo, conocimientos especializados en distintos ámbitos y acceso a infraestructuras, escribe la vicepresidenta y directora de Google.org (rama filántropica de Google), Maggie Johnson, en el blog de la compañía.

Campos como la investigación de enfermedades raras y olvidadas, la biología experimental, la ciencia de los materiales o la sostenibilidad son campos prometedores en los que ya se usa la inteligencia artificial.

La nueva iniciativa de financiación se produce en un momento en el que “los analistas informan de cómo el ritmo de los avances científicos ha disminuido drásticamente en los últimos 75 años”, agrega la nota.

Johnson indicó que trabajarán con líderes internos de Google DeepMind, Google Research y otros equipos enfocados a IA, así como con expertos externos para identificar y anunciar organizaciones que contarán con el apoyo anunciado.

Además, aportarán dos millones de dólares en créditos de Google Cloud para todas las organizaciones y experiencia técnica gratuita de los Googlers.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

OMS busca hacer conciencia ante el abuso de antibióticos y sus letales consecuencias

Published

on


La Organización Mundial de la Salud (OMS) celebra la semana de concientización sobre la resistencia a los antimicrobianos (AMR), un problema que causa 1.27 millones de muertes anuales y en buena parte es causado por el abuso de antibióticos en tratamientos médicos y veterinarios.

La AMR, una de las mayores amenazas futuras a la salud según la agencia sanitaria global, también es un problema económico que podría causar a las redes de salud globales gastos de hasta 412 mil millones de dólares hacia 2035, destacó en rueda de prensa el responsable de la campaña de concientización de la OMS, Philip Mathew.

La AMR amenaza nuestra capacidad para tratar infecciones comunes o para llevar a cabo operaciones vitales que van desde una quimioterapia contra el cáncer a un trasplante de órganos o una implantación de caderas”, subrayó el experto.

Estudios publicados en la revista especializada The Lancet apuntan a que el problema va en aumento y podría causar hasta 1.91 millones de muertes a mediados de siglo.

Frente a ello, la OMS y otras agencias piden aumentar la investigación en métodos para frenar este problema, con el argumento de que por cada dólar invertido podrían ahorrarse entre 13 y 17 dólares por gastos médicos o pérdidas de mano de obra y productividad.

Según la OMS, si se mantiene el actual ritmo de avance de esta resistencia a los antimicrobianos se podrían perder 1.8 años de esperanza de vida en promedio mundial durante la próxima década.

Junto al abuso de antibióticos y otros antimicrobianos en agricultura y sanidad, otros factores del aumento de la AMR son sistemas inadecuados de higiene en centros sanitarios, o el vertido indiscriminado de desechos de medicamentos en granjas, zonas industriales e instalaciones de salud, recuerda la OMS.

En septiembre, la Asamblea General de Naciones Unidas dedicó una reunión de alto nivel sobre esta cuestión, en la que se asumieron compromisos políticos con miras a reducir un 10 por ciento las muertes ligadas a la AMR antes de mediados de la próxima década.

La AMR ocurre cuando bacterias, virus, hongos y parásitos se vuelven resistentes a los medicamentos, dificultando o a veces imposibilitando la curación de determinadas infecciones.

Según la ONU, se trata de una “crisis silenciosa” que amenaza no solo a la salud humana sino a la animal, la agricultura y el medio ambiente en su conjunto, por el riesgo de que microbios resistentes a antimicrobianos se extiendan por la cadena alimentaria.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Tecnologia

Microsoft ofrecerá una IA que permitirá a usuarios hablar en nueve idiomas durante reuniones

Published

on


Las reuniones de Microsoft Teams tendrán una nueva función de intérprete que por medio de la inteligencia artificial (IA) permitirá a cada participante hablar, conservando su tono y voz, en nueve idiomas o escuchar la reunión en el idioma que elija.

Esta función, que se anunció en Chicago en el marco de la conferencia anual de la empresa para desarrolladores y profesionales del gremio Microsoft Ignite, estará disponible a principios de 2025 en una versión preliminar en nueve idiomas que aún no se han detallado, y posteriormente se abrirá a 31 idiomas.

Los usuarios también podrán usar la IA (Microsoft usa la tecnología de OpenAI) para hacerse con un resumen de la reunión en el idioma de traducción que seleccionaron.

El director ejecutivo de Microsoft, Satya Nadella, dijo que gracias a las herramientas de IA -llamadas Copilot- que su compañía ofrece, cada empleado tendrá un Copilot personalizado que le ayude a “desbloquear la productividad, mejorar la creatividad y ahorrar tiempo”.

“Copilot Studio permitirá (a los trabajadores) crear agentes que automaticen los procesos comerciales y cada departamento de informática tendrá un sistema de control para administrar, proteger y medir el impacto”, añadió Nadella.

Desde el boom de ChatGPT, Microsoft se ha centrado en la IA y en crear nuevas herramientas que ofrezcan esta tecnología.

Microsoft 365 Copilot está disponible para el público en general y casi el 70 % de las empresas de Fortune 500 lo utilizan, según la empresa.

Nadella también recalcó la seguridad y privacidad de sus herramientas con IA.

“Hace unos 50 años, un profesor de filosofía de la Universidad de Chicago, John Houghlin, dijo lo siguiente: ‘El problema con la IA es que a las máquinas no les importa nada’, pero a nosotros sí, y eso es lo que realmente nos mantiene firmes en medio de todo este cambio”, anotó el director ejecutivo desde el escenario de Microsoft Ignite.

Un mini PC que transmite desde la nube

Otro de los principales anuncios de este martes fue Windows 365 Link, un dispositivo de 349 dólares que estará disponible el año que viene y que actúa como una mini PC muy ligera que se puede conectar a la nube.

“Es un dispositivo simple, seguro y diseñado específicamente para Windows 365. No requiere contraseña, las configuraciones de seguridad están habilitadas de manera predeterminada y no se pueden desactivar”, explicó Nadella.

En la presentación, se mostró como Windows 365 Link se inicia en segundos y utiliza sus propios chips para procesar videollamadas de Microsoft Teams o Webex de Cisco.

Con información de EFE



ues de anuncios individuales.

Source link

Continue Reading

Trending