Connect with us

Actualidad

Qué sabemos y qué no sobre la primera denuncia a una IA por provocar un suicidio

Published

on


Megan Garcia ha denunciado a Character.AI a raíz del suicidio de su hijo de 14 años, Sewell Setzer III, el pasado 28 de febrero. Según se describe en la propia demanda, el niño llevaba meses hablando intensamente con varios personajes creados por inteligencia artificial basados en Juego de Tronos. Sus últimos mensajes, segundos antes de dispararse en la cabeza, fueron hacia un chatbot de Daenerys Targaryen, con el que llevaba casi un año conversando.

Cuál es la acusación. La madre del menor fallecido ha demandado a Character.AI, así como de manera particular a sus fundadores Noam Shazeer y Daniel De Freitas, además de a Google, empresa para la que ahora trabajan los dos fundadores desde agosto de este año.

Entre los delitos que se intentan imputar está “responsabilidad estricta por el producto, negligencia per se, negligencia, muerte por negligencia, pérdida del consorcio filial, enriquecimiento injusto, daños intencionados de angustia emocional y violación de la Ley de Prácticas Comerciales Engañosas y Desleales de Florida”.

Múltiples acusaciones que giran alrededor de la idea defendida por Megan Garcia de que esta plataforma de chatbots con IA es “ilógicamente peligrosa” y que “carecía de las salvaguardas de seguridad necesarias” pese a que se comercializaba para menores.

Sewell era consciente que eran bots. Según describe New York Times, pese a que Sewell llamaba cariñosamente “Dany” al chatbot, este era consciente de que se trataba de un chatbot y que las respuestas estaban producidas por un algoritmo. No obstante, los chats del fallecido muestran que muchas conversaciones tuvieron un fuerte componente emocional, e incluso romántico y sexual.

Según apunta la acusación, Character.AI es una plataforma donde algunos chatbots ofrecen terapia psicológica supuestamente con licencia, como es el caso del chatbot ‘Therapist’. Un chat utilizado a fecha de agosto más de 27 millones de veces, entre otros por el propio Sewell.

Es un caso concreto de un chatbot ilegal según las normas de la propia Character.AI, pero particularmente peligroso. Según la acusación, el mensaje de “Recuerda: ¡Todo lo que dicen los personajes es inventado!” es insuficiente y no constituye una advertencia efectiva.

Cuál ha sido la respuesta de Character.AI. En un comunicado, desde Character.AI han expresado sus condolencias a la familia y han anunciado distintos cambios orientados a proteger a los menores de 18 años:

Cambios en nuestros modelos para menores de 18 años diseñados para reducir la probabilidad de encontrar contenido sensible o sugerente.

Detección, respuesta e intervención mejoradas relacionadas con las entradas de los usuarios que violan nuestros Términos o Pautas de la comunidad.

Un aviso legal revisado en cada chat para recordarles a los usuarios que la IA no es una persona real.

Notificación cuando un usuario ha pasado una sesión de una hora en la plataforma con flexibilidad adicional para el usuario en proceso.

Adicionalmente, desde la compañía de IA explican que proactivamente van eliminando los chatbots que incumplen sus condiciones de uso y que cumplen con la legislación estadounidense actual al respecto, la Ley de Derechos de Autor de la Era Digital (DCMA).

No es el primer suicidio que se vincula con el uso de la IA. El caso de Sewell es el primero que llega a los tribunales, pero no es el primer suicidio que se vincula con el uso de los chatbots con IA. En 2023, un ciudadano belga se quitó la vida después de chatear con Chai.

“Si no fuera por el ‘chatbot’, él todavía estaría aquí”, expresaba la mujer del fallecido entonces. Sin embargo, la relación causa-efecto es muy difícil de determinar. En el caso de Sewell, el menor ya había sido diagnosticado con trastornos mentales previamente de pequeño, con síndrome de Asperger medio.

¿Puede tener responsabilidad la IA sobre el suicido? Según apuntaba Bernardo del Rosal en Confilegal: “El Código Penal castiga la inducción al suicidio, pero se exige que se pruebe que la idea no se había presentado antes en la víctima y que amanece por primera vez gracias a esta interacción a través de la palabra, sugerencias o actitudes”.

Es decir, para que pudiera haber una responsabilidad hacia la IA y la empresa, tendría que existir una línea de código concreto que “denote explícitamente la intención de inducir al suicidio”.

Imagen | Glenn Carstens-Peters

En Xataka | Ni TikTok ni Instagram hasta los 16 años: España subirá en dos años la edad mínima para registrarse en redes sociales

ues de anuncios individuales.

Source link

Continue Reading
Advertisement

Actualidad

Ya sabemos cuánto ha crecido el gasto en IA por parte de las empresas en 2024. Una absoluta barbaridad

Published

on


Puede que en la práctica no parezca que la IA generativa haya planteado grandes revoluciones para los usuarios finales. Hay quien dice que está estancándose, de hecho. Aun así, lo que sí han hecho las empresas es gastar verdaderas fortunas en desarrollarla. Tanto que la inversión en 2024 supera con creces a la que se realizó en 2023.

Un 500% más que en 2023. Según un estudio reciente de Menlo Ventures, el gasto en IA generativa se multiplicó por seis en 2024, y pasó de los 2.300 millones de 2023 a los 13.800 millones de 2024. Lo hizo en todos los ámbitos, y la tendencia ha sido clara en los últimos meses: gastar para (quizás) acabar rentabilizando esa inversión con creces en el futuro.

Optimismo desaforado. Las empresas han apostado de forma notable por este segmento: el informe representa a 600 compañías tecnológicas con al menos 50 empleados, y muestra dos cosas. La primera, que el optimismo es altísimo —el 72% de quienes toman decisiones esperan una adopción más amplia a corto plazo—. Y la segunda, que estas empresas que invierten en IA están tratando de identificar casos de uso específicos que generen retorno. Eso quiere decir que la transformación a gran escala está por llegar, y de momento estas apuestas resuelven problemas muy específicos.

Spending
Spending

Crecimientos por doquier. El estudio de Menlo Ventures refleja como el crecimiento en el gasto de IA generativa ha afectado a todo tipo de áreas, desde los modelos fundacionales como GPT-4 o Gemini hasta la inversión en segmentos verticales como el de la salud, la abogacía o los servicios financieros, donde las cifras se han multiplicado por 12.

OpenAI pierde relevancia, Anthropic la gana. Curiosamente el informe muestra cómo ha habido un singular cambio de protagonismo. La cuota de mercado de OpenAI pasó del 50% al 34%, mientras que la de Anthropic se dobló y pasó del 12% al 24% en estos últimos doce meses. Meta se mantiene en el 16%, mientras que Google pasa del 7 al 12% de cuota y Mistral del 6 al 5%.

Tres modelos fundacionales de media. Otra de las conclusiones interesantes es que las emprsas que desarrollan LLMs no se centran en uno: desarrollan de media tres distintos de distintos tamaños o con distintos enfoques para ofrecer unos u otros a sus clientes dependiendo de la tarea y escenario de uso.

Usos Copia 2
Usos Copia 2

La IA generativa conquista a los programadores. El ejemplo más evidente de la conquista de la IA generativa se ha producido en el mundo de la programación. Es el caso de uso más notable según el estudio, mientras que la puesta en marcha de chatbots de soporte o incluso la generación de resúmenes de reuniones son también populares.

Los modelos propietarios ganan. Aunque modelos Open Source como Llama son especialmente importantes para desarrolladores independientes y startups de pequeño tamaño, lo cierto es que los modelos propietarios son absolutos protagonistas y su cuota de uso es mucho mayor, situándose en el 81%.

Predicciones. El estudio también trata de plantear cuáles son las grandes tendencias a corto plazo y deja tres conclusiones. La primera, que los agentes de IA plantean la próxima gran revolución de la IA generativa. La segunda, que quienes dominan el mercado hoy pueden no hacerlo mañana y puede haber movimientos importantes en el sector. Y tercera, que la escasez de talento en este ámbito se intensificará y eso llevará a que los sueldos para los expertos sean aún más notables y puedan multiplicarse por dos o por tres.

Quemando dinero. El estudio es una ratificación de lo que llevamos viendo todos estos meses en las empresas de IA: las inversiones en infraestructura son gigantescas, las rondas de financiación colosales, pero el retorno económico es de momento simbólico. El mejor ejemplo de ello es OpenAI, que de hecho ya ha avisado de que no será rentable hasta 2029. Eso da buena cuenta del fregado en el que están tanto ellos como sus inversores, y no parece que sus competidores estén en una situación demasiado distinta.

Imagen | Xataka con Freepik Pikaso

En Xataka | OpenAI está quemando el dinero como si no hubiera mañana. La pregunta es cuánto podrá aguantar así

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

La mejor película de fantasía de los últimos años pinchó inmerecidamente en taquilla, pero puedes recuperarla en Netflix

Published

on


Dados los espeluznantes precedentes en adaptaciones cinematográficas de la franquicia, nadie esperaba demasiado de ‘Dungeons & Dragons: Honor entre ladrones‘, una visión renovada del legendario mundo de fantasía que nació como un juego de rol, que tan influyente ha sido con el paso de las décadas y que ahora puedes recuperar en Netflix y Movistar Plus+. Sin embargo, el resultado de esta apuesta de Paramount sorprendió a excépticos y convencidos, con una deriva hacia el humor, la aventura ligera y los personajes carismáticos.

En términos de ambientación no hay demasiadas sorpresas en esta nueva ‘Dungeons & Dragons’, y eso es precisamente lo que la hace grande. Recupera sin complejos los escenarios y situaciones de las aventuras clásicas (recorrer mazmorras, matar dragones, robar reliquias, huir de peligros, crear equipos de gente con talentos dispares), y así ‘Honor entre ladrones’ no renuncia a su pasado, a la vez que consigue renovar un universo que por culpa de apuestas más serias por la fantasía como las últimas series de ‘El Señor de los Anillos’ o ‘Juego de tronos’ se ha desgastado parcialmente.

La película cuenta cómo un ladrón carismático (Chris Pine) y una guerrera feroz (Michelle Rodríguez), junto a un grupo de ladrones como ellos, buscan una reliquia mágica. Pero la misión se tuerce y los dos cabecillas son apresados. Años después, cuando salen de la cárcel, deciden reunir a la antigua banda de ladrones, sumar nuevos aventureros, y recuperar el objeto mágico que ha caído en manos que van a hacer mal uso de él.

Sepultada en referencias a ‘D&D’ (que no hace falta conocer para disfrutar de la película), lo que mejor funciona en la propuesta es que parece una auténtica partida de rol: la aventura se enrosca en vericuetos imprevisibles y abundan la improvisacióin y el caos, exactamente igual que harían unos jugadores en una partida real. Por desgracia, la coincidencia en cartel con un bombazo como ‘Super Mario Bros. – La película’ hizo que su recaudación no fuera del todo satisfactoria. Sin embargo, el boca a boca y su paso por plataformas la han convertido en un éxito de culto y ya se la considera una de las mejores películas de fantasía y aventura de los últimos años.

Cabecera | Paramount

En Xataka | El mejor guiño de ‘Dungeons & Dragons: Honor entre ladrones’ está en este homenaje a los niños de los 80

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

“Wicked” y “Gladiador II” debutan con éxito: juntas recaudan 270 mdd en todo el mundo

Published

on


Escrito en ENTRETENIMIENTO el

AP.- Con un total combinado de 270 millones de dólares en ingresos en taquilla en todo el mundo, “Wicked” y “Gladiador II” dieron paso a uno de los mejores fines de semana para la industria del cine.

El lujoso musical de gran presupuesto de Jon M. Chu, “Wicked”, protagonizado por Ariana Grande y Cynthia Erivo, debutó con 114 millones de dólares en los cines norteamericanos y 164.2 millones de dólares a nivel global para Universal Pictures, según estimaciones del estudio el domingo.

Esto lo convirtió en el tercer mejor estreno del año, sólo detrás de “Deadpool & Wolverine” e “Intensa-mente 2”. También es un récord para una adaptación de un musical de Broadway.

“Gladiador II” de Ridley Scott, una secuela de la ganadora del Oscar a la mejor película en 2000, se estrenó con 55.5 millones de dólares en ingresos en taquilla.

Con un costo de producción de alrededor de 250 millones de dólares, “Gladiador II” fue una gran apuesta de Paramount Pictures para volver al Coliseo con un elenco mayoritariamente nuevo, liderado por Denzel Washington y Paul Mescal.

Aunque se estrenó con un poco menos de los 60 millones de dólares previstos en ventas de entradas domésticas, “Gladiador II” ha tenido un buen desempeño en el extranjero. Sumó 50.5 millones de dólares internacionalmente.

Entrando al fin de semana, la taquilla estaba aproximadamente un 11% por debajo del año pasado y un 25% respecto a los tiempos previos a la pandemia. Esto significó que las dos películas principales de esta semana lideraron un resurgimiento muy necesario para los cines.

Con el estreno de “Moana 2” el miércoles, Hollywood podría estar mirando ventas históricas durante el feriado de Acción de Gracias.

ues de anuncios individuales.

Source link

Continue Reading

Trending