Actualidad
Qué sabemos y qué no sobre la primera denuncia a una IA por provocar un suicidio
Megan Garcia ha denunciado a Character.AI a raíz del suicidio de su hijo de 14 años, Sewell Setzer III, el pasado 28 de febrero. Según se describe en la propia demanda, el niño llevaba meses hablando intensamente con varios personajes creados por inteligencia artificial basados en Juego de Tronos. Sus últimos mensajes, segundos antes de dispararse en la cabeza, fueron hacia un chatbot de Daenerys Targaryen, con el que llevaba casi un año conversando.
Cuál es la acusación. La madre del menor fallecido ha demandado a Character.AI, así como de manera particular a sus fundadores Noam Shazeer y Daniel De Freitas, además de a Google, empresa para la que ahora trabajan los dos fundadores desde agosto de este año.
Entre los delitos que se intentan imputar está “responsabilidad estricta por el producto, negligencia per se, negligencia, muerte por negligencia, pérdida del consorcio filial, enriquecimiento injusto, daños intencionados de angustia emocional y violación de la Ley de Prácticas Comerciales Engañosas y Desleales de Florida”.
Múltiples acusaciones que giran alrededor de la idea defendida por Megan Garcia de que esta plataforma de chatbots con IA es “ilógicamente peligrosa” y que “carecía de las salvaguardas de seguridad necesarias” pese a que se comercializaba para menores.
Sewell era consciente que eran bots. Según describe New York Times, pese a que Sewell llamaba cariñosamente “Dany” al chatbot, este era consciente de que se trataba de un chatbot y que las respuestas estaban producidas por un algoritmo. No obstante, los chats del fallecido muestran que muchas conversaciones tuvieron un fuerte componente emocional, e incluso romántico y sexual.
Según apunta la acusación, Character.AI es una plataforma donde algunos chatbots ofrecen terapia psicológica supuestamente con licencia, como es el caso del chatbot ‘Therapist’. Un chat utilizado a fecha de agosto más de 27 millones de veces, entre otros por el propio Sewell.
Es un caso concreto de un chatbot ilegal según las normas de la propia Character.AI, pero particularmente peligroso. Según la acusación, el mensaje de “Recuerda: ¡Todo lo que dicen los personajes es inventado!” es insuficiente y no constituye una advertencia efectiva.
Cuál ha sido la respuesta de Character.AI. En un comunicado, desde Character.AI han expresado sus condolencias a la familia y han anunciado distintos cambios orientados a proteger a los menores de 18 años:
Cambios en nuestros modelos para menores de 18 años diseñados para reducir la probabilidad de encontrar contenido sensible o sugerente.
Detección, respuesta e intervención mejoradas relacionadas con las entradas de los usuarios que violan nuestros Términos o Pautas de la comunidad.
Un aviso legal revisado en cada chat para recordarles a los usuarios que la IA no es una persona real.
Notificación cuando un usuario ha pasado una sesión de una hora en la plataforma con flexibilidad adicional para el usuario en proceso.
Adicionalmente, desde la compañía de IA explican que proactivamente van eliminando los chatbots que incumplen sus condiciones de uso y que cumplen con la legislación estadounidense actual al respecto, la Ley de Derechos de Autor de la Era Digital (DCMA).
No es el primer suicidio que se vincula con el uso de la IA. El caso de Sewell es el primero que llega a los tribunales, pero no es el primer suicidio que se vincula con el uso de los chatbots con IA. En 2023, un ciudadano belga se quitó la vida después de chatear con Chai.
“Si no fuera por el ‘chatbot’, él todavía estaría aquí”, expresaba la mujer del fallecido entonces. Sin embargo, la relación causa-efecto es muy difícil de determinar. En el caso de Sewell, el menor ya había sido diagnosticado con trastornos mentales previamente de pequeño, con síndrome de Asperger medio.
¿Puede tener responsabilidad la IA sobre el suicido? Según apuntaba Bernardo del Rosal en Confilegal: “El Código Penal castiga la inducción al suicidio, pero se exige que se pruebe que la idea no se había presentado antes en la víctima y que amanece por primera vez gracias a esta interacción a través de la palabra, sugerencias o actitudes”.
Es decir, para que pudiera haber una responsabilidad hacia la IA y la empresa, tendría que existir una línea de código concreto que “denote explícitamente la intención de inducir al suicidio”.
Imagen | Glenn Carstens-Peters
ues de anuncios individuales.
Source link
Actualidad
quién controla la IA más potente del mundo
Hace justo dos semanas contábamos cómo el gobierno de Estados Unidos bloqueaba dos de los modelos de IA más inteligentes del mundo: Claude Fable 5 y Mythos 5 mientras Anthropic prometía estar trabajando en ello para solucionarlo. Apenas 15 días después, la situación ha dado un primer giro: el Departamento de Comercio de EEUU ha autorizado la reactivación del modelo Claude Mythos 5, pero no para todo el mundo: solo para una lista cerrada de organizaciones estadounidenses consideradas “de confianza”.
Es un desbloqueo, pero con condiciones. De momento, sin noticias de Fable 5, el modelo más general y cercano para el usuario medio.
Qué está pasando. Como recoge en exclusiva Semafor, Howard Lutnick, secretario de Comercio de la administración Trump, ha enviado una carta formal a Anthropic con la buena nueva. La redistribución parcial de Mythos 5 llegará a un conjunto de más de 100 organizaciones estadounidenses que operan y defienden infraestructuras críticas que cuentan con el visto bueno del gobierno estadounidense.
Lutnick comunicó en su carta que Anthropic “se ha comprometido a trabajar con el gobierno de Estados Unidos en protocolos, estándares y lanzamientos futuros” de sus modelos. O lo que es lo mismo, que Anthropic ha pasado por el aro del gobierno, que ahora tiene voz para elegir cómo y a quién llegan sus modelos más avanzados. Como contrapartida, Mythos 5 está parcialmente de vuelta.
Por qué es importante. Porque nunca antes un modelo de IA se había visto sometido a tal escrutinio y requisito de aprobación gubernamental para ser distribuido, lo que establece un peligroso precedente: convertir los modelos de IA más avanzados como tecnología de exportación sujeta a control, como por ejemplo los semiconductores.
Y no afecta solo a Anthropic. OpenAI también ha lanzado en las últimas horas versiones de su nuevo modelo GPT-5.6 con restricciones controladas por el gobierno, como cuenta Sam Altman en X, donde pese a expresar su predilección por un lanzamiento generalizado, muestra su disposición a colaborar con la administración estadounidense en la autorización de modelos futuros.
Contexto. El bloqueo del 12 de junio se produjo tras una advertencia de Amazon de una posible manipulación de los modelos de Anthropic con fines maliciosos, si bien también pesaron informes que apuntaban a su llegada de tapadillo a China. Antes del veto, Mythos 5 estaba disponible de forma limitada para una serie de organizaciones, entre ellas el gobierno de España. Tras el bloqueo, Anthropic envió un equipo de profesionales para que trabajaran codo con codo con el Departamento de Comercio y de la Oficina del Director Nacional de Ciberseguridad para encontrar una solución.
En detalle. La carta de Lutnick especifica que las organizaciones autorizadas (la lista no es pública) pueden usar el modelo en una suerte de “lista blanca”: quien forme parte de ella tiene acceso, sea extranjero o no. Curiosamente todo esto está sucediendo sin que EEUU tenga una normativa formal para evaluar modelos de la IA, a diferencia de la ley de IA europea: el gobierno de Trump bloqueó primero y está construyendo las reglas sobre la marcha.
Este desbloqueo parcial no resuelve el problema para quienes están fuera de Estados Unidos: la lista de organizaciones autorizadas es exclusivamente estadounidense y el mecanismo de exención se basa en el control de exportaciones, por lo que cualquier entidad extranjera que quiera usar Mythos 5 requeriría una licencia específica que no existe. Así que otros gobiernos, empresas no estadounidenses y consumidores de fuera siguen sin saber si recuperarán estos modelos ni cuando porque Estados Unidos está actuando de forma unilateral.
Sí, pero. Obviamente el desbloqueo es una buena noticia para Anthropic, pero deja varios frentes abiertos. El primero es qué pasa con Fable 5, el modelo de uso general, del que no hay fecha de retorno. El segundo es que la lista de organizaciones autorizadas no es pública y no se conoce qué criterios se han usado para la selección. En Europa varias voces ya han expresado su frustración, si bien el problema del viejo continente es otro: la dependencia tecnológica de terceros y la falta de un ecosistema de alternativas a la altura.
De fondo subyace otro problema que enseñó la patita con el bloqueo de hace dos semanas y que el lanzamiento de GPT-5.6 ha confirmado: las empresas y modelos más punteros de IA en Estados Unidos tienen que pasar por el filtro gubernamental y desconocemos si será el modus operandi a partir de ahora. Si es así, esta forma de proceder puede ser un lastre en la carrera de la IA precisamente para el país que hoy lleva ventaja.
En Xataka | China tiene dos ideas para ganar la carrera de la IA: invertir un dineral y dejar a NVIDIA casi sin margen
Portada | Xataka con Gemini
ues de anuncios individuales.
Source link
Actualidad
La cuarta película española más taquillera de la historia desembarca en Netflix rebosante de incorrección política
Hace 28 años, Santiago Segura rodó en ocho semanas y con 1,7 millones de euros la primera película de la saga más taquillera de la historia del cine español. Ahora, la sexta parte de la serie, ‘Torrente Presidente’, aterriza en Netflix con un historial de récords que habla por sí solo: el mejor primer fin de semana de una película española en los últimos 15 años, más de 3,7 millones de espectadores en cines, la cuarta mayor recaudación de una película española de todos los tiempos, y un presupuesto que Segura cifró en algo menos de seis millones de euros.
Doce años después de ‘Torrente 5: Operación Eurovegas’ vuelve José Luis Torrente, el ex-policía fascista y del Atleti, siempre convencido de que España atraviesa su momento más crítico y de que solo él puede salvar la dignidad nacional. Esta vez descubre que la política puede ser su mejor oportunidad para medrar y tras una serie de enredos termina liderando el partido populista NOX gracias a su inconfundible y demagógico estilo, tan afín a la realiodad política actual.
Estaba claro que España tenía sed de Torrente, y Segura, al que se le puede acusar de muchas cosas pero no de no tener olfato comercial, ha sabido aprovechar un momento social muy específico para devolver a Torrente a las carteleras. Ahora mismo, ‘Torrente, presidente’ ya ha recaudado más de la mitad de todo el cine español estrenado en 2026, y con seguridad se convertirá en una de las películas más vistas del momento en Netflix, que ayudó a cofinanciar la producción y que tiene en exclusiva el resto de la saga en su catálogo.
Lo notorio de todo esto es que ‘Torrente Presidente’ no es una rareza para la carrera comercial de Segura. Más allá de que la serie haya recaudado ya más de cien millones de euros, detrás de la película está Bowfinger International Pictures, la productora dirigida por Segura junto a María Luisa Gutiérrez. La compañía acumula más de cuarenta títulos y un historial que incluye ‘La infiltrada’ (Goya a Mejor película) y las sagas ‘Padre no hay más que uno’ y ‘La familia Benetón’. Entre 2025 y 2026, sus producciones sumaron el 30% de la taquilla española. Y entre su acuerdo de producción tradicional con Atresmedia y ahora la entrada de Netflix en las finanzas de la compañía, la productora tiene un músculo con poco que envidiar a productoras tradicionales mucho más grandes.
ues de anuncios individuales.
Source link
Actualidad
La cuarta película española más taquillera de la historia desembarca en Netflix rebosante de incorrección política
Hace 28 años, Santiago Segura rodó en ocho semanas y con 1,7 millones de euros la primera película de la saga más taquillera de la historia del cine español. Ahora, la sexta parte de la serie, ‘Torrente Presidente’, aterriza en Netflix con un historial de récords que habla por sí solo: el mejor primer fin de semana de una película española en los últimos 15 años, más de 3,7 millones de espectadores en cines, la cuarta mayor recaudación de una película española de todos los tiempos, y un presupuesto que Segura cifró en algo menos de seis millones de euros.
Doce años después de ‘Torrente 5: Operación Eurovegas’ vuelve José Luis Torrente, el ex-policía fascista y del Atleti, siempre convencido de que España atraviesa su momento más crítico y de que solo él puede salvar la dignidad nacional. Esta vez descubre que la política puede ser su mejor oportunidad para medrar y tras una serie de enredos termina liderando el partido populista NOX gracias a su inconfundible y demagógico estilo, tan afín a la realiodad política actual.
Estaba claro que España tenía sed de Torrente, y Segura, al que se le puede acusar de muchas cosas pero no de no tener olfato comercial, ha sabido aprovechar un momento social muy específico para devolver a Torrente a las carteleras. Ahora mismo, ‘Torrente, presidente’ ya ha recaudado más de la mitad de todo el cine español estrenado en 2026, y con seguridad se convertirá en una de las películas más vistas del momento en Netflix, que ayudó a cofinanciar la producción y que tiene en exclusiva el resto de la saga en su catálogo.
Lo notorio de todo esto es que ‘Torrente Presidente’ no es una rareza para la carrera comercial de Segura. Más allá de que la serie haya recaudado ya más de cien millones de euros, detrás de la película está Bowfinger International Pictures, la productora dirigida por Segura junto a María Luisa Gutiérrez. La compañía acumula más de cuarenta títulos y un historial que incluye ‘La infiltrada’ (Goya a Mejor película) y las sagas ‘Padre no hay más que uno’ y ‘La familia Benetón’. Entre 2025 y 2026, sus producciones sumaron el 30% de la taquilla española. Y entre su acuerdo de producción tradicional con Atresmedia y ahora la entrada de Netflix en las finanzas de la compañía, la productora tiene un músculo con poco que envidiar a productoras tradicionales mucho más grandes.
ues de anuncios individuales.
Source link
-
Actualidad2 días agoHay gente recomendando poner una moneda sobre el router WiFi para que funcione mejor. Es una tontería como un templo
-
Actualidad1 hora agoquién controla la IA más potente del mundo
-
Deportes2 días agoLey Seca en CDMX: Decomisan alcohol en Fan Fest del Zócalo
-
Actualidad1 día agoJaén fue el mayor productor de plomo del mundo. Décadas después, quiere repetir la jugada con las tierras raras, pero tiene un problema: la realidad
-
Deportes2 días agoMundial 2026: Capitaliza Vinícius Júnior regalitos escoceses en Miami
-
Actualidad1 día ago¡México invicto! El stand up de El Piojo Herrera, y el chef Robe Grill hace su magia
-
Actualidad2 días agoHarvey Weinstein evita un cuarto juicio en Nueva York; fiscalía retira cargos de violación en tercer grado
-
Tecnologia1 día agoGoogle Finance incorpora la inteligencia artificial y estrena aplicación




