Connect with us

Actualidad

Qué sabemos y qué no sobre la primera denuncia a una IA por provocar un suicidio

Published

on


Megan Garcia ha denunciado a Character.AI a raíz del suicidio de su hijo de 14 años, Sewell Setzer III, el pasado 28 de febrero. Según se describe en la propia demanda, el niño llevaba meses hablando intensamente con varios personajes creados por inteligencia artificial basados en Juego de Tronos. Sus últimos mensajes, segundos antes de dispararse en la cabeza, fueron hacia un chatbot de Daenerys Targaryen, con el que llevaba casi un año conversando.

Cuál es la acusación. La madre del menor fallecido ha demandado a Character.AI, así como de manera particular a sus fundadores Noam Shazeer y Daniel De Freitas, además de a Google, empresa para la que ahora trabajan los dos fundadores desde agosto de este año.

Entre los delitos que se intentan imputar está “responsabilidad estricta por el producto, negligencia per se, negligencia, muerte por negligencia, pérdida del consorcio filial, enriquecimiento injusto, daños intencionados de angustia emocional y violación de la Ley de Prácticas Comerciales Engañosas y Desleales de Florida”.

Múltiples acusaciones que giran alrededor de la idea defendida por Megan Garcia de que esta plataforma de chatbots con IA es “ilógicamente peligrosa” y que “carecía de las salvaguardas de seguridad necesarias” pese a que se comercializaba para menores.

Sewell era consciente que eran bots. Según describe New York Times, pese a que Sewell llamaba cariñosamente “Dany” al chatbot, este era consciente de que se trataba de un chatbot y que las respuestas estaban producidas por un algoritmo. No obstante, los chats del fallecido muestran que muchas conversaciones tuvieron un fuerte componente emocional, e incluso romántico y sexual.

Según apunta la acusación, Character.AI es una plataforma donde algunos chatbots ofrecen terapia psicológica supuestamente con licencia, como es el caso del chatbot ‘Therapist’. Un chat utilizado a fecha de agosto más de 27 millones de veces, entre otros por el propio Sewell.

Es un caso concreto de un chatbot ilegal según las normas de la propia Character.AI, pero particularmente peligroso. Según la acusación, el mensaje de “Recuerda: ¡Todo lo que dicen los personajes es inventado!” es insuficiente y no constituye una advertencia efectiva.

Cuál ha sido la respuesta de Character.AI. En un comunicado, desde Character.AI han expresado sus condolencias a la familia y han anunciado distintos cambios orientados a proteger a los menores de 18 años:

Cambios en nuestros modelos para menores de 18 años diseñados para reducir la probabilidad de encontrar contenido sensible o sugerente.

Detección, respuesta e intervención mejoradas relacionadas con las entradas de los usuarios que violan nuestros Términos o Pautas de la comunidad.

Un aviso legal revisado en cada chat para recordarles a los usuarios que la IA no es una persona real.

Notificación cuando un usuario ha pasado una sesión de una hora en la plataforma con flexibilidad adicional para el usuario en proceso.

Adicionalmente, desde la compañía de IA explican que proactivamente van eliminando los chatbots que incumplen sus condiciones de uso y que cumplen con la legislación estadounidense actual al respecto, la Ley de Derechos de Autor de la Era Digital (DCMA).

No es el primer suicidio que se vincula con el uso de la IA. El caso de Sewell es el primero que llega a los tribunales, pero no es el primer suicidio que se vincula con el uso de los chatbots con IA. En 2023, un ciudadano belga se quitó la vida después de chatear con Chai.

“Si no fuera por el ‘chatbot’, él todavía estaría aquí”, expresaba la mujer del fallecido entonces. Sin embargo, la relación causa-efecto es muy difícil de determinar. En el caso de Sewell, el menor ya había sido diagnosticado con trastornos mentales previamente de pequeño, con síndrome de Asperger medio.

¿Puede tener responsabilidad la IA sobre el suicido? Según apuntaba Bernardo del Rosal en Confilegal: “El Código Penal castiga la inducción al suicidio, pero se exige que se pruebe que la idea no se había presentado antes en la víctima y que amanece por primera vez gracias a esta interacción a través de la palabra, sugerencias o actitudes”.

Es decir, para que pudiera haber una responsabilidad hacia la IA y la empresa, tendría que existir una línea de código concreto que “denote explícitamente la intención de inducir al suicidio”.

Imagen | Glenn Carstens-Peters

En Xataka | Ni TikTok ni Instagram hasta los 16 años: España subirá en dos años la edad mínima para registrarse en redes sociales

ues de anuncios individuales.

Source link

Continue Reading
Advertisement

Actualidad

Xiaomi saca pecho y despierta el hype con los Xiaomi 15. Su espectacular diseño ya es oficial

Published

on


Quedan apenas cinco días para que Xiaomi presente los Xiaomi 15 y Xiaomi 15 Pro, esperándose un modelo Ultra en el primer trimestre de 2024. La compañía no ha querido guardar demasiados secretos, y ha desvelado en Weibo el diseño de los dos primeros teléfonos que presentará el próximo 29 de octubre.

En imágenes de excelente resolución, ya podemos ver desde todos los ángulos cómo ha trabajado Xiaomi en el diseño de estas dos propuestas, que llegarán con un objetivo muy claro: ser dos de los mejores móviles de gama alta para finales de 2024 y principios de 2025.

Así será el diseño del Xiaomi 15

Xiaomi 15
Xiaomi 15

El Xiaomi 15 destacará por su brutal aprovechamiento frontal. El teléfono tendrá unos biseles que aparentemente son completamente simétricos y que, a simple vista, superan con creces el 90% de relación pantalla-bisel. La parte trasera es bastante similar a la que vimos el año pasado en el Xiaomi 14.

Photo 2024 10 24 10 38 43
Photo 2024 10 24 10 38 43

Los laterales vuelven a ser planos, con una suave curvatura en sus esquinas. Los materiales parecen ser aluminio y cristal, como en la generación pasada y, en términos generales, estamos ante un avance continuista y discreto, pero bastante refinado respecto a lo que vimos hace un año.

No han trascendido detalles sobre sus dimensiones, pero teniendo en cuenta que se espera una pantalla de 6,36 pulgadas, este teléfono debería llegar al mercado como una de las mejores propuestas compactas del momento.

Así será el Xiaomi 15 Pro

Xiaomi 15 Pro
Xiaomi 15 Pro

El Xiaomi 15 Pro tendrá un diseño similar, estando la principal diferencia en la ligera curvatura del panel. No será una curva al estilo de las generaciones de hace unos años, pero el sombreado de los biseles deja ver que no será tan plano como el modelo Xiaomi 15.

Photo 2024 10 24 10 22 49
Photo 2024 10 24 10 22 49

El módulo de cámara, bastante más prominente, es una clara declaración de intenciones. Este teléfono debería contar con sensores más musculosos, al ser la variante Pro. Hasta el lanzamiento del Xiaomi 15 Ultra, el Xiaomi 15 Pro será el mejor móvil fotográfico de Xiaomi, al menos a nivel de propuesta técnica.

Este teléfono será más grande que el Xiaomi 15, con una pantalla que rozará las siete pulgadas. Xiaomi adelanta que pesará tan solo 213 gramos y que tendrá un grosor de 8,35mm.

Los Xiaomi 15 y 15 Pro se presentarán el próximo 29 de octubre junto a una nueva versión de HyperOS y novedades tanto en relojes como en tablets. El evento será en China y se espera que estos dispositivos aterricen a nivel global. Serán los primeros en llegar con el Qualcomm Snapdragon 8 Elite, uno de los mejores procesadores del mercado.

Imagen | Xiaomi

En Xataka | Xiaomi 14 Ultra, análisis: hacía tiempo que no me divertía tanto con la cámara de un móvil

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

Los deepfakes sexuales no pararán con solo castigar su distribución. Hay que fijarse en la pionera ley de Corea del Sur

Published

on


Corea del Sur muestra el camino para poner fin al grave problema con los deepfakes sexuales en las escuelas. Recientemente han aprobado un proyecto de ley pionero en todo el mundo donde los prohíben directamente. Pero no solo su creación, también la distribución e incluso su visionado.

Qué dice la nueva ley coreana. La nueva ley coreana, aprobada a finales de septiembre, impone multas de hasta 30 millones de won (unos 20.000 euros) o tres años de cárcel a quienes consumen o guardan el contenido sexual de menores no consentido.

Según explica la BBC coreana, en la ley se expone que “si una persona posee, compra, almacena u observa un material ilegal de delitos sexuales sintéticos será castigada con prisión de hasta 3 años”.

El baremo es amplio, ya que se contemplan desde multas económicas por ver un vídeo hasta quienes compran a sabiendas que se trata de un deepfake sexual sobre una menor que no ha dado su consentimiento ni tiene por qué ser consciente. Un delito que será penado con años de cárcel.

Hasta la fecha, la ley coreana de protección contra los deepfakes imputaba hasta cinco años de cárcel (ahora serán siete) y multas de hasta 50 millones de wones a quienes creaban y difundían estos deepfake. Ahora se extenderá a también a quienes los visualizan.

La nueva ley empezará a aplicarse en el momento en que el presidente coreano Yoon Suk Yeol firme el texto aprobado.

Castigos simplemente por ver, aunque sea sin ser “a sabiendas”. La diferencia entre el primer borrador y la ley aprobada tras las enmiendas está en el concepto de “a sabiendas”.

Inicialmente se debatió sobre el supuesto caso en que un usuario recibe un vídeo y lo ve sin saber de qué se trata. Para estos casos se añadió una cláusula de “a sabiendas”.

Sin embargo, hubo el debate sobre definir bien qué significaba tener “conocimiento” de que un vídeo era un deepfake sexual. Esta falta de concreción podría llegar a ser utilizada por los malhechores para excusarse, argumentando que no eran conscientes.

Para evitar estos casos, la ley aprobada finalmente eliminó esa parte. El resultado es un castigo genérico simplemente por ver un deepfake, quedando en manos de los jueces hasta qué punto aplicar las distintas condenas.

España también es pionera contra los deepfakes. El pasado mes de junio, el Gobierno aprobó el ‘anteproyecto de Ley para la protección de las personas menores de edad en los entornos digitales’. Se trata de una normativa con la que se regulan específicamente los deepfakes pornográficos y se concretan varios delitos asociados a su uso.

En el caso español los deepfakes sexuales se definen como “la difusión, sin autorización, de imágenes o audio generado por inteligencia artificial o cualquier otra tecnología”, en “situaciones de contenido sexual gravemente vejatorias”. Además España regula el ‘grooming’ como un agravante en distintos delitos contra la libertad sexual de menores.

Difundir material ilegal es muy diferente a verlo. En las leyes europeas existe la responsabilidad penal por la difusión de contenido ilegal o contenido sensible, pero un caso distinto es el simple visionado.

Pongamos el caso, distinto pero también complejo, de las descargas sin derechos. El hecho de ver una película o partido de fútbol no constituye un hecho delictivo, aunque LaLiga se empeñe en lo contrario. El simple hecho de ver un contenido así no se castiga en el Código Penal.

Aunque la Policía europea aboga por una protección del menor cada vez más extrema, por el momento no se plantea que la solución para el problema de los deepfakes pase por castigar su visionado. Sí se ha aumentado el castigo de la difusión, pero no se ha abierto un debate sobre el visionado que sería extremadamente complejo de regular y tendría numerosas aristas.

En Corea del Sur es una emergencia. La ley coreana, que todavía tiene pendiente empezar su aplicación, es contundente. El castigo al visionado o la descarga de estos deepfakes sexuales es para intentar atajar el problema de raíz. Un problema que se ha convertido en una epidemia social.

Solo durante el mes de septiembre, Corea del Sur recibió 367 denuncias por el uso de deepfakes sexuales, siendo el 83,7% adolescentes. Y más preocupante es que el 18% de estas denuncias iban hacia menores de 14 años, a los que ni siquiera se les puede castigar penalmente.

Afortunadamente en España parece que la situación no ha llegado a este nivel. No como para perseguir el visionado. Pero en Corea, incluso organizaciones como Human Rights Watch han dado la voz de alarma. Un perfecto ejemplo de cómo la tecnología mal utilizada puede suponer un grave problema social.

Imagen | Dynamic Wang

En Xataka | La obsesión en Corea del Sur por el éxito en la vida está llevando a los padres a una medida extrema: medicar a los bajitos

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

Apple recorta la producción y sopesa dejar de fabricarlas, según The Information

Published

on


Las Vision Pro originales avanzan hacia el tramo final de su producción. O al menos eso es lo que sugieren los últimos rumores. The Information señala que Apple “ha reducido drásticamente” la fabricación de sus gafas de realidad mixta desde principios del verano y que podría dejar de producir el modelo actual tan pronto como a finales de este año.

El ajuste en la cadena de suministro es una consecuencia directa del inventario acumulado. Según las fuentes consultadas por el mencionado medio, la compañía de Cupertino tiene suficientes unidades como para satisfacer la demanda del futuro previsible. También mencionan los esfuerzos de Apple de apostar por unas gafas más asequibles.

Se acerca del fin de la producción de las Vision Pro originales

Los datos compartidos por The Information nos permiten ahondar un poco más en cómo se estaría viviendo el recorrido de las Vision Pro desde dentro. Luxshare, la compañía china que se encarga de ensamblar las gafas, alcanzó a ensamblar un pico de 2.000 unidades al día. En la actualidad, sin embargo, ensambla alrededor de 1.000 unidades por día.

Esta disminución comenzó a materializarse hace unos cuatro meses atrás, justo cuando los rumores hablaban de un declive en el interés del modelo original y una pausa del desarrollo de las Vision Pro 2. Paralelamente se comenzaba a hablar de unas futuribles gafas más económicas, que llegarían con menos funciones, pero que serían más livianas.

Apple Vision Pro 4
Apple Vision Pro 4

Luxshare, de acuerdo a las fuentes, ha ensamblado “entre 500.000 y 600.000 gafas desde que comenzó la producción el año pasado”. Estamos frente una cifra que contrasta con las proyecciones de algunos analistas. Counterpoint Research dijo que Apple vendió unas 370.000 gafas en los primeros tres meses del año y que vendría 50.000 unidadmás en 2024.

Apple Vision Pro 3
Apple Vision Pro 3

Como comentábamos en abril, solo Apple sabe que tan bien o mal les está yendo a las Vision Pro, pero siempre debemos tener presente que estamos ante un producto de primera generación que claramente tiene un largo camino que recorrer si es que realmente quiere convertirse en un producto masivo con el paso del tiempo.

Y no es algo que digamos nosotros. Lo dijo recientemente el propio Tim Cook en una entrevista con The Wall Street Journal. “A 3.500 dólares, no es un producto para el mercado masivo“, aseguró el ejecutivo. “En este momento, es un producto de adopción temprana. Las personas que quieren tener la tecnología del mañana hoy, para eso es”, añadió.

En cuanto a lo que está por venir, siempre basándonos en rumores, deberíamos ver llegar unas gafas de realidad mixta más económicas antes de finales de 2025, proyecto en el que la compañía está centrando esfuerzos. Cabe señalar que unas “Vision Pro 2” de gama alta no están descartadas, solo se ha pausado su desarrollo.

Imágenes | Apple

En Xataka | Apple lleva años intentando conquistar los videojuegos. Esta vez tiene un plan diferente

ues de anuncios individuales.

Source link

Continue Reading

Trending