No todo es positivo para DeepSeek. Aunque la empresa de IA está recibiendo una avalancha de elogios por sus avances tecnológicos, también está generando inquietud en cuanto a privacidad y seguridad. De hecho, este jueves estamos asistiendo a la primera consecuencia tangible de este último escenario: Italia quiere bloquear la versión web del chatbot chino.

La Autoridad Italiana de Protección de Datos ha ordenado limitar el tratamiento de los datos de los usuarios italianos por parte de Hangzhou DeepSeek Artificial Intelligence Co., Ltd. y Beijing DeepSeek Artificial Intelligence Co., Ltd. Estamos hablando de las dos compañías asiáticas que controlan la aplicación que no ha dejado de ganar popularidad desde su lanzamiento.

DeepSeek, ante el escrutinio de los reguladores europeos

El comunicado de prensa del mencionado organismo, titulado “Inteligencia artificial: la Autoridad Italiana de Protección de Datos bloquea DeepSeek”, reconoce que el chatbot de IA ha sido descargado por millones de personas en los últimos días, y señala que su medida busca preservar a los usuarios italianos de la recopilación de datos por parte del mismo.

La noticia llega después de que Garante, que es como se conoce al regulador italiano, solicitara a las mencionadas compañías información detallada sobre la versión online de su producto estrella. En concreto, quería saber qué datos personales se recopilan, de qué fuentes, con qué fines, cuál es la base jurídica del tratamiento y si se almacenan en servidores ubicados en China.

Como señalamos en algunos artículos publicados anteriormente, la política de privacidad de DeepSeek da cuenta de una gran recopilación de datos, muchos de los cuales se utilizan para el entrenamiento de modelos de lenguaje, y afirma que los mismos se almacenan en centros de datos ubicados en China. Aparentemente, Garante buscaba una declaración oficial en relación con este tema.

Cabe señalar que las firmas que controlan DeepSeek no tardaron en responder, pero la información proporcionada fue considerada “completamente insuficiente” por el regulador italiano. “Las empresas declararon que no operan en Italia y que no se les aplica la legislación europea”, ha dicho Garante, que tras anunciar la prohibición ha iniciado una investigación formal sobre DeepSeek.

En este momento no está claro cómo se materializará la prohibición. Cuando el regulador italiano decidió vetar a ChatGPT en 2023, fue la propia OpenAI la que retiró su producto hasta solucionar las preocupaciones planteadas. Dado que DeepSeek ha dicho que no opera en el país europeo, parece poco probable que la compañía limite su servicio, que todavía se encuentra accesible.

Las compañías que prestan servicios dentro de la Unión Europea deben cumplir con varias reglas del bloque, entre ellas el Reglamento General de Protección de Datos (RGPD), para evitar sanciones. Toca esperar para saber si también se pronunciarán otros miembros del Comité Europeo de Protección de Datos, como ya lo ha hecho la Comisión de Protección de Datos de Irlanda.

DeepSeek también habría protagonizado un incidente de seguridad. La compañía especializada Wiz ha señalado que la versión web del popular chatbot expuso, entre otras cosas, conversaciones de los usuarios. DeepSeek también tiene modelos que se pueden ejecutar en local, sin conexión a Internet. Estos, precisamente, han recibido comentarios muy positivos por su rendimiento.

Imágenes | Michele Bitetto | Captura de pantalla | Garante | DeepSeek

En Xataka | Microsoft necesita tiempo para equilibrar sus ingresos por IA y sus descomunales costes. El problema es que China ya está aquí

EFE.-La cantante británica Marianne Faithfull ha fallecido este jueves a los 78 años, según informó un portavoz de la artista.

“Con profunda tristeza anunciamos la muerte de la cantautora y actriz Marianne Faithfull”, anunciaron en un comunicado.

Entre los éxitos de la carrera de Faithfull se encuentra el tema “As Tears Go By”, escrito por Mick Jagger y Keith Richards, de los Rolling Stones.

Faithfull nació en 1946 en Londres y descendía de la nobleza austriaca por parte de madre, pero creció en el seno de una familia de clase media.

Su carrera artística comenzó en 1964 tras conocer en una fiesta de los Rolling Stones al mánager de la banda, Andrew Loog Oldham.

Su single debut, “As Tears Go By”, escrito por Mick Jagger y Keith Richards, la catapultó al top 10 de las listas de éxitos del Reino Unido en ese mismo año.

Asimismo, también comenzó a dar sus primeros pasos en el cine y protagonizó películas como “La chica de la motocicleta” o “Hamlet” a finales de los años 60, junto a artistas como Orson Welles o Alain Delon.

Fue considerada como una musa de los Rolling Stones, pues mantuvo una relación con Jagger durante cuatro años, y su figura inspiró canciones de la banda como “Wild Horses”.

Sin embargo, su reputación se vio marcada por su adicción a las drogas y en 1970 se separó de Jagger, perdió la custodia de su hijo y llegó a vivir en la calle.

Una década más tarde regresó a la música con su álbum “Broken English” (1979), que le valió una nominación a los Premios Grammy, y se alejó de las drogas.

Faithfull atravesaba graves problemas de salud. En 2006 se sometió a una cirugía tras un diagnóstico de cáncer de mama; un año más tarde anunció que padecía hepatitis C desde hacía más de una década y, en 2020, contrajo el Covid-19 y estuvo hospitalizada. 

Es fácil olvidar que las conversaciones que mantenemos con los chatbots de inteligencia artificial (IA), como ChatGPT o DeepSeek, no son completamente privadas. Generalmente, los mensajes que intercambiamos con estas novedosas aplicaciones son utilizados para entrenar nuevos modelos de lenguaje y pueden ser revisados por personal de la compañía en determinados casos, como para abordar posibles infracciones de los términos del servicio.

Ahora bien, nuestros datos podrían llegar incluso más lejos en caso de presentarse un incidente de seguridad. Según la compañía especializada Wiz, una base de datos de DeepSeek acabó expuesta durante un determinado período de tiempo. El fallo permitía a actores externos acceder a una variedad de datos, como historial de chats, flujos de registros, información sensible de la API y detalles operativos. Veamos el tema en profundidad.

DeepSeek y una base de datos expuesta

Los investigadores de Wiz, que en el pasado han detectado varias vulnerabilidades en servicios como Bing de Microsoft y Oracle Cloud, se propusieron evaluar la seguridad de DeepSeek. “En pocos minutos” encontraron una base de datos de ClickHouse expuesta públicamente en Internet. Es decir, se podía acceder a ella sin credencial de autenticación alguna. ClickHouse es un sistema de gestión de base de datos Open Source desarrollado por Yandex.

El equipo de la compañía estadounidense de seguridad determinó que la exposición permitía la ejecución directa de consultas SQL arbitrarias a través del navegador. Se trataba de algo bastante peligroso porque abría la puerta a obtener datos internos. Después de ejecutar varias consultas descubrieron “datos muy sensibles”, entre los que se encontraban registros de textos sin formato y un volumen significativo de historial de chat de los usuarios.

Wiz explica que entre los fragmentos de código se hallaban numerosas conversaciones. En la captura de pantalla inferior vemos un mensaje escrito en chino, que traducido al español dice: “Habla sobre los cohetes de propulsión sólida, cubriendo su invención o descubrimiento, evolución histórica, relevancia, componentes, principio de funcionamiento, funciones y posibles avances futuros. Desglósalo en secciones y proporciona detalles”.

El mensaje en cuestión nunca debió haber salido de los servidores de DeepSeek, una empresa que, al igual que otras a las que confiamos nuestros datos, debería protegerlos. Wiz explica que no tardó en revelar el problema a DeepSeek, que resolvió rápidamente el fallo. Cabe señalar que no hemos encontrado una declaración oficial de la compañía, por lo que hemos escrito a DeepSeek para incluir sus comentarios en este artículo.

DeepSeek se encuentra bajo escrutinio en Europa. Las autoridades de protección de datos de Irlanda e Italia han emitido solicitudes de información en medio de preocupaciones de privacidad. El organismo italiano, recordemos, sancionó a OpenAI el año pasado por no informar una brecha de datos ocurrida en 2023. A principios de esta semana, DeepSeek dijo que estaba sufriendo un ciberataque, pero no brindó detalles.

Imágenes | freepik | Wiz | DeepSeek

En Xataka | Hace años que los Mac tienen un antivirus integrado: así funciona este silencioso (y avanzado) sistema llamado XProtect