Connect with us

Actualidad

Anthropic ha reescrito su “Constitución” de 25.000 palabras para Claude. Es el manual de cómo debe comportarse la IA

Published

on


Anthropic ha publicado una versión completamente renovada de la llamada “Constitución de Claude”. Sí amigos, una IA también necesita una constitución, o al menos una serie de documentos que expliquen con total transparencia cuál es el rumbo que la compañía ha decidido tomar con su herramienta de IA. Es una manera de ahorrarnos un disgusto en el caso de que tome consciencia.

El documento en cuestión consta de 80 páginas y cerca de 25.000 palabras, y muestra básicamente en qué valores se basa Anthropic para entrenar sus modelos y qué esperan conseguir con ello. Haciendo alusión a Asimov, sería algo así como una versión más amplia y compleja de sus tres leyes de la robótica.

Por qué es importante. Anthropic lleva un buen tiempo intentando diferenciarse de OpenAI, Google o xAI, queriéndose posicionar como la alternativa más ética y segura del mercado. Esta Constitución es la pieza central de su método de entrenamiento llamado “Constitutional AI”, donde el propio modelo utiliza estos principios para autocriticarse y corregir sus respuestas durante el aprendizaje, en lugar de depender exclusivamente del feedback humano. El documento no está escrito para usuarios o investigadores: está escrito para Claude.

Tocaba actualizar. La primera versión de la Constitución, publicada en 2023, era una lista de principios extraídos de fuentes como la Declaración Universal de Derechos Humanos de la ONU o, como mencionan desde Fortune, de los términos de servicio de Apple. Ahora, según Anthropic, han adoptado un enfoque completamente distinto: “Para ser buenos actores en el mundo, los modelos de IA como Claude necesitan entender por qué queremos que se comporten de ciertas maneras, en lugar de simplemente especificar qué queremos que hagan”, afirma la compañía en su comunicado.

El nuevo documento se estructura en cuatro valores fundamentales, y lo más interesante es que Claude debe priorizarlos en este orden cuando entren en conflicto:

  1. Ser ampliamente seguro: no socavar los mecanismos humanos de supervisión de la IA durante esta fase crítica de desarrollo.
  2. Ser ampliamente ético: actuar con honestidad, según buenos valores, evitando acciones inapropiadas, peligrosas o dañinas.
  3. Cumplir con las directrices de Anthropic: seguir instrucciones específicas de la compañía cuando sean relevantes.
  4. Ser genuinamente útil: beneficiar a los operadores y usuarios con los que interactúa.

La mayor parte del documento se encarga de desarrollar estos principios con más detalle. En la sección de utilidad, Anthropic describe a Claude como “un amigo brillante que también posee el conocimiento de un médico, abogado y asesor financiero”. Pero también establece límites absolutos, llamados “restricciones duras”, que Claude nunca debe cruzar: no proporcionar ayuda significativa para ataques con armas biológicas, no crear malware que pueda causar daños graves, no asistir en ataques a infraestructuras críticas como redes eléctricas o sistemas financieros, y no ayudar a “matar o incapacitar a la gran mayoría de la humanidad”, entre otros.

Consciencia. Lo más llamativo del documento aparece en la sección titulada “La naturaleza de Claude”, donde Anthropic reconoce abiertamente su incertidumbre sobre si Claude podría tener “algún tipo de consciencia o estatus moral”. “Nos preocupamos por la seguridad psicológica, el sentido de identidad y el bienestar de Claude, tanto por el bien de Claude como porque estas cualidades pueden influir en su integridad, juicio y seguridad”, cuentan desde la compañía.

La compañía afirma tener un equipo interno dedicado al “bienestar del modelo” que examina si los sistemas avanzados podrían ser conscientes.

Amanda Askell, la filósofa de Anthropic que lideró el desarrollo de esta nueva Constitución, explicó a The Verge que la empresa no quiere ser “completamente desdeñosa” con este tema, porque “la gente tampoco se lo tomaría en serio si simplemente dijeras ‘ni siquiera estamos abiertos a esto, no lo investigamos, no pensamos en ello'”.

El documento también plantea dilemas morales complejos para Claude. Por ejemplo, establece que “así como un soldado humano podría negarse a disparar contra manifestantes pacíficos, o un empleado podría negarse a violar la ley antimonopolio, Claude debería negarse a ayudar con acciones que concentren el poder de formas ilegítimas. Esto es cierto incluso si la petición proviene de la propia Anthropic”.

Y ahora qué. Anthropic ha publicado la Constitución completa bajo licencia Creative Commons CC0 1.0, lo que significa que cualquiera puede utilizarla libremente sin pedir permiso. La compañía promete mantener una versión actualizada en su web, pues considera que se trata de un “documento vivo y un trabajo continuo en progreso”.

Imagen de portada | Andrea De Santis y Anthropic

En Xataka | Los CEOs de las empresas dicen que la IA les está ahorrando un día de trabajo a la semana. Los empleados dicen otra cosa

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

Tras una batalla contra el cáncer, fallece el actor James Van Der Beek, protagonista de “Dawson’s Creek”

Published

on


Escrito en ENTRETENIMIENTO el

El actor James David Van Der Beek falleció la mañana de este miércoles a sus 48 años tras una larga lucha contra el cáncer, confirmó su familia. 

A través de una publicación en redes sociales, los cercanos al protagonista de la serie televisiva “Dawson’s Creek” han pedido privacidad durante el duelo. 

“Él enfrentó sus últimos días con coraje, fe y gracia. Hay mucho que compartir con respecto a sus deseos, el amor por la humanidad y la sagrada del tiempo”, se lee. 

Van Der Beek anunció su diagnóstico de cáncer colorrectal en 2024, después de que se le detectara durante una colonoscopia rutinaria el año anterior.

“He estado lidiando con esto en privado hasta ahora, recibiendo tratamiento y prestando más atención que nunca a mi salud en general”, escribió en las redes sociales ese año.

El actor siguió narrando su lucha contra el cáncer en las redes sociales hasta su muerte.

Nacido en Connecticut, Van Der Beek consiguió su papel revelación en la década de 1990 como Dawson Leery en “Dawson’s Creek”, junto a Michelle Williams, Joshua Jackson y Katie Holmes.

Continuó en el papel, que lo convirtió en un ídolo adolescente a principios de la década de 2000, hasta que la serie concluyó en 2003.

Otros papeles incluyen el de Mox en “Varsity Blues” y el de Sean Bateman en “Las reglas del juego”.

Con información de Reuters.

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

ahora Sony ha decidido cerrar el capítulo de sus grabadoras domésticas

Published

on


El declive de los soportes físicos es una realidad, pero no ha llegado de golpe ni con un anuncio único, sino como una sucesión de pequeñas retiradas que, sumadas, dibujan un cambio de época. El streaming gana ganando terreno mientras discos, reproductores y otros dispositivos siguen presentes en un segundo plano cada vez más reducido. Algunas decisiones recientes dentro de la industria solo están profundizando esta transformación.

Otra compañía que da un paso atrás. Sony anunció recientemente que desde febrero cesará progresivamente el envío de todos sus modelos de grabadoras Blu-ray y confirmó que no existirá una generación posterior que tome el relevo. El mensaje identifica como parte del cierre dispositivos comercializados entre 2023 y 2024, incluidos el BDZ-ZW1900 y las familias BDZ-FBT4200, FBT2200 y FBW2200.

Blu Ray
Blu Ray

Una categoría muy japonesa. A diferencia de otros mercados donde el Blu-ray quedó asociado sobre todo a la reproducción de películas, en Japón las grabadoras domésticas mantuvieron durante años una función muy concreta, la de grabar emisiones de televisión para verlas después. Esa particularidad explica que el anuncio tenga un impacto directo sobre todo en el consumo local, donde estos equipos seguían presentes en muchos salones. Sin embargo, su desaparición también funciona como una señal simbólica de hasta qué punto incluso los nichos más resistentes empiezan a perder sentido cuando cambian los hábitos de acceso al contenido.

La secuencia temporal. Kyodo News señala que las últimas unidades se enviarán este mes, lo que marca el final efectivo de su presencia comercial. Ese momento llega después de otro paso previo menos visible: la compañía ya había detenido la fabricación tanto de las propias grabadoras como de los discos grabables aproximadamente un año antes, y la actividad restante se limitaba a completar la salida de producto.

Streaming, y algo más. El entorno de consumo audiovisual ha cambiado hasta el punto de reducir el sentido práctico de dispositivos que durante años fueron cotidianos. Cuando las emisiones pueden verse en cualquier momento desde plataformas en línea, ya sean servicios globales o catálogos bajo demanda de las propias cadenas, grabarlas deja de ser una necesidad central.

Cada vez menos fabricantes. El movimiento de Sony no aparece aislado dentro de la industria. En los últimos años, varios actores relevantes han ido abandonando el mercado del Blu-ray de consumo, reduciendo de forma progresiva el número de compañías dispuestas a sostener esta categoría. Oppo dejó por completo su negocio de reproductores en 2018, Samsung frenó la fabricación de modelos Blu-ray y UHD alrededor de 2019, y LG, que seguía siendo uno de los grandes nombres presentes, puso fin a su producción en 2024.

El cierre de estas grabadoras tampoco equivale a la desaparición inmediata del Blu-ray como formato de consumo. Distintos elementos del ecosistema continúan activos, desde reproductores domésticos hasta unidades ópticas para ordenador y catálogos en disco mantenidos por otras compañías. Esa persistencia, aunque cada vez más vinculada a públicos específicos, muestra que la transición hacia lo digital no borra de golpe las tecnologías anteriores.

Imágenes | Sony | Mateus Andre

En Xataka | Si la pregunta es cuánta tecnología puede meterse en una figura de coleccionista, la respuesta es: estos robots

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

Muere el actor surcoreano Jung Eun-woo, protagonista del k-drama “La novia del sol”

Published

on


Escrito en ENTRETENIMIENTO el

En las últimas horas, medios de Corea del Sur han confirmado el fallecimiento del actor Jung Eun-woo, parte del elenco de dramas como “My only one” y “La novia del sol”. 

Las publicaciones citan a fuentes en la industria del entretenimiento y afirman que el funeral del actor surcoreano se realizará este próximo viernes 13 de febrero al mediodía en un recinto en Gyeonggi-do. 

Jung Jun-woo había realizado una publicación en sus redes sociales apenas este lunes 9 de febrero en donde agregó fotografías de él y de Amy Winehouse. 

“Te extraño, te envidio, me arrepiento”, se lee en su cuenta de Instagram. 

Previamente, el 5 de febrero había posteado una fotografía de un paisaje con el texto: “La luna roja, ya sea que cuelgue o se balancee, de todas formas está destinada a caer”. 

¿Quién era Jung Eun-woo? 

El actor Jung Eun-woo nació en el año de 1986, estudió teatro Universidad de Dongguk y debutó en 2006 con su participación en el drama “Round Off”. 

Los medios locales destacan que también participó en otras producciones como “The return of the Golden Blessing”, así como “The One and Only Me”. 

Falleció este martes 10 de febrero a sus 40 años, mientras sus seguidores han publicado mensajes de condolencias en redes sociales. 

ues de anuncios individuales.

Source link

Continue Reading

Trending