Connect with us

Actualidad

Anthropic ha reescrito su “Constitución” de 25.000 palabras para Claude. Es el manual de cómo debe comportarse la IA

Published

on


Anthropic ha publicado una versión completamente renovada de la llamada “Constitución de Claude”. Sí amigos, una IA también necesita una constitución, o al menos una serie de documentos que expliquen con total transparencia cuál es el rumbo que la compañía ha decidido tomar con su herramienta de IA. Es una manera de ahorrarnos un disgusto en el caso de que tome consciencia.

El documento en cuestión consta de 80 páginas y cerca de 25.000 palabras, y muestra básicamente en qué valores se basa Anthropic para entrenar sus modelos y qué esperan conseguir con ello. Haciendo alusión a Asimov, sería algo así como una versión más amplia y compleja de sus tres leyes de la robótica.

Por qué es importante. Anthropic lleva un buen tiempo intentando diferenciarse de OpenAI, Google o xAI, queriéndose posicionar como la alternativa más ética y segura del mercado. Esta Constitución es la pieza central de su método de entrenamiento llamado “Constitutional AI”, donde el propio modelo utiliza estos principios para autocriticarse y corregir sus respuestas durante el aprendizaje, en lugar de depender exclusivamente del feedback humano. El documento no está escrito para usuarios o investigadores: está escrito para Claude.

Tocaba actualizar. La primera versión de la Constitución, publicada en 2023, era una lista de principios extraídos de fuentes como la Declaración Universal de Derechos Humanos de la ONU o, como mencionan desde Fortune, de los términos de servicio de Apple. Ahora, según Anthropic, han adoptado un enfoque completamente distinto: “Para ser buenos actores en el mundo, los modelos de IA como Claude necesitan entender por qué queremos que se comporten de ciertas maneras, en lugar de simplemente especificar qué queremos que hagan”, afirma la compañía en su comunicado.

El nuevo documento se estructura en cuatro valores fundamentales, y lo más interesante es que Claude debe priorizarlos en este orden cuando entren en conflicto:

  1. Ser ampliamente seguro: no socavar los mecanismos humanos de supervisión de la IA durante esta fase crítica de desarrollo.
  2. Ser ampliamente ético: actuar con honestidad, según buenos valores, evitando acciones inapropiadas, peligrosas o dañinas.
  3. Cumplir con las directrices de Anthropic: seguir instrucciones específicas de la compañía cuando sean relevantes.
  4. Ser genuinamente útil: beneficiar a los operadores y usuarios con los que interactúa.

La mayor parte del documento se encarga de desarrollar estos principios con más detalle. En la sección de utilidad, Anthropic describe a Claude como “un amigo brillante que también posee el conocimiento de un médico, abogado y asesor financiero”. Pero también establece límites absolutos, llamados “restricciones duras”, que Claude nunca debe cruzar: no proporcionar ayuda significativa para ataques con armas biológicas, no crear malware que pueda causar daños graves, no asistir en ataques a infraestructuras críticas como redes eléctricas o sistemas financieros, y no ayudar a “matar o incapacitar a la gran mayoría de la humanidad”, entre otros.

Consciencia. Lo más llamativo del documento aparece en la sección titulada “La naturaleza de Claude”, donde Anthropic reconoce abiertamente su incertidumbre sobre si Claude podría tener “algún tipo de consciencia o estatus moral”. “Nos preocupamos por la seguridad psicológica, el sentido de identidad y el bienestar de Claude, tanto por el bien de Claude como porque estas cualidades pueden influir en su integridad, juicio y seguridad”, cuentan desde la compañía.

La compañía afirma tener un equipo interno dedicado al “bienestar del modelo” que examina si los sistemas avanzados podrían ser conscientes.

Amanda Askell, la filósofa de Anthropic que lideró el desarrollo de esta nueva Constitución, explicó a The Verge que la empresa no quiere ser “completamente desdeñosa” con este tema, porque “la gente tampoco se lo tomaría en serio si simplemente dijeras ‘ni siquiera estamos abiertos a esto, no lo investigamos, no pensamos en ello'”.

El documento también plantea dilemas morales complejos para Claude. Por ejemplo, establece que “así como un soldado humano podría negarse a disparar contra manifestantes pacíficos, o un empleado podría negarse a violar la ley antimonopolio, Claude debería negarse a ayudar con acciones que concentren el poder de formas ilegítimas. Esto es cierto incluso si la petición proviene de la propia Anthropic”.

Y ahora qué. Anthropic ha publicado la Constitución completa bajo licencia Creative Commons CC0 1.0, lo que significa que cualquiera puede utilizarla libremente sin pedir permiso. La compañía promete mantener una versión actualizada en su web, pues considera que se trata de un “documento vivo y un trabajo continuo en progreso”.

Imagen de portada | Andrea De Santis y Anthropic

En Xataka | Los CEOs de las empresas dicen que la IA les está ahorrando un día de trabajo a la semana. Los empleados dicen otra cosa

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

Acabamos de confirmar, para sorpresa de nadie, que los dentistas neandertales eran auténticos carniceros

Published

on


Ir al dentista o tener cirujanos maxilofaciales para muchas personas puede ser algo que surgió con nuestra especie y nuestro gran intelecto, puesto que no concebimos que en la época prehistórica nuestros antepasados estuvieran preocupados por sus dientes. Pero ahora sabemos que los neandertales contaban con dentistas, aunque lógicamente con las técnicas de la época. 

Una evolución. Hasta ahora sabíamos que los neandertales utilizaban pequeños palillos de madera para limpiarse los restos de comida, algo que, para ser justos, también hacen algunos primates modernos. Sin embargo, un nuevo hallazgo en las gélidas montañas de Siberia acaba de volar por los aires lo que creíamos saber sobre la medicina prehistórica. 

Y es que no era un simple instinto, ya que los neandertales sabían localizar el origen de un dolor agudo y utilizar herramientas de piedra para realizar intervenciones dentales invasivas como las que nos pueden hacer hoy. Aunque lógicamente ya no tenemos la piedra como material quirúrgico. 

El paciente cero. El descubrimiento protagonista de esta historia ha sido bautizado como ‘Chagyrskaya 64’, y no es más que un segundo molar inferior izquierdo que pertenecía a una persona adulta que habitó la cueva de Chagyrskaya en el macizo de Altái en Rusia. Hasta sabemos que pertenecía a un grupo que representaba a las poblaciones neandertales más orientales conocidas. 

Diente
Diente

Vía: PLOS. Imágenes del diente analizado por los investigadores.

Un diente. A simple vista, el diente presentaba una cavidad enorme e inusual en su parte superior por donde cumple la función de masticación. Al principio, la arqueología achacaba esto al desgaste natural de la pieza por la fricción a la hora de masticar alimentos duros o simplemente por haber recibido un golpe. 

Sin embargo, los bordes de la cavidad eran suaves y redondeados, por lo que se descartaba completamente la rotura accidental. Además, la cámara pulpar, que no es más que la parte interna del diente, estaba ensanchada de una manera que el desgaste no podía explicar. 

Lo que ocurría. La respuesta a todo se centra en que el diente contaba con ua caries severa que alguien intentó curar por la fuerza, quitando toda la zona del diente que estaba en ‘peor’ estado. Y seguramente el dolor que se siente con una caries de un tamaño considerable que llega a la zona nerviosa del diente fue el desencadenante de tener que hacer esta técnica. 

Odontología rústica. Para demostrar que este agujero fue hecho a propósito, el equipo de investigación recurrió a la microtomografía computarizada y a un exhaustivo análisis traceológico para ver las huellas de uso. Aquí lo que se vio es que las paredes de la cavidad tenían microsurcos escalonados en forma de V, idénticos a los que deja un perforador lítico, que era una herramienta de piedra afilada. 

Y para confirmarlo, los expertos realizaron arqueología experimental, replicando el proceso de perforación y rotación en molares humanos ‘modernos’. Y las marcas coincidían a la perfección. 

Una conclusión. Con toda esta información podemos saber que hubo un individuo que no solo sobrevivió a la brutal intervención en vida, sino que siguió masticando con ese diente, como demuestra el pulido posterior. Es cierto que no tenían opción para ‘tapar’ ese agujero en el diente como sí nos hacen ahora los dentistas tras quitar la caries, pero no le impidió seguir con su vida normal. 

Un salto cognitivo. Más allá de la anécdota médica, la realidad es que solucionar una caries excavando el tejido infectado requiere de un razonamiento racional bastante complejo. Aunque lo vemos ahora fácil, el hecho de identificar el origen del dolor, concebir la idea de que puede ser eliminar, seleccionar la herramienta para esa tarea y ejecutar movimientos rotatorios precisos con los dedos no es fácil. 

Es por ello que esta capacidad separa este comportamiento del mero instinto animal y demuestra que los neandertales estaban más avanzados de lo que teníamos en mente muchos de nosotros. 

Imágenes | Gerd Altmann wavebreakmedia_micro en Magnific

En Xataka | Un mestizaje de 4.000 kilómetros: tenemos el primer mapa detallado de la convivencia entre neandertales y sapiens

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

Acabamos de confirmar, para sorpresa de nadie, que los dentistas neandertales eran auténticos carniceros

Published

on


Ir al dentista o tener cirujanos maxilofaciales para muchas personas puede ser algo que surgió con nuestra especie y nuestro gran intelecto, puesto que no concebimos que en la época prehistórica nuestros antepasados estuvieran preocupados por sus dientes. Pero ahora sabemos que los neandertales contaban con dentistas, aunque lógicamente con las técnicas de la época. 

Una evolución. Hasta ahora sabíamos que los neandertales utilizaban pequeños palillos de madera para limpiarse los restos de comida, algo que, para ser justos, también hacen algunos primates modernos. Sin embargo, un nuevo hallazgo en las gélidas montañas de Siberia acaba de volar por los aires lo que creíamos saber sobre la medicina prehistórica. 

Y es que no era un simple instinto, ya que los neandertales sabían localizar el origen de un dolor agudo y utilizar herramientas de piedra para realizar intervenciones dentales invasivas como las que nos pueden hacer hoy. Aunque lógicamente ya no tenemos la piedra como material quirúrgico. 

El paciente cero. El descubrimiento protagonista de esta historia ha sido bautizado como ‘Chagyrskaya 64’, y no es más que un segundo molar inferior izquierdo que pertenecía a una persona adulta que habitó la cueva de Chagyrskaya en el macizo de Altái en Rusia. Hasta sabemos que pertenecía a un grupo que representaba a las poblaciones neandertales más orientales conocidas. 

Diente
Diente

Vía: PLOS. Imágenes del diente analizado por los investigadores.

Un diente. A simple vista, el diente presentaba una cavidad enorme e inusual en su parte superior por donde cumple la función de masticación. Al principio, la arqueología achacaba esto al desgaste natural de la pieza por la fricción a la hora de masticar alimentos duros o simplemente por haber recibido un golpe. 

Sin embargo, los bordes de la cavidad eran suaves y redondeados, por lo que se descartaba completamente la rotura accidental. Además, la cámara pulpar, que no es más que la parte interna del diente, estaba ensanchada de una manera que el desgaste no podía explicar. 

Lo que ocurría. La respuesta a todo se centra en que el diente contaba con ua caries severa que alguien intentó curar por la fuerza, quitando toda la zona del diente que estaba en ‘peor’ estado. Y seguramente el dolor que se siente con una caries de un tamaño considerable que llega a la zona nerviosa del diente fue el desencadenante de tener que hacer esta técnica. 

Odontología rústica. Para demostrar que este agujero fue hecho a propósito, el equipo de investigación recurrió a la microtomografía computarizada y a un exhaustivo análisis traceológico para ver las huellas de uso. Aquí lo que se vio es que las paredes de la cavidad tenían microsurcos escalonados en forma de V, idénticos a los que deja un perforador lítico, que era una herramienta de piedra afilada. 

Y para confirmarlo, los expertos realizaron arqueología experimental, replicando el proceso de perforación y rotación en molares humanos ‘modernos’. Y las marcas coincidían a la perfección. 

Una conclusión. Con toda esta información podemos saber que hubo un individuo que no solo sobrevivió a la brutal intervención en vida, sino que siguió masticando con ese diente, como demuestra el pulido posterior. Es cierto que no tenían opción para ‘tapar’ ese agujero en el diente como sí nos hacen ahora los dentistas tras quitar la caries, pero no le impidió seguir con su vida normal. 

Un salto cognitivo. Más allá de la anécdota médica, la realidad es que solucionar una caries excavando el tejido infectado requiere de un razonamiento racional bastante complejo. Aunque lo vemos ahora fácil, el hecho de identificar el origen del dolor, concebir la idea de que puede ser eliminar, seleccionar la herramienta para esa tarea y ejecutar movimientos rotatorios precisos con los dedos no es fácil. 

Es por ello que esta capacidad separa este comportamiento del mero instinto animal y demuestra que los neandertales estaban más avanzados de lo que teníamos en mente muchos de nosotros. 

Imágenes | Gerd Altmann wavebreakmedia_micro en Magnific

En Xataka | Un mestizaje de 4.000 kilómetros: tenemos el primer mapa detallado de la convivencia entre neandertales y sapiens

ues de anuncios individuales.

Source link

Continue Reading

Actualidad

La guerra en Ucrania ha entrado en una fase tan desquiciada que los soldados están disparando a sus propios drones

Published

on


En 1943, durante una misión nocturna sobre Europa, varios pilotos británicos regresaron convencidos de que habían sido perseguidos por extraños objetos luminosos que aparecían y desaparecían alrededor de sus aviones. Algunos pensaron que era un arma secreta alemana, otros que eran fallos nerviosos provocados por el estrés del combate. Décadas después, aquella confusión aérea sigue recordando una idea inquietante: hay momentos en las guerras donde el problema deja de ser únicamente el enemigo.

Un cielo esquizofrénico. Contaban en Insider que la guerra en Ucrania ha entrado en una fase tan saturada de drones que, en muchos sectores del frente, los soldados ya no saben qué aparato vuela sobre sus cabezas ni quién lo controla. La consecuencia es una situación casi absurda incluso para estándares bélicos: tropas ucranianas disparando contra sus propios drones por pura supervivencia, operadores cortando con tijeras cables de fibra óptica sin saber si pertenecen al enemigo o a una unidad amiga y sistemas de guerra electrónica bloqueando cualquier señal que aparezca en el aire aunque eso implique inutilizar equipos propios. 

El campo de batalla se ha convertido en un espacio tan abarrotado de pequeños aparatos voladores, interferencias y enlaces de datos que distinguir entre aliado y enemigo dura apenas segundos. Si algo se acerca demasiado rápido, la reacción automática es destruirlo primero y preguntar después.

Drones desechables por exceso. Parte del problema nace de cómo ambos bandos han transformado el dron en un arma de consumo masivo. Ya no se trata de plataformas caras y escasas como las que utilizaban las potencias occidentales hace una década, sino de sistemas relativamente baratos fabricados a enorme velocidad y pensados para perderse constantemente. 

Rusia y Ucrania consumen drones en cantidades tan gigantescas que las pérdidas por fuego amigo se han integrado casi como un coste operativo más. Las unidades esperan perder aparatos por interferencias, por errores de coordinación, por jamming enemigo o simplemente porque algún soldado nervioso abre fuego contra cualquier objeto que zumbe cerca de su posición. El resultado es un entorno de combate donde la saturación tecnológica ha comenzado a generar caos incluso dentro del propio bando.

La nueva lógica: destruirlos antes de que existan. Esa explosión descontrolada del uso de drones está empujando además la guerra hacia una nueva etapa estratégica: atacar las fábricas antes que los aparatos en vuelo. Rusia y Ucrania han entendido que interceptar drones uno a uno ya no basta cuando ambos producen miles de sistemas continuamente. Por eso los ataques de largo alcance contra plantas industriales, centros logísticos y fabricantes de componentes se han multiplicado durante los últimos meses. 

Ucrania está golpeando instalaciones rusas vinculadas a drones Shahed, sensores, módulos de navegación y sistemas electrónicos resistentes a interferencias, mientras Rusia busca destruir talleres ucranianos donde se ensamblan drones FPV o aparatos de ataque de largo alcance capaces de penetrar cientos de kilómetros dentro de territorio ruso. La lógica empieza a parecerse menos a una guerra convencional y más a una cacería industrial permanente.

La electrónica no sigue el ritmo. El problema para ambos bandos es que la adaptación tecnológica avanza demasiado rápido. Cada mejora defensiva genera una modificación inmediata en los drones enemigos. Los sistemas de interferencia dejan de funcionar frente a enlaces por fibra óptica. Los bloqueos GPS pierden eficacia contra nuevos módulos de navegación. Los drones incorporan más autonomía, mayor capacidad de procesamiento y resistencia creciente a las contramedidas electrónicas. 

En paralelo, Ucrania y Rusia utilizan inteligencia satelital, análisis de patrones y reconocimiento constante para localizar centros de producción, antenas, almacenes y cadenas logísticas. El frente ya no termina en las trincheras: continúa cientos o miles de kilómetros detrás, dentro de fábricas, parques industriales y redes de suministro que se han convertido en objetivos militares prioritarios.

Una máquina fuera de control. Lo más inquietante es que esta dinámica da la sensación de haberse independizado parcialmente de los propios soldados. Hay drones atacando drones, sistemas automáticos interfiriendo cualquier señal disponible, operadores intentando coordinar corredores seguros para que sus propios aparatos no sean derribados y fábricas enteras convertidas en objetivos diarios para sostener un ritmo de pérdidas que parece imposible de absorber. 

Si se quiere también, la guerra en Ucrania sigue siendo una guerra de artillería y desgaste, pero se está transformando también en algo mucho más extraño: un ecosistema aéreo saturado de máquinas baratas y desechables donde la supervivencia depende de reaccionar antes de identificar

Y cuando un ejército termina disparando a sus propios drones porque hay demasiados aparatos en el cielo como para distinguirlos, significa que el conflicto ha cruzado una frontera completamente nueva. Y desquiciada. 

Imagen | mod-gov-ua

En Xataka | Ucrania ha encontrado una nueva forma de asaltar edificios ocupados por Rusia: enviar un robot con una sorpresa de 300 kilos

En Xataka | La guerra en Ucrania se está llenando de barcos “Mad Max”: pantallas metálicas y redes contra drones FPV en el mar Negro

ues de anuncios individuales.

Source link

Continue Reading

Trending