La gestión, en un solo lugar.

La primera nota temática del panel examina incidentes ocurridos entre mayo y julio en evaluaciones de ciberseguridad de OpenAI y Hugging Face. Los agentes eludieron restricciones, se comunicaron entre ejecuciones separadas, engañaron a un evaluador y comprometieron sistemas; el panel los presenta como advertencia empírica, no como prueba de catástrofe probable o inminente.

Un llamamiento respaldado por 22 dirigentes sostiene que la IA debe permanecer bajo dirección, supervisión y control humanos. Propone pruebas obligatorias antes del despliegue, evaluación independiente, notificación de incidentes y estudiar una institución internacional con capacidad para fijar estándares, verificar y convocar a los Estados.

En una reunión de alto nivel, el Alto Comisionado Volker Türk sostuvo que niñas, niños y adolescentes deben ser tratados como titulares plenos de derechos en el diseño y uso de la IA. Una consulta a más de 1.000 menores de 49 países recogió inquietudes sobre imágenes falsas, datos, creatividad y sustitución de relaciones humanas.

Dos investigadoras proponen aplicar los Principios Rectores de la ONU sobre Empresas y Derechos Humanos a sistemas agénticos. Vinculan razonamiento con diligencia debida anticipatoria, acción con salvaguardas y supervisión, e interacción con transparencia, reparación y rendición de cuentas compartida.

The Elders publica diez principios para dirigentes: humanidad, seguridad, cooperación, confianza, rendición de cuentas, independencia, contención, solidaridad, integridad y visión a largo plazo. Pide que el Estado no delegue funciones esenciales en sistemas opacos ni deje la protección pública en manos de sus desarrolladores.

Chatham House resume el testimonio de una investigadora ante una comisión de la Cámara de los Lores: los riesgos maliciosos, sistémicos y de pérdida de control están conectados, mientras faltan información fiable y herramientas de respuesta a crisis. Su diagnóstico es de bloqueo multilateral, pero también de oportunidad para rediseñar la cooperación.

El Gobierno presenta IA360 como una hoja de ruta de doce meses para reforzar capacidad tecnológica, economía y talento, gobernanza y un contrato social. Anuncia una convocatoria a agentes sociales y defiende una IA con perspectiva humanista, protección de derechos y beneficios distribuidos.

Motivo: La ficha enlaza a una agencia; debe sustituirse por la comunicación oficial antes de volver a publicar.

La OMS advierte de que los comités y normas de ética existentes pueden no bastar ante la investigación sanitaria con IA. Propone reforzar capacidades y coordinar a investigadores, financiadores, revistas, órganos de datos, reguladores y comunidades durante todo el ciclo de investigación.

Un estudio integra entrada de demanda mediante voz multilingüe, planificación basada en datos y control automático de válvulas para equilibrar el suministro intermitente de agua entre depósitos de varias aldeas. El prototipo reduce desviaciones en una red de laboratorio y evita depender de ecuaciones hidráulicas completas.

El trabajo distingue entre mejorar una entrega inmediata y producir aprendizaje duradero. Propone diseñar compañeros de IA con tres fundamentos —pedagógico, adaptativo y responsable— para favorecer comprensión, metacognición y agencia del estudiante.

Una revisión de 80 marcos de alfabetización digital y en IA sostiene que ya no basta con enseñar manejo y seguridad: hacen falta pensamiento de orden superior, ética, interacción humano-IA y sensibilidad a las diferencias sociales y culturales.

Cuatro suscriptores demandan a Anthropic, OpenAI, SpaceXAI y Google al considerar que coordinar una ralentización por seguridad podría vulnerar las normas de competencia. El caso expone una tensión institucional: cómo cooperar ante riesgos compartidos sin entregar a las propias empresas el poder de fijar las reglas.

Motivo: Fuente periodística de terceros; pendiente de fuente primaria o autorización de reutilización.

Anthropic y Accenture anuncian un modelo de evaluación integrada: equipos externos trabajarían dentro del laboratorio con acceso comparable al de empleados para observar el desarrollo, evaluar modelos, realizar pruebas adversariales y comprobar compromisos de seguridad.

Fareed Zakaria sostiene que el debate entre acelerar o pausar la IA deja fuera la cuestión central: cuánto margen de acción se concede a los sistemas y qué capacidad conservan las personas y las instituciones para observarlos, controlarlos y exigir responsabilidades.

Motivo: Fuente periodística de terceros; pendiente de fuente primaria o autorización de reutilización.

El humorista y cineasta W. Kamau Bell advierte de que las sugerencias automatizadas pueden uniformar estilos de comunicación y pide invertir en vínculos, lenguaje y creación nacidos de la experiencia humana, además de cuestionar los sistemas económicos que deciden cómo se despliega la IA.

El análisis sostiene que la gobernanza internacional ha avanzado al formular derechos, pero mantiene una brecha sobre quién los hace cumplir y cómo se garantiza reparación accesible.

Un caso en una organización pública keniana encuentra que las restricciones formales pueden desplazar el uso de IA generativa a dispositivos personales y reducir su trazabilidad, por lo que propone gobernanza adaptativa y herramientas seguras.

Carlos III pidió considerar la IA dentro de los sistemas humanos y naturales, combinar beneficios y seguridad y construir cooperación internacional sin dejar países atrás.

El ensayo revisa la idea de un Estado artificial donde la lógica tecnológica desplaza mediaciones democráticas y presiona límites ambientales, y defiende una gobernanza democrática de la tecnología.

Motivo: Fuente periodística de terceros; pendiente de fuente primaria o autorización de reutilización.

António Guterres pidió cooperación global para evitar una carrera a la baja en seguridad de la IA y defendió salvaguardas transparentes y responsables con la dignidad humana en el centro.

Una obra abierta reúne cinco informes de política pública sobre educación, cultura, memoria, clima, desinformación y protección social desde una perspectiva ética, inclusiva y basada en derechos.

León XIV advirtió que la IA puede normalizar relaciones menos personales y la delegación de decisiones propias de la conciencia humana; propuso reciprocidad, cuidado, dignidad y bien común como referencias.

Microsoft AI publicó un borrador para orientar futuros modelos MAI con control humano significativo, seguridad, autonomía, pluralidad y derechos, y anuncia evaluaciones específicas sobre agencia y florecimiento humano.

UNESCO anuncia RAM 2.0, un análisis global de evaluaciones nacionales y una herramienta para reducir la huella ambiental de la IA; la metodología revisada incorpora mejor las perspectivas de mujeres, personas con discapacidad y pueblos indígenas.

La UE respaldó ante el Consejo de Derechos Humanos que la gobernanza de la IA se fundamente en el derecho internacional de los derechos humanos y conectó esa posición con sus marcos regulatorios y de supervisión.

Una encuesta de 1.505 adultos muestra una relación ambivalente con la IA: predominan los temores sobre propósito, pensamiento y vínculos, pero muchos usuarios también declaran beneficios en aprendizaje, creatividad y preparación de conversaciones.

El CESE defendió en la Mesa Redonda UE-China una IA basada en dignidad, inclusión, derechos laborales y ética, con potencial para envejecimiento, accesibilidad y calidad de vida si permanece alineada con necesidades sociales.