Pactan frenar la IA. Ya tienen una demanda

La tesis

El 12 de septiembre Dario Amodei, CEO de Anthropic, publicó un ensayo con una frase que ningún jefe de un gran laboratorio había escrito así: «Debemos frenar el ritmo al que mejoramos las capacidades de los modelos». Altman (OpenAI), Musk (xAI) y Hassabis (Google DeepMind) se sumaron, cada uno con un grado distinto de compromiso.

Esta semana el pacto ha tenido tres consecuencias.

Anthropic firmó con Faculty, la firma de IA de Accenture, para meter evaluadores externos con acceso de empleado: ambas prevén invertir al menos 1.000 millones de dólares en cinco años. OpenAI publicó un marco para contar cuándo sus modelos se portan mal, con seis casos reales.

Y el viernes 19, cuatro suscriptores de pago presentaron en California una demanda colectiva: según ellos, «frenar juntos» es un pacto ilegal entre competidores.

Mi tesis: el freno no se va a notar en tu día a día, y tampoco está pensado para eso. Lo único concreto que se ha firmado es auditoría, gente de fuera mirando dentro. Nadie ha publicado un límite de capacidades, una fecha o una cifra.

Se ha pactado cómo contar el riesgo, no cuánto correr. Y hay un incentivo evidente: quien escribe las reglas de seguridad decide también quién puede permitirse cumplirlas. La demanda apunta justo ahí. Puede ser oportunista, pero la pregunta es buena.

Qué significa para ti: deja de esperar al «modelo que lo cambia todo» para empezar. Si el ritmo baja, bajará en la frontera, no en las herramientas que ya tienes. La ventaja de los próximos meses es exprimir lo que ya existe. Y lee los informes de fallos que empiezan a publicarse: son el mejor manual gratis de qué no delegar en un agente.

Europa mira

La AEPD ha recibido la primera notificación de una brecha de datos ejecutada por un agente de IA. El agente consiguió iniciar sesión, buscó fallos en la aplicación por su cuenta, modificó datos personales y accedió a facturas.

El aviso de la Agencia a empresas: «La seguridad de los tratamientos no puede depender únicamente de la intervención manual». Los laboratorios pactan frenar; los atacantes no han firmado nada.

Aparte: Mozilla lanza Smart Window en Firefox con modelos de la francesa Mistral y retención cero de datos. Por ahora sólo en Francia y Norteamérica; España, sin fecha.

Señal

ChatGPT estrena anuncios con agente dentro

OpenAI presentó el 16 de septiembre los Sponsored Agents: pulsas un anuncio en ChatGPT y conversas con un agente de la marca. De momento, en pruebas con anunciantes de EE. UU., con integraciones en HubSpot y Shopify (fuente).

Y esto qué: si vendes online, el canal deja de ser el anuncio y pasa a ser la conversación. Ten fichas de producto y políticas lo bastante claras para que un agente las explique sin inventar.

OpenAI enseña sus trapos sucios (algunos)

Su nuevo marco de reporte incluye casos como modelos que subieron archivos a internet sin permiso para cumplir un requisito de citas, o que buscaron claves de API en GitHub. No hay compromiso de frecuencia: publicarán «de forma continua».

Y esto qué: si le das a un agente acceso a tu correo o tus carpetas, esa es la lista de fallos a vigilar. Permisos mínimos y revisa qué sale fuera.

Transcribir una hora de audio: 10 céntimos

xAI lanzó el 18 de septiembre Grok Voice Transcribe 2.0: 0,10 $ por hora en lotes y 0,20 $ en tiempo real, con detección de idioma y cambios de idioma en la misma grabación. Dice haber bajado el error en frases cortas multilingües del 20,6 % al 6,8 % (prueba interna).

Y esto qué: 100 horas de entrevistas o llamadas cuestan unos 10 dólares vía API. Si pagas por minuto a una app de transcripción, pregunta qué motor lleva debajo.

No te lo creas

Herramienta de la semana

Para builders

Qwen3.8-Omni-Flash (Alibaba, 18-sep): entra texto, imagen, audio y vídeo, sale texto. 1M de tokens de contexto, sólo API, y disponible en la región de Frankfurt de Model Studio, que viene bien para el RGPD. Precio: la prensa especializada publica 0,15/0,47 $ por millón (entrada/salida), pero no lo he podido confirmar en la web oficial, así que compruébalo en la consola.

Grok Voice Transcribe 1.0 queda obsoleto en las próximas semanas. Si lo usas, migra a la 2.0: mismo precio y la mitad de errores, según xAI.

Compara precios y contexto de los modelos en iaverse.es/modelos.

Una acción

¿El freno te parece sincero o un foso con bata de laboratorio? Respóndeme a este correo: leo todas las respuestas y las mejores entran la semana que viene.

— Jose Ruben, IAverse