La llamada de Anthropic a frenar el desarrollo de los sistemas de inteligencia artificial más avanzados está dividiendo abiertamente a la industria. Mientras OpenAI apoya un ritmo más prudente, Meta estima que cada laboratorio puede garantizar su propia seguridad. Por su parte, Mistral AI cuestiona las restricciones que, según la empresa francesa, podrían fortalecer la posición de los actores ya dominantes.
Pocos días después del llamamiento de Dario Amodei a ralentizar el progreso de los sistemas de inteligencia artificial más avanzados, los desacuerdos entre los principales laboratorios se han vuelto más visibles. El líder de Anthropic defiende especialmente una mejor coordinación entre empresas, evaluaciones independientes y la posibilidad de reducir el ritmo de desarrollo cuando las capacidades progresan más rápido que los mecanismos de seguridad. Sam Altman respaldó el principio de un desarrollo más mesurado, aunque aclaró que no se trata de detener el progreso de la IA.
El debate sobre la gobernanza de la IA
Mark Zuckerberg rechaza rotundamente la idea de una desaceleración coordinada. El líder de Meta estima que cada laboratorio ya posee razones económicas y legales suficientes para desarrollar sus modelos de manera responsable. Según su perspectiva, los agentes que no cumplan con las expectativas de sus usuarios perderían interés comercial, mientras que las empresas podrían ser consideradas responsables por los daños causados por sus sistemas.
Zuckerberg citó a Meta como ejemplo de este enfoque. La compañía retrasó durante varios meses el lanzamiento de su agente Muse para reforzar su seguridad, sin esperar a que un acuerdo similar fuera adoptado por sus competidores. Meta también recurre a evaluadores independientes en varios dominios, una práctica que Zuckerberg busca ver generalizarse. Para él, estas medidas pueden tomarse individualmente, sin la necesidad de imponer un ritmo común a todos los laboratorios.
La perspectiva crítica de Mistral AI
Mistral AI formula una crítica diferente. Aunque reconoce los riesgos asociados con modelos que poseen autonomía de acción y acceso a herramientas externas, defiende un estricto control sobre estos accesos. Sin embargo, cuestiona la idea de que nuevas restricciones coordinadas constituyan necesariamente la respuesta correcta.
En una declaración difundida por varios medios franceses, Mistral estima que algunos actores establecidos pueden tener interés en promover marcos regulatorios difíciles de cumplir para sus competidores. De esta manera, la empresa presenta el debate no solo como una cuestión de seguridad, sino también como un desafío de competencia y control del mercado. Esta acusación constituye la postura de Mistral y no demuestra por sí misma que los llamamientos de OpenAI o Anthropic respondan a una estrategia dirigida a limitar la competencia.
La postura de Meta se asemeja más a la de Nvidia. Jensen Huang defiende también la idea de que seguridad y rapidez de innovación no son incompatibles, señalando que cada empresa debe desacelerar cuando un producto en particular no es lo suficientemente seguro, en lugar de imponer una desaceleración general a toda la industria.
Un conflicto más amplio: Reglas versus Ritmo
El debate ha trascendido ahora la simple oposición entre aceleración y seguridad. Anthropic y OpenAI defienden más la coordinación y la evaluación común, mientras que Meta prioriza la responsabilidad individual de los laboratorios, y Mistral advierte sobre el riesgo de convertir los requisitos de seguridad en barreras de entrada para la competencia.
Así, detrás de la cuestión del ritmo de desarrollo de la IA se perfila un segundo debate crucial: determinar quién debe fijar las reglas y cómo evitar que estas reglas favorezcan a ciertos actores en detrimento de otros. En este sentido, el desacuerdo entre los laboratorios concierne tanto a la gobernanza de la inteligencia artificial como a su velocidad de desarrollo. Si bien la seguridad es ampliamente considerada un objetivo de consenso, los medios para imponerla y los actores encargados de definir sus reglas siguen estando profundamente disputados.
