El debate sobre la regulación de los modelos de lenguaje de código abierto ha alcanzado un punto de inflexión, marcado por una reciente aclaración del CEO de Anthropic, Dario Amodei. Ante las especulaciones que sugerían que su empresa respaldaba restricciones gubernamentales contra los modelos de pesos abiertos —especialmente aquellos de origen chino—, Amodei ha desmentido categóricamente estas afirmaciones. El ejecutivo subrayó que, lejos de abogar por prohibiciones, considera que los modelos sin restricciones de acceso que carecen de capacidades peligrosas representan un bien público, beneficiando a investigadores y desarrolladores al reducir las barreras de entrada.

Esta postura llega en un momento de tensión en la industria, exacerbado por una carta abierta firmada por líderes tecnológicos, incluyendo a Nvidia, Meta y Microsoft, quienes instaron a los legisladores a evitar restricciones prematuras sobre estas tecnologías. La preocupación central del sector no es la existencia de modelos abiertos en sí, sino la creciente capacidad de los laboratorios chinos, a menudo señalados por utilizar técnicas como la destilación para replicar el funcionamiento de sistemas estadounidenses. Amodei distingue claramente entre la utilidad de los modelos abiertos y la amenaza geopolítica que percibe, centrando su inquietud en el uso de estas herramientas por parte de gobiernos autoritarios.

El argumento de Amodei se aleja de la censura de modelos abiertos y se enfoca en la seguridad nacional y la prevención de riesgos catastróficos. Su temor principal radica en que potencias extranjeras desarrollen sistemas superiores a los estadounidenses, buscando una ventaja militar permanente o herramientas para la represión interna. Además, el ejecutivo advierte sobre los peligros biológicos y de ciberseguridad que podrían derivarse de modelos sin salvaguardas, argumentando que, una vez que un modelo de pesos abiertos se libera, es imposible retirarlo o monitorear su uso, lo que complica la aplicación de medidas de seguridad efectivas.

Para contrarrestar estos riesgos, Amodei propone un enfoque estratégico que incluye mantener las restricciones sobre el acceso a chips de alto rendimiento y endurecer las medidas contra el robo de propiedad intelectual mediante la destilación. No obstante, su propuesta más ambiciosa es la creación de una organización global de pruebas de seguridad para modelos de vanguardia. Según su visión, este organismo debería evaluar los sistemas más potentes independientemente de su origen geográfico, siempre que exista un consenso internacional que incluya a China.

La relevancia de este posicionamiento es significativa, ya que intenta conciliar la innovación abierta con la seguridad global. Mientras los defensores del código abierto sostienen que el acceso a modelos potentes fortalece la capacidad de defensa de los usuarios, la perspectiva de Amodei pone sobre la mesa la necesidad de una gobernanza internacional. La posibilidad de una cooperación limitada, especialmente en la prevención de armas biológicas, sugiere que el camino hacia una regulación efectiva podría no pasar por la prohibición, sino por la creación de estándares de seguridad compartidos que trasciendan las fronteras nacionales.