Anthropic descartó apoyar una prohibición general de los modelos de inteligencia artificial con pesos abiertos. La compañía sostuvo que estos sistemas constituyen un bien público cuando no tienen capacidades peligrosas y cuestionó las restricciones centradas en impedir su uso por empresas estadounidenses.
Admin
Anthropic apunta a los chips y la destilación
La declaración responde al debate sobre una posible prohibición en Estados Unidos de modelos chinos con pesos abiertos. Dario Amodei, CEO de Anthropic, negó que la empresa busque limitar esta categoría para proteger su negocio.
“Anthropic nunca ha promovido una prohibición de los modelos de pesos abiertos”.
Amodei afirmó que estas restricciones no abordarían sus principales preocupaciones de seguridad nacional. Entre ellas mencionó el desarrollo de sistemas avanzados por gobiernos autoritarios y el uso de modelos potentes para ataques informáticos o biológicos.
El ejecutivo reconoció que los modelos con pesos abiertos pueden implicar mayores riesgos que los cerrados, porque resulta difícil aplicarles barreras de seguridad o supervisar su utilización. Además, sus parámetros no pueden retirarse después de su publicación.
Anthropic propone mantener las restricciones a la venta de chips avanzados y equipos para fabricar semiconductores a China. También plantea reforzar las medidas contra el contrabando y las operaciones de destilación a escala industrial, utilizadas para obtener modelos más capaces con menos recursos computacionales.
Admin
Pruebas para modelos abiertos y cerrados
La compañía también respalda pruebas de seguridad obligatorias para todos los modelos suficientemente capaces, sin distinguir entre sistemas abiertos y cerrados. Las evaluaciones deberían examinar riesgos informáticos, biológicos y de alineación antes del lanzamiento.
Amodei sostuvo que la peligrosidad de los modelos abiertos y la eficacia de posibles medidas de mitigación deben determinarse mediante pruebas, en lugar de asumirse previamente.
“No hemos promovido ni promovemos una prohibición de los modelos de pesos abiertos como categoría. En cambio, debemos centrarnos en mantener los chips potentes fuera de manos autoritarias, detener la destilación a escala industrial y exigir pruebas de seguridad para todos los modelos suficientemente capaces, abiertos y cerrados”.
Anthropic reconoció que los pesos abiertos amplían el acceso a la economía de la IA, fortalecen la competencia en algunos usos y entregan mayor control a los clientes. Sin embargo, cuestionó que su disponibilidad beneficie necesariamente más a quienes desarrollan defensas que a quienes buscan utilizar estas capacidades para realizar ataques.
Admin
