Cartas abiertas sobre el desarrollo de la inteligencia artificial

Un grupo de empresas de inteligencia artificial han firmado una carta abierta para argumentar en contra de la restricción de los modelos de pesos abiertos. La carta, titulada Open Weights and American AI Leadership, fue promovida por Microsoft y cuenta con 235 firmas, incluyendo NVIDIA, Amazon y OpenAI.

La carta sostiene que los modelos de pesos abiertos permiten a una comunidad amplia de investigadores y desarrolladores examinar su comportamiento, identificar vulnerabilidades y mejorarlos con el tiempo. Por otro lado, los modelos cerrados pueden ser vulnerables a brechas de seguridad y fallos que no pueden ser detectados por outsiders. La carta también defiende la práctica de la destilación, que implica entrenar modelos con la salida de otros modelos.

“Por otro lado, los modelos cerrados pueden ser vulnerables a brechas de seguridad y fallos que no pueden ser detectados por outsiders”

Otra carta, titulada Pacing the Frontier, fue firmada por 1.324 empleados de empresas de inteligencia artificial de vanguardia, incluyendo OpenAI y Anthropic. La carta solicita que el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza para controlar el desarrollo de la inteligencia artificial automatizada. Los firmantes expresan preocupación por la presión competitiva intensa y el progreso acelerado de la investigación de inteligencia artificial automatizada.

La empresa Anthropic publicó su propia carta, en la que su CEO, Dario Amodei, destaca los riesgos de que gobiernos autoritarios desarrollen modelos de inteligencia artificial más poderosos que los de Estados Unidos. Amodei también pide una regulación de las operaciones de destilación a gran escala. Es importante destacar que estas cartas abiertas reflejan la creciente preocupación en la industria de la inteligencia artificial sobre la necesidad de regulación y control para evitar riesgos y asegurar un desarrollo responsable de la tecnología.