Dario Amodei de Anthropic no se opone a modelos de peso abierto, pero teme la AI china
Dario Amodei, fundador y director ejecutivo de Anthropic, ha expresado su opinión sobre los modelos de peso abierto en la inteligencia artificial. Aunque no se opone a estos modelos, tiene temores sobre el uso que podría darse en países como China.
Los modelos de peso abierto permiten a los desarrolladores acceder y modificar el código de la inteligencia artificial, lo que puede ser beneficioso para la comunidad de desarrolladores y investigadores. Sin embargo, Amodei teme que estos modelos puedan ser utilizados por gobiernos autoritarios para desarrollar capacidades militares o reprimir a su propia población. En particular, se refiere a la posibilidad de que China desarrolle modelos de inteligencia artificial más poderosos que los de Estados Unidos.
“Amodei también ha expresado su preocupación por la posibilidad de que la inteligencia artificial sea utilizada para ataques biológicos, y no solo cibernéticos”
Amodei también ha expresado su preocupación por la posibilidad de que la inteligencia artificial sea utilizada para ataques biológicos, y no solo cibernéticos. En este sentido, considera que los modelos de peso abierto pueden ser más peligrosos porque es difícil aplicar controles o monitorear su uso. Por otro lado, ha mencionado que apoya los esfuerzos para crear una organización de pruebas de seguridad para modelos de inteligencia artificial, siempre y cuando sea a nivel global y con la participación de todos los países, incluyendo China.
En cuanto a las medidas para prevenir el uso indebido de la inteligencia artificial, Amodei ha sugerido restringir el acceso de China a chips poderosos y llevar a cabo una campaña formal contra la distilación, es decir, la práctica de utilizar un modelo de inteligencia artificial para aprender de otro modelo sin permiso. Estas medidas podrían ayudar a prevenir el robo de propiedad intelectual y el uso indebido de la inteligencia artificial. En resumen, Amodei considera que los modelos de peso abierto pueden ser beneficiosos, pero también plantean riesgos que deben ser abordados a nivel global.
