Anthropic pide frenar desarrollo de IA
La empresa Anthropic ha pedido a los laboratorios de inteligencia artificial que preparen un mecanismo para frenar o pausar el desarrollo de modelos avanzados si los riesgos superan la capacidad de reacción de la sociedad. Esto se debe a que la inteligencia artificial está acelerando su propio desarrollo.
Algunos hechos clave sobre la situación son: * Anthropic defiende la preparación de un mecanismo coordinado y global para frenar el desarrollo de modelos de IA si es necesario. * La empresa teme que los sistemas de IA lleguen a una fase de mejora recursiva, es decir, que puedan diseñar y mejorar sus propios sucesores con intervención humana cada vez menor. * Los ingenieros de Anthropic producen ocho veces más código por trimestre que en el periodo 2021-2025, gracias a la ayuda de la IA. * El 80% del código integrado en la base de código de Anthropic fue escrito por el modelo Claude. * La duración de las tareas que los modelos pueden completar de forma autónoma se está duplicando aproximadamente cada cuatro meses.
“* La empresa teme que los sistemas de IA lleguen a una fase de mejora recursiva, es decir, que puedan diseñar y mejorar sus propios sucesores con intervención humana cada vez menor”
Para entender la importancia de esta petición, es necesario conocer que Anthropic es una empresa que se centra en la seguridad de la inteligencia artificial y que ha desarrollado modelos avanzados como Claude. La empresa considera que los humanos siguen siendo clave en la investigación, pero que la ventaja humana se está estrechando debido al avance de la IA.
La propuesta de Anthropic no busca una pausa inmediata en el desarrollo de la IA, sino que los laboratorios tengan un plan de emergencia para frenar o pausar el desarrollo si es necesario. La empresa considera que la dificultad estará en definir con precisión qué riesgo activa la pausa, quién lo valida y cómo se verifica el cumplimiento. Anthropic busca saber si los laboratorios tienen un plan de emergencia en caso de que la IA supere la capacidad de reacción de la sociedad.
