OpenAI disuelve equipo de preparación

OpenAI ha disuelto su equipo de preparación, que se encargaba de evaluar los riesgos potenciales de sus modelos de inteligencia artificial y desarrollar formas de mitigarlos. Esta decisión se produce en un momento de cambios en la empresa, que se prepara para una posible oferta pública inicial.

El equipo de preparación era responsable de identificar posibles riesgos, como la posibilidad de que un modelo de IA se vuelva incontrolable y cause daños. Sin embargo, según informes, la responsabilidad de evaluar y mitigar estos riesgos ha sido dividida y asignada a equipos existentes que se centran en áreas específicas, como la biotecnología y la ciberseguridad.

“El equipo de preparación era responsable de identificar posibles riesgos, como la posibilidad de que un modelo de IA se vuelva incontrolable y cause daños”

La disolución del equipo de preparación es el último cambio en una serie de ajustes en la estructura de seguridad de OpenAI. En los últimos años, la empresa ha desmantelado su modelo de desarrollo de IA más ambicioso y ha disuelto otros equipos, como el de preparación para la inteligencia artificial general y el de alineación super. También han dejado la empresa varios líderes en ética y seguridad, lo que ha generado críticas sobre la priorización de la seguridad en la empresa.

El líder del equipo de preparación, Dylan Scandinaro, se centrará ahora en las implicaciones de la inteligencia artificial que se mejora recursivamente. La decisión de disolver el equipo de preparación ha sido criticada por algunos expertos, que argumentan que la empresa está priorizando el desarrollo de productos atractivos sobre la seguridad y la responsabilidad. La empresa debe encontrar un equilibrio entre la innovación y la seguridad para garantizar que sus tecnologías de IA sean desarrolladas y utilizadas de manera responsable.