El director ejecutivo de Meta (NASDAQ:META), Mark Zuckerberg, declaró el martes por la noche que los desarrolladores de inteligencia artificial deberían colaborar con evaluadores y asesores independientes en materia de seguridad, en lugar de reducir el ritmo de desarrollo de sistemas de IA más avanzados.
En una publicación en X, Zuckerberg sostuvo que las compañías que desarrollan modelos de inteligencia artificial necesitan dar prioridad a la alineación de sus sistemas con los usuarios y señaló que aquellas que no lo hagan podrían perder terreno frente a sus competidores.
“Existe un amplio debate sobre la posibilidad de frenar el avance de las capacidades hasta que la alineación se ponga al día. Mi opinión es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferenciarán a los agentes y modelos”, afirmó Zuckerberg.
Sus comentarios abordaron la relación entre los avances en las capacidades de la IA y las medidas utilizadas para evaluar si los sistemas se comportan de la manera prevista.
Meta retrasó el lanzamiento de Muse para atender cuestiones de seguridad
Zuckerberg señaló que Meta había pospuesto el lanzamiento de su modelo de inteligencia artificial Muse más reciente para concentrarse en cuestiones de seguridad y protección.
También pidió una mayor participación de organizaciones externas en la evaluación de los sistemas de IA.
“Colaborar con evaluadores y asesores independientes es una práctica recomendada en la industria… sería útil contar con un ecosistema de evaluadores más amplio y diverso”, declaró Zuckerberg.
Su postura pone énfasis en las evaluaciones independientes y el trabajo de seguridad durante el desarrollo, en lugar de una desaceleración general de la investigación en inteligencia artificial.
Ejecutivos del sector difieren sobre las restricciones al desarrollo de IA
Las declaraciones de Zuckerberg se produjeron después de que el director ejecutivo de Anthropic, Dario Amodei, publicara un ensayo en el que pidió reducir el ritmo de desarrollo de la inteligencia artificial debido a los posibles riesgos asociados con sistemas cada vez más avanzados.
El director ejecutivo de OpenAI, Sam Altman; el director ejecutivo de xAI, Elon Musk; y varios otros ejecutivos del sector respaldaron el mensaje de Amodei, según el reporte original.
El director ejecutivo de Nvidia, Jensen Huang, expresó una postura diferente y se opuso a las propuestas para conceder a las compañías de IA exenciones de las leyes antimonopolio que les permitieran coordinar una reducción del ritmo de desarrollo.
Huang sostuvo que los desarrolladores deberían abordar los problemas de seguridad dentro de sus propias organizaciones y asumir una mayor responsabilidad por los sistemas que producen.
El presidente Donald Trump también fue descrito en el reporte original como opositor a los llamados para frenar el desarrollo de la IA.
Los comentarios de Zuckerberg rechazaron de manera similar una desaceleración general del desarrollo, aunque destacaron la importancia de las evaluaciones independientes, la alineación con los usuarios y las medidas de seguridad.
El debate se centra en cómo las compañías de inteligencia artificial deberían gestionar los posibles riesgos conforme avanzan las capacidades de sus modelos, incluida la posibilidad de aplicar medidas de seguridad mediante prácticas internas, evaluaciones externas o restricciones coordinadas al desarrollo.