Las acciones de Accenture (NYSE:ACN) avanzaron aproximadamente 6% en las operaciones previas a la apertura del lunes después de que Anthropic anunciara un acuerdo mediante el cual la empresa de servicios tecnológicos encabezará evaluaciones independientes de seguridad de sus modelos de inteligencia artificial.
La alianza, anunciada el 18 de septiembre, contempla que ambas compañías inviertan al menos 1,000 millones de dólares cada una durante cinco años para ampliar la capacidad de evaluación independiente de sistemas de IA.
Anthropic también financiará directamente los trabajos de evaluación realizados por Accenture.
Faculty encabezará las evaluaciones de seguridad de modelos de IA
La iniciativa estará dirigida por Faculty, la división especializada en inteligencia artificial de Accenture.
Sus responsabilidades incluirán la evaluación de modelos de IA, la realización de pruebas adversariales conocidas como red-teaming, el análisis de la alineación de los sistemas con sus objetivos previstos y la revisión de mecanismos de protección diseñados para reducir posibles riesgos.
Bajo el esquema propuesto, evaluadores independientes trabajarán dentro de las empresas de inteligencia artificial y tendrán acceso a los modelos y a sus procesos de desarrollo.
Este acceso busca permitirles examinar las prácticas de seguridad, verificar el cumplimiento de los compromisos declarados por las compañías e identificar posibles deficiencias.
Anthropic señaló que el esquema pretende respaldar las evaluaciones independientes y proporcionar a los especialistas la información necesaria para realizar revisiones detalladas.
Las compañías prevén inversiones a largo plazo en evaluación de IA
Accenture y Anthropic esperan invertir al menos 1,000 millones de dólares cada una durante los próximos cinco años para ampliar la capacidad disponible para las evaluaciones independientes de inteligencia artificial.
El acuerdo no será exclusivo. Anthropic tiene previsto colaborar con otros proveedores de evaluaciones, mientras que Accenture podrá ofrecer servicios similares a otros desarrolladores de IA.
Anthropic también destacó que actualmente no existen estándares consolidados en la industria que regulen el acceso de los evaluadores externos a los sistemas de inteligencia artificial, la presentación de sus resultados o los mecanismos para financiar su trabajo.
La compañía indicó que, a largo plazo, el financiamiento podría provenir de fondos compartidos por la industria o de recursos gubernamentales.
Los detalles del marco de evaluación todavía se encuentran en desarrollo, y Anthropic espera que su enfoque evolucione conforme maduren la industria de la inteligencia artificial y sus prácticas de seguridad.