Las preocupaciones sobre la seguridad de la inteligencia artificial son relevantes, pero los principales desarrolladores de IA muestran pocas señales de reducir el ritmo de desarrollo de sus modelos, de acuerdo con una nota de BMO publicada el viernes.
Citando a su experto en inteligencia artificial, BMO señaló que las preocupaciones expresadas por líderes de la industria sobre la seguridad de la IA reflejan la importancia de alinear los sistemas avanzados con los intereses humanos antes de que posibles problemas sean difíciles de revertir.
Sin embargo, BMO cuestionó si desarrolladores como Anthropic y OpenAI reducirán de manera significativa su ritmo de desarrollo, señalando que continúan lanzando modelos con capacidades cada vez mayores.
BMO señala riesgos relacionados con modelos de IA de acceso abierto
Según BMO, los recientes incidentes de hackeo relacionados con inteligencia artificial han tenido, en general, consecuencias limitadas. No obstante, la firma indicó que actores maliciosos podrían aprovechar cada vez más los modelos disponibles libremente.
BMO señaló que algunos usuarios han demostrado métodos para eludir las medidas de protección y hacer que los modelos de IA generen resultados que no cumplen con las restricciones previstas.
La seguridad de la inteligencia artificial ha recibido mayor atención después de que Dario Amodei, director ejecutivo de Anthropic, pidiera una desaceleración coordinada en el desarrollo de modelos avanzados debido a los posibles riesgos asociados con esta tecnología.
Según la información proporcionada, varios líderes de la industria de IA han respaldado la propuesta, mientras que la seguridad de la inteligencia artificial también fue discutida durante una cumbre entre Estados Unidos y China esta semana.
BMO espera una mayor regulación de la IA en Estados Unidos y China
BMO espera que Estados Unidos y China eventualmente adopten una regulación más estricta sobre inteligencia artificial, con especial atención en los modelos de código abierto y acceso abierto, en lugar de los sistemas cerrados.
El experto en IA de la firma señaló que posibles regulaciones podrían requerir “aprobación previa antes de cualquier lanzamiento más amplio al público de modelos de acceso abierto”.
Según el experto, ambos gobiernos podrían tener interés en limitar el acceso a determinados modelos de inteligencia artificial. El análisis de BMO sugiere que un entorno regulatorio de este tipo podría aumentar el poder de fijación de precios de los principales desarrolladores de modelos cerrados, entre ellos Anthropic y OpenAI.
Estas previsiones representan expectativas de BMO y no medidas regulatorias confirmadas.
BMO prevé que los precios de los tokens de IA sigan bajando
BMO espera que los precios de los tokens continúen disminuyendo, lo que, según la firma, podría favorecer un mayor uso de herramientas de inteligencia artificial.
La firma proyecta que los precios de los tokens podrían alcanzar un mínimo alrededor de 2030. Posteriormente, BMO espera que los proveedores de modelos cerrados puedan aumentar sus precios a medida que los usuarios dependan en mayor medida de sus productos.
Estas proyecciones dependerán de la evolución de la competencia, la regulación, la tecnología y la demanda de los usuarios.
BMO también indicó que la posición de Meta Platforms en inteligencia artificial ha mejorado debido a una mayor utilización de su infraestructura de IA. Sin embargo, la firma considera que Meta todavía se encuentra por detrás de Anthropic y OpenAI en capacidades de inteligencia artificial.
Demanda de capacidad de cómputo permanece bajo atención
BMO mantiene una perspectiva positiva sobre el hardware de cómputo relacionado con la inteligencia artificial, citando lo que describe como una creciente escasez de capacidad de cómputo conforme aumenta el uso de la IA.
Según la firma, los usuarios están observando que las capacidades de la inteligencia artificial superan algunas expectativas iniciales, lo que contribuye a la demanda de recursos adicionales de cómputo.
BMO también espera que los efectos de la inteligencia artificial sobre el empleo se vuelvan más significativos para los trabajos de oficina hacia 2028.
La firma proyecta que el impacto sobre los empleos manuales podría hacerse más evidente durante la década de 2030. BMO relacionó esta diferencia temporal con la “paradoja de Moravec”, según la cual las tareas físicas que requieren destreza pueden ser más difíciles de automatizar mediante sistemas de IA y robótica que determinadas tareas cognitivas.
Las previsiones sobre el empleo siguen siendo proyecciones y dependerán del desarrollo, la adopción y la implementación de la inteligencia artificial y tecnologías relacionadas.