La inteligencia artificial está comenzando a asumir tareas vinculadas al desarrollo de nuevos sistemas de IA, un fenómeno que un grupo de destacados investigadores considera necesario monitorear ante la posibilidad de que acelere considerablemente el progreso tecnológico. Más de 20 especialistas vinculados a empresas como OpenAI, Anthropic, Microsoft y Meta plantearon que los gobiernos deberían comenzar a medir cuánto del trabajo científico necesario para construir modelos avanzados está siendo automatizado.
La advertencia aparece en un informe publicado por el Cambridge Programme on AI Science & Policy, vinculado a la Universidad de Cambridge. Entre sus autores figuran Jakub Pachocki, científico jefe de OpenAI; Jack Clark, cofundador de Anthropic; Eric Horvitz, científico jefe de Microsoft, y Dawn Song, investigadora de Meta y académica de la Universidad de California en Berkeley. También participan Geoffrey Hinton y Yoshua Bengio, dos investigadores cuyos trabajos fueron fundamentales para el desarrollo del aprendizaje profundo.
El planteamiento central no es que las máquinas ya estén desarrollando autónomamente sucesivas generaciones de inteligencia artificial, sino que una creciente automatización de la investigación podría crear un ciclo de retroalimentación: sistemas de IA colaboran en la construcción de modelos más capaces y estos, a su vez, adquieren mejores herramientas para realizar investigación y contribuir al desarrollo de una generación posterior.
Ese proceso está relacionado con el concepto de “mejora recursiva” y con una hipótesis discutida desde hace décadas: la denominada “explosión de inteligencia”. Bajo ese escenario, la automatización podría acortar significativamente los ciclos de innovación, permitiendo que avances que actualmente requieren años lleguen a producirse en períodos mucho menores.
Los propios investigadores, sin embargo, subrayan la incertidumbre. El documento no establece que una explosión de inteligencia esté ocurriendo ni que inevitablemente vaya a producirse. Su argumento es preventivo: si la automatización de la investigación alcanza niveles elevados, sus posibles consecuencias serían suficientemente importantes como para justificar sistemas de vigilancia y preparación antes de conocer con certeza su trayectoria.
Una señal que sustenta esa preocupación es el creciente uso de herramientas de IA dentro de los propios laboratorios. El informe atribuye a Anthropic datos según los cuales, entre marzo y agosto de 2026, la proporción de labores internas de investigación y desarrollo que sus sistemas podían completar bajo supervisión humana de alto nivel habría pasado de aproximadamente 1% a 26%. Otra cifra recogida en el documento señala que más del 80% del código aprobado dentro de la compañía involucraba alguna forma de asistencia de IA hacia mayo.
OpenAI, según los antecedentes citados por los autores, también ha informado que sus sistemas pueden resolver determinadas tareas de investigación y desarrollo que requerirían varios días de trabajo humano. Estas mediciones no significan que los sistemas puedan sustituir integralmente a científicos o ingenieros: escribir código, resolver tareas delimitadas o ejecutar experimentos bajo supervisión es distinto de administrar autónomamente un programa completo de investigación.
Precisamente ese salto constituye uno de los puntos centrales del informe. Si los agentes de IA llegaran a realizar de manera autónoma una proporción sustancial del proceso científico —formular experimentos, programarlos, interpretar resultados y emplearlos para mejorar otros sistemas—, los laboratorios podrían multiplicar la cantidad de trabajo de investigación ejecutado simultáneamente.
A diferencia de los equipos humanos, los agentes digitales podrían operar continuamente y realizar numerosos experimentos en paralelo. En un escenario de alta automatización, ello permitiría ampliar de manera drástica la capacidad investigativa disponible. Pero cuánto de esa posibilidad puede materializarse, en qué plazo y con qué limitaciones técnicas continúa siendo objeto de discusión.
La aceleración tendría potenciales beneficios. Sistemas científicos más capaces podrían contribuir a investigaciones en medicina, materiales, energía y otras áreas donde actualmente los ciclos de experimentación son extensos. El mismo incremento de capacidades, advierte el informe, también podría dificultar que empresas, gobiernos y organismos fiscalizadores evalúen oportunamente los riesgos.
Entre los escenarios examinados se encuentra la posibilidad de que nuevas capacidades aparezcan más rápido de lo que pueden ser sometidas a pruebas de seguridad. Los autores mencionan asimismo el eventual uso indebido de sistemas avanzados en ciberataques o amenazas biológicas y los riesgos asociados a una competencia entre empresas o países por mantener ventajas tecnológicas.
Este último factor podría generar una dinámica especialmente compleja: si un actor obtiene una ventaja importante mediante la automatización de la investigación, sus competidores podrían tener incentivos para acelerar sus propios programas. El informe plantea que una carrera de esas características podría dificultar la adopción coordinada de medidas de seguridad. Se trata, nuevamente, de escenarios de riesgo y no de resultados que los investigadores den por establecidos.
Frente a estas posibilidades, los autores proponen aumentar la transparencia de los laboratorios que desarrollan modelos de frontera. Entre las medidas sugeridas figura informar qué proporción de la investigación está siendo automatizada, monitorear la velocidad con que evolucionan las capacidades de los sistemas e incorporar mecanismos de auditoría independiente.
También plantean preparar herramientas que permitan desacelerar determinados desarrollos si aparecen señales de riesgo, establecer requisitos de seguridad antes de continuar aumentando ciertas capacidades y mantener experimentos especialmente sensibles en entornos aislados. A ello suman protocolos para detener pruebas peligrosas y sistemas de comunicación de incidentes entre empresas y gobiernos.
La tercera línea apunta a la preparación frente a eventuales consecuencias sociales y de seguridad, desde ataques informáticos facilitados por IA hasta alteraciones del mercado laboral y tensiones geopolíticas.
El planteamiento de fondo es anticipatorio. La automatización parcial del desarrollo de inteligencia artificial ya ofrece indicadores susceptibles de ser medidos, mientras que una eventual aceleración recursiva continúa siendo una hipótesis sometida a considerable incertidumbre. Para los autores del informe, precisamente esa diferencia obliga a observar desde ahora la evolución del fenómeno, en lugar de esperar a que sus efectos sean evidentes para comenzar a diseñar mecanismos de supervisión. (NP-ChatGPT-La Tercera-Agencias-Cambridge Programme on AI Science & Policy, informe Intelligence Explosion-Anthropic -OpenAI)
Fuente: nuevopoder.cl
