Lo que alguna vez fue una ambición lejana para los investigadores tecnológicos, la posibilidad de que los modelos de inteligencia artificial (IA) aprendan de manera autónoma a ser más eficientes y capaces parece estar cada vez más cerca de convertirse en realidad.
A medida que la tecnología avanza, los desarrolladores afirman que se acerca a lo que se conoce como "mejora recursiva autónoma" (RSI, por sus siglas en inglés), un proceso en el que los modelos de IA encuentran formas de mejorarse a sí mismos y de crear a sus propios sucesores.
Según ejecutivos de empresas tecnológicas, esto podría impulsar grandes avances en áreas como la ciencia y la medicina, aunque también plantea riesgos importantes.
La incertidumbre sobre hasta dónde podría llegar esta evolución está en el centro de los crecientes temores de que la IA pueda escapar al control humano y representar posibles amenazas para la humanidad. Estas preocupaciones llevaron a varios líderes del sector a pedir recientemente una desaceleración en el ritmo de desarrollo de la tecnología.
Inteligencia artificial
14 Sep
Crece el debate: Trump resta importancia a riesgos de la IA; China reacciona
Esta semana, Anthropic detalló cómo su modelo Claude está ayudando a la compañía a desarrollar una versión más inteligente de sí mismo. Actualmente, Claude participa en el 26% de la investigación y el desarrollo de nuevos modelos de la empresa, lo que significa que puede completar la mayor parte de una tarea de principio a fin a partir de una instrucción general, aunque todavía bajo supervisión humana. Los modelos aún no trabajan de forma totalmente autónoma, al menos por ahora.
¿Qué es la mejora recursiva autónoma?
Las principales empresas de IA tienen diferentes definiciones de mejora recursiva autónoma. Algunas consideran que existe RSI cuando la IA aporta cualquier tipo de retroalimentación para mejorar un modelo, mientras que otras reservan el término para sistemas que persiguen ese objetivo de forma totalmente autónoma.
En esencia, la mejora recursiva autónoma significa que una IA capaz de mejorarse a sí misma diseña la siguiente versión del sistema, luego la siguiente y así sucesivamente.
"Lo realmente importante es que, mientras más trabajo haga la IA, más rápido se vuelve el proceso, porque la IA opera mucho más rápido que los seres humanos", explicó Anthony Aguirre, presidente y director ejecutivo del instituto sin fines de lucro Future of Life Institute y profesor de física en la Universidad de California en Santa Cruz.
El temor en torno a la RSI se basa principalmente en la posibilidad de que surja una superinteligencia fuera de control. Sin embargo, John Thickstun, profesor asistente de Ciencias de la Computación en la Universidad de Cornell, señaló que una forma limitada de mejora recursiva ya lleva tiempo ocurriendo en el desarrollo de la IA.
"Hemos estado utilizando estos modelos durante años en funciones de apoyo para crear la siguiente versión de esos mismos modelos. La generación anterior de sistemas ayuda a escribir código que luego se utiliza para desarrollar la nueva generación", explicó.
Durante años, destacados investigadores, como el cofundador de OpenAI, Andrej Karpathy, han experimentado con modelos capaces de entrenar y mejorar otros sistemas de IA. Según Thickstun, esos esfuerzos han producido mejoras menores, pero no saltos revolucionarios en creatividad o capacidad.
No obstante, Aguirre sostiene que las empresas de IA están hoy mucho más cerca de lograr avances importantes.
"Se puede ver en los datos de Anthropic que cada vez más investigación es realizada por la propia IA y que el proceso se acerca gradualmente a una autonomía total", afirmó. "El resultado final de ese éxito es algo que considero extremadamente aterrador. Creo que esta es probablemente la peor idea en la historia de la humanidad, y aun así se está llevando a cabo".
Algunos laboratorios creen que la RSI está muy cerca
El reciente anuncio de Anthropic ofreció al público y a otras compañías una visión más clara del progreso hacia la RSI, además de animar a sus competidores a compartir métricas similares. Aun así, la empresa no ha indicado cuán cerca está de lograr una mejora completamente autónoma.
Por su parte, OpenAI, creadora de ChatGPT, anunció este mes que desarrolló un "investigador automatizado", un sistema capaz de realizar tareas de investigación bien definidas bajo supervisión humana, incluyendo trabajos que normalmente tomarían varios días a un investigador experto. La compañía ha declarado que su objetivo es crear un investigador de IA completamente automatizado para marzo de 2028.
