Líderes de IA advierten sobre riesgos del avance tecnológico
Telemundo 51 — Miami · hace 2 días
La carrera por desarrollar una inteligencia artificial cada vez más poderosa está generando una advertencia poco común: los propios líderes de la industria están pidiendo mayor cautela.
“Existen peligros reales", advirtió Dario Amodei, director ejecutivo de Anthropic, creadora de Claude, quien ha pedido reducir el ritmo al que se desarrollan los modelos más avanzados de inteligencia artificial.
Amodei sostiene que la tecnología está avanzando más rápido que los controles destinados a mantenerla segura.
Y no está solo pues Sam Altman, de OpenAI, creadora de ChatGPT, y Elon Musk también han respaldado la idea de avanzar con mayor cautela.
“Creo que es lo más prudente para la sociedad, versus de que vayan demasiado rápido y después tengamos ramificaciones que puedan resultar en situaciones que no son deseables”, dijo Silka González, presidenta de ERM Protect.
Una de las preocupaciones es el desarrollo de agentes de inteligencia artificial que no solo responden preguntas. También pueden recibir una tarea, comunicarse con otras aplicaciones y ejecutar acciones sin controles humanos directos.
“Entonces ya se puede empezar a comunicar con aplicaciones, puede empezar a comunicarse con herramientas y hacer hasta transacciones bancarias, entonces es como si fuera una persona más”, explicó Esteban Farao, director de consultoría de ERM Protect.
Expertos de la empresa de ciberseguridad ERM Protect dicen que, en manos de ciberdelincuentes, la tecnología también puede hacer los ataques más realistas y rápidos.
Sin embargo, el presidente de EEUU rechaza los pronósticos más alarmantes. Donald Trump sostiene que la inteligencia artificial no se apoderará del mundo y que Estados Unidos no puede permitirse perder terreno frente a China en esta competencia tecnológica.
“El que gane en la inteligencia artificial gana”, afirmó trump.
Por su parte, Silka González señala que la competencia tecnológica debe avanzar con límites claros. “Estados Unidos está una guerra con China y a ver quién gana con ella. Ok, está bien que tengan la guerra, pero la guerra tiene que hacerse con ciertos parámetros porque tampoco podemos hacer las cosas a lo loco que van a traer ramificaciones sumamente dañinas para la sociedad.”
Los expertos aseguran que, especialmente en sistemas críticos, el elemento humano no debe desaparecer y que estos agentes de inteligencia artificial necesitan controles y monitoreo permanentes.
