OpenAI y Anthropic abrieron sus primeras salas de crisis para vigilar los chatbots en las elecciones de Estados Unidos

OpenAI y Anthropic instalaron por primera vez salas de crisis dedicadas a unas elecciones de Estados Unidos. Ambas empresas vigilarán el uso de ChatGPT y Claude para frenar la desinformación y el abuso de sus herramientas durante las legislativas del 3 de noviembre, según informó Semafor el 2 de noviembre.OpenAI anunció su centro a Politico el 28 de octubre. Se llama Centro de Operaciones Electorales, funciona desde esa semana y seguirá activo hasta que se cuenten todos los votos. Politico informó que reúne a cientos de empleados.Su tarea principal es combatir el abuso de las propias herramientas de la empresa. El equipo sigue los hechos en tiempo real y atiende reportes de comportamientos inesperados de los modelos o de presuntas violaciones de las reglas de uso.Josh Lawson, jefe de riesgo cívico y estratégico de OpenAI, está a cargo del centro. Dijo que este se apoya en un trabajo de años y que reúne a los equipos para “responder rápido a problemas emergentes” y aplicar las políticas “mientras la gente va a votar”.Una sala de crisis nacida en MetaSemafor recuerda que Meta creó la primera sala de este tipo en 2018, por la preocupación ante la desinformación electoral. Según el medio, la IA agravó esas amenazas: ahora incluyen videos falsos y resultados de búsqueda con IA que difunden datos incorrectos.Como ejemplo, Semafor citó que la semana anterior el modo de IA de Google no respondió a una consulta sobre quién ganó la elección de 2020. Google dijo que trabajaba en corregirlo.Un vocero de Anthropic afirmó a Semafor que, antes de la votación, hay una sala dedicada a monitorear la plataforma por usos indebidos, lista para responder a cualquier incidente. La empresa no detalló cuántas personas la integran.Katie Harbath, exdirectora de política pública de Meta, explicó a Semafor que estas salas se crean para lo que no se puede prever: hace falta un proceso establecido para clasificar rápido los problemas que surjan.Lo que midió Anthropic sobre el uso político de ClaudeEn un análisis de 250.000 conversaciones de una semana, publicado el 14 de octubre, Anthropic halló que los temas de política y asuntos públicos son el 5,75% de las conversaciones de Claude.ai en Estados Unidos. Las dedicadas específicamente a elecciones o votación son el 0,51%.Los pedidos de recomendación de voto aparecieron en cerca del 0,01% de las conversaciones.