¿La IA puede construir otra IA que sea mejor y escape a las capacidades de monitoreo?

El jefe de seguridad de Anthropic, Evan Hubinger, afirmó que existe más de un 10% de probabilidad de que la inteligencia artificial termine matando a todos los seres humanos durante la próxima década. “Creemos realmente que la IA podría matar a todos los humanos”, escribió Hubinger en X. El responsable de seguridad de Anthropic estimó ese riesgo en “más de un 10%” dentro de los próximos diez años, en medio de una creciente preocupación dentro de la propia industria por la velocidad con la que evolucionan estos sistemas y por la posibilidad de que lleguen a escapar del control humano. Sus declaraciones surgieron después de que Jacob Coxon, un investigador británico de 27 años que había trabajado primero en OpenAI y luego en Anthropic, anunciara que abandonaba por completo la industria y acusara a ambas compañías de “jugar con nuestras vidas”. Coxon trabajó durante los últimos tres años en preentrenamiento, la etapa en la que los modelos de IA absorben enormes cantidades de información. Este año había dejado OpenAI para incorporarse a Anthropic, precisamente porque consideraba que su rival adoptaba una postura más prudente frente a los peligros de la nueva tecnología. “Ninguna de las dos compañías actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió Coxon en un posteo en X que rápidamente se volvió viral. Alain Descoins dijo en entrevista en Informativo Sarandí que esto no es nuevo, ha habido varias renuncias en OpenAI y Anthropic pero aclaró que no debe tomarse a la ligera.