Paul Christiano, integrante de la junta directiva de la Fundación OpenAI y de su Comité de Seguridad, volvió a plantear el tema durante las Hinton Lectures 2026, un encuentro sobre ética de la IA organizado por Geoffrey Hinton, premio Nobel y científico informático. Allí advirtió que, en apenas unos meses, los “accidentes de IA” podrían convertirse en la causa de muerte “más probable”.
“Para la mayoría de las personas en esta sala, la razón más probable por la que morirán es por un accidente de IA”, precisó. También afirmó que, ante el rápido avance de la tecnología, “estaríamos ante una probabilidad de 50% de que la IA tome el control”. Incluso con respuestas políticas “realistas”, agregó, “el riesgo sigue siendo excepcionalmente alto”.
Otros especialistas expresaron inquietudes similares. “METR [una organización sin fines de lucro dedicada a la investigación de la IA] estima que el progreso de Anthropic se acelerará casi al doble gracias a la IA. Esto es muy importante: mi estimación anterior para un investigador de IA superhumana era de alrededor de 2030, ahora es 2027″, escribió en X Eli Lifland, investigador y cofundador de AI Futures Project. También manifestó su preocupación por que la humanidad “pueda perder el control de su futuro en un plazo de tres a 12 meses”.
Buck Shlegeris, director ejecutivo de Redwood Research, coincidió con ese diagnóstico: “Creo que hay aproximadamente una probabilidad de uno entre tres de que, en el próximo año, las empresas de IA desarrollen superinteligencia: es decir, IA mucho más inteligente que los humanos en todos los sentidos”. Si eso ocurriera, señaló, probablemente “se apoderarán de instituciones humanas como los gobiernos o las destruirán”. Ante ese riesgo, recomendó intentar ralentizar el desarrollo de la IA.
Alarma mundial
En los últimos meses, dirigentes de algunas de las principales empresas tecnológicas también expresaron preocupación por la autonomía de la IA. Uno de los primeros fue Dario Amodei, director ejecutivo y cofundador de Anthropic, quien planteó la necesidad de desacelerar el desarrollo de los modelos más avanzados para ganar tiempo y reforzar las medidas de seguridad.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog. Como parte de un marco de tres pasos, dijo que Anthropic incorporaría evaluadores externos permanentes en las empresas de IA más avanzadas, con acceso a las herramientas pertinentes y a los procesos internos de evaluación de riesgos.
El ejecutivo aclaró que no proponía detener el entrenamiento de los modelos ni el progreso técnico. Su planteo, explicó, apunta a que las empresas se tomen el tiempo necesario para ajustar y proteger sus modelos, y a que evaluadores independientes verifiquen esas medidas.
Sam Altman, director ejecutivo de OpenAI y uno de los principales rivales de Amodei, apoyó públicamente la propuesta y anunció que su compañía adoptaría una de las medidas sugeridas: permitir que evaluadores independientes accedan a sus sistemas en condiciones similares a las de sus empleados para supervisar los riesgos.
“Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA”, escribió Altman. Aseguró que el asunto había sido uno de los principales temas de debate en OpenAI durante las últimas semanas y calificó como “una gran idea” la incorporación de supervisores externos.
Elon Musk, dueño de xAI y creador del chatbot Grok, también respaldó la propuesta de Amodei. “Dario tiene razón”, escribió en X.