Jacob Coxon, investigador que trabajó en Anthropic y OpenAI, renunció a su puesto y lanzó una fuerte advertencia sobre el rápido desarrollo de la inteligencia artificial. El científico aseguró que quienes trabajan en este sector sienten un temor genuino ante la velocidad con la que avanzan los sistemas y las posibles consecuencias para la humanidad.

Coxon sostiene que las empresas tecnológicas están inmersas en una carrera por desarrollar una superinteligencia capaz de mejorarse a sí misma, sin contar todavía con soluciones suficientes para garantizar que permanezca bajo control humano. Según sus declaraciones, algunos trabajadores incluso estarían replanteando sus vidas ante la posibilidad de que los avances ocurran mucho más rápido de lo esperado.

El investigador también pidió que el desarrollo de estas tecnologías sea regulado y coordinado a nivel internacional, particularmente entre Estados Unidos y China, para evitar que la competencia entre países y compañías obligue a acelerar todavía más los avances. A su juicio, reducir el ritmo permitiría evaluar mejor los riesgos y establecer mecanismos de seguridad.

Las declaraciones de Coxon han generado reacciones dentro de la propia industria. Evan Hubinger, investigador de Anthropic, coincidió en que existe un riesgo serio y estimó personalmente en más de 10% la posibilidad de que una IA avanzada pueda provocar la muerte de toda la humanidad durante la próxima década. El científico Geoffrey Hinton también consideró que una estimación de ese nivel no resulta descabellada.

A pesar de sus advertencias, Coxon no plantea que la IA deba desaparecer. También reconoce su potencial para contribuir a la ciencia, ayudar a combatir enfermedades y mejorar la vida de las personas. El debate, según su postura, está en decidir si la humanidad puede avanzar con esta tecnología sin perder el control sobre sistemas que podrían alcanzar capacidades superiores a las humanas.