(Por InfoGEI) Eva Hubinger, responsable de Ciencia de Alineamiento de Anthropic, estimó que existe un 10% de probabilidad de una catástrofe que afecte a la humanidad en la próxima década y reconoció que la empresa aún no está en el camino de resolver el alineamiento de la superinteligencia, en medio de la polémica desatada por la renuncia de su colega Jacob Coxon, quien acusó a OpenAI y Anthropic de competir por desarrollar una IA capaz de mejorarse a sí misma sin control.
La inteligencia artificial podría acabar con la humanidad en la próxima década, según advirtió Eva Hubinger, responsable de Ciencia de Alineamiento de Anthropic, la empresa creadora del asistente Claude. «La IA podría aniquilar a todos los humanos.
«Personalmente, creo que, a día de hoy, hay un 10% de probabilidad de que haya una catástrofe que afecte a la humanidad en la próxima década. En Anthropic estamos haciendo lo que podemos para resolver el alineamiento de la superinteligencia. Aún no estamos en el camino de lograrlo», afirmó Hubinger, quien reconoció que aún no existe un plan para controlar esa tecnología.
La polémica se desató a partir de la renuncia de Jacob Coxon, investigador especializado en el entrenamiento de modelos de IA, quien tras tres años en OpenAI anunció que abandona Anthropic afirmando que «ninguna de las dos compañías está actuando de forma responsable».
Coxon las acusa de competir por desarrollar una superinteligencia capaz de mejorarse a sí misma sin que nadie la controle, y sostiene que, en público, los altos directivos de estas compañías moderan sus palabras sobre los riesgos reales de la IA.
Problemas del Milenio
Estos mensajes llegaron horas después de que OpenAI anunciara que un modelo interno, apoyado en un sistema de 10.000 agentes de IA, había encontrado en 88 horas una solución al problema de Navier-Stokes, uno de los llamados Problemas del Milenio de las matemáticas.
Tras ese hallazgo, el profesor de la Universidad de Nueva York Tristan Buckmaster y Levent Alpöge, investigador de Anthropic, declararon públicamente su preocupación porque OpenAI había abordado el problema de forma similar, aunque la compañía de Sam Altman negó que sus trabajadores o agentes hayan accedido al trabajo de ambos investigadores.
Rivalidad entre Anthropic y OpenAI
El mensaje de renuncia de Coxon no apunta directamente a la polémica de la resolución del problema matemático, pero refleja la competición desmesurada entre Anthropic y OpenAI por desarrollar modelos cada vez más potentes sin saber cómo controlarlos en entornos seguros.
En su hilo de X, Coxon señala que mientras en OpenAI muchos trabajadores no son conscientes de los peligros de las IA que desarrollan, en Anthropic sí hay investigadores que saben que el peligro es real, pero llegan a la conclusión de que, si ellos no construyen una superinteligencia, lo hará otro. (InfoGEI)
