Un investigador de Anthropic, Jacob Coxon, ha anunciado esta semana su dimisión por la irresponsabilidad que están teniendo las tecnológicas en el desarrollo de la Inteligencia Artificial (IA). Esta empresa estadounidense se dedica a la investigación y desarrollo de IA y fue fundada por exmiembros de OpenAI, donde también trabajó Coxon. Dada su experiencia en ambas, ha advertido de que se está subestimando el poder de esta tecnología, calificándola incluso como una amenaza para la humanidad.
“Hoy he dimitido de Anthropic. He pasado los últimos tres años dedicándome a la investigación sobre el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas está actuando de forma responsable. Se están lanzando de cabeza hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, comienza explicando Coxon en un hilo publicado en su cuenta de ‘X’.
El investigador asegura que pronto habrá sistemas sobrehumanos “capaces de piratear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y hacerse con poder y recursos reales”. De hecho, afirma que todas las personas que actualmente están trabajando en el desarrollo de la IA “creen sinceramente que podría acabar con todos nosotros antes de que termine la década”. Es decir, antes de 2030.
La carrera en el sector por convertirse en la firma más puntera en inteligencia artificial ha provocado que las empresas dejen atrás otras consideraciones respecto a su avance. Coxon especifica que, aunque en Anthropic tienen más en cuenta estas cuestiones que en OpenAI, conocedores de lo que está en juego, ambas “están inmersas en una carrera por llegar primero”.
“Aceptar esta carrera y entrar en la ‘fase final’ es una apuesta temeraria que no debería ponerse en marcha desde el Slack de una empresa privada. Intentar acelerar la alineación debería requerir una confianza extraordinaria en que no existen mejores trayectorias disponibles”, ha advertido.
Su exjefe le da la razón
El exjefe de Coxon, Evan Hubinger, que es responsable de Ciencia de Alineación en Anthropic, le ha dado la razón incluso estando en activo. En respuesta al hilo de este, ha confirmado los peligros de la IA y su pronóstico para 2030: “Jacob tiene razón en esto: realmente creemos que la IA podría acabar con toda la humanidad”.
A su juicio, cree que hay más de un 10% de probabilidades de que eso ocurra en la próxima década. “Creo que Anthropic está haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación de la superinteligencia y no parece que vayamos por buen camino para lograrlo”, reconoce.
Sobre esto, explica que, si bien cree que el riesgo que plantean los modelos actuales actualmente es bajo, lo que le preocupa “es que surja una superinteligencia a raíz de la superación recursiva, ya que, como hemos dicho, esto está ocurriendo más rápido de lo que pensábamos”. Es decir, el peligro está en los modelos de automejora, ya que los existentes entrenarán a los siguientes y así sucesivamente, y es ahí donde, de momento, no se ha puesto freno, pese al riesgo.
