Elon Musk criticó las declaraciones del exinvestigador de Anthropic: Parece un montaje
Elon Musk se metió en la polémica por la salida de Jacob Coxon de Anthropic y cuestionó públicamente su hilo donde alerta por el peligro de la IA recursiva, es decir, una tecnología que se entrene a sí misma. El dueño de xAI – uno de los competidores de Anthropic y Open AI – puso en duda la autenticidad de las publicaciones con las que el exinvestigador explicó su renuncia a la compañía: “Parece un montaje”
Musk publicó un breve tuit el pasado miércoles sobre la noche en respuesta al hilo de la renuncia de Coxon, que para ese entonces ya había superado las 120 millones de visualizaciones. En esta línea, el empresario agregó que no creía que algo así hubiera ocurrido antes “con un post de una cuenta nueva casi sin actividad previa”.
A la discusión en las redes se sumó el director ejecutivo de Epic Games, Tim Sweeney, quien afirmó que los posts y las reacciones parecían “coreografiados”. Musk fue más allá y habló de un supuesto “trabajo previo” para una “operación psicológica, a falta de mejor término”. Sin embargo, ninguno de los dos aportó pruebas para sostener esas acusaciones.
Qué cuestionan sobre la denuncia del exinvestigador de Anthropic
La acusación de que las publicaciones pudieron haber sido preparadas con anticipación también encontró algunos elementos que alimentaron las dudas. Según consignó el medio estadounidense Axios, Coxon permaneció cuatro meses en Anthropic, se fue dos meses antes de que se consolidaran sus opciones de acciones y todavía conserva acciones de OpenAI, su anterior empleador.
El propio Coxon contó a CNN que redactó el hilo en un Google Doc junto a un amigo y que pidió a otras personas que lo retuitearan: “Tratemos de que se haga un poco viral”.
El inversor Jason Calacanis planteó el debate desde otra perspectiva y preguntó si Anthropic estaba utilizando “un manual de captura regulatoria” o si todos los trabajadores de la compañía estaban viendo algo que elevaba su probabilidad de catástrofe.
Cabe destacar que Musk no tiene un rol inocente frente a esta discusión: es dueño de X, la plataforma donde las publicaciones de Coxon alcanzaron una amplia difusión, y fundador de xAI, compañía que compite con Anthropic.
Coxon respondió al empresario en X después de que Musk calificara su denuncia como una posible “trampa”. “Soy real y estas son mis verdaderas creencias. Podrías preguntarles a tus investigadores de xAI sobre mí si no los hubieras despedido”, escribió.
En otra publicación, el exinvestigador instó a Musk a involucrarse en la discusión: “Has hablado mucho sobre cómo te sientes obligado a participar en esta carrera y sobre los peligros de la IA avanzada”.
Las críticas también fueron respaldadas por otras figuras. El multimillonario Bill Ackman escribió “Interesante” al compartir un posteo que sostenía que las publicaciones podían formar parte del “inicio de una operación de relaciones públicas MUY sofisticada y bien financiada para obtener apoyo para que los demócratas regulen la IA hasta el olvido”.
Por su parte, el expresidente del Consejo Presidencial de Asesores para la Ciencia y Tecnología de Estados Unidos, David Sacks, quien se desempeñó como asesor de criptomonedas e IA del presidente Donald Trump hasta marzo, también apuntó contra Anthropic y escribió: “Sin duda, la salida a bolsa de Anthropic debe suspenderse hasta que se puedan investigar las afirmaciones de este ‘denunciante’”.
Los profesionales que respaldan la advertencia de Coxon
En medio del debate, las advertencias del exinvestigador también recibieron el respaldo de investigadores de inteligencia artificial. El líder de ciencia de alineación en Anthropic, Evan Hubinger, fue uno de los primeros en compartir las publicaciones de Coxon en X y sostuvo que él y sus colegas creen firmemente que la inteligencia artificial podría acabar con la humanidad. Además, afirmó que personalmente considera que existe más de un 10% de probabilidades de que eso ocurra durante la próxima década.
Hubinger agregó: “Creo que en Anthropic estamos haciendo todo lo posible, pero aún no tenemos un plan para resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello”.
El pasado jueves, NBC News difundió las primeras entrevistas con otros dos investigadores que dejaron sus puestos durante el mes pasado y que ahora plantearon preocupaciones similares a las de Coxon. El primero de ellos, Joe Benton, dirigía un equipo de investigación en seguridad en Anthropic, mientras que el segundo, Josh Engels, realizaba investigaciones de seguridad en Google DeepMind. Ambos dejaron sus respectivas compañías para incorporarse a METR, una organización sin fines de lucro de Berkeley que evalúa si los sistemas de inteligencia artificial pueden causar daño.
En el caso de Benton, su salida no estuvo planteada como una protesta. El investigador anunció su decisión en X el 2 de septiembre, seis días antes que Coxon. En su despedida, escribió: “Anthropic fue genial conmigo”.
Sin embargo, sus declaraciones apuntaron a un problema similar. Benton sostuvo que los incentivos de la industria hacen “extremadamente difícil que incluso los actores a los que les importa el riesgo prioricen la seguridad”, y remarcó que “toda la transparencia sobre estos riesgos que sale de las empresas es enteramente voluntaria”.
Las advertencias de Coxon se producen poco más de un mes después de que más de 1.200 empleados de las principales compañías tecnológicas de Estados Unidos reclamaran medidas frente a la evolución de la inteligencia artificial.
Entre los firmantes había trabajadores de OpenAI y Anthropic, quienes pidieron al gobierno de Trump que lidere un “esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo de forma deliberada del desarrollo de la IA automatizada”.
El manifiesto fue firmado además por nombres importantes de la industria, entre ellos el director ejecutivo de Anthropic, Dario Amodei y el jefe científico de OpenAI, Jakub Pachocki.
Una de las principales preocupaciones planteadas fue el comienzo de la automatización del desarrollo de modelos de inteligencia artificial, es decir, la posibilidad de que la IA se entrene a sí misma. El documento advierte que “la IA podría ayudar a crear un futuro mucho mejor, pero ese resultado no está garantizado” y sostiene que actualmente “las principales empresas de IA del mundo creen que podrían estar cerca de automatizar la investigación en IA”.
“Es difícil predecir exactamente cuánto acelerará esto el progreso de la IA, pero existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente, superando nuestra capacidad para comprender o controlar los sistemas resultantes”, plantea el manifiesto.
El propio documento reconoce que el escenario geopolítico dificulta una desaceleración coordinada del desarrollo tecnológico: “Cada empresa —y cada país— está sometido a una fuerte presión competitiva para no ralentizar unilateralmente esa aceleración. Y, en la actualidad, el mundo carece de las herramientas técnicas y de gobernanza necesarias para regular deliberadamente el ritmo del progreso en toda la frontera de la IA”.
