Más de 1200 empleados de empresas IA lanzaron un documento que exige regular la evolución de la IA
Profesionales de la industria de la IA volvieron a alertar por la evolución sin control de la Inteligencia Artificial. Más de 1200 empleados de las principales tecnológicas de EEUU – entre ellas OpenAI y Anthropic – firmaron un documento en el que exigen al gobierno de Donald Trump que lidere un “esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para marcar el ritmo de forma deliberada del desarrollo de la IA automatizada”.
El manifiesto lleva la firma de importantes nombres de la industria como el Dario Amodei (director ejecutivo de Anthropic) y Jakub Pachocki (jefe científico) de OpenAI.
Entre las principales preocupaciones de los profesionales, destaca el comienzo de la automatización del desarrollo de modelos IA: es decir, que la IA se entrene a sí misma.
Qué dice el documento que alerta sobre el desarrollo sin supervisión de la IA
En su inicio, el manifiesto reconoce que “la IA podría ayudar a crear un futuro mucho mejor, pero ese resultado no está garantizado”. Además, asegura que en la actualidad “las principales empresas de IA del mundo creen que podrían estar cerca de automatizar la investigación en IA”.
“Es difícil predecir exactamente cuánto acelerará esto el progreso de la IA, pero existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente, superando nuestra capacidad para comprender o controlar los sistemas resultantes”, problematiza el documento sobre el futuro cercano.
En ese sentido, el texto pone el foco sobre la gobernanza de los modelos: “Para aprovechar el potencial de la IA, la industria, los gobiernos y la sociedad en general podrían necesitar la posibilidad de ganar tiempo para abordar los riesgos emergentes, desarrollar medidas de seguridad y reforzar la supervisión”.
Sin embargo, los líderes de la IA reconocen que el contexto geopolítico presiona la posibilidad de llevar adelante un desarrollo consciente: “Cada empresa —y cada país— está sometido a una fuerte presión competitiva para no ralentizar unilateralmente esa aceleración. Y, en la actualidad, el mundo carece de las herramientas técnicas y de gobernanza necesarias para regular deliberadamente el ritmo del progreso en toda la frontera de la IA”.
Las opiniones más impactantes sobre el desarrollo de la IA
El documento fue publicado en la web pacingthefrontier.com. Allí, también fueron incluidas opiniones personales de los distintos profesionales que participan del desarrollo de esta tecnología.
Por ejemplo, la jefa científica de Meta AI, Sengjia Zhao, aseguró: “La IA avanza a un ritmo para el que nuestra sociedad quizás no esté preparada. Los laboratorios de vanguardia están muy cerca de lograr una IA capaz de superar incluso a las personas más brillantes en casi todos los indicadores de inteligencia. Esto conllevará riesgos sociales y de seguridad sin precedentes. Para garantizar un futuro positivo, debemos desarrollar la IA de forma responsable y reflexiva”.
Por su parte, el jefe científico de Thinking Machines, John Schulman explicó: “Firmé porque esta declaración ayuda a establecer un consenso sobre la posible necesidad de mecanismos de coordinación a medida que la investigación automatizada en IA acelere el progreso. También me gustaría que los laboratorios comenzaran a diseñar voluntariamente estos mecanismos, incluso antes de que intervenga el gobierno de Estados Unidos.”
Desde Google, el Científico sénior de investigación de IA de frontera, Danny Sawyer, afirmó: “Creo que intentar regular deliberadamente el ritmo del desarrollo de la IA será extremadamente difícil y podría hacer más daño que bien si se hace sin el debido cuidado. Sin embargo, firmo esta declaración porque, si se llega a intentar regular ese ritmo, sería mejor que el proceso haya sido investigado y planificado metódicamente en lugar de implementarlo de repente como reacción a una crisis.”
Por último, el miembro del staff técnico de Anthropic, Nicholas Joseph, detalló: “Lidero el área de preentrenamiento en Anthropic, responsable de entrenar los modelos base en los que se sustenta Claude. Cada mes, los propios modelos realizan una mayor cantidad de trabajo: implementación de infraestructura, optimización de código y diseño y análisis de experimentos. Esto ha transformado drásticamente nuestra forma de trabajar y ha incrementado significativamente nuestro ritmo de progreso. No sé con certeza si este proceso tiene un límite ni dónde podría situarse, pero una aceleración rápida de las capacidades podría ser peligrosa para la sociedad, por lo que parece prudente contar con la capacidad de ralentizar deliberadamente ese proceso.”
