En febrero, Meta hizo un movimiento inusual en el mundo de la inteligencia artificial en rápida evolución: decidió regalar sus joyas de la corona de IA.
El gigante de Silicon Valley, propietario de Facebook, Instagram y WhatsApp, ha creado una tecnología de inteligencia artificial, llamada LLaMA, que puede ejecutar chatbots en línea. Pero en lugar de quedarse con la tecnología para sí mismo, el Meta liberó el código informático central del sistema. Académicos, investigadores gubernamentales y otras personas que hayan proporcionado sus direcciones de correo electrónico a Meta pueden descargar el código una vez que la empresa haya evaluado a la persona.
Esencialmente, Meta ha estado regalando su tecnología de inteligencia artificial como software de código abierto (código de computadora que puede copiarse, modificarse y reutilizarse libremente) brindando a los extraños todo lo que necesitan para construir rápidamente sus propios chatbots.
“La plataforma que gane estará abierta”, dijo en una entrevista Yann LeCun, científico jefe de inteligencia artificial de Meta.
Con el calentamiento de la carrera para liderar la IA en Silicon Valley, Meta se destaca de sus competidores al adoptar un enfoque diferente de la tecnología. Dirigida por su fundador y CEO, Mark Zuckerberg, Meta cree que lo más inteligente es compartir sus principales impulsores de IA como una forma de difundir su influencia y, en última instancia, avanzar más rápido hacia el futuro.
Sus acciones contrastan con las de Google y OpenAI, las dos empresas que lideran la nueva carrera armamentista de IA. Preocupadas por el uso de herramientas de IA, como los chatbots, para difundir información errónea, discursos de odio y otros contenidos tóxicos, esas empresas se han vuelto más reservadas sobre los métodos y el software que sustentan sus productos de IA.
Google, OpenAI y otros han criticado a Meta, diciendo que un enfoque de código abierto sin restricciones es peligroso. El rápido aumento de la inteligencia artificial en los últimos meses ha despertado la alarma sobre los riesgos de la tecnología, incluida la forma en que puede alterar el mercado laboral si no se implementa correctamente. Y a los pocos días del lanzamiento de LLaMA, el sistema se filtró a 4chan, el foro de mensajes en línea conocido por publicar información falsa y engañosa.
“Queremos pensar mucho en revelar los detalles o el código fuente abierto” de la tecnología de IA, dijo Zubin Ghahramani, vicepresidente de investigación de Google que ayuda a supervisar el negocio de IA. “¿Adónde podría conducir esto al abuso?”
Pero Meta dijo que no vio ninguna razón para guardarse su código. El Dr. LeCun dijo que el aumento del secreto en Google y OpenAI es “un gran error” y “una visión realmente mala de lo que está pasando”. Argumenta que los consumidores y los gobiernos se negarán a adoptar la IA a menos que esté fuera del control de empresas como Google y Meta.
“¿Quieres que cada sistema de IA sea controlado por dos poderosas corporaciones estadounidenses?” Preguntó.
OpenAI se negó a comentar.
El enfoque de código abierto de Meta para la IA no es nuevo. La historia de la tecnología está llena de batallas entre los sistemas de código abierto y los sistemas propietarios o cerrados. Algunos almacenan las herramientas más importantes utilizadas para construir las plataformas informáticas del mañana, mientras que otros dedican estas herramientas. Recientemente, Google abrió el sistema operativo móvil Android para hacerse cargo del dominio de Apple en los teléfonos inteligentes.
Muchas empresas han compartido públicamente sus tecnologías de IA en el pasado, ante la insistencia de los investigadores. Pero sus tácticas están cambiando debido a la carrera por la IA. Este cambio comenzó el año pasado cuando OpenAI lanzó ChatGPT. El gran éxito del chatbot sorprendió a los consumidores y generó competencia en el campo de la inteligencia artificial, con Google moviéndose rápidamente para incorporar más IA en sus productos y Microsoft invirtiendo $ 13 mil millones en OpenAI.
Si bien Google, Microsoft y OpenAI han recibido desde entonces la mayor parte de la atención en el campo de la IA, Meta también ha invertido en la tecnología durante casi una década. La compañía ha gastado miles de millones de dólares en la creación del software y el hardware necesarios para realizar chatbots y otra “IA generativa”, que producen texto, imágenes y otros medios por sí mismos.
En los últimos meses, Meta ha estado trabajando arduamente detrás de escena para tejer sus años de investigación y desarrollo de IA en nuevos productos. El Sr. Zuckerberg se concentra en hacer de la empresa un líder en inteligencia artificial, y realiza reuniones semanales sobre el tema con su equipo ejecutivo y líderes de productos.
El movimiento más grande de Meta AI en los últimos meses ha sido el lanzamiento de LLaMA, que es lo que se conoce como Modelo de lenguaje grande, o LLM (LLa significa “Modelo de lenguaje grande Meta AI”). LLM son sistemas que aprenden habilidades analizando cantidades masivas. de texto, incluidos libros, artículos de Wikipedia y registros de chat. ChatGPT y el chatbot Bard de Google también se construyen sobre dichos sistemas.
Los LLM identifican patrones en el texto que analizan y aprenden a crear su propio texto, incluidos trabajos finales, publicaciones de blog, poesía y código informático. Incluso pueden tener conversaciones complejas.
En febrero, Meta lanzó públicamente LLaMA, lo que permitió a académicos, investigadores gubernamentales y otras personas que proporcionaron sus direcciones de correo electrónico descargar y usar el código para crear su propio chatbot.
Pero la empresa ha ido más allá que muchos otros proyectos de IA de código abierto. Permitió a las personas descargar una copia de LLaMA después de recibir capacitación sobre cantidades masivas de texto digital extraído de Internet. Los investigadores llaman a esto “liberación de peso”, refiriéndose a los valores matemáticos particulares que el sistema aprendió mientras analizaba los datos.
Esto fue importante porque analizar todos esos datos generalmente requiere cientos de chips de computadora especializados y decenas de millones de dólares, recursos que la mayoría de las empresas no tienen. Aquellos con los pesos pueden implementar software de manera rápida, fácil y económica, gastando una fracción de lo que costaría crear un software tan poderoso.
Como resultado, muchos en la industria tecnológica creían que Meta había sentado un precedente peligroso. Y en cuestión de días, alguien desató los pesos de LLaMA en 4chan.
En la Universidad de Stanford, los investigadores han utilizado la nueva tecnología Meta para construir su propio sistema de inteligencia artificial, que está disponible en Internet. Un investigador de Stanford llamado Moses Domboya pronto lo usó para crear un guión problemático, según capturas de pantalla vistas por The New York Times. En un caso, el régimen dio instrucciones para disponer del cuerpo sin que fuera capturado. También produjo material racista, incluidos comentarios que respaldaban las opiniones de Adolf Hitler.
En una conversación privada entre los investigadores, vista por The Times, Doumboya dijo que distribuir la tecnología al público sería “una granada disponible para todos en una tienda de comestibles”. No respondió a una solicitud de comentarios.
Stanford eliminó de inmediato el sistema de IA de Internet. El proyecto está diseñado para proporcionar a los investigadores tecnología que “captura los comportamientos de los modelos de inteligencia artificial de vanguardia”, dijo Tatsunori Hashimoto, el profesor de Stanford que dirigió el proyecto. “Cancelamos la demostración porque nos preocupaba cada vez más la posibilidad de un uso indebido fuera de la investigación”.
El Dr. LeCun argumenta que este tipo de tecnología no es tan peligrosa como podría parecer. Dijo que un pequeño número de personas puede producir y difundir información errónea y discursos de odio. Agregó que las sustancias tóxicas pueden ser severamente restringidas por redes sociales como Facebook.
Él dijo: “No se puede evitar que la gente cree información sin sentido o peligrosa o cualquier otra cosa”. “Pero puedes evitar que se propague”.
Para Meta, más personas que usen software de código abierto pueden nivelar el campo de juego mientras compite con OpenAI, Microsoft y Google. Si todos los desarrolladores de software del mundo crearan software con Meta Tools, podría ayudar a anclar a la empresa para la próxima ola de innovación y evitar posibles inadaptados.
El Dr. LeCun también se refirió a la historia reciente para explicar por qué Meta está comprometida con la tecnología de IA de código abierto. Dijo que la evolución de Internet para el consumidor fue el resultado de estándares comunitarios abiertos que ayudaron a construir la red de intercambio de conocimientos más rápida y generalizada que el mundo jamás haya visto.
“El progreso es más rápido cuando está abierto”, dijo. “Tienes un ecosistema más vibrante donde todos pueden contribuir”.