Con el modelo LLaMA, medio publicado, medio filtrado, Meta ha iniciado un movimiento de código abierto para modelos de lenguaje. La Meta planea mantenerlo abierto en el futuro.
Durante una reunión interna y en el último podcast de Lex Fridman, Zuckerberg enfatiza que aún ve mucho potencial en el código abierto. Él refuta las críticas a este enfoque, especialmente en cuanto a la seguridad, señalando las capacidades aún limitadas de los propios sistemas, pero también comparando a Meta con los modelos mucho más grandes de Google o OpenAI.
Si la IA realmente alcanza el estado de superinteligencia, esta postura tendrá que ser reconsiderada, pero hasta entonces, hacer que los sistemas de IA sean de código abierto es la mejor manera de obtener comentarios sobre seguridad y alineación con las necesidades humanas, según Zuckerberg. Los comentarios y la colaboración estrecha con personas externas ayudarían a Meta a mejorar sus tecnologías.
Internamente, Zuckerberg ha expresado sentimientos similares sobre la estrategia de código abierto, según el New York Times, afirmando que «democratizar» la IA tiene muchos beneficios y también está alineado con la visión del producto de la empresa de permitir la máxima cantidad de sistemas de IA posibles, en lugar de crear solo uno para gobernarlos a todos.
«Diferentes personas tienen diferentes intereses y necesitaremos una variedad diversa de IA para representar todos estos intereses diferentes», dijo Zuckerberg.
LLaMA v2 será más que un proyecto de investigación
Meta está trabajando en un sucesor para LLaMA, posiblemente llamado «LLaMA v2». Por supuesto, podría recibir un nuevo nombre. Eso aún está por decidirse.
Zuckerberg dice que el nuevo modelo se convertirá en un producto central de infraestructura para Meta, sirviendo a muchos propósitos en sus propios productos y «con suerte en muchos otros». Aparentemente, Meta está planeando chatbots para WhatsApp e Instagram, así como un asistente de IA para gafas inteligentes y auriculares.
El enfoque de Meta es la seguridad y la integración de tecnologías de vanguardia. La responsabilidad y la alineación son dos aspectos clave del desarrollo. Además, el entrenamiento se llevará a cabo con «más datos de los propios servicios de la empresa» en comparación con LLaMA, afirmó Zuckerberg.
Todavía no está claro si LLaMA v2 será de código abierto nuevamente. Zuckerberg no descarta esa posibilidad, diciéndole a Fridman que Meta está discutiendo principalmente el «cómo» internamente. LLaMA v1 se lanzó bajo una licencia de investigación y, por lo tanto, no se puede utilizar para proyectos comerciales, lo cual, según Zuckerberg, es ampliamente respetado.
El LLaMA de Meta ha servido como base para varias iteraciones y evoluciones de chatbots de código abierto y modelos de lenguaje, como Alpaca, Vicuña o OpenAssistant.
