Meta invertirá “agresivamente” en el clúster de computación más avanzado para desarrollar la inteligencia general

Meta trabaja por desarrollar la inteligencia general que impulsará los servicios de próxima generación, un objetivo a largo plazo y con el que persiguen convertirse en líderes del sector, para el que invierten en el desarrollo de nuevos modelos y la infraestructura y los datos que permitirán su entrenamiento.

El director ejecutivo de Meta, Mark Zuckerberg, asegura que llevan más de una década trabajando en lo que llama inteligencia general, una tecnología que estará en el centro de la siguiente generación de servicios, y que demanda modelos con capacidad para “razonar, planificar, programar, recordar y muchas otras habilidades cognitivas”.

El objetivo que se ha marcado es convertirse en líderes en este sector, una meta a largo plazo y para la que van a seguir “invirtiendo agresivamente”, para construir el clúster de computación más avanzado, que acompañarán de nuevos centros de datos de diseño propio y de procesadores personalizados para sus cargas de trabajo, como ha explicado en una llamada con los inversores con motivo de los resultados del cuarto trimestre de 2023.

A finales de año, la compañía tendrá una infraestructura dedicada con cerca de 350.000 GPU Nvidia H100s, o una computación general equivalente a 600.000 H100, como adelantó hace unos días. Zuckerberg es consciente de que entrenar y operar los grandes modelos de lenguaje requerirá cada vez mayor capacidad de computación.

Con la inteligencia artificial mantendrá su estrategia de código abierto, por la que ofrecen una infraestructura general abierta (los modelos Llama) y mantienen algunos productos específicos como propietarios.

Con esta estrategia, detalla el directivo, se benefician de la colaboración que promueve el código abierto, ya que hará mejorar sus modelos, y el ‘software’ que se distribuye bajo este formato suele ser más seguro y eficiente y facilita su integración en otros servicios y productos.

Actualmente están entrenando Llama 3, la siguiente iteración de su modelo de lenguaje de gran tamaño, e investigando para los que llegarán en los próximos años (Llama 5, 6 y 7) para “desarrollar la inteligencia general completa”.

Los trabajos sobre modelos fundacionales se realizan principalmente en el grupo de investigación conocido como FAIR, que recientemente se ha unido al otro grupo centrado en IA generativa, GenAI. Con esta reorganización, la compañía se enfoca en desarrrollar y construir siguiendo la visión específica que tienen y que les diferenciará del resto de actores de la industria.

Zuckerberg también ha destacado la importancia de los datos que se usan para entrenar los modelos. Solo de Instagram y Facebook disponen de “cientos de miles de millones de imágenes compartidas de forma pública y decenas de miles de millones de vídeos”, así como “grandes números de publicaciones de texto públicas en los comentarios”.

Y entiende que son “incluso más importantes” los comentarios que recogen de los “cientos de millones de personas” que interactúan con los servicios de inteligencia artificial en los distintos productos de la compañía. Es algo que ponen en práctica a nivel interno con la prueba de las nuevas funciones y características, ya que les ayuda a “decidir si va a ser importante en el futuro”. Así han probado servicios como el asistente Meta AI o AI Studio y las gafas Ray-Ban Meta.

Precisamente, las gafas inteligentes que Meta desarrolla con EssilorLuxottica están teniendo una buena acogida, con “un fuerte inicio, tanto en ventas como en compromiso”. Se trata del factor de forma que Zuckerberg lleva tiempo defendiendo para llevar la realidad mixta al día a día de las personas, como parte de sus planes con el metaverso.

También ha confirmado que este año la compañía lanzará una nueva IA multimodal y nuevas características de inteligencia artificial para mejorar la experiencia de las gafas.