Meta✴ apresentou mais uma versão de seu mais recente modelo de inteligência artificial – projetado para trabalhar com texto, Llama 3.3 70B. O novo produto apresenta desempenho no nível do carro-chefe anterior Llama 3.1 405B, mas oferece maior eficiência: como o nome sugere, a nova versão tem 70 bilhões de parâmetros contra 405 bilhões da antiga. A empresa também revelou o tamanho do público de seu assistente de IA – ele acabou sendo duas vezes mais popular que o ChatGPT.
«Usando os mais recentes avanços em técnicas pós-treinamento, este modelo melhorou o desempenho central a um custo significativamente mais baixo”, disse Ahmad Al-Dahle, vice-presidente de IA generativa da Meta✴, no Social Media X. Ele também publicou um gráfico que mostra que o Llama 3.3 70B superou o Google Gemini 1.5 Pro, OpenAI GPT-4o e Amazon Nova Pro em uma série de testes do setor, incluindo MMLU, uma avaliação da capacidade de um modelo de compreender a linguagem.
O novo modelo foi publicado como código aberto e está disponível para download na plataforma Hugging Face e outras fontes, incluindo o site oficial do Llama. Meta✴, no entanto, limitou parcialmente a capacidade dos desenvolvedores de usar modelos Llama: para projetos com mais de 700 milhões de usuários, é necessária uma licença especial. Ao mesmo tempo, os próprios modelos Llama, segundo Meta✴, foram baixados mais de 650 milhões de vezes. O Llama também é usado pela própria empresa: é usado para construir o assistente de IA Meta✴ AI, que, segundo o chefe da empresa, Mark Zuckerberg, tem quase 600 milhões de usuários ativos mensais – o dobro do ChatGPT.
Anteriormente, Zuckerberg disse que para treinar o promissor Llama 4, a empresa precisará de dez vezes mais recursos computacionais do que o atual Llama 3. Para isso, a Meta✴ comprou mais de 100 mil aceleradores Nvidia – o xAI de Elon Musk também possui um cluster desse poder ). Sabe-se também que no segundo trimestre de 2024, as despesas de capital da Meta✴ aumentaram quase 33% em comparação com o mesmo período do ano passado e ascenderam a 8,5 mil milhões de dólares – os fundos foram gastos em servidores, centros de dados e infra-estruturas de rede.