O empresário Elon Musk afirmou que está utilizando 100 mil GPUs NVIDIA H100 para treinamento da terceira versão da inteligência artificial Grok – utilizada na rede social “X” para os usuários premium.
O anúncio pegou os entusiastas e o público de surpresa, considerando que a segunda versão – desenvolvida pela startup xAI – será lançada no mês de agosto. Ainda assim, o dono da rede social e de empresas como a SpaceX e Tesla já aponta que sua LLM mais avançada está sendo treinada por milhares do mais moderno hardware disponível.
Grok 3 end of year after training on 100k H100s should be really something special
— Elon Musk (@elonmusk) July 1, 2024
A declaração de Elon Musk não apenas aponta que o Grok 3 será uma inteligência artificial mais avançada, como também será a única a ser desenvolvida com esta quantidade de GPUs NVIDIA H100. Ou seja, os resultados que isto pode trazer seriam inéditos para a indústria e indicar o caminho que a tecnologia tomará.
Em termos comparativos, vamos citar os rumores relacionados à OpenAI e o ChatGPT. O modelo de linguagem GPT-4, por exemplo, supostamente usou 40 mil GPUs NVIDIA A100 – que não fica para trás apenas em quantidade, mas também tem um desempenho menor do que a versão H100.
Além disso, Elon Musk também afirma que o Grok 3 não está sendo construído do zero. Fora as 100 mil GPUs NVIDIA H100, a LLM utiliza como base as duas versões anteriores e promete um modelo extremamente avançado.
Os planos de Elon Musk para inteligência artificial
E se você imagina que os planos de Elon Musk vão parar por aí ou que ele reduzirá os esforços em relação à inteligência artificial, estará cometendo um engano. Apesar do Grok 3 usar 100 mil GPUs NVIDIA H100, ele também pretende investir $9 bilhões na compra de aceleradores B200 “Blackwell” para a xAI.
O investimento é imenso e, até o momento, este modelo de IA está disponível apenas para os usuários que pagarem pelo plano Premium em sua plataforma. A oferta também garante uma marca de verificação no “X”, redução na quantidade de anúncios, acesso ao Media Studio e à candidatura para gerar receitas através de sua conta.
Fonte: Adrenaline
