Desde os primórdios da sua existência, o BitTorrent tem sido associado a downloads de conteúdos protegidos por direitos autorais. No entanto, essa visão é redutora e não reflete a verdadeira essência e potencialidade deste protocolo.
O BitTorrent, desde a sua criação, tem desempenhado um papel fundamental na distribuição de software, especialmente no que toca a distribuições Linux. A sua eficiência e escalabilidade, devido à arquitetura descentralizada, permitem a distribuição de arquivos de grande dimensão sem sobrecarregar os servidores em momentos de alta procura.
Recentemente, o BitTorrent encontrou um novo campo de aplicação: a distribuição de grandes modelos de inteligência artificial (IA) generativa. Um exemplo notável é o da Mistral AI, que lançou o seu modelo Mixtral 8x7B, um arquivo de 87 GB, utilizando apenas um link magnet na rede X. Este uso inovador do BitTorrent demonstra a sua versatilidade e capacidade de se adaptar às necessidades emergentes da tecnologia.
Num movimento que ecoa as ações da Mistral, Elon Musk, através da sua empresa xAI, lançou o modelo de linguagem Grok-1 como open source sob a licença Apache 2.0. Grok-1, que está por trás do chatbot Grok, foi disponibilizado para download como um arquivo torrent de 318,24 GB, contendo um modelo de linguagem com 314 mil milhões de parâmetros. Este lançamento marca um novo capítulo na disputa de Musk com a OpenAI, após a sua saída da organização devido à percepção de que esta tinha perdido a sua natureza ‘open’.
Grok-1 surge como um competidor de modelos como GPT-4, Gemini Pro e Llama 2. No entanto, distingue-se por ser uma versão satírica de ChatGPT, capaz de interações mais irreverentes e humorísticas. Apesar deste enfoque inicial menos sério, a decisão de Musk de tornar o modelo open source pode alterar o panorama atual, oferecendo a Grok-1 a possibilidade de se tornar uma alternativa viável a outros modelos de linguagem generativa.
xAI explicou que Grok-1 é baseado numa arquitetura chamada Mixture-of-Experts, ou seja, um ‘modelo de modelos de IA’, com cada um especializado numa tarefa específica. No entanto, não está desenhado para satisfazer necessidades específicas sem otimizações prévias.
Para aqueles interessados em explorar Grok-1, o modelo está disponível para download. No entanto, é necessário ter o hardware adequado para executá-lo. O repositório do GitHub fornece código de exemplo em JAX para carregar e executar o modelo, mas é necessário descarregar os ‘weights’ do modelo, que contêm a informação aprendida durante o treinamento.
Na minha opinião, a utilização do BitTorrent para distribuir modelos de IA é uma estratégia inteligente que maximiza a acessibilidade e minimiza os custos associados à distribuição de arquivos de grande dimensão. Além disso, a abertura do Grok-1 reflete um compromisso com a transparência e a colaboração na área da IA, elementos cruciais para o progresso ético e responsável desta tecnologia.
Fonte: x.ai
