NVIDIA Revoluciona ChatRTX com LLM Inovadores e Funções Explosivas

Num mundo cada vez mais interconectado, a tecnologia de inteligência artificial (IA) tem avançado a passos largos, e a NVIDIA, uma das gigantes do setor, não fica atrás. A empresa tem dedicado uma série semanal, intitulada “AI Decoded”, para desmistificar e explicar, de maneira acessível, os avanços da IA. É uma iniciativa valiosa tanto para os mais leigos como para os entusiastas da área, abrangendo desde conceitos gerais até aplicações específicas.

Uma das aplicações que tem chamado atenção é o ChatRTX, um chatbot que opera localmente, ou seja, sem a necessidade de estar conectado a serviços online. Isso é possível graças às capacidades de IA das arquiteturas Ampere e Ada, presentes nas séries RTX 30 e RTX 40 de placas gráficas. A execução local de um chatbot oferece vantagens significativas, como privacidade aprimorada e menor latência nas respostas.

A primeira versão do ChatRTX já era capaz de utilizar modelos de linguagem de grande escala (LLM), como o Llama2 13B INT4 e o Mistral 7B INT4, e permitia que os utilizadores “voltassem a treinar” o modelo com um vídeo do YouTube de sua escolha, personalizando as respostas do chatbot para um contexto específico.

Agora, a NVIDIA traz uma atualização empolgante para o ChatRTX, adicionando mais dois LLMs: o Gemma, versão aberta do Gemini publicada pelo Google, e o ChatGLM3, um LLM aberto e bilíngue (inglês e chinês). Essa expansão de modelos significa que os utilizadores têm agora o dobro de opções para encontrar respostas mais precisas e adequadas às suas consultas.

Além disso, a nova versão do ChatRTX introduz a capacidade de treinar o modelo com imagens e fotografias pessoais, sem a necessidade de etiquetá-las previamente. A aplicação já vem com um pré-treinamento contrastivo de linguagem imagem (CLIP) da OpenAI, facilitando a associação entre texto e imagens.

Outra novidade é a integração do Whisper, um sistema de reconhecimento automático de fala baseado em IA, que permite aos utilizadores interagir com o chatbot através de comandos de voz, aumentando significativamente a usabilidade e acessibilidade da ferramenta.

Para usufruir do ChatRTX, é necessário ter um hardware compatível: uma placa gráfica RTX 30 ou 40 (incluindo versões Mobile) com pelo menos 8 gigabytes de VRAM, 16 gigabytes de RAM no sistema e no mínimo 100 gigabytes de espaço livre em disco. A aplicação é totalmente gratuita e pode ser baixada no site oficial da NVIDIA.

Na minha opinião, a NVIDIA está a pavimentar o caminho para uma nova era de interações com IA, onde a privacidade e a personalização são priorizadas. Ao possibilitar que os chatbots operem localmente e sejam treinados com dados específicos do utilizador, a empresa está a criar um ambiente onde a tecnologia se adapta ao indivíduo e não o contrário. Isso não só melhora a experiência do utilizador, mas também estabelece um novo padrão para o desenvolvimento de aplicações de IA no futuro.

Fonte: Nvidia

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui