Conhecimento Técnico que Transforma
Categorias
Novo AI de Engenharia: DeepSeek V3 Desafia o ChatGPT

DeepSeek V3 desafia Meta e OpenAI com 671 bilhões de parâmetros e treinamento eficiente de IA

Na era digital atual, a inteligência artificial está se tornando uma ferramenta cada vez mais essencial, moldando diversas indústrias, incluindo a engenharia. A DeepSeek, uma proeminente empresa chinesa, recentemente lançou seu modelo de inteligência artificial, DeepSeek V3, que tem ganho destaque significativo no setor. Este modelo é visto como um concorrente formidável contra as soluções já estabelecidas por gigantes como a Meta e a OpenAI, mostrando capacidades surpreendentes em uma variedade de tarefas.

Especificações do Modelo

O DeepSeek V3 se destaca por suas impressionantes 671 bilhões de parâmetros, com 37 bilhões ativados, demonstrando um avanço considerável em comparação a muitos de seus concorrentes, como o Llama 3.1 da Meta, que possui 405 bilhões de parâmetros. Isto é apoiado por um massivo conjunto de dados de treinamento, composto por 14,8 trilhões de tokens – uma quantidade extraordinária de dados textuais.

Quanto ao tempo de treinamento e custo, o DeepSeek V3 foi treinado em apenas dois meses, com um custo de 5,5 milhões de dólares. Essa otimização não só reduz gastos, mas também destaca a eficiência da infraestrutura utilizada, onde um data center equipado com GPUs Nvidia H800 foi empregado. Esta façanha reduz custos quando comparado aos investimentos necessários por outras grandes empresas para modelos similares.

Desempenho Fora da Curva

O desempenho do DeepSeek V3 em testes de benchmark tem colocado o modelo à frente de vários competidores avançados no campo da IA. Superando modelos como o Llama 3.1 e o GPT-4o da OpenAI, ele apresentou capacidades superiores em concursos de programação e testes de integração. Além disso, mostrou-se eficaz em tarefas complexas de tradução, redação de ensaios e criação de e-mails, sublinhando sua versatilidade.

Particularmente em competições de codificação, o DeepSeek V3 mostrou ser extremamente eficaz. Em plataformas como Codeforces e Aider Polyglot, ele não apenas escreveu novos códigos, mas também conseguiu integrá-los com sucesso em códigos existentes – uma habilidade rara e valiosa no mundo da engenharia e programação.

Arquitetura e Recursos Avançados

O DeepSeek V3 utiliza uma arquitetura de Mistura de Especialistas (MoE), uma abordagem que integra múltiplas redes neurais, cada uma otimizada para tarefas específicas. Esta arquitetura permite economizar nos custos de hardware, já que apenas a rede neural necessária para a tarefa atual é ativada.

Outra inovação crucial é o uso da Atenção Latente Multihead, um mecanismo que facilita a extração de detalhes essenciais de trechos de texto de forma mais eficiente. Além disso, ao contrário dos modelos de linguagem tradicionais que geram texto token por token, o DeepSeek V3 realiza predições multitoken, o que acelera consideravelmente o processo de inferência.

Praticidade e Limitações

Embora extremamente poderoso, o DeepSeek V3 requer hardware de alta performance para operar eficientemente. Sem otimizações específicas, a execução do modelo poderia demandar um grande conjunto de GPUs de ponta para responder a perguntas de forma rápida.

Além disso, devido às regulamentações chinesas, os modelos da DeepSeek estão sujeitos a supervisão regulatória para garantir que suas respostas estejam alinhadas com os “valores socialistas fundamentais”. Isso impõe limitações em assuntos politicamente sensíveis, uma consideração importante para usuários globais.

Uso Open-Source e Comercial

Adotando uma abordagem transparente, o DeepSeek V3 foi liberado sob uma licença permissiva de código aberto. Isso permite que desenvolvedores baixem, modifiquem e integrem o modelo para usos comerciais, ampliando significativamente seu potencial de aplicação em diversos setores.

Reflexão do Blog da Engenharia sobre mercado Chinês

  1. A capacidade da China de criar modelos de IA altamente competitivos reflete sua crescente posição de liderança global no desenvolvimento de tecnologia avançada.
  2. A supervisão regulatória estrita da AI na China pode representar tanto um desafio como uma oportunidade para inovar dentro de linhas definidas.
  3. O enfoque em infraestrutura de hardware e eficiência de custos demonstra a habilidade chinesa de maximizar recursos limitados, um ponto chave na engenharia.

À medida que modelos como o DeepSeek V3 surgem, eles não só alteram a dinâmica competitiva das tecnologias de IA, como também introduzem inovações que impactam setores complementares, como o mercado da robótica. O futuro promete mais avanços à medida que a engenharia se entrelaça ainda mais com a inteligência artificial.

Se você está interessado em mais inovações e atualizações no campo da engenharia e tecnologias de IA, não deixe de conferir nosso próximo evento “What’s New,” onde discutiremos as últimas tendências e desenvolvimentos.

Via: TechCrunch

Share this article
Shareable URL
Prev Post

Células solares bifaciais de perovskita atingem 26% de eficiência com 90% de bifacialidade.

Next Post

Arábia Saudita impulsiona energias renováveis com meta de 50% até 2030 e parceria estratégica com a China.

Read next