Para satisfazer estes novos requisitos, a indústria está a desenvolver arquiteturas de memória de última geração capazes de maximizar a largura de banda, minimizar a latência e melhorar a eficiência energética. Os avanços tecnológicos em DRAM, LPDDR e soluções de memória especializadas estão a redefinir o desempenho da computação, com a memória otimizada para IA a desempenhar um papel fundamental na melhoria da eficiência e da escalabilidade.
A memória CUBE da Winbond Electronics Corporation exemplifica este progresso, oferecendo uma solução de alta largura de banda e baixo consumo de energia, concebida para suportar cargas de trabalho orientadas por IA. Este artigo examina os desenvolvimentos mais recentes na tecnologia de memória, o crescente impacto das aplicações de IA e a estratégia da Winbond para responder às necessidades em constante evolução do mercado.
Arquiteturas de memória avançadas e escalabilidade de desempenho:
A tecnologia de memória continua a evoluir para satisfazer os exigentes requisitos de desempenho dos sistemas de IA, AIoT e 5G.
O setor está a sofrer uma transformação significativa com a adoção de normas como
a DDR5
e a HBM3E
. Estes oferecem maior largura de banda e melhor eficiência energética.
O DDR5, com uma taxa de dados por pino até 6,4 Gbps, oferece 51,2 GB/s por módulo, quase o dobro do desempenho do DDR4, ao mesmo tempo que reduz a voltagem de 1,2 V para 1,1 V, melhorando assim a eficiência energética.
O HBM3E, por outro lado, ultrapassa 1,2 TB/s de largura de banda por pilha, tornando-se uma solução ideal para o treino de modelos de IA com utilização intensiva de dados, embora seja impraticável para dispositivos móveis ou de edge devido aos seus elevados requisitos de energia.
Espera-se que o LPDDR6 ultrapasse os 150 GB/s até 2026, demonstrando como a DRAM de baixo consumo está a evoluir para níveis mais elevados de desempenho e eficiência energética para dispositivos como smartphones com IA integrada e aceleradores de IA.
Neste contexto, a Winbond está a desenvolver ativamente soluções DDR5 e LPDDR4 de baixa capacidade otimizadas para aplicações com restrições de energia, além de impulsionar o desenvolvimento da sua memória CUBE, capaz de atingir mais de 1 TB/s de largura de banda com uma redução significativa da dissipação de calor.
Com uma capacidade planeada de até 8 GB por pilha e configurações ainda maiores, como o 4Hi WoW, baseadas num único tamanho de grelha, a CUBE pode atingir densidades superiores a 70 GB e larguras de banda de até 40 TB/s, posicionando-se como uma alternativa avançada às arquiteturas DRAM tradicionais para a computação de IA na borda.
CUBE-Lite: Memória eficiente para dispositivos de IA de baixo consumo.
A CUBE-Lite oferece larguras de banda entre 8 e 16 GB/s (equivalente a LPDDR4x x16/x32) utilizando apenas 30% do consumo de energia do LPDDR4x.
Uma das suas vantagens é que não requer um PHY LPDDR4, uma vez que os SoCs apenas necessitam de integrar um controlador CUBE-Lite para atingir um desempenho equivalente ao LPDDR4x à velocidade máxima.
Isto oferece diversas vantagens:
elimina os elevados custos das licenças PHY,
permite a utilização de nós de fabrico consolidados, como 28 nm ou mesmo 40 nm,
e atinge níveis de desempenho comparáveis aos de um nó de 12 nm.
Esta arquitetura é particularmente adequada para:
AI-SoC ou AI-MCU com NPU integrada,
dispositivos TinyML alimentados por bateria.
Combinada com sistemas operativos Micro Linux e a execução de modelos de IA, pode ser aplicada em cenários de IA de edge de baixo consumo, tais como:
câmaras IP com IA,
óculos inteligentes e
dispositivos wearable.
Isto permite um consumo de energia otimizado do sistema e uma área de chip reduzida.
Estrangulamentos de memória na IA generativa:
O crescimento exponencial dos modelos de IA generativa está a criar novas limitações na largura de banda e na latência da memória.
As cargas de trabalho de IA, especialmente as baseadas em arquiteturas Transformer, exigem um enorme poder computacional e acesso a dados a alta velocidade.
Por exemplo, a execução do LLaMA 2 7B no modo INT8 requer pelo menos 7 GB de DRAM, ou 3,5 GB no modo INT4, evidenciando as limitações da memória móvel atual.
Os smartphones com IA que utilizam LPDDR5 (68 GB/s) enfrentam estrangulamentos significativos, impulsionando a transição para LPDDR6.
No entanto, até que esta tecnologia se torne amplamente disponível, são necessárias soluções provisórias para reduzir o fosso de largura de banda.
Em aplicações de ponta, como
a robótica,
os veículos autónomos e
os sensores inteligentes,
surgem também limitações relacionadas com a eficiência energética e a dissipação de calor.
Embora as normas JEDEC estejam a migrar para o DDR6 e HBM4, as arquiteturas personalizadas como a CUBE oferecem alternativas escaláveis e de alto desempenho, alinhadas com os requisitos de SoC para IA.
A CUBE pode fornecer largura de banda equivalente à HBM com um consumo de energia inferior a 10 W, tornando-se uma opção viável para inferência de IA na borda. Gestão térmica e eficiência energética:
a execução de modelos de IA em larga escala em dispositivos finais apresenta desafios significativos em termos de gestão térmica e consumo de energia.
As cargas de trabalho de IA consomem grandes quantidades de energia e geram calor, o que pode afetar a estabilidade do sistema.
As principais estratégias incluem:
- Expansão de memória nos dispositivos:
Os dispositivos móveis necessitam de integrar uma maior capacidade de memória para reduzir a dependência da cloud e diminuir a latência.
- HBM3E vs. CUBE:
Embora o HBM3E ofereça um elevado desempenho, pode exceder os 30 W por pilha, tornando-o inadequado para dispositivos móveis.
A memória CUBE pode atuar como LLC (Last Level Cache), reduzindo a dependência da SDRAM on-chip.
- Otimização térmica:
Com cargas térmicas superiores a 15 W por chip, a otimização da distribuição e dissipação de energia é essencial.
As soluções DRAM personalizadas com encapsulamento TSV (Through-Silicon VIA), como as utilizadas no CUBE, melhoram a eficiência energética.
DDR5 e DDR6: Aceleração da computação com IA
A evolução das memórias DDR5 e DDR6 representa um ponto de viragem na arquitetura dos sistemas de IA.
A DDR5 incorpora
uma arquitetura ECC de 8 bancos
integrada no chip.
Isto melhora a integridade e a eficiência dos dados, tornando-a uma escolha ideal para PCs com IA e portáteis de alto desempenho.
Com uma velocidade máxima de 51,2 GB/s por módulo, permite
a inferência de IA em tempo real
multitarefa avançada
processamento de dados a alta velocidade.
Entretanto, a DDR6, ainda em desenvolvimento, poderá oferecer velocidades
superiores a 200 GB/s por módulo,
um consumo de energia 20% inferior
e um suporte otimizado para aceleradores de IA.
Estratégia de memória para IA da Winbond:
A Winbond está a impulsionar a inovação em arquiteturas DRAM personalizadas orientadas para cargas de trabalho de IA.
As principais iniciativas incluem:
- CUBE como memória otimizada para IA:
Graças às interligações TSV, o CUBE combina uma elevada largura de banda com um baixo consumo de energia, ideal para SoCs de IA para dispositivos móveis e edge computing.
- Colaboração com parceiros OSAT:
A empresa está a trabalhar comde montagem e teste de semicondutores (OSAT) para melhorar a integração com o hardware de IA de última geração.
- Inovação em DRAM orientada para o futuro:
O seu roadmap inclui:
DRAM otimizada para IA,
novas caches especializadas e
arquiteturas LPDDR otimizadas.
Estas tecnologias permitirão à Winbond satisfazer a crescente procura de IA em HPC, robótica e processamento em tempo real.
Conclusão:
A convergência de cargas de trabalho orientadas por IA, restrições de escalabilidade de desempenho e a necessidade de memória eficiente em termos energéticos está a transformar o mercado de memória.
A IA generativa está a acelerar a procura por arquiteturas de memória de alta velocidade e baixa latência, impulsionando a inovação em DRAM e soluções de memória personalizadas.
A liderança da Winbond em tecnologias como o CUBE e o DDR5/LPDDR posiciona-a como um player chave na computação de IA da próxima geração.
À medida que os modelos de IA se tornam mais complexos, a necessidade de arquiteturas de memória otimizadas e eficientes tornar-se-á cada vez mais crítica. O compromisso da Winbond com a inovação tecnológica visa preencher a lacuna entre a computação de alto desempenho e as soluções de memória sustentáveis e escaláveis.
