A inteligência artificial de aprendizagem contínua continua a expandir o mercado de semicondutores de armazenamento

Apesar das discussões recentes sobre o abrandamento do desenvolvimento da IA, a tecnologia de aprendizagem contínua, que permite à inteligência artificial aprender constantemente novas informações, está a tornar-se uma nova força motriz para o crescimento do mercado de semicondutores de memória.O banco de investimento global Citi prevê que, no próximo ano, a procura global por HBM, medida em bits, aumentará 62% em relação a este ano, atingindo 75,2 mil milhões de Gb.O Citi identifica a aprendizagem contínua como uma das principais razões para o aumento explosivo da procura por HBM e analisa que, à medida que o treino e a inferência se realizam repetidamente, não só a procura por HBM como também por DRAM para servidores e SSDs empresariais aumentará simultaneamente.Atualmente, a maioria das IA generativas utiliza um método em que são treinadas antecipadamente para depois responder, pelo que as novas informações não são automaticamente incorporadas ao conhecimento de longo prazo, causando assim problemas de eficiência.Na aprendizagem contínua, a fronteira entre treino e inferência torna-se difusa — o objetivo é permitir que a IA aprenda novos dados e experiências durante o serviço, integrando-os com o conhecimento existente.Ao aprender constantemente novas informações, é obrigatório aceder simultaneamente a enormes quantidades de dados já existentes, requerendo uma maior capacidade de armazenamento. Além do HBM, torna-se também importante a utilização conjunta de DRAM para servidores e eSSD baseados em NAND.Como a aprendizagem também ocorre durante o processo de inferência, o simples aumento da largura de banda não resolve os estrangulamentos; por isso, a procura por tecnologias que realizam computação junto à memória, como PIM, pode também aumentar.A Samsung Electronics propôs o zHBM, em que o HBM é empilhado diretamente sobre o acelerador de IA, enquanto a SK Hynix apresentou as estruturas PIM, SALT-KV e HBF, tentando assim superar as limitações da arquitetura GPU-HBM existente.