L'IA en apprentissage continu continue d'élargir le marché des semi-conducteurs de stockage.

Bien que la croissance de l’IA ralentisse, l’IA à apprentissage continu continue d’élargir le marché des semi-conducteurs de mémoire 1/ Malgré les récentes discussions sur la nécessité de ralentir le développement de l’IA, la technologie d’apprentissage continu, qui permet à l’intelligence artificielle d’assimiler en permanence de nouvelles informations, devient un moteur de croissance pour le marché des semi-conducteurs de mémoire. 2/ La banque d’investissement internationale Citi prévoit que l’an prochain, la demande mondiale de bits HBM augmentera de 62 % par rapport à cette année, atteignant 75,2 milliards de Gb. 3/ Citi classe l’apprentissage continu parmi les principales raisons de la forte augmentation de la demande de HBM, et analyse que, à mesure que l’entraînement et l’inférence se répètent, non seulement la HBM, mais aussi la DRAM pour serveurs et les SSD d’entreprise connaîtront une croissance de la demande. 4/ Actuellement, la plupart des IA génératives adoptent une approche consistant à s’entraîner préalablement puis à répondre, ce qui empêche l’intégration automatique des nouvelles informations dans les connaissances à long terme, entraînant ainsi des problèmes d’efficacité. 5/ Dans l’apprentissage continu, la frontière entre l’entraînement et l’inférence devient floue ; l’objectif est de permettre à l’IA d’apprendre de nouvelles données et expériences tout en fournissant un service, et de les combiner avec les connaissances existantes. 6/ Tout en assimilant continuellement de nouvelles informations, il est également nécessaire d’accéder à d’immenses volumes de données existantes, ce qui nécessite une plus grande capacité de stockage ; l’utilisation simultanée de DRAM pour serveurs et d’eSSD à base de NAND, au-delà de la HBM, devient également essentielle. 7/ Comme l’apprentissage intervient aussi lors de l’inférence, la seule augmentation de la bande passante ne suffit pas à résoudre le goulot d’étranglement ; la demande pour des technologies de calcul à proximité de la mémoire, telles que PIM, pourrait donc également augmenter. 8/ Samsung Electronics a proposé le zHBM, qui superpose directement la HBM sur les accélérateurs IA, tandis que SK hynix a présenté des structures telles que PIM, SALT-KV et HBF, tentant ainsi de dépasser les limites de l’architecture GPU-HBM existante.