IBM has developed a new optical technology that can help train AI models at the “speed of light” while also saving significant energy. IBM says that by applying these new breakthroughs to data centers, the energy saved training a typical AI model is equivalent to the annual energy use of 5,000 US households.
According to IBM, while data centers connect to the outside world using fiber optic cables, copper wires are still the predominant material used inside. These copper wires are responsible for connecting GPU accelerators that spend a lot of time waiting for data from other devices while using energy, which significantly increases operating costs. Commenting on the new optical data transmission technology, Dario Gil, senior vice president and director of research at IBM, said:
As AI creates a need for more power and processing power, data centers must evolve – and generic packaged optics technology could help large-scale data centers better adapt to future demands. With this breakthrough, processors of the future will communicate in the same way fiber optic cables carry data in and out of data centers, ushering in a new era of faster, more sustainable communications that can handle massive AI workloads.
IBM outlines its new co-package optics (CPO) technology prototype in a technical paper . Essentially, by dramatically increasing bandwidth in data centers, GPU downtime can be minimized, accelerating AI processing.
IBM claims the technology can reduce the training time for large language models (LLMs) from three months to three weeks. At the same time, the increased energy efficiency will cut down on energy usage and reduce the costs associated with LLM training.
À Angers, une batterie externe ne va ni dans les ordures ménagères ni dans le bac jaune. Voici où la déposer, comment la préparer et quoi faire si elle est gonflée ou endommagée.
À Saint-Étienne, une batterie externe ne va ni dans la poubelle grise ni dans le bac jaune. Voici où la déposer, comment préparer une batterie intacte ou gonflée et quand choisir magasin ou déchèterie.
Téléviseur usagé à Angers : déchèterie, badge, reprise gratuite en magasin, préparation et erreurs à éviter pour recycler votre écran correctement.
Découvrez comment stocker et déposer l’huile de cuisson usagée à Perpignan sans boucher les canalisations, avec les précautions et vérifications locales.
À Le Havre, les piles usagées ne vont ni dans les ordures ménagères ni dans le bac jaune. Découvrez où les déposer, comment les préparer et que faire des batteries abîmées.
À Toulon, comparez les solutions pour jeter vos piles usagées : points de collecte, magasins et déchèterie, avec les précautions à connaître.
À Angers, découvrez où déposer une batterie au lithium, comment la sécuriser et quoi faire si elle est gonflée, endommagée ou chaude.
Découvrez où déposer une batterie au lithium à Aix-en-Provence et les précautions à prendre selon son état, sa taille et son appareil.
À Nîmes, les tubes fluorescents et LED ne vont pas à la poubelle. Découvrez où les déposer, comment les transporter et quoi faire s’ils se cassent.
Vélo usé à Perpignan : vérifiez le réemploi, le badge, l’adresse de la déchèterie et les précautions pour un vélo électrique.
