Компания IBM разработала новую оптическую технологию для обучения моделей ИИ со скоростью света, при этом экономя массу энергии. Заявляется, что благодаря применению прорывов в центрах обработки данных сэкономленная энергия при обучении модели ИИ эквивалентна годовому потреблению энергии 5000 домов в США.

IBM объяснила, что хотя центры обработки данных подключаются к внешнему миру с помощью оптоволоконных кабелей, внутри они по-прежнему используют медные провода.

Провода соединяют ускорители графических процессоров, которые проводят много времени в ожидании данных от других устройств, расходуя при этом энергию и увеличивая расходы.

Комментируя разработку, Дарио Джил, старший вице-президент и директор по исследованиям IBM, сказал:

«Поскольку генеративный ИИ требует больше энергии и вычислительной мощности, центр обработки данных должен развиваться – и ко-пакетная оптика может сделать эти центры обработки данных перспективными. Благодаря этому прорыву чипы будущего будут взаимодействовать так же, как оптоволоконные кабели передают данные в центры обработки данных и из них, открывая новую эру более быстрых и устойчивых коммуникаций, которые могут справиться с рабочими нагрузками ИИ будущего».

IBM описывает свой новый прототип ко-пакетной оптики (CPO) в техническом документе. Значительно увеличив пропускную способность в центрах обработки данных, можно свести к минимуму время простоя графического процессора, что ускорит обработку ИИ.

Также IBM объясняет, что обучение больших языковых моделей (LLM) можно сократить с трех месяцев до трех недель. В то же время повышение энергоэффективности сократит потребление энергии и снизит затраты, связанные с обучением LLM.