Знаменитый создатель Doom, Джон Кармак, поделился в социальной сети X публикацией, в которой рассказывает о принципиально новом подходе к хранению и применению данных, в том числе для обучения искусственного интеллекта.

Он рассуждал о возможности применения длинной оптоволоконной линии для хранения весов моделей искусственного интеллекта, выступающей в роли некоего кеша второго уровня. Это позволило бы добиться практически мгновенной скорости отклика и существенно увеличить скорость передачи данных.

Данная концепция предполагает применение оптоволоконной сети в роли кэш-памяти, предназначенной для непрерывной подпитки ИИ-чипов информацией.

Проведено тестирование, показавшее скорость передачи данных 256 Тбит/с на дистанции 200 км по одномодовому оптоволоконному кабелю. Это эквивалентно 32 ГБ информации, «содержащейся» в волокне, при пропускной способности 32 Тбит/с. Обучение и вывод нейронных сетей могут использовать предопределенные схемы распределения весов, что позволяет представить систему без DRAM, в которой веса постоянно передаются в кеш L2 по замкнутому оптоволоконному контуру. Это можно сравнить с современным вариантом древних ртутных эхо-трубок памяти. Для работы современных моделей, включающих триллионы параметров, потребовалось бы большое количество подобных устройств, однако оптоволоконная передача данных, возможно, имеет более перспективные возможности развития, чем DRAM, и в будущем может оказаться жизнеспособной.

В реальности, объединение нескольких доступных по цене чипов флеш-памяти позволяет создать систему с практически неограниченной скоростью чтения, при условии последовательного и потокового доступа к данным. Такая реализация вполне возможна для современных систем обработки данных, если производители чипов флеш-памяти согласуют использование высокоскоростного интерфейса

Кармака отличается энергоэффективностью по сравнению с обычной DRAM, однако стоимость оптоволоконных решений остается значительной. Тем не менее, на текущем этапе необходимо провести расчеты, чтобы определить, что является более затратным – использование оптоволокна или памяти.