Учёные разработали новую нейронную сеть, Всетопографическую нейронную сеть (All-TNN), которая показывает восприятие изображений, более близкое к человеческому, чем у популярных сверточных нейронных сетей (CNN).
Главное отличие All-TNN от CNN состоит в структуре. CNN применяют механизм «обмена весами», повторяя одинаковые детекторы признаков во множестве пространственных позиций. Всем TNN присуща иная организация: её связи по пространству упорядочены подобно топографической карте холмистой местности или изображению микроорганизмов под микроскопом.
All-TNN обходит это ограничение благодаря уникальной архитектуре и методу обучения. Каждый пространственный участок сети обладает собственным набором обучаемых параметров. В процессе обучения применяется «ограничение гладкости», побуждающее соседние нейроны обучаться схожим, но не идентичным признакам. В тесте на распознавание объектов, кратковременно появляющихся в разных частях экрана, All-TNN показала в три раза более сильную корреляцию с человеческим восприятием, чем CNN.
Все-TNN пока менее точна в классификации изображений (34,5% — 36%) по сравнению с CNN (43,2%), но превосходит её по энергоэффективности. Несмотря на то, что Все-TNN примерно в 13 раз больше по размеру (около 107 миллионов параметров против 8 у CNN), потребляет более чем в 10 раз меньше энергии. Это достигается благодаря способности сети концентрировать ресурсы на наиболее информативных частях изображения, а не обрабатывать его равномерно по всей площади.
Авторы акцентируют внимание на том, что энергоэффективность не была их главной задачей. Главным было создание архитектуры, приближающей к пониманию принципов функционирования как искусственного, так и человеческого интеллекта. Профессор Китцманн указал, что бесконечное увеличение объёма данных и параметров модели (поиск масштаба) может быть не оптимальным путём, особенно с учётом ограниченности ресурсов реального мозга. Альтернативой может стать создание сетей, имитирующих человекоподобное поведение. Разработка All-TNN рассматривается учёными как важный шаг в этом направлении.