Новости

6 августа, 2020 18:04

Найден способ расширить возможности искусственных нейронных сетей

Источник: Газета.ru
Осцилляторные нейронные сети, состоящие из периодически колеблющихся элементов, хранят и передают информацию практически по тем же принципам, что и нервные клетки мозга. Ученые описали синхронизацию сигналов в таких системах не на основных частотах колебаний, а на их кратных долях. Оказалось, что этот эффект поможет более продуктивно использовать искусственные нейронные сети для классификации информации, хранения изображений и вычислительных операций. Работа опубликована в журнале Neural Computing and Applications. Исследования поддержаны грантом Российского научного фонда (РНФ).
Андрей Величко. Фото из личного архива

Нервные клетки мозга представляют собой сложную биохимическую систему, которая обрабатывает непрерывно поступающий поток импульсов и генерирует собственные сигналы, передающиеся другим нейронам. Этот же принцип применяется и при создании искусственных нейронных сетей. Использование особенностей живых клеток в математических моделях позволяет эффективно решать такие задачи, как распознавание образов, адаптивное управление, классификация информации и выполнение различных вычислительных операций.

В настоящее время все большей популярностью пользуются осцилляторные нейронные сети — системы, структурными единицами которых являются осцилляторы. Это элементы, способные принимать и передавать колебания определенных частот. Получая различные сигналы от предшественников, осцилляторы могут подстраиваться под их колебания. Таким образом, в нейронной сети часть элементов синхронизируется между собой, то есть периодически и одновременно активируется, а часть — нет. В итоге формируется пространственно-временная картина распределения синхронизации примерно так же, как это происходит в нейронах мозга. Синхронизация может наблюдаться не только на основных частотах колебаний, но и на их кратных долях (субгармониках). Увеличение числа синхронных состояний за счет субгармоник называется синхронизацией высокого порядка. Ученые из Петрозаводского государственного университета (ПетрГУ) занимаются исследованием этого интересного, но практически не изученного на сегодняшний день эффекта.

«В своей работе мы рассмотрели варианты применения эффекта синхронизации высокого порядка осцилляторных систем для построения нейронных сетей, компьютерной логики и различных вычислений, — рассказывает руководитель гранта Андрей Величко, кандидат физико-математических наук, доцент ПетрГУ. — Предложенные методики могут использоваться для создания нейронных сетей на основе осцилляторов, в том числе для резервуарных вычислений, а эффект синхронизации может быть полезен для реализации компьютерной логики на базе осциллирующих элементов».

В своем исследовании ученые использовали ранее разработанные ими осцилляторы на основе диоксида ванадия. Искусственные нейроны, созданные из этого материала, моделируют сигналы импульсов, по форме очень напоминающие активность реальных нервных клеток. Исследователи оценили максимальное число состояний, в которых может находиться система, а также предложили алгоритм увеличения количества этих состояний за счет синхронизации высокого порядка без добавления новых осцилляторов. Количество состояний системы — очень важный при классификации информации параметр. Также авторы изучили синхронизацию на расстоянии в цепи из нескольких осцилляторов, и показали, что она возникает даже при низкой эффективности синхронизации для промежуточных звеньев цепи осцилляторов. Ученые продемонстрировали методику хранения и распознавания векторных изображений, реализацию операции умножения и основанную на синхронизации логику двоичных вычислений. При этом входные параметры задавались с помощью силы тока и напряжения, а выходные оценивались по параметрам синхронизации.

Полученные результаты основаны на универсальных физических эффектах, поэтому позволят применять синхронизацию высокого порядка к любым системам импульсных осцилляторов, расширяя, таким образом, возможности нейронных сетей.

28 марта, 2024
Ученые научились управлять мощностью электронного пучка в течение его импульса
В Институте сильноточной электроники СО РАН модернизирована уникальная научная электронно-пучковая...
27 марта, 2024
Ученые НГТУ НЭТИ преобразуют энергетический мусор в электроэнергию
В Новосибирском государственном техническом университете НЭТИ работают над альтернативным способом...