Цыганков В.Д.

НПК БИОМЕДИС (Москва)

 

ЧЕМ ВИРТУАЛЬНЫЕ НЕЙРОННЫЕ СЕТИ (ВНС) ОТЛИЧАЮТСЯ ОТ ОБЫЧНЫХ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ (ИНС)

 

Аннотация: В настоящей статье речь пойдет об изложении отличительных преимуществ виртуальных нейронных сетей (ВНС) по сравнению с обычными, классическими искусственными нейронными сетями (ИНС), получившими к настоящему времени огромное распространение и которые успешно применяются для решения задач во многих сферах человеческой деятельности. Однако, они имеют ряд существенных недостатков, затрудняющих их разработку и эффективное применение.

Ключевые слова: нейронные сети, искусственные нейронные сети, виртуальные нейронные сети, эвристически придуманные сети, разновидности ИНС,  алгоритмы обучения нейрокомпьютера, (ВНК) «ЭМБРИОН», структура нейропроцессора нейрокомпьютера «ЭМБРИОН», матрица из 64-х триплетов нуклеотидов генетического кода живых организмов.

 

Tsygankov, V. D. RPC BIOMEDIS (Moscow)

 

HOW DO VIRTUAL NEURAL NETWORKS (VNS) DIFFER FROM CONVENTIONAL ARTIFICIAL NEURAL NETWORKS (INS)

 

Abstract: This article will focus on the presentation of the distinctive advantages of virtual neural networks (VNS) in comparison with conventional, classical artificial neural networks (INS), which have now received a huge distribution and are successfully used to solve problems in many areas of human activity. However, they have a number of significant drawbacks that make their development and effective application difficult.

Keywords: neural networks, artificial neural networks, virtual neural networks, heuristically invented networks, types of INS, learning algorithms of the neurocomputer, (VNK) "EMBRYO", the structure of the neuroprocessor of the neurocomputer "EMBRYO", a matrix of 64 triplets of nucleotides of the genetic code of living organisms.

 

1.Введение

О виртуальных нейронных сетях (ВНС), к сожалению, почти ничего неизвестно[1]. В то же время, широко известны и успешно применяются в настоящее время системы, оборудование и устройства (шлемы, перчатки,…) виртуальной, дополнительной и смешанной реальности (VR/AR/MR), а также, например, виртуальные приборы .vi всемирно известной фирмы National Instruments, разрабатываемее в среде проектирования LabVIEW [2].

Виртуальные нейронные сети (ВНС), о которых ниже пойдет речь, создаются в виртуальном нейрокомпьютере (ВНК) типа «ЭМБРИОН» [3], разработанным в январе 1966 г. автором данной статьи [4].  «ЭМБРИОН» - это целая общенаучная парадигма или концепция построения систем искусственного интеллекта (ИИ) и применения универсальных систем обработки неподдающейся формализации информации и управления динамическими объектами с изменяющимися параметрами и       структурой [5].

2.Классификация ИНС и спектр их возможностей

Приведем для начала опубликованный в Интернете перечень из 27 типов или разновидностей ИНС (рис. 1). Как мы видим, все они имеют статическую постоянную, как правило, многослойную структуру с постоянной конфигурацией связей между нейронами. Особо отличаются и выпадают из общей массовой слоистой структуры полносвязные замкнутые вероятностные Марковские сети, сеть Хопфилда и вероятностная Машина Больцмана. Рассмотрению и анализу ИНС посвящено тысячи книг, сотни тысяч статей и различных публикаций в Интернете.

Особо большое внимание в последние годы уделяется нейронным сетям глубокого обучения и так называемым свёрточным сетям или сетям CNN (рис. 2).

Рис. 1  Классификация видов ИНС

Рис. 2  CNN или сверточная сеть

 

Эти CNN эвристически придуманные сети обладают колоссально высокой эффективностью их применения, объяснить которую ученые пока еще не в состоянии. Попробуйте объяснить эволюцию (рис. 3) возбуждения в пространстве и во времени нейронов CNN, раскрашенную цветами. Вот получить бы подобную картинку для ВНС!

Рис. 3  Эволюция возбуждения CNN

 

По структуре CNN похожи на слоистые сети, представленные выше в таблице на рис. 1. Только у них своеобразный эвристический алгоритм выделения и переноса информации от входа к выходу по слоям исключительно оригинальный. Он реализуется двумя операциями: свертка (отсюда и название свёрточные сети или слои нейронов) для получения карты признаков и подвыборка или уменьшение размерности матрицы. На рисунке хорошо видно, ядром-матрицей 5 х 5 сканируется входное изображение и как далее понижается размерность 24 х 24 входной сенсорной матрицы через слои матриц: 24 х 24, 12 х 12, 8 х 8, 4 х 4 до одной строки -  16 разрядного вектора с матрицей 1 х 1.

ИНС различаются по виду представления и переноса информации. Сети  реализуются в виде аналоговых, дискретных, цифровых и квантовых искусственных нейронных сетей. Элементной базой для их аппаратного построения могут быть микроэлектронные схемы и кристаллы, оптические и другие физические, в том числе и нано-элементы. Всеобщее распространение получила их программная реализация на ПК, ноутбуках, смартфонах или в виде специальных программ в специальных девайсах.

Используя различные алгоритмы обучения, ИНС могут быть использованы для решения самых разнообразных задач. ИНС довольно универсальные преобразователи информации. Однако, в состав и алгоритм функционирования ИНС неявно, но реально, включен человек (его интеллект, эвристика, сознание). В жизненном цикле (Тц) ИНС человек включен в контур разработки, обучения и управления сетью. Без участия человека – пользователя, программиста ИНС бесполезна, как и выключенный компьютер или не запущенная программа.

 

3.Основные недостатки использования ИНС

Несмотря на широкий спектр возможностей ИНС, решению задач с их помощью сопутствует ряд недостатков (из статьи портала ИИ [1]):

·                         большинство подходов для проектирования ИНС являются эвристическими и часто не приводят к однозначным решениям;

·                         для построения модели объекта на основе ИНС требуется выполнение многоразовой настройки параметров внутренних элементов и связей между ними;

·                         проблемы, возникающие при подготовке обучающей выборки, связанные с трудностями нахождения достаточного количества обучающих примеров. Например, для сверточных сетей (CNN) их число составляет многие тысячи предъявлений;

·                         обучение сети в ряде случаев приводит к тупиковым ситуациям, зацикливаниям и остановкам алгоритма;

·                         продолжительные временные затраты на выполнение процедуры обучения зачастую не позволяют применять ИНС в системах реального масштаба времени (РМВ);

·                         поведение обученной ИНС не всегда может быть однозначно предсказуемо, что увеличивает риск применения ИНС для управления дорогостоящими техническими объектами и исключено их применение в системах военного назначения;

·                         большинство известных коммерческих продуктов схемотехнической реализации нейронных сетей, выполняются в виде сверхбольших дорогостоящих интегральных схем (СБИС), которые сегодня трудно назвать широкодоступными и др.

Этот список недостатков ИНС можно значительно дополнить и расширить, но и этого вполне достаточно для проведения сравнения с ВНС.

 

4.Новый дополнительный путь повышения эффективности применения искусственных нейронных сетей и расширения областей их применения

Таким путем решения указанной проблемы предлагается развитие и углубление фундаментальных исследований и прикладной разработки парадигмы «ЭМБРИОН», в частности, совершенствование виртуального нейрокомпьютера (ВНК) «ЭМБРИОН» (рис. 4).

На основе парадигмы виртуальности «ЭМБРИОН» разработан, изготовлен ряд (от «ЭМБРИОН-1» до «ЭМБРИОН-5») опытных образцов виртуальных нейрокомпьютеров (ВНК), и на их базе разработаны, изготовлены и внедрены различные технические системы распознавания, управления, системы робототехники (фото 1) и другие в Оборонно-промышленном комплексе страны (ОПК) [5].

Рис. 4. Блок схема ВНК «ЭМБРИОН»

Фото 1. Тактильно очувствлённый робот «Р-2» с искусственными пневмомышцами с нейрокомпьютерным управлением «ПОИСК-2»

 

Этот робот был в свое время представлен на Стенде Главного конструктора промышленных роботов Председателю ВПК СССР Л.В.Смирнову и на выставках «Сетунь» и ВДНХ.

В чем преимущество парадигмы виртуального нейрокомпьютера (ВНК) и виртуальных нейронных сетей (ВНС), и каковы их отличительные особенности?

В первую очередь, ВНС и ВНК «ЭМБРИОН» - это единое неразрывное целое, автономный псевдо организм в меняющейся окружающей внешней среде, реализованный в последнее время в виде нейрочипа - электронной схемы в кристалле ПЛИС (фото 2).

Основой структуры нейропроцессора нейрокомпьютера «ЭМБРИОН» является матрица из 64-х триплетов нуклеотидов генетического кода живых организмов. 

Фото 2. Электронный мозг мобильного робота «КРАБ-3» в ПЛИС на базе ВНК «ЭМБРИОН» (разработка С.К.Шарифова)

 

Искусственный организм имеет свой глобальный основной жизненный цикл (Тц), в который во время работы нейрокомпьютера не включен в реальном времени человек – оператор. В то же время, Тц  содержит три внутренних параметрических цикла с обратными связями. Тц состоит, как минимум, из следующих фаз или периодов: рождение, развитие и рост до границы, зрелость, старение, смерть. ВНС имеет конечное время жизни Тж.

Кроме того, имеется много разработанных программистами программных имитаторов НК «ЭМБРИОН» (эмуляторов или симуляторов нейрокомпьютера). ВНС генерируется в реальном масштабе времени внутри нейрокомпьютера.

Принципиальное отличие ВНК от ИНС. В основе идеи, структурной и функциональной схемы ВНК взята не эвристическая математическая модель программируемого компьютера, микроконтроллера или модель классической формальной ИНС (рис. 1 и рис. 2), а известная нейрофизиологическая Теория функциональной системы (ТФС) академика П.К.Анохина со своими механизмами: опережающего отражения действительности и прогнозирования (основного свойства всего живого на земле), акцептором «полезного результата» действия, мотивацией, памятью и т. д. [6].

ВНК «ЭМБРИОН» без аналитики. Возможно, это может быть одной из недоработок необычного нейрокомпьютера к настоящему времени. ВНК не является аппаратным воплощением аналитической модели ТФС, или какой - либо ее математической модели, он ничего не вычисляет, не имеет традиционного классического вычислительного программируемого микропроцессора, вообще не требует программирования в какой либо ОС. Это аппаратный значительно упрощенный вариант функциональной организации и схемотехники («архитектоники») живого мозга (рис. 5). Адаптация под задачу осуществляется в двух режимах: обучение с учителем методом подражания или путем автоматической самонастройки (самообучение и самоорганизация). Кстати, ВНС, генерируемые внутри ВНК, можно, с некоторыми оговорками, отнести к категории Марковских цепей или к Машинам Больцмана из выше приведенной классификации ИНС (рис.1) .

Рис. 5. Сравнительная гетероморфная архитектура живого (слева) и искусственного электронного (справа) нейрокомпьютерного мозга «ЭМБРИОН», реализованного в ПЛИС

 

Схемотехническая эффективность  ВНС (расход оборудования на реализацию одной нейронной сети) в ВНК «ЭМБРИОН» по сравнению с одной ИНС порядка  10⁶ - 10⁶ раз! Во столько раз увеличивается универсальность НК и область возможных задач и областей его применения.

Благодаря применению вероятностно – статистическому методу обработки информации и «нечеткой логики» (фуззи -логики) Л.Заде в ВНК, он и его ВНС обладают высокой «живучестью» и надежностью, допускающей при решении задачи выбора поведения в Т-образном лабиринте до 30% разрушения массы нейронной сети (электронных триггеров).

Мгновенная перестройка ВНС одним командным импульсом позволяет ВНК  быть высоко пластичной и лабильной, легко модифицированной структурой.

 

5.Отличительные  от ИНС  особенности виртуальных нейронных сетей (ВНС) в нейрокомпьютере «ЭМБРИОН»

Речь идет о том, что нового в ВНС, и чего в принципе нет в ИНС.

Парадигма «ЭМБРИОН» - это фундаментальная научная концепция, NBICS концепция биокибернетики, направленная на разработку и внедрение в практику нано- био- инфо- комп- интеллектуальных и когнитивных нейро- подобных сложных устройств и систем с ИИ.

ИНС большой размерности (порядка более миллиона формальных нейронов) с переменной, управляемой в реальном времени, структурой, реализовать аппаратно технологически исключительно трудоемко, дорого, и сегодня вряд ли кто осилит.

На рис. 6 представлен пример варианта ВНС нейрокомпьютера ВНК «ЭМБРИОН».

Рис. 6.  Виртуальная нейронная сеть (ВНС) ВНК «ЭМБРИОН» и многоканальный спектр потока выходных частот спайков - импульсов мотонейронов

 

В виртуальной нейронной сети (ВНС) ВНК  нет физических нейронов, а есть мгновенная (как короткоживущая виртуальная частица в физике) кодовая комбинация из состояний группы триггеров регистров аппаратного ядра нейрокомпьютера. Эта кодовая комбинация или просто код, который и является виртуальным нейроном ВНС.

В ВНС нет, как в ИНС, жесткой зафиксированной структуры и размера. Они, эти параметры мобильно изменяются в ходе решения задачи. Имеет место сеть с переменной структурой.

В потоковой ВНС одновременно используются несколько видов модуляции: ЧИМ, ВИМ, АМ, ЧМ, ШИМ, КИМ.

В ВНС динамическая иерархическая (пять уровней) оперативная и долговременная память.

В  ВНС реализованы важнейшие нейрофизиологические и физические принципы и законы: возбуждения и торможения, генерализации и концентрации, конвергенции и дивергенции в сети нейронов, принципы симметрии (левое – правое, позитив - негатив) и самосохранения, «принцип устойчивого неравновесия» Э.С.Бауэра, принцип «экстренной мобилизуемости», принцип «взаимосодействия» (симбиоза и синергии), закон эквифинальности в функциональной системе П.К.Анохина, принцип Доминанты А.А.Ухтомского и латерального торможения, принципы осевой симметрии и реципрокности, принцип «Шеррингтоновской воронки» или принцип конечного пути, принцип интерференции и когерентности, принцип суперпозиции, закон необходимого многообразия У.Р.Эшби, три генетических закона Менделя, Периодический закон информационных элементов (n-атомов), аналогичный по свойствам Таблице элементов Д.И Менделеева и др.

ВНС является сетью с переменной структурой, в которой происходит во времени не только редукция, свертывание числа активных нейронов, но и имеет место процесс мультипликации или размножения, увеличения числа и типов нейронов в сети.

Возбужденная ВНС представляет собой виртуальное многомерное пространственно – временное  поле вероятностей состояний – кодов множества ячеек – триггеров или ψ(S/P, U) - некую 3D дискретную волновую функцию (Рис. 7).

Рис. 7.  Распределение вероятностей по невязкам (расчет и рисунок представлен Е.Д.Господчиковым, ИПФ Н.Новгород)

ВНС – это вариант нелинейной дискретно-квантовой системы, разновидность вероятностного дискретного клеточного автомата (ДКА) с памятью.

Виртуальная сеть обладает собственной внутренней активностью, реагирует на воздействие внешней среды не рефлекторно, а условно рефлекторно.

Обучение осуществляется путем управления нелинейностью памяти рядом параметров: кодом начального состояния, образом на Сенсорной матрице, Гипотезой восприятия, временем жизни Тж, состоянием внутренней памяти, соотношением параметра J – неравновесия (невязки) и no – наследственного консервативного параметра, NS – параметра скорости реакции сети и точности достижения цели.

Управление параметрами сети осуществляется из блока концентрации внимания (подобие ретикулярной формации мозга) или Блока выдвижения гипотез.

ВНС  - это универсальная активная информационно-управляющая система с набором признаков и свойств живых систем.

 

6.Номенклатура высоких (IT)  технологий, где возможно и целесообразно применять физическую систему типа «ЭМБРИОН»

·                   Беспилотные подвижные роботы, БЛА и дроны, и их бортовые интеллектуальные системы управления (автоматическая посадка самолета или вертолета на палубу авианосца, робот мини-шаттл, подводные роботы и транспортные средства в условиях, вредных и недоступных для человека).

·                   Роботизированные войска, военные робототехнические комплексы (ВРТК).

·                   Обучающиеся нейрокомпьютеры и нейрочипы в медицине.

·                   Малогабаритные медицинские интеллектуальные диагностические и терапевтические системы и приборы. Биоидентификация личности.

·                   Информационная безопасность человека, фирмы, государства (криптография, шифрование. Детекторы взрывчатки и наркотиков),

·                   Полупроводниковые гетероструктуры Ж.Алферова. Солнечные преобразователи и источники энергии.  Лазеры и ВОЛС.

·                   Цифровая сотовая связь и телевидение.

·                   Суперкомпьютеры, квантовые нейрокомпьютеры и квантовые вычисления.

·                   Генная инженерия, генетическая информация, динамический геном человека и живого. Память человека.

·                   BCI - Интеллектуальный интерфейс «Мозг – компьютер» для мысленного управления объектами и собственным состоянием.

·                   Психотроника, ПСИ-кнопка и ПСИ-компьютер.

·                   Управление сознанием. Блокирование тяги к наркотикам, алкоголю, табаку.

·                   Атомная информатика. Макроквантовый мир.

·                   Моделирование ясновидения и телепатии. Виртуальный мир и сознание.

·                   Высокотемпературная сверхпроводимость в мозгу.

·                   Моделирование интуиции, подсознания, сознания и мышления.

·                   Моделирование процессов микромира и космологических систем без БАК.

 

7.Стратегические задачи для ВНК и для ВНС

Из выше (раздел 6) приведенного перечня возможных и актуальных для ВНК «ЭМБРИОН» и ВНС задач, я бы выделил несколько так называемых СТРАТЕГИЧЕСКИХ ЗАДАЧ, решение которых в настоящее и ближайшее будущее время исключительно важно для государства  и. возможно, для всего человечества. Это следующие проблемы или задачи:

1. Регенеративная или восстановительная медицина. ВНК можно рассматривать как некую ПСЕВДО СТВОЛОВУЮ КЛЕТКУ со своими эволюционными в онтогенезе свойствами жизненного цикла Тц: фазами дифференцировки и системогенеза (превращения в специализированную клетку, орган, организм в течение времени жизни Тж) [7]. Выполнив, изготовив ВНК по нанотехнологии и управляя параметрами превращения клетки, можно будет синтезировать всевозможные протезы для живого организма.

2. Получение энергии в результате ядерного синтеза. Процесс генерации виртуальных нейронов (кодов) и виртуальных нейронных сетей (ВНС) из них в ВНК «ЭМБРИОН» представляет собой алгоритм радиации, мультиплицирования частиц, трансмутации  и конденсации, синтеза атомов, информационных n-атомов или элементов Периодического закона элементов, Таблицы виртуальных нейронов размером 2ⁿ x 2ⁿ (при n = 10 это 1000 х 1000 = 10⁶ элементов!), в клетках которой записаны: №, имя, код элемента, масса, заряд, валентность, спин, период и группа. Мне представляется реальным построить установку (напоминающую дорогой и стоящий на игле ТОКАМАК) на принципах работы «ЭМБРИОНА» для синтеза безопасной и экологически чистой энергии за счет ее ассимиляции и конденсации нейрокомпьютером из квантового космического вакуума. При этом возможно еще сочетать известные в физике методы получения новых элементов: диффузный и масс-спектроскопический.

3. Квантовый компьютер (КК) и квантовые вычисления (КВ). ВНК и процессы в нем происходят на уровне классических физических процессов в классическом физическом устройстве. Однако, процессы виртуализации подчиняются основным законам и принципам квантовой механики и квантовой физики. Научному сообществу представляется возможность в ближайшем времени построить макроквантовый вычислитель (МКВ). Некоторый задел в этом направлении уже имеется [8].

4. BCI – интеллектуальный интерфейс «мозг - компьютер». Совершенно ближайшая для успешного решения задача для ВНК. Созданный такой BCI мог бы решать задачи анализа ЭЭГ и ЭКГ, обнаружение в них информационных паттернов, значимых неоднородностей, диагностика, психологическая терапия и реабилитация после функционального нарушения в организме пациентов. В этой задаче, видимо, возможно использовать ВНК «ЭМБРИОН» как некий вариант вейвлет – преобразователя [9].

 

8. Что нужно сегодня?

Успеть передать мой личный научный опыт преемнику и научному сообществу.

9.Что нужно в будущем?

На пути к ДНК – компьютеру.

0.Реклама.

1.Спрос и рынок сбыта.

2.Серийное производство.

3.Инвистиции.

4.Кадры.

5.Инфраструктура. Создание Научного центра НК.

6.НИОКР. Опытные образцы, КД и ТД

 

Литература

1. http://neuronus.com/theory/242-osnovnye-nedostatki-ispolzovaniya-iskusstvennykh-nejronnykh-setej-i-puti-ikh-resheniya.html

2.Беликовская Л.Г. Узнайте, как программировать на LabVIEW. ДМК. М. 2014.

3.Цыганков В.Д. Нейрокомпьютер и его применение. Сол Систем. М. 1993.

4.Цыганков В.Д., Довгий И.Н. Обучающаяся машина. Авторское Свидетельство СССР    № 36028 от 26 января 1966 г.

5.Цыганков В.Д. Нейрокомпьютер и мозг СИНТЕГ. М. 2001.

6.Анохин П.К. Биология условного рефлекса. НАУКА. М. 1968.

7.Цыганков В.Д. Физическая система для моделирования мозга и искусственной небелковой живой материи. Издательство «ПЕРО». М. 2016.

8. Владимир Цыганков. Квантовые вычисления на нейрокомпьютере.

Нейрочип и его работа. LAP LAMBERT Academic Publishing. GmbH & Co.  Saarbrucken. 2012.

9.Цыганков В.Д. Виртуальность и сознание. Издательство «ПЕРО». М. 2016. -414 с.