Цыганков В.Д.
НПК БИОМЕДИС (Москва)
ЧЕМ
ВИРТУАЛЬНЫЕ НЕЙРОННЫЕ СЕТИ (ВНС) ОТЛИЧАЮТСЯ ОТ ОБЫЧНЫХ
ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ (ИНС)
Аннотация: В настоящей
статье речь пойдет об изложении отличительных преимуществ виртуальных нейронных
сетей (ВНС) по сравнению с обычными,
классическими искусственными нейронными сетями (ИНС), получившими к настоящему времени огромное распространение и
которые успешно применяются для решения задач во многих сферах человеческой
деятельности. Однако, они имеют ряд существенных недостатков, затрудняющих их
разработку и эффективное применение.
Ключевые слова: нейронные сети,
искусственные нейронные сети, виртуальные нейронные сети, эвристически придуманные сети, разновидности ИНС, алгоритмы обучения
нейрокомпьютера, (ВНК) «ЭМБРИОН», структура нейропроцессора нейрокомпьютера
«ЭМБРИОН», матрица из 64-х триплетов нуклеотидов генетического кода живых
организмов.
Tsygankov, V. D.
RPC BIOMEDIS (Moscow)
HOW DO VIRTUAL NEURAL NETWORKS (VNS) DIFFER FROM CONVENTIONAL ARTIFICIAL
NEURAL NETWORKS (INS)
Abstract: This article will focus on the presentation of the distinctive advantages
of virtual neural networks (VNS) in comparison with conventional, classical
artificial neural networks (INS), which have now received a huge distribution
and are successfully used to solve problems in many areas of human activity.
However, they have a number of significant drawbacks that make their
development and effective application difficult.
Keywords: neural networks, artificial neural networks, virtual
neural networks, heuristically invented networks, types of INS, learning
algorithms of the neurocomputer, (VNK) "EMBRYO", the structure of the
neuroprocessor of the neurocomputer "EMBRYO", a matrix of 64 triplets
of nucleotides of the genetic code of living organisms.
1.Введение
О виртуальных
нейронных сетях (ВНС), к сожалению, почти ничего неизвестно[1]. В то же
время, широко известны и успешно применяются в настоящее время системы,
оборудование и устройства (шлемы, перчатки,…) виртуальной, дополнительной и смешанной реальности (VR/AR/MR), а также,
например, виртуальные приборы .vi всемирно известной фирмы National Instruments, разрабатываемее
в среде проектирования LabVIEW
[2].
Виртуальные
нейронные сети (ВНС), о которых ниже пойдет речь,
создаются в виртуальном нейрокомпьютере
(ВНК) типа «ЭМБРИОН» [3], разработанным в январе 1966 г. автором данной статьи
[4].
«ЭМБРИОН» - это целая общенаучная парадигма или концепция
построения систем искусственного
интеллекта (ИИ) и применения универсальных систем обработки неподдающейся
формализации информации и управления динамическими объектами с изменяющимися
параметрами и структурой [5].
2.Классификация
ИНС и спектр их возможностей
Приведем для начала опубликованный в
Интернете перечень из 27 типов или разновидностей ИНС (рис. 1). Как мы видим,
все они имеют статическую постоянную, как правило, многослойную структуру с
постоянной конфигурацией связей между нейронами. Особо отличаются и выпадают из
общей массовой слоистой структуры полносвязные
замкнутые вероятностные Марковские
сети, сеть Хопфилда и вероятностная
Машина Больцмана. Рассмотрению и
анализу ИНС посвящено тысячи книг, сотни тысяч статей и различных публикаций в
Интернете.
Особо большое внимание в последние годы
уделяется нейронным сетям глубокого
обучения и так называемым свёрточным
сетям или сетям CNN
(рис. 2).
Рис. 1 Классификация
видов ИНС
Рис. 2 CNN
или сверточная сеть
Эти CNN эвристически
придуманные сети обладают колоссально высокой эффективностью их применения,
объяснить которую ученые пока еще не в состоянии. Попробуйте объяснить эволюцию
(рис. 3) возбуждения в пространстве и во времени нейронов CNN, раскрашенную цветами.
Вот получить бы подобную картинку для
ВНС!
Рис. 3 Эволюция
возбуждения CNN
По структуре CNN
похожи на слоистые сети, представленные выше в таблице на рис. 1. Только у них
своеобразный эвристический алгоритм
выделения и переноса информации от входа к выходу по слоям исключительно
оригинальный. Он реализуется двумя операциями: свертка (отсюда и название свёрточные
сети или слои нейронов) для получения карты
признаков и подвыборка или уменьшение размерности матрицы. На
рисунке хорошо видно, ядром-матрицей
5 х 5 сканируется входное изображение и как далее понижается размерность 24 х
24 входной сенсорной матрицы через
слои матриц: 24 х 24, 12 х 12, 8 х 8, 4 х 4 до одной строки - 16 разрядного вектора с матрицей 1 х 1.
ИНС различаются по виду представления и переноса информации.
Сети реализуются в виде аналоговых, дискретных, цифровых и квантовых искусственных нейронных сетей.
Элементной базой для их аппаратного
построения могут быть микроэлектронные схемы и кристаллы, оптические и другие
физические, в том числе и нано-элементы. Всеобщее распространение получила их программная реализация на ПК, ноутбуках,
смартфонах или в виде специальных программ в специальных девайсах.
Используя различные алгоритмы обучения, ИНС могут быть
использованы для решения самых разнообразных задач. ИНС довольно универсальные
преобразователи информации. Однако, в
состав и алгоритм функционирования ИНС неявно, но реально, включен человек
(его интеллект, эвристика, сознание). В жизненном
цикле (Тц) ИНС человек включен в контур разработки, обучения и управления
сетью. Без участия человека – пользователя, программиста ИНС бесполезна, как и
выключенный компьютер или не запущенная программа.
3.Основные недостатки использования
ИНС
Несмотря на широкий спектр возможностей ИНС, решению задач с
их помощью сопутствует ряд недостатков (из статьи портала ИИ [1]):
·
большинство подходов для
проектирования ИНС являются эвристическими и часто не приводят к однозначным
решениям;
·
для построения модели
объекта на основе ИНС требуется выполнение многоразовой настройки параметров
внутренних элементов и связей между ними;
·
проблемы, возникающие при
подготовке обучающей выборки, связанные с трудностями нахождения достаточного
количества обучающих примеров. Например, для сверточных сетей (CNN) их число составляет
многие тысячи предъявлений;
·
обучение сети в ряде
случаев приводит к тупиковым ситуациям, зацикливаниям и остановкам алгоритма;
·
продолжительные временные
затраты на выполнение процедуры обучения зачастую не позволяют применять ИНС в
системах реального масштаба времени (РМВ);
·
поведение обученной ИНС не
всегда может быть однозначно предсказуемо, что увеличивает риск применения ИНС
для управления дорогостоящими техническими объектами и исключено их применение
в системах военного назначения;
·
большинство известных
коммерческих продуктов схемотехнической реализации нейронных сетей, выполняются
в виде сверхбольших дорогостоящих интегральных схем (СБИС), которые сегодня
трудно назвать широкодоступными и др.
Этот
список недостатков ИНС можно значительно дополнить и расширить, но и этого
вполне достаточно для проведения сравнения с ВНС.
4.Новый дополнительный путь
повышения эффективности применения искусственных нейронных сетей и расширения
областей их применения
Таким путем решения указанной проблемы
предлагается развитие и углубление фундаментальных исследований и прикладной
разработки парадигмы «ЭМБРИОН», в частности, совершенствование виртуального нейрокомпьютера (ВНК)
«ЭМБРИОН» (рис. 4).
На основе парадигмы виртуальности
«ЭМБРИОН» разработан, изготовлен ряд (от «ЭМБРИОН-1» до «ЭМБРИОН-5») опытных
образцов виртуальных нейрокомпьютеров
(ВНК), и на их базе разработаны, изготовлены и внедрены различные технические
системы распознавания, управления, системы робототехники (фото 1) и другие в
Оборонно-промышленном комплексе страны (ОПК) [5].
Рис. 4. Блок схема ВНК «ЭМБРИОН»
Фото
1. Тактильно очувствлённый робот «Р-2» с искусственными пневмомышцами с
нейрокомпьютерным управлением «ПОИСК-2»
Этот
робот был в свое время представлен на Стенде Главного конструктора промышленных
роботов Председателю ВПК СССР Л.В.Смирнову и на выставках «Сетунь» и ВДНХ.
В чем преимущество парадигмы виртуального нейрокомпьютера (ВНК) и виртуальных нейронных сетей (ВНС), и
каковы их отличительные особенности?
В первую очередь, ВНС и ВНК «ЭМБРИОН» -
это единое неразрывное целое, автономный псевдо организм в меняющейся
окружающей внешней среде, реализованный в последнее время в виде нейрочипа -
электронной схемы в кристалле ПЛИС (фото 2).
Основой структуры нейропроцессора
нейрокомпьютера «ЭМБРИОН» является матрица из 64-х триплетов нуклеотидов
генетического кода живых организмов.
Фото
2. Электронный мозг мобильного робота «КРАБ-3» в ПЛИС на базе ВНК «ЭМБРИОН» (разработка
С.К.Шарифова)
Искусственный организм имеет свой
глобальный основной жизненный цикл (Тц), в который во время
работы нейрокомпьютера не включен в реальном времени человек – оператор. В то
же время, Тц содержит три внутренних параметрических цикла с
обратными связями. Тц состоит, как минимум, из следующих фаз или периодов: рождение, развитие и рост до границы,
зрелость, старение, смерть. ВНС имеет конечное время жизни Тж.
Кроме того, имеется много разработанных
программистами программных имитаторов
НК «ЭМБРИОН» (эмуляторов или симуляторов нейрокомпьютера). ВНС генерируется в
реальном масштабе времени внутри нейрокомпьютера.
Принципиальное отличие ВНК от ИНС. В
основе идеи, структурной и функциональной схемы ВНК взята не эвристическая
математическая модель программируемого компьютера, микроконтроллера или модель
классической формальной ИНС (рис. 1 и рис. 2), а известная нейрофизиологическая Теория
функциональной системы (ТФС) академика П.К.Анохина со своими механизмами: опережающего отражения действительности и
прогнозирования (основного свойства всего живого на земле), акцептором
«полезного результата» действия, мотивацией, памятью и т. д. [6].
ВНК «ЭМБРИОН» без аналитики. Возможно,
это может быть одной из недоработок необычного нейрокомпьютера к настоящему
времени. ВНК не является аппаратным воплощением аналитической модели ТФС, или
какой - либо ее математической модели, он ничего не вычисляет, не имеет
традиционного классического вычислительного программируемого микропроцессора,
вообще не требует программирования в какой либо ОС. Это аппаратный значительно
упрощенный вариант функциональной организации и схемотехники («архитектоники»)
живого мозга (рис. 5). Адаптация под задачу осуществляется в двух режимах:
обучение с учителем методом подражания или путем автоматической самонастройки (самообучение и самоорганизация). Кстати, ВНС, генерируемые внутри ВНК, можно, с
некоторыми оговорками, отнести к категории Марковских
цепей или к Машинам Больцмана из
выше приведенной классификации ИНС (рис.1) .
Рис.
5. Сравнительная гетероморфная архитектура живого (слева) и искусственного
электронного (справа) нейрокомпьютерного мозга «ЭМБРИОН», реализованного в ПЛИС
Схемотехническая эффективность ВНС (расход оборудования на реализацию одной
нейронной сети) в ВНК «ЭМБРИОН» по сравнению с одной ИНС порядка 106 - 106 раз! Во
столько раз увеличивается универсальность НК и область возможных задач и
областей его применения.
Благодаря применению вероятностно – статистическому методу
обработки информации и «нечеткой логики» (фуззи -логики) Л.Заде в ВНК, он и
его ВНС обладают высокой «живучестью» и надежностью, допускающей при решении
задачи выбора поведения в Т-образном лабиринте до 30% разрушения массы
нейронной сети (электронных триггеров).
Мгновенная перестройка ВНС одним
командным импульсом позволяет ВНК быть
высоко пластичной и лабильной, легко модифицированной структурой.
5.Отличительные от ИНС особенности виртуальных нейронных сетей (ВНС) в
нейрокомпьютере «ЭМБРИОН»
Речь идет о том, что нового в ВНС, и чего в принципе нет в
ИНС.
Парадигма «ЭМБРИОН» - это
фундаментальная научная концепция, NBICS концепция биокибернетики, направленная на
разработку и внедрение в практику нано- био- инфо- комп- интеллектуальных и
когнитивных нейро- подобных сложных устройств и систем с ИИ.
ИНС большой размерности (порядка более
миллиона формальных нейронов) с переменной, управляемой в реальном времени,
структурой, реализовать аппаратно технологически исключительно трудоемко,
дорого, и сегодня вряд ли кто осилит.
На рис. 6 представлен пример варианта
ВНС нейрокомпьютера ВНК «ЭМБРИОН».
Рис. 6. Виртуальная нейронная сеть (ВНС) ВНК
«ЭМБРИОН» и многоканальный спектр потока выходных частот спайков - импульсов
мотонейронов
В виртуальной
нейронной сети (ВНС) ВНК нет
физических нейронов, а есть мгновенная (как короткоживущая виртуальная частица в физике) кодовая комбинация из состояний
группы триггеров регистров аппаратного
ядра нейрокомпьютера. Эта кодовая комбинация или просто код, который и
является виртуальным нейроном ВНС.
В ВНС нет, как в ИНС, жесткой
зафиксированной структуры и размера. Они, эти параметры мобильно изменяются в
ходе решения задачи. Имеет место сеть с переменной структурой.
В потоковой ВНС одновременно
используются несколько видов модуляции: ЧИМ, ВИМ, АМ, ЧМ, ШИМ, КИМ.
В ВНС динамическая иерархическая (пять уровней) оперативная и
долговременная память.
В
ВНС реализованы важнейшие нейрофизиологические
и физические принципы и законы: возбуждения и торможения, генерализации и
концентрации, конвергенции и дивергенции в сети нейронов, принципы симметрии (левое – правое, позитив - негатив) и
самосохранения, «принцип устойчивого неравновесия» Э.С.Бауэра, принцип
«экстренной мобилизуемости», принцип «взаимосодействия»
(симбиоза и синергии), закон эквифинальности
в функциональной системе П.К.Анохина, принцип Доминанты А.А.Ухтомского и
латерального торможения, принципы осевой симметрии и реципрокности, принцип
«Шеррингтоновской воронки» или принцип конечного пути, принцип интерференции и
когерентности, принцип суперпозиции, закон необходимого многообразия У.Р.Эшби,
три генетических закона Менделя, Периодический закон информационных элементов (n-атомов), аналогичный по свойствам
Таблице элементов Д.И Менделеева и др.
ВНС является сетью с переменной
структурой, в которой происходит во времени не только редукция, свертывание
числа активных нейронов, но и имеет место процесс мультипликации или
размножения, увеличения числа и типов нейронов в сети.
Возбужденная ВНС представляет собой
виртуальное многомерное пространственно – временное поле вероятностей состояний – кодов множества
ячеек – триггеров или ψ(S/P, U) - некую 3D дискретную волновую функцию (Рис.
7).
Рис. 7.
Распределение вероятностей по невязкам (расчет и рисунок представлен
Е.Д.Господчиковым, ИПФ Н.Новгород)
ВНС – это вариант нелинейной
дискретно-квантовой системы, разновидность вероятностного дискретного
клеточного автомата (ДКА) с памятью.
Виртуальная сеть обладает собственной
внутренней активностью, реагирует на воздействие внешней среды не рефлекторно,
а условно рефлекторно.
Обучение осуществляется путем управления
нелинейностью памяти рядом параметров: кодом начального состояния, образом на
Сенсорной матрице, Гипотезой восприятия, временем жизни Тж, состоянием
внутренней памяти, соотношением параметра J – неравновесия (невязки) и no – наследственного консервативного
параметра, NS
– параметра скорости реакции сети и точности достижения цели.
Управление параметрами сети
осуществляется из блока концентрации внимания (подобие ретикулярной формации мозга) или Блока выдвижения гипотез.
ВНС
- это универсальная активная информационно-управляющая система с набором
признаков и свойств живых систем.
6.Номенклатура
высоких (IT) технологий, где возможно и целесообразно
применять физическую систему типа «ЭМБРИОН»
·
Беспилотные подвижные роботы, БЛА и
дроны, и их бортовые интеллектуальные системы управления (автоматическая
посадка самолета или вертолета на палубу авианосца, робот мини-шаттл, подводные
роботы и транспортные средства в условиях, вредных и недоступных для человека).
·
Роботизированные войска, военные
робототехнические комплексы (ВРТК).
·
Обучающиеся нейрокомпьютеры и нейрочипы
в медицине.
·
Малогабаритные медицинские
интеллектуальные диагностические и терапевтические системы и приборы.
Биоидентификация личности.
·
Информационная безопасность человека,
фирмы, государства (криптография, шифрование. Детекторы взрывчатки и
наркотиков),
·
Полупроводниковые гетероструктуры
Ж.Алферова. Солнечные преобразователи и источники энергии. Лазеры и ВОЛС.
·
Цифровая сотовая связь и телевидение.
·
Суперкомпьютеры, квантовые
нейрокомпьютеры и квантовые вычисления.
·
Генная инженерия, генетическая
информация, динамический геном человека и живого. Память человека.
·
BCI
- Интеллектуальный интерфейс «Мозг – компьютер» для мысленного управления
объектами и собственным состоянием.
·
Психотроника, ПСИ-кнопка и
ПСИ-компьютер.
·
Управление сознанием. Блокирование тяги
к наркотикам, алкоголю, табаку.
·
Атомная информатика. Макроквантовый мир.
·
Моделирование ясновидения и телепатии.
Виртуальный мир и сознание.
·
Высокотемпературная сверхпроводимость в
мозгу.
·
Моделирование интуиции, подсознания,
сознания и мышления.
·
Моделирование процессов микромира и
космологических систем без БАК.
7.Стратегические
задачи для ВНК и для ВНС
Из выше (раздел 6) приведенного перечня
возможных и актуальных для ВНК «ЭМБРИОН» и ВНС задач, я бы выделил несколько
так называемых СТРАТЕГИЧЕСКИХ ЗАДАЧ, решение которых в настоящее и ближайшее
будущее время исключительно важно для государства и. возможно, для всего человечества. Это
следующие проблемы или задачи:
1. Регенеративная
или восстановительная медицина. ВНК можно рассматривать как некую ПСЕВДО
СТВОЛОВУЮ КЛЕТКУ со своими эволюционными в онтогенезе свойствами жизненного цикла Тц: фазами дифференцировки
и системогенеза (превращения в специализированную клетку, орган, организм в
течение времени жизни Тж) [7]. Выполнив, изготовив ВНК по нанотехнологии и
управляя параметрами превращения клетки, можно будет синтезировать всевозможные
протезы для живого организма.
2. Получение
энергии в результате ядерного синтеза. Процесс генерации виртуальных нейронов (кодов) и виртуальных нейронных сетей (ВНС) из них
в ВНК «ЭМБРИОН» представляет собой алгоритм радиации, мультиплицирования
частиц, трансмутации и конденсации,
синтеза атомов, информационных n-атомов
или элементов Периодического закона элементов, Таблицы виртуальных нейронов размером 2n x 2n (при n = 10 это 1000 х 1000 = 106
элементов!), в клетках которой записаны: №, имя, код элемента, масса, заряд,
валентность, спин, период и группа. Мне представляется реальным построить
установку (напоминающую дорогой и стоящий
на игле ТОКАМАК) на принципах работы «ЭМБРИОНА» для синтеза безопасной и
экологически чистой энергии за счет ее ассимиляции и конденсации
нейрокомпьютером из квантового космического вакуума. При этом возможно еще
сочетать известные в физике методы получения новых элементов: диффузный и масс-спектроскопический.
3. Квантовый
компьютер (КК) и квантовые вычисления (КВ). ВНК и процессы в нем происходят
на уровне классических физических процессов в классическом физическом
устройстве. Однако, процессы виртуализации подчиняются основным законам и
принципам квантовой механики и квантовой физики. Научному сообществу
представляется возможность в ближайшем времени построить макроквантовый
вычислитель (МКВ). Некоторый задел в этом направлении уже имеется [8].
4. BCI – интеллектуальный интерфейс «мозг
- компьютер». Совершенно ближайшая для успешного
решения задача для ВНК. Созданный такой BCI мог бы решать задачи анализа ЭЭГ и
ЭКГ, обнаружение в них информационных паттернов, значимых неоднородностей,
диагностика, психологическая терапия и реабилитация после функционального
нарушения в организме пациентов. В этой задаче, видимо, возможно использовать
ВНК «ЭМБРИОН» как некий вариант вейвлет – преобразователя [9].
8.
Что нужно сегодня?
Успеть
передать мой личный научный опыт преемнику и научному сообществу.
9.Что
нужно в будущем?
На
пути к ДНК – компьютеру.
0.Реклама.
1.Спрос
и рынок сбыта.
2.Серийное
производство.
3.Инвистиции.
4.Кадры.
5.Инфраструктура.
Создание Научного центра НК.
6.НИОКР.
Опытные образцы, КД и ТД
Литература
1. http://neuronus.com/theory/242-osnovnye-nedostatki-ispolzovaniya-iskusstvennykh-nejronnykh-setej-i-puti-ikh-resheniya.html
2.Беликовская
Л.Г. Узнайте, как программировать на LabVIEW. ДМК. М. 2014.
3.Цыганков
В.Д. Нейрокомпьютер и его применение. Сол Систем. М. 1993.
4.Цыганков
В.Д., Довгий И.Н. Обучающаяся машина. Авторское Свидетельство СССР № 36028 от 26 января 1966 г.
5.Цыганков
В.Д. Нейрокомпьютер и мозг СИНТЕГ. М. 2001.
6.Анохин
П.К. Биология условного рефлекса. НАУКА. М. 1968.
7.Цыганков
В.Д. Физическая система для моделирования мозга и искусственной небелковой
живой материи. Издательство «ПЕРО». М. 2016.
8.
Владимир Цыганков. Квантовые вычисления на нейрокомпьютере.
Нейрочип
и его работа. LAP LAMBERT
Academic Publishing. GmbH & Co. Saarbrucken.
2012.
9.Цыганков
В.Д. Виртуальность и сознание. Издательство «ПЕРО». М. 2016. -414 с.
