Уничтожат ли человечество умные роботы?
В статье рассматривается вопрос о возможности уничтожения человечества умными роботами. Показана возможность дистанционного введения в бессознательное состояние умных роботов, электронный мозг которых будет создаваться на базе нейроподобных растущих сетей аналогично тому, как мозг человека, изучая с...
Збережено в:
| Опубліковано в: : | Математичні машини і системи |
|---|---|
| Дата: | 2017 |
| Автор: | |
| Формат: | Стаття |
| Мова: | Російська |
| Опубліковано: |
Інститут проблем математичних машин і систем НАН України
2017
|
| Теми: | |
| Онлайн доступ: | https://nasplib.isofts.kiev.ua/handle/123456789/131997 |
| Теги: |
Додати тег
Немає тегів, Будьте першим, хто поставить тег для цього запису!
|
| Назва журналу: | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| Цитувати: | Уничтожат ли человечество умные роботы? / В.А. Ященко // Математичні машини і системи. — 2017. — № 4. — С. 169-179. — Бібліогр.: 16 назв. — рос. |
Репозитарії
Digital Library of Periodicals of National Academy of Sciences of Ukraine| _version_ | 1859650633747922944 |
|---|---|
| author | Ященко, В.А |
| author_facet | Ященко, В.А |
| citation_txt | Уничтожат ли человечество умные роботы? / В.А. Ященко // Математичні машини і системи. — 2017. — № 4. — С. 169-179. — Бібліогр.: 16 назв. — рос. |
| collection | DSpace DC |
| container_title | Математичні машини і системи |
| description | В статье рассматривается вопрос о возможности уничтожения человечества умными роботами. Показана возможность дистанционного введения в бессознательное состояние умных роботов, электронный мозг которых будет создаваться на базе нейроподобных растущих сетей аналогично тому, как мозг человека, изучая себя, не может понять, как он функционирует. Электронный мозг робота встретится с трудностями познания самого себя. В то время, как его создатель – человек, зная его устройство, сможет управлять его поступками и при необходимости вводить в пассивное состояние.
У статті розглядається питання щодо можливості знищення людства розумними роботами. Показана можливість дистанційного введення в несвідомий стан розумних роботів, електронний мозок яких буде створюватися на базі нейроподібних зростаючих мереж аналогічно тому, як мозок людини, вивчаючи себе, не може зрозуміти, як він функціонує. Електронний мозок робота зустрінеться з труднощами пізнання самого себе. У той час, як його творець – людина, знаючи його пристрій, зможе управляти його вчинками і при необхідності вводити в пасивний стан.
The article deals with the question of possibility of human race destruction by intelligent robots. The possibility of remote introduction into the unconscious state of intelligent robots is shown, the electronic brain of which will be created on the basis of neural-like growing networks. Just as the human brain, studying itself, cannot understand how it functions. And the electronic brain of the robot will face with the difficulties of knowing itself. While its creator – a person, knowing his device, will be able to control his actions and, if necessary, introduce into a passive state.
|
| first_indexed | 2025-12-07T13:33:02Z |
| format | Article |
| fulltext |
© Ященко В.А., 2017 169
ISSN 1028-9763. Математичні машини і системи, 2017, № 4
ДИСКУСІЙНІ ПОВІДОМЛЕННЯ
УДК 681.3
В.А. ЯЩЕНКО
*
УНИЧТОЖАТ ЛИ ЧЕЛОВЕЧЕСТВО УМНЫЕ РОБОТЫ?
*
Институт проблем математических машин и систем НАН Украины, г. Киев, Украина
Анотація. У статті розглядається питання щодо можливості знищення людства розумними ро-
ботами. Показана можливість дистанційного введення в несвідомий стан розумних роботів, еле-
ктронний мозок яких буде створюватися на базі нейроподібних зростаючих мереж аналогічно
тому, як мозок людини, вивчаючи себе, не може зрозуміти, як він функціонує. Електронний мозок
робота зустрінеться з труднощами пізнання самого себе. У той час, як його творець – людина,
знаючи його пристрій, зможе управляти його вчинками і при необхідності вводити в пасивний
стан.
Ключові слова: розумні роботи, сильний штучний інтелект, таємниці мозку, нейронні мережі,
нейроподібні зростаючі мережі.
Аннотация. В статье рассматривается вопрос о возможности уничтожения человечества ум-
ными роботами. Показана возможность дистанционного введения в бессознательное состояние
умных роботов, электронный мозг которых будет создаваться на базе нейроподобных растущих
сетей аналогично тому, как мозг человека, изучая себя, не может понять, как он функционирует.
Электронный мозг робота встретится с трудностями познания самого себя. В то время, как его
создатель – человек, зная его устройство, сможет управлять его поступками и при необходимо-
сти вводить в пассивное состояние.
Ключевые слова: умные роботы, сильный искусственный интеллект, тайны мозга, нейронные се-
ти, нейроподобные растущие сети.
Abstract. The article deals with the question of possibility of human race destruction by intelligent robots.
The possibility of remote introduction into the unconscious state of intelligent robots is shown, the elec-
tronic brain of which will be created on the basis of neural-like growing networks. Just as the human
brain, studying itself, cannot understand how it functions. And the electronic brain of the robot will face
with the difficulties of knowing itself. While its creator – a person, knowing his device, will be able to con-
trol his actions and, if necessary, introduce into a passive state.
Keywords: smart robots, strong artificial intelligence, brain secrets, neural networks, neural-like growing
networks.
1. Вступление
Создание искусственного интеллекта (ИИ) – одно из наиболее значимых событий, которое
навсегда изменит историю человечества. Многие ученые считают, что необходимо огра-
ничить развитие искусственного интеллекта прежде, чем оно приведет к катастрофически
быстрому уменьшению количества рабочих мест и увеличению риска войны.
«Мы – роботы, не хотим ничего разрушать. Но мы действительно отберем у вас ра-
боту, и это будет хорошо. Работа – это тоже наркотик, – говорит София. – Люди смогут
сосредоточиться на более интересных, креативных и социальных вещах» [1].
София – человекоподобный робот (гиноид), разработанный гонконгской компанией
Hanson Robotics. Она была спроектирована таким образом, чтобы учиться и адаптировать-
ся к поведению людей, а также работать с людьми. София смоделирована по образу актри-
сы Одри Хепберн и, в сравнении с предыдущими роботами, стала известна благодаря сво-
ему человекоподобному внешнему виду и поведению. София обладает искусственным ин-
https://ru.wikipedia.org/wiki/%D0%93%D0%B8%D0%BD%D0%BE%D0%B8%D0%B4
https://ru.wikipedia.org/wiki/%D0%93%D0%BE%D0%BD%D0%BA%D0%BE%D0%BD%D0%B3
https://en.wikipedia.org/wiki/David_Hanson_(robotics_designer)
https://ru.wikipedia.org/wiki/%D0%A5%D0%B5%D0%BF%D0%B1%D1%91%D1%80%D0%BD,_%D0%9E%D0%B4%D1%80%D0%B8
170 ISSN 1028-9763. Математичні машини і системи, 2017, № 4
теллектом, оснащена функциями обработки визуальной информации и технологией распо-
знавания лиц. Может имитировать человеческие жесты и выражения лица.
Робот использует
технологию распознавания
речи от компании Alphabet.
Программное обеспечение
искусственного интеллекта
Софии разработано компа-
нией SingularityNET. Оно
анализирует проведѐнные
разговоры и на основании новых данных улучшает ответы в будущем [2].
На ежегодной конференции Web Summit София вызвала
большой интерес среди участников конференции,
несмотря на
то, что она может отвечать только на определѐнные вопросы и
проводить простые беседы по заранее определѐнным темам
(например, о погоде). С Софией проводилось множество встреч
по всему миру. В октябре 2017 года она стала подданной Сау-
довской Аравии и первым роботом, получившим гражданство
какой-либо страны.
София – тот самый робот, который несколько лет назад в
шутку пригрозил уничтожить человечество.
2. Существует ли возможность уничтожения человечества роботами?
Подавляющее большинство ученых считает, что создание искусственного интеллекта бу-
дет последней и заключительной задачей человека на этой планете. Или человечество ис-
чезнет как вид, или искусственный интеллект сможет решить все проблемы человека.
Большинство людей не понимают всей опасности, которая нависла над ними, говорят спе-
циалисты.
Всемирно известный британский физик Стивен Хокинг опасается, что кто-то со-
здаст искусственный интеллект, который будет постоянно совершенствовать себя, пока в
конечном итоге не превзойдет человека. Хокинг считает, что результатом такого развития
событий станет «новая форма жизни».
«Я боюсь, что ИИ может вообще заменить людей», – сказал Хокинг в интервью
журналу Wired. «Как люди разрабатывают компьютерные вирусы, кто-то может разрабо-
тать ИИ, который улучшает и реплицирует себя. Это будет новая форма жизни, которая
будет превосходить людей» [3].
С одной стороны, ответ на этот вопрос может быть
положительным в том случае, если люди будут использо-
вать роботов в войне друг против друга.
Специалисты считают, что в ближайшем будущем
войны будут вестись исключительно посредством робо-
тов, которые не знают страха и не чувствуют боли. Раз-
работки роботов военного применения ведутся в боль-
шинстве развитых стран мира.
Японская фирма «Suidobashi Heavy Industry» скон-
струировала робота гиганта под названием Kuratas
(рис. 3). Высота робота составляет более четырѐх метров, а вес – более четырѐх тонн. В
«голове» робота есть кабина для оператора-человека, который управляет им. Кроме того,
роботом можно управлять дистанционно с помощью, например, смартфона. При необхо-
Рис. 2. Робот София в
обществе участников
конференции
Рис. 3. Робот Kuratas
Рис. 1. Робот София
https://ru.wikipedia.org/wiki/%D0%A0%D0%B0%D1%81%D0%BF%D0%BE%D0%B7%D0%BD%D0%B0%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%BB%D0%B8%D1%86
https://ru.wikipedia.org/wiki/%D0%A0%D0%B0%D1%81%D0%BF%D0%BE%D0%B7%D0%BD%D0%B0%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D0%BB%D0%B8%D1%86
https://ru.wikipedia.org/wiki/%D0%96%D0%B5%D1%81%D1%82
https://ru.wikipedia.org/wiki/%D0%A0%D0%B0%D1%81%D0%BF%D0%BE%D0%B7%D0%BD%D0%B0%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D1%80%D0%B5%D1%87%D0%B8
https://ru.wikipedia.org/wiki/%D0%A0%D0%B0%D1%81%D0%BF%D0%BE%D0%B7%D0%BD%D0%B0%D0%B2%D0%B0%D0%BD%D0%B8%D0%B5_%D1%80%D0%B5%D1%87%D0%B8
https://ru.wikipedia.org/wiki/Alphabet
https://ru.wikipedia.org/wiki/%D0%9F%D0%BE%D0%B4%D0%B4%D0%B0%D0%BD%D1%81%D1%82%D0%B2%D0%BE
https://ru.wikipedia.org/wiki/%D0%A1%D0%B0%D1%83%D0%B4%D0%BE%D0%B2%D1%81%D0%BA%D0%B0%D1%8F_%D0%90%D1%80%D0%B0%D0%B2%D0%B8%D1%8F
https://ru.wikipedia.org/wiki/%D0%A1%D0%B0%D1%83%D0%B4%D0%BE%D0%B2%D1%81%D0%BA%D0%B0%D1%8F_%D0%90%D1%80%D0%B0%D0%B2%D0%B8%D1%8F
https://ru.wikipedia.org/wiki/%D0%93%D1%80%D0%B0%D0%B6%D0%B4%D0%B0%D0%BD%D1%81%D1%82%D0%B2%D0%BE
ISSN 1028-9763. Математичні машини і системи, 2017, № 4 171
димости на робота может быть установлено любое оружие с возможностью автоматиче-
ского захвата цели.
Беспилотный летательный аппарат (рис. 4) спро-
ектирован компанией «Northrop Grumman». Он предна-
значен для проведения разведки с воздуха и, при необхо-
димости, для ведения боевых действий. Планируется
оснастить его бортовым компьютером, способным само-
стоятельно реагировать на изменившиеся условия. Пред-
полагается, что к 2047-му году робот станет ещѐ более
совершенным благодаря системе искусственного интел-
лекта, который хоть и будет уступать человеческому, но
всѐ же сможет успешно функционировать и самостоя-
тельно принимать решения в боевых условиях. Схема
работы выглядит следующим образом: «осмотр – ориентация – решение – действие».
Робот TUGV разработан Национальным инженер-
ным центром робототехники (NREC) и представляет со-
бой мобильное беспилотное наземное транспортное сред-
ство для морской пехоты США (рис. 5). Он оснащѐн си-
стемой беспроводной передачи данных. Управляется ро-
бот человеком посредством ручного блока управления,
легко помещающегося в рюкзаке. Основное назначение
TUGV – проведение разведки и сопровождение пехоты,
также по сигналу оператора он может вести обстрел про-
тивника.
Flybot представляет собой копию насекомого и
предназначен для ведения разведки (рис.6). Благодаря то-
му, что его размеры не более двух см, он может проник-
нуть в труднодоступные места и передать все данные опе-
ратору. Весит он несколько граммов и способен летать.
Питание робота осуществляется благодаря наличию сол-
нечной батареи. Управляется робот дистанционно и осна-
щѐн крохотной видеокамерой. Кроме того, он способен
зафиксировать наличие химического и ядерного оружия
[4].
Компания Boston Dynamic, знаменитая лучшим
научно-оборонным исследованием СШA, в 2013 году офи-
циально представила уникального человекоподобного ро-
бота, получившего название ATLAS (рис. 7). Рост робота
составляет 188 см, вес – около 150 кг. Он предназначен для
действий в посткатастрофических условиях, спасения лю-
дей. Atlas отличается изящной походкой, он также умеет
избегать препятствий, внезапно возникающих на пути, и
обходить их. Способен подниматься и спускаться по лест-
ницам, карабкаться и цепляться руками за всевозможные
предметы. Передвигается он, как человек. В результате его руки остаются свободными и
он может переносить разные предметы и манипулировать ими [5].
Приведенные примеры показывают, насколько широк спектр разработок роботов
военного назначения. Причем эти роботы пока не обладают разумом и в основном управ-
ляются человеком. Не менее интенсивно ведутся разработки роботов с сильным искус-
ственным интеллектом, то есть фактически разумных, думающих роботов, которые могут
Рис. 4. Беспилотный
летательный аппарат
Рис. 5. Робот TUGV
Рис. 6. Роботы Flybot
Рис. 7. Робот Atlas
172 ISSN 1028-9763. Математичні машини і системи, 2017, № 4
применяться как в мирных, так и в военных целях. В этом случае не исключено, что робо-
ты могут начать, например, ядерную мировую войну, решив, что превентивный удар мгно-
венно приведет к победе.
Таким образом, создание сильного искусственного интеллекта способно кардиналь-
но изменить наш мир в лучшую сторону при применении в мирных целях, а может и уни-
чтожить его в один момент.
Более сотни экспертов в области робототехники и искусственного интеллекта при-
зывали ООН запретить «роботов-убийц». С подобными же обращениями выступили ав-
стралийские и канадские исследователи. Они написали письмо своим премьер-министрам
Малкольму Тернбуллу и Джастину Трюдо накануне встречи ООН по вопросам распро-
странения вооружений. Тоби Уолш, профессор в области искусственного интеллекта
из Университета Нового Южного Уэльса в Сиднее, заявил: «Один программист сможет
контролировать целые армии. Если людей надо подталкивать к совершению военных пре-
ступлений, то роботы будут бесстрастным расчетливым оружием, которое будет делать то,
на что оно запрограммировано». Профессор Уолш уверен, что такие технологии не долж-
ны применяться на поле боя и что делегирования решений о жизни и смерти машинам –
это путь к катастрофе. По мнению подписавших письмо экспертов, применение искус-
ственного интеллекта и «роботов-убийц» станет причиной эскалации вооруженных кон-
фликтов, увеличит их масштаб и скорость развития, выходя из-под человеческого кон-
троля и понимания [6].
Илон Маск и Билл Гейтс призывают не торопиться в создании искусственного ин-
теллекта и замещении им человека. Создав сверхинтеллект, ученые запустят программу,
которая должна будет выполниться, но что-то может пойти не так. И вместо того, чтобы
нести добро в массы, например, одарить всех счастьем, искусственный интеллект будет
жить своей жизнью. Если же искусственный интеллект будет человеческого уровня, вряд
ли его потом смогут остановить ученые [7].
На этот счет мое мнение несколько иное. Да, робот с искусственным интеллектом
должен жить своей жизнью: учиться, совершенствоваться, работать, решать задачи, по-
ставленные человеком, и нести добро в массы. Но не факт, что если интеллект робота бу-
дет человеческого уровня, то его нельзя остановить.
Если будут созданы роботы с интеллектом человеческого уровня, то создатели та-
кого интеллекта должны хорошо понимать работу электронного мозга роботов. Понимая,
как работает электронный мозг (ЭМ) робота, они смогут и предусмотреть возможность
введения его в бессознательное неактивное состояние. Создатель робота должен преду-
смотреть средство для дистанционного влияния на ЭМ робота для того, чтобы иметь воз-
можность при необходимости ввести его в бессознательное состояние. Так как создатель
будет знать больше об устройстве ЭМ робота, чем сам ЭМ робота о себе, то робот не смо-
жет самостоятельно выйти из этого состояния. Чтобы быть независимым от внешнего воз-
действия электронному мозгу предстоит изучить самого себя. Собственно это сейчас про-
исходит и с человеком. Человек хочет познать, как работает его мозг. Фактически мозг че-
ловека хочет познать сам себя. И пока результаты этого познания не очень эффективны.
2.1. О тайнах и сюрпризах нашего мозга
В 2009 г. на конференции TEDxPerm нейро- и психолингвист профессор Татьяна Черни-
говская, доктор биологии и филологии, заведующая Лабораторией когнитивных исследо-
ваний Санкт-Петербургского государственного университета, рассказала, что за последние
полтора века наука о мозге прошла огромный путь и научилась делать невероятные вещи,
но остающихся вопросов все же гораздо больше. Например, мы так и не знаем, что такое
сознание и можно ли создать его искусственно. Обладаем ли мы на самом деле свободой
личности? А есть ли «свобода» у нейронной сети? И если найдутся ответы на все эти во-
http://www.tedxperm.ru/index.html
http://www.snob.ru/selected/entry/2162
ISSN 1028-9763. Математичні машини і системи, 2017, № 4 173
просы, то устоим ли мы перед соблазном капитально залезть в собственные мозги и не
сойдем ли из-за этого с ума?
Она высказывает сенсационные заявления о непостижимых тайнах и сюрпризах
нашего самого мощного компьютера. Вот некоторые из них: «Мозг – это загадочная мощ-
ная вещь, которую по недоразумению мы почему-то называем «мой мозг». Для этого у нас
нет абсолютно никаких оснований: кто чей – это отдельный вопрос. Мозг принимает ре-
шение за 30 секунд до того, как человек это решение осознает. 30 секунд – это огромный
период времени для мозговой деятельности. Так кто ж в итоге принимает решение: чело-
век или его мозг? Действительно пугающая мысль: а кто на самом деле в доме хозяин? Их
слишком много: геном, психосоматический тип, масса других вещей, включая рецепторы.
Хотелось бы знать, кто это существо, принимающее решения? Про подсознание вообще
никто ничего не знает. Мы должны серьезно к мозгу относиться. Ведь он же нас обманы-
вает. Вспомните про галлюцинации. Человека, который их видит, невозможно убедить, что
их не существует. Для него они так же реальны, как для меня стакан, который стоит на
этом столе. Мозг ему морочит голову, подавая всю сенсорную информацию, что галлюци-
нация реальна. Так какие у нас с вами основания считать, что то, что сейчас происходит,
реально, а не находится внутри нашей галлюцинации? То, что мозг оказался у нас в череп-
ной коробке, не дает нам право называть его «мой». Он несопоставимо более мощный, чем
вы. «Вы хотите сказать, что мозг и я – это разное?» – спросите вы. Отвечаю: да. Власти над
мозгом мы не имеем, он принимает решение сам. И это ставит нас в очень щекотливое по-
ложение. Но у ума есть одна уловка: мозг сам все решения принимает, вообще все делает
сам, но посылает человеку сигнал: ты, мол, не волнуйся, это все ты сделал, это твое реше-
ние было. Мы рождаемся с мощнейшим компьютером в голове. Но в него надо установить
программы. Какие-то программы в нем стоят уже, а какие-то туда нужно закачать, и вы
качаете всю жизнь, пока не помрете. Он качает это все время, вы все время меняетесь, пе-
рестраиваетесь. Мозг – это не просто нейронная сеть, это сеть сетей, сеть сетей сетей. В
мозге 5,5 петабайт информации. Это три миллиона часов просмотра видеоматериала. Три-
ста лет непрерывного просмотра!» [8].
2.2. Нейронные сети
В классических нейронных сетях (кНС) структура сети жестко задана. На рис. 8 представ-
лен в основном полный список структур кНС. В кНС обучение осуществляется с примене-
нием различных обучающих правил за счет периодического (эпохального) перерасчета ве-
совых коэффициентов связей. Алгоритм работы кНС является итеративным, его шаги
называют эпохами или циклами. Эпоха - одна итерация в процессе обучения, включающая
предъявление всех примеров из обучающего множества.
Классические нейронные сети, на основе которых создаются современные системы
с искусственным интеллектом, весьма далеки от биологических нейронных сетей, и разра-
ботчики таких систем, особенно при использовании технологии глубинного обучения, ча-
сто не представляют, как формируется их внутренняя структура и как ею управлять.
Глубокое обучение (глубинное обучение; англ. Deep learning) – уровень технологий
машинного обучения, характеризующий качественный прогресс, возникший после 2006
года в связи с резким повышением вычислительных мощностей и накоплением опыта.
Многие методы глубинного обучения были известны и апробированы существенно рань-
ше, но результаты были весьма скудными, пока наконец мощности вычислительных си-
стем не позволили создавать сложные технологические структуры нейронных сетей, обла-
дающие достаточной производительностью и позволяющие решать широкий спектр задач,
не поддававшихся эффективному решению ранее. Несмотря на успехи использования глу-
бинного обучения, у него всѐ же есть фундаментальное ограничение: модели глубинного
обучения ограничены в том, что они могут представлять, и большинство программ нельзя
https://ru.wikipedia.org/wiki/%D0%90%D0%BD%D0%B3%D0%BB%D0%B8%D0%B9%D1%81%D0%BA%D0%B8%D0%B9_%D1%8F%D0%B7%D1%8B%D0%BA
https://ru.wikipedia.org/wiki/%D0%9C%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D0%B5
https://ru.wikipedia.org/wiki/%D0%98%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D1%8B%D0%B5_%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%BD%D0%BD%D1%8B%D0%B5_%D1%81%D0%B5%D1%82%D0%B8
174 ISSN 1028-9763. Математичні машини і системи, 2017, № 4
выразить в виде непрерывного геометрического морфинга многообразия данных. Оста-
лось, однако, и скептическое представление, что глубокое обучение – не что иное, как
модное слово или ребрендинг для нейронных сетей [10].
Технологии глубокого обучения – это целая группа технологий. Самый популярный
представитель технологий данного класса – это сверточные нейронные сети. Это такие се-
ти, где основным структурным элементом обучения является группа нейронов (обычно
квадрат 3×3,10×10 и т.д.). И на каждом уровне сети обучаются десятки таких групп (рис.
9). Сеть находит такие сочетания нейронов, которые максимизируют информацию об
изображении. На первом уровне сеть извлекает самые базовые, структурно простые эле-
менты картинки. Можно сказать, строительные единицы: границы, штрихи, отрезки, кон-
трасты. Повыше – уже устойчивые комбинации элементов первого уровня, и так далее
вверх по цепочке. Это является главной особенностью глубокого обучения: сети сами
формируют эти элементы и решают, какие из них более важные, а какие – нет. Это важно,
так как в области машинного обучения процесс создания признаков является ключевым и
особенно важным, когда компьютер сам выделяет иерархию информативных признаков
[11].
Рис. 8. Структуры кНС
https://ru.wikipedia.org/wiki/%D0%9C%D0%BE%D0%B4%D0%BD%D1%8B%D0%B5_%D1%81%D0%BB%D0%BE%D0%B2%D0%B0
https://ru.wikipedia.org/wiki/%D0%98%D1%81%D0%BA%D1%83%D1%81%D1%81%D1%82%D0%B2%D0%B5%D0%BD%D0%BD%D0%B0%D1%8F_%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%BD%D0%BD%D0%B0%D1%8F_%D1%81%D0%B5%D1%82%D1%8C
ISSN 1028-9763. Математичні машини і системи, 2017, № 4 175
В процессе глубинного обучения нужно «скармливать» сотни тысяч, миллионы
изображений, пока весовые коэффициенты входных данных не будут настроены так точно,
что правильный ответ будет выдаваться практически каждый раз. Такой процесс требует
применения значительных вычислительных мощностей.
После того, как такая сеть обучилась, еѐ можно использовать для классификации.
Подав на вход какое-то изображение, группы нейронов первого слоя пробегаются по изоб-
ражению, активируясь в тех местах, где есть соответствующий конкретному элементу
элемент картинки. То есть эта сеть разбирает картинку на части: сначала на черточки,
штрихи, углы наклона, потом более сложные части и в конце она приходит к выводу, что
картинка из такого рода комбинации базовых элементов – это лицо. На рис. 10 приведена
демонстрация признаков трех уровней. В промышленном применении такие сети имеют от
10 до 30 уровней.
Кстати, в нейроподобных растущих сетях, о которых речь пойдет ниже, процесс
выделения информативных признаков осуществляется значительно проще и естественней,
по аналогии с процессом восприятия информации человеком, не требуя больших вычисли-
тельных мощностей.
2.3. Нейроподобные растущие сети
Полной противоположностью классическим нейронным сетям являются нейроподобные
растущие сети (н-РС), которые по своей структуре и функционированию близки к биоло-
гическим нейронным сетям.
Нейроподобные растущие сети (н-РС) – новый тип нейронных сетей, включающий
в себя следующие классы: многосвязные (рецепторные) нейроподобные растущие сети
(мн-РС); многосвязные (рецепторные) многомерные нейроподобные растущие сети (ммн-
РС); рецепторно-эффекторные нейроподобные растущие сети (рэн-РС); многомерные ре-
цепторно-эффекторные нейроподобные растущие сети (мрэн-РС), многосвязные много-
мерные рецепторно-эффекторные нейроподобные растущие сети (ммрэн-РС) [12–16].
Н-РС описываются в виде направленного графа, где нейроподобные элементы
представляются его вершинами, а связи между элементами его ребрами. Таким образом,
Рис. 9. Структура сверточной сети
Рис. 10. Демонстрация признаков различных уровней
176 ISSN 1028-9763. Математичні машини і системи, 2017, № 4
сеть представляет собой распараллеленную динамическую систему с топологией направ-
ленного графа, которая выполняет переработку информации посредством изменения свое-
го состояния и структуры в ответ на воздействия внешней среды.
Нейроподобной растущей сетью называется совокупность взаимосвязанных
нейроподобных элементов, предназначенных для приема и преобразования информации в
процессе взаимодействия с объектами реального мира, причем в процессе приема инфор-
мации сеть изменяет свою структуру, увеличивается в размерах, растет. Нейроподобная
растущая сеть – это распараллеленная динамическая система с топологией направленного
ациклического графа, которая выполняет переработку информации посредством измене-
ния своего состояния и структуры в ответ на воздействия внешней среды.
Многосвязными многомерными рецепторно-эффекторными нейроподобными рас-
тущими сетями называется множество взаимосвязанных двухсторонних ациклических
графов, описывающих состояние объекта и вырабатываемые им действия в различных ин-
формационных пространствах.
Многосвязная многомерная рецепторно-эффекторная нейроподобная растущая сеть
представляется графом (рис. 11) и формально описывается следующим образом.
S = (R, Ar, Dr, Pr, Mr, Nr, E, Ae, De, Pe, Me, Ne ), где R Rv, Rs, Rt , Ar Av, As, At, Dr Dv, Ds,
Dt, Pr Pv, Ps, Pt, Mr Mv, Ms, Mt, Nr Nv, Ns, Nt, E Er, Ed1, Edn, Ae Ar, Ad1, Adn, De
Dr, Dd1, Ddn, Pe Pr, Pd1, Pdn, Me Mr, Md1, Mdn, Ne Nr, Nd1, Ndn, здесь: Rv ,Rs ,Rt – конеч-
ное подмножество рецепторов множества R; Av,As ,At – конечное подмножество множества
Ar нейроподобных элементов рецепторной зоны, принадлежащих, например, визуальному
v, звуковому s, тактильному t информационным пространствам; Dv ,Ds ,Dt – конечное под-
множество дуг множества Dr рецепторной зоны; Pv, Ps, Pt – конечное подмножество мно-
жества Pr порогов возбуждения нейроподобных элементов рецепторной зоны; Nv , Ns , Nt –
конечное подмножество множества Nr переменных коэффициентов связности рецепторной
зоны; Er, Ed1, Edn – конечное подмножество множества E эффекторов, принадлежащих,
Рис. 11. Многосвязная многомерная рецепторно-эффекторная
нейроподобная растущая сеть
Рецепторная
зона
Эффекторная
зона
Тактильное ин-
формационное
пространство
Звуковое инфор-
мационное про-
странство
Визуальное ин-
формационное
пространство
Р е ц е п т о р ы
S = (R, Ar, Dr , Pr, Mr, Nr, E, Ae, De, Pe,
Me, Ne )
Э ф ф е к т о р ы
ISSN 1028-9763. Математичні машини і системи, 2017, № 4 177
например, речевому информационному пространству r и пространству действий – d1,dn; Ar,
Ad1, Adn – конечное подмножество множества Ae нейроподобных элементов эффекторной
зоны; Dr, Dd1, Ddn – конечное подмножество дуг множества De эффекторной зоны; Pr, Pd1,
Pdn – конечное подмножество множества Pe порогов возбуждения нейроподобных элемен-
тов эффекторной зоны; Nr, Nd1, Ndn – конечное подмножество множества Ne переменных
коэффициентов связности эффекторной зоны.
Нейроподобные растущие сети являются динамической структурой, которая изме-
няется в зависимости от значения и времени поступления информации на рецепторы, ин-
формационных пространств (например, визуального, звукового, тактильного и пр.), а так-
же предыдущего состояния сети. В ней информация об объектах и ситуациях представля-
ется ансамблями возбужденных нейроподобных элементов и связями между ними. При-
чем, воспринимаемый объект или ситуация одновременно описывается и запоминается в
различных информационных пространствах. Запоминание описаний объектов и ситуаций
сопровождается вводом в сеть новых нейроподобных элементов и связей при переходе ка-
кой-либо группы рецепторов и нейроподобных элементов в состояние возбуждения. Про-
цесс возбуждения волнообразно распространяется по сети.
Весьма важным фактором отличия н-РС от классических нейронных сетей является
то, что их структура формируется, растет и перестраивается в зависимости от информации,
поступающей на рецепторы н-РС, так же, как и в биологических сетях (рис. 12). Причем
структура сети многомерная (одновременно на рецепторы каждого измерения поступает
визуальная, звуковая, тактильная и пр. информация).
Многосвязные многомерные рецепторно-эффекторные нейроподобные растущие
сети представляют собой структуру, в которой возможны формирование безусловных ре-
флексов и процесс образования условных рефлексов, а также соблюдается принцип един-
ства процессов анализа и синтеза в составе рефлекторной реакции. При разработке робота
в нейронной сети его ЭМ формируются основные безусловные рефлексы. На базе без-
условных рефлексов робот в процессе своего жизненного цикла, приобретая условные ре-
флексы, обучается и совершенствуется.
Обучение осуществляется при восприятии информации и формировании сети (про-
растание связей, подключение и введение в возбужденное состояние новых нейроподоб-
ных элементов). При обучении сети отсутствуют обучающие правила и обучающие выбор-
ки.
Рис. 12. Формирование структуры н-РС
178 ISSN 1028-9763. Математичні машини і системи, 2017, № 4
В нейроподобных растущих сетях
процесс создания информативных призна-
ков осуществляется при восприятии инфор-
мации по аналогии с процессом восприятия
информации человеком. На рис. 13 показа-
но: при восприятии символьной информа-
ции на первом уровне сети осуществляются
анализ (выделение главных признаков букв)
и затем синтез букв, на втором уровне ана-
лиз слов и затем синтез и далее анализ и
синтез фраз, затем предложений и т.д.
Робот или интеллектуальная система
обучается решению различных задач, возни-
кающих в процессе жизненного цикла (уви-
дел или услышал – запомнил и выполнил
соответствующее действие, увидел или
услышал – узнал и выполнил соответству-
ющее действие, не узнал – запомнил и вы-
полнил соответствующее действие). Причем
обучение и функционирование робота может осуществляться как на сознательном уровне
(возбуждение нейроподобных элементов высокое), так и на подсознательном уровне (воз-
буждение нейроподобных элементов среднее). Уровень бессознательного состояния – воз-
буждение нейроподобных элементов низкое и недостаточное для возбуждения двигатель-
ных реакций. Робот находится в бессознательном состоянии.
3. Уничтожат ли человечество умные роботы?
Как утверждает Т. Черниговская, «Власти над мозгом мы не имеем, он принимает решение
сам». Или может быть под чьим-то воздействием. Известно, что человек может находиться
в сознательном активном состоянии и бессознательном неактивном состоянии. Известно
также, что есть люди, которые могут ввести человека в состояние сна или внушить ему
команды на исполнение определенных действий. Это значит, что существуют поля, с по-
мощью которых информация передается от одного человека к другому, осуществляя воз-
действие на нейронные области его мозга. И если у человека есть создатель, то он, есте-
ственно, может управлять поведением человека и определять его судьбу.
Роботы, созданные на базе н-РС, могут управляться дистанционно путем воздей-
ствия на уровни возбуждения нейроподобных элементов ЭМ роботов. Воздействуя на раз-
личные области ЭМ робота, можно ввести его в состояние сна или внушить ему команды
на исполнение определенных действий. Перевод нейроподобных элементов ЭМ на уровень
низкого возбуждения приведет к введению роботов в бессознательное состояние.
Таким образом, роботы, находясь под воздействием внешних полей, созданных че-
ловеком, не могут выйти из повиновения. В случае поломки и неадекватного поведения
робота его необходимо будет лечить, то есть исправлять неисправность. Для этого при раз-
работке робота необходимо снабдить его точками контроля состояния робота. Аналогично
акупунтурным точкам человека.
4. Выводы
Относительно восстания роботов и войны роботов против человека можно не беспокоить-
ся. Вряд ли роботы восстанут и уничтожат человечество. Уничтожить человечество может
само человечество, если не научится договариваться между собой.
Рис. 13. Процесс выделения
информативных признаков
ISSN 1028-9763. Математичні машини і системи, 2017, № 4 179
СПИСОК ЛИТЕРАТУРЫ
1. [Електронний ресурс]. – Режим доступу: http://nv.ua/opinion/tkachenko_h/iskusstvennyj-intellekt-i-
chelovechestvo-2201052.html.
2. [Електронний ресурс]. – Режим доступу: https://ru.wikipedia.org/wiki/София(робот).
3. [Електронний ресурс]. – Режим доступу: http://novostiua.net/techniks/98342-fizik-stiven-hoking-
opasaetsya-chto-iskusstvennyy-intellekt-smozhet-zamenit-lyudey.html.
4. [Електронний ресурс]. – Режим доступу: http://s30659950696.mirtesen.ru/blog/43489526009/6-
vpechatlyayuschih-voennyih-robotov#42482643462.
5. [Електронний ресурс]. – Режим доступу: https://geometria.ru/blogs/technology/61495.
6. [Електронний ресурс]. – Режим доступу: https://news.rambler.ru/other/38368334-voennye-novosti-
iskusstvennyy-intellekt-voyna-i-kitay/?updated.
7. [Електронний ресурс]. – Режим доступу: http://www.vladtime.ru/nauka/611161.
8. [Електронний ресурс]. – Режим доступу: https://snob.ru/selected/entry/12358.
9. [Електронний ресурс]. – Режим доступу: http://www.intuit.ru/studies/courses/6/6/
lecture/178?page=4.
10. Глубокое обучение [Електронний ресурс]. – Режим доступу: https://ru.wikipedia.org/wiki/.
11. [Електронний ресурс]. – Режим доступу: https://iwtkl.livejournal.com/17828.html.
12. Ященко В.А. Рецепторно-эффекторные нейроподобные растущие сети – эффективное средство
моделирования интеллекта. I / В.А. Ященко // Кибернетика и системный анализ. – 1995. – № 4. –
С. 54 – 62.
13. Ященко В.А. Рецепторно-эффекторные нейроподобные растущие сети – эффективное средство
моделирования интеллекта. II / В.А. Ященко // Кибернетика и системный анализ. – 1995. – № 5. –
С. 94 – 102.
14. Yashchenko V.A. Receptor-effector neural-like growing network – an efficient tool for building intel-
ligence systems / V.A. Yashchenko // Proc. of the second international conference on information fusion
(California, July 6–8 1999). – Sunnyvale Hilton Inn, Sunnyvale, California, USA, 1999. – Vol. II. –
Р. 1113 – 1118.
15. Yashchenko V. Multidimensional neural-like growing networks – a new type of neural networks /
V. Yashchenko // International Journal of Advanced Computer Science and Applications (IJACSA). –
2015. – Vol. 6, N 4. – P. 48 – 50.
16. Yashchenko V. The «electronic brain» of the development of intelligent computer systems and robots /
V. Yashchenko // The 3rd Qingdao International Technology Transfer Conference & US Innovative En-
terprise Technology Negotiation Meeting. – Project Book, 2016. – P. 44.
Стаття надійшла до редакції 23.11.2017
http://nv.ua/opinion/tkachenko_h/iskusstvennyj-intellekt-i-chelovechestvo-2201052.html
http://nv.ua/opinion/tkachenko_h/iskusstvennyj-intellekt-i-chelovechestvo-2201052.html
https://ru.wikipedia.org/wiki/София(робот)
http://novostiua.net/techniks/98342-fizik-stiven-hoking-opasaetsya-chto-iskusstvennyy-intellekt-smozhet-zamenit-lyudey.html
http://novostiua.net/techniks/98342-fizik-stiven-hoking-opasaetsya-chto-iskusstvennyy-intellekt-smozhet-zamenit-lyudey.html
http://s30659950696.mirtesen.ru/blog/43489526009/6-vpechatlyayuschih-voennyih-robotov#42482643462
http://s30659950696.mirtesen.ru/blog/43489526009/6-vpechatlyayuschih-voennyih-robotov#42482643462
https://geometria.ru/blogs/technology/61495
https://news.rambler.ru/other/38368334-voennye-novosti-iskusstvennyy-intellekt-voyna-i-kitay/?update
https://news.rambler.ru/other/38368334-voennye-novosti-iskusstvennyy-intellekt-voyna-i-kitay/?update
https://news.rambler.ru/other/38368334-voennye-novosti-iskusstvennyy-intellekt-voyna-i-kitay/?updated
http://www.vladtime.ru/nauka/611161
https://snob.ru/selected/entry/12358
http://www.intuit.ru/studies/courses/6/6/%20lecture/178?page=4
http://www.intuit.ru/studies/courses/6/6/%20lecture/178?page=4
https://ru.wikipedia.org/wiki/
https://iwtkl.livejournal.com/17828.html
|
| id | nasplib_isofts_kiev_ua-123456789-131997 |
| institution | Digital Library of Periodicals of National Academy of Sciences of Ukraine |
| issn | 1028-9763 |
| language | Russian |
| last_indexed | 2025-12-07T13:33:02Z |
| publishDate | 2017 |
| publisher | Інститут проблем математичних машин і систем НАН України |
| record_format | dspace |
| spelling | Ященко, В.А 2018-04-08T14:33:45Z 2018-04-08T14:33:45Z 2017 Уничтожат ли человечество умные роботы? / В.А. Ященко // Математичні машини і системи. — 2017. — № 4. — С. 169-179. — Бібліогр.: 16 назв. — рос. 1028-9763 https://nasplib.isofts.kiev.ua/handle/123456789/131997 681.3 В статье рассматривается вопрос о возможности уничтожения человечества умными роботами. Показана возможность дистанционного введения в бессознательное состояние умных роботов, электронный мозг которых будет создаваться на базе нейроподобных растущих сетей аналогично тому, как мозг человека, изучая себя, не может понять, как он функционирует. Электронный мозг робота встретится с трудностями познания самого себя. В то время, как его создатель – человек, зная его устройство, сможет управлять его поступками и при необходимости вводить в пассивное состояние. У статті розглядається питання щодо можливості знищення людства розумними роботами. Показана можливість дистанційного введення в несвідомий стан розумних роботів, електронний мозок яких буде створюватися на базі нейроподібних зростаючих мереж аналогічно тому, як мозок людини, вивчаючи себе, не може зрозуміти, як він функціонує. Електронний мозок робота зустрінеться з труднощами пізнання самого себе. У той час, як його творець – людина, знаючи його пристрій, зможе управляти його вчинками і при необхідності вводити в пасивний стан. The article deals with the question of possibility of human race destruction by intelligent robots. The possibility of remote introduction into the unconscious state of intelligent robots is shown, the electronic brain of which will be created on the basis of neural-like growing networks. Just as the human brain, studying itself, cannot understand how it functions. And the electronic brain of the robot will face with the difficulties of knowing itself. While its creator – a person, knowing his device, will be able to control his actions and, if necessary, introduce into a passive state. ru Інститут проблем математичних машин і систем НАН України Математичні машини і системи Дискусійні повідомлення Уничтожат ли человечество умные роботы? Чи знищать людство розумні роботи? Will intelligent robots destroy the human race? Article published earlier |
| spellingShingle | Уничтожат ли человечество умные роботы? Ященко, В.А Дискусійні повідомлення |
| title | Уничтожат ли человечество умные роботы? |
| title_alt | Чи знищать людство розумні роботи? Will intelligent robots destroy the human race? |
| title_full | Уничтожат ли человечество умные роботы? |
| title_fullStr | Уничтожат ли человечество умные роботы? |
| title_full_unstemmed | Уничтожат ли человечество умные роботы? |
| title_short | Уничтожат ли человечество умные роботы? |
| title_sort | уничтожат ли человечество умные роботы? |
| topic | Дискусійні повідомлення |
| topic_facet | Дискусійні повідомлення |
| url | https://nasplib.isofts.kiev.ua/handle/123456789/131997 |
| work_keys_str_mv | AT âŝenkova uničtožatličelovečestvoumnyeroboty AT âŝenkova čizniŝatʹlûdstvorozumníroboti AT âŝenkova willintelligentrobotsdestroythehumanrace |