Нейронные сети: история развития и перспективы применения

Библиографическое описание статьи для цитирования:
Кулянин Е. М. Нейронные сети: история развития и перспективы применения // Научно-методический электронный журнал «Концепт». – 2015. – Т. 13. – С. 2646–2650. – URL: http://e-koncept.ru/2015/85530.htm.
Аннотация. В статье рассматриваются основные этапы развития нейросетевых технологий, анализируется современное состояние вопроса, приводятся варианты использования технологий искусственных нейронных сетей, а также прогнозируется дальнейшее развитие науки в данном направлении.
Комментарии
Нет комментариев
Оставить комментарий
Войдите или зарегистрируйтесь, чтобы комментировать.
Текст статьи
Кулянин Евгений Михайлович,студент третьего курса Филиала ФГБОУ ВПО Самарский государственный технический университет в г. Сызрани, г. Сызраньkulyanin@outlook.com

Научный руководитель: кандидат педагогическихнаук, доцент кафедры информатики и систем управления Крайнова Екатерина Анатольевна

Нейронные сети: история развития и перспективы применения

Аннотация.В статье рассматриваются основные этапы развития нейросетевыхтехнологий, анализируется современное состояние вопроса, приводятся варианты использования технологий искусственных нейронных сетей, а также прогнозируется дальнейшее развитие науки в данномнаправлении.Ключевые слова:искусственный интеллект, нейронные сети, IBM, перцептрон, нейросетевые технологии.

Кинокартина Джеймса Кэмерона «Терминатор», мировая премьера которой состоялась26 октября 1986 года, была встречена зрителямис восторгом. Описанный в фильме уровеньтехнологическогоразвития казался научной фантастикой. Лишь немногиев самых смелых своих фантазияхмогливообразить, что человечество сможет приблизиться к нему, а машины и компьютеры когданибудь смогут мыслить как человек. Многим и сегодня симбиоз техники и человеческой нервной системыкажется недостижимым.Вместе с тем, ученые уже давно ведут исследования в области нейросетевых технологий.Начало было положено еще в 40х годах XX века.Как научное направление,теория искусственных нейронных сетей(ИНС)была обозначена в классической работе Уоррена МакКаллока и Уолтера Питтса, заложившей основы двух направлений исследований нейронных сетей (НС)[1]. Первый был ориентирован на изучение биологических процессов в головном мозге, второй –на применениеНСдля создания искусственного интеллекта.В конце 40х годовДональдХебб выдвинул свою теорию обучения ИНС[2]на основе механизма нейронной пластичности[3], впоследствии нашедшую применение в работе вычислительных моделей вмашинахАлана Тьюринга.В 1962 годуамериканский ученый Фрэнк Розенблатт для решения проблемы классификации символов предложил использовать особый тип ИНС, который получил название«Перцептрон»[4].Иуже в 1958 годуим же был создан первый нейрокомпьютер «Марк1»на основе перцептрона.Но и советские ученые не стояли на месте. Так, в 60х годахАлександр Петров и Михаил Бонгард начали заниматься изучением перцептрона, конкретно задач, которые он не был способен решить[5]. А в 1969 годууже американские ученыеМарвин Ли Минскии Сеймур Папертопубликовалидоказательство того, что возможности перцептрона имеют существенные ограничения[6]. После появления этой работы большинство исследования в области ИНС были приостановлены на полтора десятилетия[7].Однако в1982 годуамериканец Джон Джозеф Хопфилдсумел достичь двусторонней передачи информации между нейронамииизобрел ассоциативную нейронную сеть[8].Специализация узлов, предложенная Хопфилдом, позже нашлаприменение в первых гибридных нейронных сетях.С середины 80х годовтеория нейронных сетейполучила «технологический импульс», вызванный появлением новых доступных и высокопроизводительных персональных компьютеров.Самых значительных достижений в данном вопросе достигла американская компания IBM(англ. International Business Machines). Первые результаты исследований были продемонстрированы14 ноября 2009 года. Компанияпредставила на суд общественности успешно смоделированныймозгкошки. Правда,следует отметить, что тогда егоработа была в 643 раза медленнее реального времени[9].Следующей вехой в развитии ИНС можно считать 18августа 2011 года, когда IBMсоздали передовой на тот момент нейронный процессор, которыйсодержал256 нейронов и 262144синапсов[10].15 ноября 2012 г. на конференции «Supercomputing 2012» этой компанией были продемонстрированы итоги долгой работы надсимуляциейнейрокомпьютера, который можно было бы сопоставитьс мозгом человека(он «состоял» из 530 миллиардов нейронов и 137 триллионов синапсов).Эта симуляция, осуществлявшаясянабазе суперкомпьютера «Sequoia»,проводиласьв 1542 раза медленнее реального времени, в процессе работыбыли задействованы 1572864 ядер и 1,5 петабайта памяти[11].7августа 2014 г. произошло знаковое событие для научнотехнического сообщества:компания IBMв рамках программы SyNAPSE (англ. Systems of Neuromorphic Adaptive Plastic Scalable Electronics; рус. Системы Нейроморфической Адаптивной Пластически Масштабируемой Электроники)представила нейросинаптический процессор для архитектуры TrueNorth. На сегодняшний день это

последняя обнародованная разработка в данном направлении[12].Вот каких результатов удалось достичь разработчикам IBM: TrueNorth насчитывает 1 миллион программируемых нейронов, объединенных в 4096 нейросинаптических вычислительных ядер,256 миллионов синапсови имеет колоссальное числотранзисторов –5,4 миллиарда, что является рекордным количеством для чипов,основанных на традиционной CMOSлогике (англ. CMOS, complementary metaloxidesemiconductor; рус. КМОП, комплементарная структура металлоксидполупроводник).Таким образом, всего за три года был совершен скачок от 256 нейронов и 262144 синапсов до 1 миллиона и 256 миллионов соответственно[13].Разработанный процессор соответствует всем главным признакам и особенностям нейросетей:в процессе своей работы онспособен самообучаться, анализировать и приходить разнымипутями крешениюнестандартных или нечетко сформулированных задач.Отдельного рассмотрения заслуживает описание режима энергопотребления TrueNorth. IBMудалось достичь в этом направлении значительных результатов:во время работы в режиме реального времени потребляемая мощностьсоставила всего 70 МВт, что на несколько порядков меньше затрат энергии, требующейся процессорамтрадиционной архитектуры.При этом производительность нового чипа составляет 46 миллиардов синаптических операций в секунду на один ватт[14].Для сравнения: человеческий мозг насчитывает более85миллиардов нейронов и более 100триллионов синапсов[15].Теоретически,имея 85тысячпроцессоровTrueNorth, можно воссоздать человеческий мозг. Безусловно, такой опыт позволит современной науке вплотную приблизиться к пониманию одной из величайших загадок современности –человеческомусознанию.Подобный технический прорывоткрывает современной наукецелый ряд значимых перспектив как в нейробиологии, так и в кибернетике. Область применения таких чиповкрайне широка.Вопервых, быстродействие и малое энергопотреблениенового чипа могут привести к прорыву в области протезирования. Особенности процессоратаковы, что он может бытьсвязующим звеном межу нервной системой человека и узлом механического протеза.Таким образом,протез будет приводиться в движение, получая команды непосредственно от головного мозга человека.Прототипы таких устройств уже сегодня успешно проходят апробацию [16].Кроме того, использование данной технологии позволит в будущем создавать устройства, способныезаменить человеку органы чувств, например,зрение или слух, алюди, которые не имели возможности видеть и слышать,получат возможность вести полноценную жизнь[17].Вовторых, их можно использовать в робототехникеи системах распознавания объектов. Благодаря особенностямчипа, в видеоаналитикероботам и другим устройствам больше не будут требоваться лидары (устройства для определения дальности и светового обнаружения), им будет достаточно всего нескольких камер с таким процессором. На сегодняшний день распознаваниеобъектов

весьма сложная задача для современных компьютеров. Для обработки информации и распознавания изображения требуется более тысячимощных компьютеров.Вто время как для решения этой же задачи было бы достаточно лишь одного чипа TrueNorth[18].Втретьих, распознавать можно не только изображения, текст и объекты, но такжезапахи,звукии даже иные физические или химические процессы, неощущаемые человеческимиорганамичувств. Данный процессор можно использовать на предприятиях для мониторинга, например, уровнявредных веществ в рабочей среде.Внедрение данной технологии можетсущественно повыситьбезопасность производства и качество охраны труда, особенно на предприятиях химическойи энергетическойпромышленности. Более того, его можно использовать для слежения за уровнем загазованности в городах, что существенно снизит риск техногенных катастроф[19].Конечно, IBM не единственная компания, занимающаяся исследованиями в данном направлении. Определенный прогресс в последние десятилетия был достигнут в области разработки моделирующего программного обеспечения. Сегодня широко известны такие программы,как NeuralWorksProfessionalIIPlus, MatlabNeuralNetworkToolbox, NeuroShell2.0., ExploreNet3000 и др. Но прорыв, сделанный IBM, способен привлечь внимание ученых к конструированию именно аппаратного обеспечения. Косвенно о перспективах подобного рода исследований свидетельствует интерес инвесторов.Так,например,ряд компаний инвестировали более 10 миллионов долларов вразработку робота,в основу которого взяты нейросети[20].Обзор был бы неполон без анализа выявленных недостатков.Конечно же, на первом месте стоитпрограммная сторона вопроса.Обусловлено это тем, что,вотличиеот современных процессоров архитектуры фон Неймана,выполняющие процессы в строгой линейной последовательности,программирование нейропроцессоровотличается коренным образом итребует программного решения к каждому синапсу, а в TrueNorth их 256 миллионов, чтоявляется крайне сложной задачей.Для рационализацииданной проблемы, IBM разработали новый интегрируемый язык программирования и библиотеку готовых частей кода[21], чтосущественно увеличит производительность труда программистов, а также ускорит поиск решений поставленных задач.На втором месте стоитаппаратная сторона вопроса:высокая стоимость оборудования, затрудняющая массовое производство уже существующих прототипов, к которымтакжеотносится и TrueNorth.Существуют идругиепроблемные моменты. Например, недостатком является необходимость проводить предварительную обработку данных, то есть масштабировать их в определенный диапазон и проводить стандартизацию. Кроме того, в случае большой обучающей выборки, затраты по времени на процесс обучения сети могут быть весьма ощутимыми. Впрочем, несмотря на все временные затраты, ИНС часто являются единственным механизмом решения задач.Очевидно, именно решению этих проблем будут посвящены усилия разработчиков в ближайшее время.Таким образом, резюмируя всевышесказанное,можно с уверенностью сказать, что человечество идет семимильными шагами кимитации разума и искусственному интеллекту, а также к построению сложных конструкций, позволяющих симбиотическисоединятьнервнуюсистемучеловека и машины. И то, что в 86ом годуказалось научной фантастикой, сегодня обретает всеболее зримые очертания. И создание робота Т800и «Скайнет» может произойти вближайшее десятилетие.А случится ли восстание машин –это зависит только от человека. И не стоит забывать о трех законахробототехники...

Ссылки на источники1.Mc Culloch W. С. H. A Logical Calculus of Ideas Immanent in Nervous Activity. / W. С. Mc Culloch, W. H. Pitts. // Bulletin of Mathematical Biophysics. –1943. –Vol. 5. –P. 115–119.2.Hebb D. O. A Neuropsychological Theory. In Psychology: A Study of a Science. –Vol. 1. / Edited by Sigmund Koch. –New York: McGrawHill, 1959. –846 p.3.ОсовскийС. Нейронные сети для обработки информации. / С. Осовский. –М.: Финансы и статистика, 2002. –C. 21.4.Розенблатт Ф. Принципы нейродинамики: Перцептроны и теория механизмов мозга. / Ф. Розенблатт. –М.: Мир, 1965. –480 с.5.Петров А. П. О возможностях перцептрона. / А. П. Петров. // Известия АН СССР, Техническая кибернетика. –1964. –№6.6.Минский М. Персептроны = Perceptrons. / М. Минский, С. Пейперт. –М.: Мир, 1971. –261 с.7.Аксенов С. В. Организация и использование нейронных сетей (методы и технологии) / С. В. Аксенов, В. Б. Новосельцев ; под общ. ред. В. Б. Новосельцева. –Томск : Издво НТЛ, 2006. –С.5.8.Hopfield J. J.Neural networks and physical systems with emergent collective computational abilities. / J. J.Hopfield. // Proceedings of National Academy of Sciences. –April.1982. –Vol. 79. –P. 2554–2558.9.IBM achieves accurate brain simulation // Electronic Engineering Times. [Электронный ресурс] URL: http://www.eetimes.com/document.asp?doc_id=1172387(дата обращения 28.02.2015).10.DARPA SyNAPSE Program // Artificial Brains: The quest of build sentient machines [Электронныйресурс] URL:http://www.artificialbrains.com/darpasynapseprogram(датаобращения28.02.2015).11.Там же.12.Robert F. Service. A million spikingneuron integrated circuit with a scalable communication network and interface // Science. 8 August 2014.–Vol. 345. –No. 6197. –P. 668–673.13.Brain Power: A braininspired chip to transform mobility and Internet of Things through sensory perception. // The official website of IBM Corporation: IBM Research. [Электронный ресурс] URL: http://www.research.ibm.com/cognitivecomputing/neurosynapticchips.shtml#fbid=qCb_EakR1OO(дата обращения 28.02.2015).14.Там же.15.Аксенов С. В. Указ. соч.–С. 4.16.Нейрокомпьютерный симбиоз: Движение силой мысли // Официальный сайт Инновационного центра «Сколково».[Электронный ресурс] URL: http://sk.ru/news/b/press/archive/2013/03/22/neyrokompyuternyysimbiozdvizheniesiloymysli.aspx(дата обращения 28.02.2015).17.Collinger J. L. et al. Highperformance neuroprosthetic control by an individual with tetraplegia // The Lancet.–2012.–№ 6736(12).–P. 61816–61819.18.Neurosynaptic systems: Building applications for cognitive computers. // The official website of IBM Corporation: IBM Research. [Электронный ресурс] URL: http://www.research.ibm.com/cognitivecomputing/neurosynapticchips.shtml#fbid=qCb_EakR1OO(дата обращения 28.02.2015).19.Круг П. Г. Нейронные сети и нейрокомпьютеры. / П. Г. Круг. –М: Издво МЭИ., 2002. –C. 25.20.ABB Follows MarkZuckerberg Investing in Artificial Intelligence// The official website of Bloomberg Company [Электронныйресурс] URL: http://www.bloomberg.com/news/articles/20141106/abbfollowsmarkzuckerberginvestinginartificialintelligence(датаобращения28.02.2015).21.Introducing a Braininspired Computer: TrueNorth's neurons to revolutionize system architecture. // The official website of IBM Corporation: IBM Research. [Электронный ресурс] URL: http://www.research.ibm.com/articles/brainchip.shtml(дата обращения 28.02.2015).