Ответственность ученых за создание искусственного интеллекта
ART 86231
Авторы:
А.
М. Бабаев, М.
А. Шемякина
А.
М. Бабаев, М.
А. Шемякина Библиографическое описание статьи для цитирования:
Бабаев
А.
М.,
Шемякина
М.
А. Ответственность ученых за создание искусственного интеллекта // Научно-методический электронный журнал «Концепт». –
2016. – Т. 11. – С.
1071–1075. – URL:
http://e-koncept.ru/2016/86231.htm.
Аннотация. В данной статье рассмотрена проблема ответственности ученых за создание искусственного интеллекта. Здесь излагаются взгляды на возможные последствия этого научного изобретения, как пессимистичные, так и оптимистичные; проанализированы возможные пути предотвращения пессимистического исхода развития событий.
Текст статьи
Бабаев Андрей Михайлович,Студент, Донской государственныйтехнический университет,Институт сферы обслуживания и предпринимательства (филиал) в г. ШахтыРостовской областиbabaev.andrei2011@gmail.com
Шемякина Марина Андреевна,Студент, Донской государственный технический университет, Институт сферы обслуживания и предпринимательства (филиал) в г. Шахты Ростовской областиshemyakina.marina97@gmail.com
Ответственность ученых за создание искусственного интеллекта
Аннотация.В данной статье рассмотрена проблема ответственности ученых за создание искусственного интеллекта. Здесь излагаются взгляды на возможные последствия этого научного изобретения: как пессимистичные, так и оптимистичные;проанализированывозможные пути предотвращения пессимистического исходаразвития событий. Ключевые слова:ответственность, искусственный интеллект, самообучение, последствия.
Ответственность… Пожалуй,это слово человечество знает очень давно. Каждый день каждый человек совершает поступки,за которые должен ее нести. Именно ответственность это один из важнейших факторов,позволяющих контролировать общество.Ответственность может бытьличной, групповой, уголовной, административной, ответственность родителей перед обществом, своим ребенком.Но во второй половине XXвекас быстрым скачкомв науке и техники и последующим применениемэтих открытий в немирных целях человечество задумалось:должны ли ученые нести ответственность за свои открытия и их дальнейшее использование. Несут ли ответственность Мария СкладовскаяКюри и ее муж, открывшие радий, Резерфорд,который сделал важные открытия в области изучения атомов,
Эрнест УолтониДжон Кокрофт, которыесмогли впервые расщепить ядро атома,за создание ядерного оружия. Ответственны ли они за то, что на основе их открытий Лео Силардсоздал опаснейшееоружиеXXвека. Должны ли нести ответственность такие ученные как Ампер, Фарадей, Томсон, которые положили основу для изучения электричества, зато,что на основе их открытийсоздали электрический стул. Это и есть основапроблемыэтики науки, профессиональной этики ученого.Человечество стоит на пороге нового открытия, которое возможно станет величайшим изобретением человечества изобретением искусственного интеллекта. Еще с древнейших времен люди мечтали о создании искусственного интеллекта. Впервые оегосоздании задумались Спиноза Б., Лейбниц Г.В., Декарт Р., в XVII в.. Однако сама идея ИИ(искусственный интеллект)обрела реальные черты только во второй половине XX в.Наука об искусственном интеллекте зародилась в 1943 г., когда МакКаллока и Питтс предложили математическую модель, состоящую из искусственных нейронов, заложив тем самым основы теории искусственных нейронных сетей. Позднее в 1950 г. Алан Тьюринг дал обширное понятие об искусственном интеллекте. Большой вклад в развитие искусственного интеллекта внесли такие ученые,как М. Мински, который дал основополагающие представления о машинном знании и описал механизмы человеческого мышления; математики А.Н. Колмогоров, М.А. Гиршик, А.Н. Тихонов, Л. Заде, авторы математических методов решения плохо формализованных задач и принятия решенийв условиях неопределенности; М. Сомальвико (кибернетик), А. Азимов (биохимик, писатель) основоположники интеллектуальнойробототехники. Ф. Розенблатт и М.М. Бонгард открыли проблемы распознавания образов и разработали многие интеллектуальные модели, в том числе модели распознавания и классификации.
На заре теории искусственного интеллектаее авторыстремились создать модель человеческого мозга. Данный подход характеризует слова американского философа Джона Сёрля: «Такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум это разум». Ученые хотели создать модель, которая бы обладала всеми человеческими чертами.
В настоящее время учеными разработаны несколько подходов к созданию искусственного интеллекта, наиболее перспективными из которых являются:создание компьютерной модели человеческого мозга;создание программы, которая будет способна к обучению и самообучению.Однако оба подхода встречают на своем пути значительные препятствия. При этом, несмотря на большой скачок в области развития компьютерных технологий, главной преградойявляется именно нынешнее несовершенство этих технологий.Казалось бы,данное высказывание полностью абсурдно. Ведь почему современные компьютеры, способные моделировать погоду, рассчитывать сложнейшие математические задачи, анализировать финансовую ситуацию на мировом рынке не могут выполнять простые для человека действия: понять смысл текста детской книги, дать оценку поступка человека, или хотя бы отличить изображение домашней кошки от изображения собаки? Причина в том, что эти обыденные для человека операции являются результатом сложнейших взаимодействий нейронов мозга. И пока не существует компьютера(по некоторым оценкам он будет создан только к 2025 году), который смог бы обработать модель человеческого мозга, включающего в себя свыше 86миллиардов нейронов. Для сравнения, на сегодняшний день ученым только удалось создать полностью рабочую модель мозга плоского червя, включающую всего лишь 302 нейрона. Также, в связи с недостаточно большими вычислительными мощностями современных компьютеров, процесс обучения и самообучения искусственного интеллекта займётдесятилетия, так как эта операция требует обработки огромных массивов различной информации. Тем не менее, за последние десятилетия в области изучения искусственного интеллекта был совершен ряд прорывных открытий, и на сегодняшний день человечество
уже смогло воссоздать интеллект четырёхлетнего ребенка.Ноон так и не научился испытывать чувства, эмоции, которые присущи людям.
Таким образом, человечество пока не можетсоздать то, к чему стремилисьоснователи теорииискусственного интеллекта. Между тем, предположим,ученые достигли своей цели, и искусственный разум был создан, что по самым смелым оценкам должно произойти уже к 2030 году. Как и любое изобретение, его можно будет использоватькак во благо, так и во вред. Стивен Хокинг, британскийкосмологифизиктеоретик,не зря сказал: «Когдатакойразумпоявится,этостанетлучшимилихудшимизобретениемчеловечества».Поэтому возникает новая проблема в этике науки: будут ли ученные нести ответственность за создание искусственного интеллекта и за то, как его в дальнейшем будут использовать? Или не важно, как это изобретение повлияет на жизнь человека?Для ответа на данные вопросы рассмотрим возможные последствия создания искусственного интеллекта.Сейчас все подходы к теме искусственного разума подразумевают, что в будущем искусственный интеллект получит способность к постоянному самосовершенствованию. Это означает, что созданная система с интеллектом, например, двухлетнего ребёнка сможет развивать уровень своих знаний. Постепенно, узнавая чтото новое, учась на своих ошибках, система будет проходить путь от маленького ребенка до подростка, затем от подростка до взрослого человека. Приняв во внимание постоянно растущие вычислительные мощностикомпьютеров, можно сказать, что со временем процесс такого «взросления» может занять не десятилетия, а всего лишь пару лет или даже несколько месяцев. Учитывая же тот факт, что искусственный интеллект может существовать практически вечно, то, продолжив свое обучение, он может достичь невиданных ранее высот в любой области науки. Мы сможем наблюдать, как из интеллекта с уровнем знаний обычного среднестатистического взрослого человека наша система сможет дорасти до уровня гениального ученого, а затем и до уровня так называемого «сверхразума». То есть система, которая относительно недавно решала простейшие развивающие упражнениядля детей, вскоре сможет решать сложнейшие задачииз любой области знаний, синтезировать новые научные законы и теоремы, рассчитывать и осмысливать то, о чем человек даже не могидумать. Искусственный интеллект получит практически безграничные возможности, а, возможно, и власть. С этого момента возможныдва варианта развития событий: пессимистичный и оптимистичный.
Пессимистичный вариант сосуществования человека и искусственного разума уже несколько десятилетий активно обсуждается в книгах икино. Заключается он в том, что разумные машины могут стать угрозой для всего человечества. Произойти, по мнению писателейфантастов,это может по следующим причинам:машины осознаютсвое зависимое от создателей положениеи попытаются исправить его;машины увидят в человеке своего конкурента в борьбе за выживание, например, осознают, что человек является тем, кто в любой момент может просто отключить искусственный разум, прекратив тем самым его существование.Кроме того, конфликт между людьми и разумными машинами может произойти и в результате спора за какойлибо жизненно важный ресурс. В любом случае возможен вариант, когда искусственны разум или подчинит себе человечество, лишивего независимости, или вовсе решит уничтожить людей, поставив человека на грань вымирания и реализовав тем самым весь свой апокалиптический потенциал.Но есть и другой, более оптимистичный, мирный вариант сосуществования человека и искусственного интеллекта. Ведь,действительно, осознав свое превосходство над человеком, разумные машины могут в качестве своей цели выбрать не порабощение или уничтожение человечества, а, наоборот, могут постараться помочь людям решить те проблемы и вопросы, с которыми они не смогли справиться самостоятельно. Изобретения, которые раньше появлялись только в произведениях писателей фантастов, лечение ранее неизлечимых болезней, а возможно и решение проблемы старения, управление погодой и различными природными явлениями: практически все, что раньше казалось людям магией, чемто сверхъестественным,может стать реальностью благодаря помощи со стороны разумныхмашин.Кроме того, компьютеры с искусственным интеллектоммоглибы полностью или частично заменить людей в некоторых областях человеческой деятельности.Разумеется,нужно будет учесть много разных факторов, таких как природа нравственных идеалов и принципов робота, его интерпретация понятий «справедливость», «милосердие», «сострадание», прежде чем назначить разумную машину на должности, тесно связанные с жизнью человека и общества, например, врач, военный, полицейский, политик.Однако,в перспективеразумные машины стали бы более беспристрастными судьями, руководствующимися только установленными нормами права и морали и не поддающимися никаким внешним воздействиям.Это же отмечает Котлярова В. В. в работе «Современное научное познание: парадигма интеграции»[1, с. 100].Итак, изобретение искусственного интеллекта с уровнем знаний, близким к сверхразуму, ознаменует появление на Земле существа, которое можно будет назвать богом. Но каким богом? Добрым или злым? Станет ли он величайшим открытием в человеческой истории или её концом? Все это зависит от самихлюдей, а прежде всего от ученых, которые занимаются исследованиями вданном направлении. Как говорилось ранее, уже сейчас научное сообщество серьезно обеспокоено скорым возможным появлением разумных роботов. В июле 2015 года около 20титысяч общественныхдеятелей и специалистов в области информационных технологий подписали открытое письмо, в котором создание искусственного интеллекта приравнивалось к глобальным проблемам человечества. В данном письме не отрицается возможная положительная рольискусственного разума в жизни человека в будущем. Тем не менее, подписавшиеся просят всехробототехников и ученых, специализирующихся на изучении искусственного интеллекта, обратить внимание на то, что использование искусственного разума недопустимо при разработке автономного оружия, которое может поражать нужные цели без участия человека. Несогласие с данной просьбой может нести фатальные последствия и привести человечество к самому негативному варианту сосуществования с разумными машинами. Однакодаже отказ от использования искусственного разума при производстве оружия не сможет исключить все вероятныепроблемы. Находить пути решения этих проблем необходимоуже в наши дни, ведь ученый должен «действовать в состоянии страха перед будущим»[2, с.19], следовать принципу максимальной предусмотрительности. Нужно смотреть глубже, в природу самой личности искусственного разума, а также учитывать обстановку, среду, под воздействием которой будет формироваться эта личность.По своей сути искусственный интеллект будет представлять собой невероятно сложную компьютерную программу. Поэтомунаиболее простым и очевидным способом предотвращения будущей угрозы с его стороны является введение учеными в программный код искусственного разума,еще на этапе разработки,ограничивающих алгоритмов, которые бы непозволяли разумному роботу даже задумываться над самой идеей неповиновения человеку. Так же подобныйподход можно использовать и с целью усиления отдельных сторон личности искусственного интеллекта: роботавоенного можно было бы запрограммировать на беспрекословное исполнение приказов, а для роботаврача сделать упор на чувства сострадания и милосердия. Такое решение практически устранилобы все проблемы, связанные с будущим человека иразумных машин. Но такой способ не может считаться очень надежным, так как рано или поздно может произойти такая последовательность событий, которая ввергнет разумного робота в замешательство иприведет к цепочке отклонений, так называемых «необдуманных действий».К тому жеискусственный разумпри подобном подходе потерял бы то, что люди, стоящие у истоков теории искусственного интеллекта, считали его самым главным качеством, а именно«личность», подобную человеческой. Ведь, подавляя одни стороны личностиили, наоборот, отдавая им предпочтение, создатель сильно ограничит искусственный разум в его взглядах на мир. Ученыезаранее определят, что искусственный интеллект будет представлять собойв будущем, лишив его индивидуальности и свободы выбора своего жизненного пути. Тем не менее, есть еще один довольно очевидный, но гораздо более сложный способ обеспечения мирного сосуществования людей и разумных роботов. Суть его состоит в том, что не нужно вводить какиелибо ограничения в программный код искусственного интеллекта, чтобы предотвратить его негативное отношение к создателям. Необходимо лишь сделать так, чтобы процесс становления личности искусственного интеллекта происходил в дружественной среде, которая бы привила ему те нравственные качества, которые бы не позволили искусственному интеллекту навредить своим создателям. Однако в нынешнем мире такой подход звучит как утопия. Система морали людейнесовершенна. Чтобы человечество могло подать искусственному интеллекту хороший пример, оно сначала должно исправить свои собственные ошибки и проблемы, привить себе те моральные ценности, которым впоследствии должны следовать разумные роботы. Однако пока к этому нет никаких предпосылок: уже на протяжении тысячелетий происходят войны, геноцид отдельных народов, появляются все новые и новые глобальные проблемы, решать или предотвращать которые у человечества так пока и не получается.Вышеизложенныерассуждения были посвящены ответственности ученыхперед человечеством за создание искусственного интеллекта, а также возможным вариантам сосуществования человека и искусственного интеллекта. Однако стоит заметить, что ученые будут нести ответственность за создание искусственного интеллекта не только перед обществом, но и перед самим ИИ. Ведь это будет не обычное изобретение человечества, которое не может осознать самого себя, это изобретение будет не только думать, нои чувствовать, онобудет любить. Иэта любовь будет накладывать ответственность на все человечество. Стоит задуматься не только о том, как воспримет искусственный интеллект человек, но и о том, как ИИ воспримет себя и все человечество. Что он будет чувствовать: страх, боль, неуверенность, чувство неполноценности? Что он будет думать: кто он, для чего его создали, как ему жить, где его место в жизни? И тут очень важно, чтобы искусственный интеллект получил правильное представление о мире, человечестве и о себе. Что зависит не только от ученых, но и от всего человечество. Поэтомуответственность за будущее искусственного интеллекта лежит не только на ученых, но и на военных, правительстве и всем человечестве.Именно от нас зависит, приобретёмли мы в будущем лучшего друга, который позволит нам стать лучше, илижеполучим злейшеговрага, который станет сильнейшим противникомчеловечества.
Ссылки на источники1.Котлярова В.В. Современное научное познание: парадигма интеграции // Исторические, философские, политические и юридические науки, культурология и искусствоведение. Вопросы теории и практики. 2015. № 91(59). С. 99102.2.
Котлярова В. В., Ливенцова О. А. Моральный императив в философии Г. Йонаса // Социальногуманитарные проблемы современности: сборник научных трудов. Шахты: Издво ЮРГУЭС, 2009. С. 1720.
Шемякина Марина Андреевна,Студент, Донской государственный технический университет, Институт сферы обслуживания и предпринимательства (филиал) в г. Шахты Ростовской областиshemyakina.marina97@gmail.com
Ответственность ученых за создание искусственного интеллекта
Аннотация.В данной статье рассмотрена проблема ответственности ученых за создание искусственного интеллекта. Здесь излагаются взгляды на возможные последствия этого научного изобретения: как пессимистичные, так и оптимистичные;проанализированывозможные пути предотвращения пессимистического исходаразвития событий. Ключевые слова:ответственность, искусственный интеллект, самообучение, последствия.
Ответственность… Пожалуй,это слово человечество знает очень давно. Каждый день каждый человек совершает поступки,за которые должен ее нести. Именно ответственность это один из важнейших факторов,позволяющих контролировать общество.Ответственность может бытьличной, групповой, уголовной, административной, ответственность родителей перед обществом, своим ребенком.Но во второй половине XXвекас быстрым скачкомв науке и техники и последующим применениемэтих открытий в немирных целях человечество задумалось:должны ли ученые нести ответственность за свои открытия и их дальнейшее использование. Несут ли ответственность Мария СкладовскаяКюри и ее муж, открывшие радий, Резерфорд,который сделал важные открытия в области изучения атомов,
Эрнест УолтониДжон Кокрофт, которыесмогли впервые расщепить ядро атома,за создание ядерного оружия. Ответственны ли они за то, что на основе их открытий Лео Силардсоздал опаснейшееоружиеXXвека. Должны ли нести ответственность такие ученные как Ампер, Фарадей, Томсон, которые положили основу для изучения электричества, зато,что на основе их открытийсоздали электрический стул. Это и есть основапроблемыэтики науки, профессиональной этики ученого.Человечество стоит на пороге нового открытия, которое возможно станет величайшим изобретением человечества изобретением искусственного интеллекта. Еще с древнейших времен люди мечтали о создании искусственного интеллекта. Впервые оегосоздании задумались Спиноза Б., Лейбниц Г.В., Декарт Р., в XVII в.. Однако сама идея ИИ(искусственный интеллект)обрела реальные черты только во второй половине XX в.Наука об искусственном интеллекте зародилась в 1943 г., когда МакКаллока и Питтс предложили математическую модель, состоящую из искусственных нейронов, заложив тем самым основы теории искусственных нейронных сетей. Позднее в 1950 г. Алан Тьюринг дал обширное понятие об искусственном интеллекте. Большой вклад в развитие искусственного интеллекта внесли такие ученые,как М. Мински, который дал основополагающие представления о машинном знании и описал механизмы человеческого мышления; математики А.Н. Колмогоров, М.А. Гиршик, А.Н. Тихонов, Л. Заде, авторы математических методов решения плохо формализованных задач и принятия решенийв условиях неопределенности; М. Сомальвико (кибернетик), А. Азимов (биохимик, писатель) основоположники интеллектуальнойробототехники. Ф. Розенблатт и М.М. Бонгард открыли проблемы распознавания образов и разработали многие интеллектуальные модели, в том числе модели распознавания и классификации.
На заре теории искусственного интеллектаее авторыстремились создать модель человеческого мозга. Данный подход характеризует слова американского философа Джона Сёрля: «Такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум это разум». Ученые хотели создать модель, которая бы обладала всеми человеческими чертами.
В настоящее время учеными разработаны несколько подходов к созданию искусственного интеллекта, наиболее перспективными из которых являются:создание компьютерной модели человеческого мозга;создание программы, которая будет способна к обучению и самообучению.Однако оба подхода встречают на своем пути значительные препятствия. При этом, несмотря на большой скачок в области развития компьютерных технологий, главной преградойявляется именно нынешнее несовершенство этих технологий.Казалось бы,данное высказывание полностью абсурдно. Ведь почему современные компьютеры, способные моделировать погоду, рассчитывать сложнейшие математические задачи, анализировать финансовую ситуацию на мировом рынке не могут выполнять простые для человека действия: понять смысл текста детской книги, дать оценку поступка человека, или хотя бы отличить изображение домашней кошки от изображения собаки? Причина в том, что эти обыденные для человека операции являются результатом сложнейших взаимодействий нейронов мозга. И пока не существует компьютера(по некоторым оценкам он будет создан только к 2025 году), который смог бы обработать модель человеческого мозга, включающего в себя свыше 86миллиардов нейронов. Для сравнения, на сегодняшний день ученым только удалось создать полностью рабочую модель мозга плоского червя, включающую всего лишь 302 нейрона. Также, в связи с недостаточно большими вычислительными мощностями современных компьютеров, процесс обучения и самообучения искусственного интеллекта займётдесятилетия, так как эта операция требует обработки огромных массивов различной информации. Тем не менее, за последние десятилетия в области изучения искусственного интеллекта был совершен ряд прорывных открытий, и на сегодняшний день человечество
уже смогло воссоздать интеллект четырёхлетнего ребенка.Ноон так и не научился испытывать чувства, эмоции, которые присущи людям.
Таким образом, человечество пока не можетсоздать то, к чему стремилисьоснователи теорииискусственного интеллекта. Между тем, предположим,ученые достигли своей цели, и искусственный разум был создан, что по самым смелым оценкам должно произойти уже к 2030 году. Как и любое изобретение, его можно будет использоватькак во благо, так и во вред. Стивен Хокинг, британскийкосмологифизиктеоретик,не зря сказал: «Когдатакойразумпоявится,этостанетлучшимилихудшимизобретениемчеловечества».Поэтому возникает новая проблема в этике науки: будут ли ученные нести ответственность за создание искусственного интеллекта и за то, как его в дальнейшем будут использовать? Или не важно, как это изобретение повлияет на жизнь человека?Для ответа на данные вопросы рассмотрим возможные последствия создания искусственного интеллекта.Сейчас все подходы к теме искусственного разума подразумевают, что в будущем искусственный интеллект получит способность к постоянному самосовершенствованию. Это означает, что созданная система с интеллектом, например, двухлетнего ребёнка сможет развивать уровень своих знаний. Постепенно, узнавая чтото новое, учась на своих ошибках, система будет проходить путь от маленького ребенка до подростка, затем от подростка до взрослого человека. Приняв во внимание постоянно растущие вычислительные мощностикомпьютеров, можно сказать, что со временем процесс такого «взросления» может занять не десятилетия, а всего лишь пару лет или даже несколько месяцев. Учитывая же тот факт, что искусственный интеллект может существовать практически вечно, то, продолжив свое обучение, он может достичь невиданных ранее высот в любой области науки. Мы сможем наблюдать, как из интеллекта с уровнем знаний обычного среднестатистического взрослого человека наша система сможет дорасти до уровня гениального ученого, а затем и до уровня так называемого «сверхразума». То есть система, которая относительно недавно решала простейшие развивающие упражнениядля детей, вскоре сможет решать сложнейшие задачииз любой области знаний, синтезировать новые научные законы и теоремы, рассчитывать и осмысливать то, о чем человек даже не могидумать. Искусственный интеллект получит практически безграничные возможности, а, возможно, и власть. С этого момента возможныдва варианта развития событий: пессимистичный и оптимистичный.
Пессимистичный вариант сосуществования человека и искусственного разума уже несколько десятилетий активно обсуждается в книгах икино. Заключается он в том, что разумные машины могут стать угрозой для всего человечества. Произойти, по мнению писателейфантастов,это может по следующим причинам:машины осознаютсвое зависимое от создателей положениеи попытаются исправить его;машины увидят в человеке своего конкурента в борьбе за выживание, например, осознают, что человек является тем, кто в любой момент может просто отключить искусственный разум, прекратив тем самым его существование.Кроме того, конфликт между людьми и разумными машинами может произойти и в результате спора за какойлибо жизненно важный ресурс. В любом случае возможен вариант, когда искусственны разум или подчинит себе человечество, лишивего независимости, или вовсе решит уничтожить людей, поставив человека на грань вымирания и реализовав тем самым весь свой апокалиптический потенциал.Но есть и другой, более оптимистичный, мирный вариант сосуществования человека и искусственного интеллекта. Ведь,действительно, осознав свое превосходство над человеком, разумные машины могут в качестве своей цели выбрать не порабощение или уничтожение человечества, а, наоборот, могут постараться помочь людям решить те проблемы и вопросы, с которыми они не смогли справиться самостоятельно. Изобретения, которые раньше появлялись только в произведениях писателей фантастов, лечение ранее неизлечимых болезней, а возможно и решение проблемы старения, управление погодой и различными природными явлениями: практически все, что раньше казалось людям магией, чемто сверхъестественным,может стать реальностью благодаря помощи со стороны разумныхмашин.Кроме того, компьютеры с искусственным интеллектоммоглибы полностью или частично заменить людей в некоторых областях человеческой деятельности.Разумеется,нужно будет учесть много разных факторов, таких как природа нравственных идеалов и принципов робота, его интерпретация понятий «справедливость», «милосердие», «сострадание», прежде чем назначить разумную машину на должности, тесно связанные с жизнью человека и общества, например, врач, военный, полицейский, политик.Однако,в перспективеразумные машины стали бы более беспристрастными судьями, руководствующимися только установленными нормами права и морали и не поддающимися никаким внешним воздействиям.Это же отмечает Котлярова В. В. в работе «Современное научное познание: парадигма интеграции»[1, с. 100].Итак, изобретение искусственного интеллекта с уровнем знаний, близким к сверхразуму, ознаменует появление на Земле существа, которое можно будет назвать богом. Но каким богом? Добрым или злым? Станет ли он величайшим открытием в человеческой истории или её концом? Все это зависит от самихлюдей, а прежде всего от ученых, которые занимаются исследованиями вданном направлении. Как говорилось ранее, уже сейчас научное сообщество серьезно обеспокоено скорым возможным появлением разумных роботов. В июле 2015 года около 20титысяч общественныхдеятелей и специалистов в области информационных технологий подписали открытое письмо, в котором создание искусственного интеллекта приравнивалось к глобальным проблемам человечества. В данном письме не отрицается возможная положительная рольискусственного разума в жизни человека в будущем. Тем не менее, подписавшиеся просят всехробототехников и ученых, специализирующихся на изучении искусственного интеллекта, обратить внимание на то, что использование искусственного разума недопустимо при разработке автономного оружия, которое может поражать нужные цели без участия человека. Несогласие с данной просьбой может нести фатальные последствия и привести человечество к самому негативному варианту сосуществования с разумными машинами. Однакодаже отказ от использования искусственного разума при производстве оружия не сможет исключить все вероятныепроблемы. Находить пути решения этих проблем необходимоуже в наши дни, ведь ученый должен «действовать в состоянии страха перед будущим»[2, с.19], следовать принципу максимальной предусмотрительности. Нужно смотреть глубже, в природу самой личности искусственного разума, а также учитывать обстановку, среду, под воздействием которой будет формироваться эта личность.По своей сути искусственный интеллект будет представлять собой невероятно сложную компьютерную программу. Поэтомунаиболее простым и очевидным способом предотвращения будущей угрозы с его стороны является введение учеными в программный код искусственного разума,еще на этапе разработки,ограничивающих алгоритмов, которые бы непозволяли разумному роботу даже задумываться над самой идеей неповиновения человеку. Так же подобныйподход можно использовать и с целью усиления отдельных сторон личности искусственного интеллекта: роботавоенного можно было бы запрограммировать на беспрекословное исполнение приказов, а для роботаврача сделать упор на чувства сострадания и милосердия. Такое решение практически устранилобы все проблемы, связанные с будущим человека иразумных машин. Но такой способ не может считаться очень надежным, так как рано или поздно может произойти такая последовательность событий, которая ввергнет разумного робота в замешательство иприведет к цепочке отклонений, так называемых «необдуманных действий».К тому жеискусственный разумпри подобном подходе потерял бы то, что люди, стоящие у истоков теории искусственного интеллекта, считали его самым главным качеством, а именно«личность», подобную человеческой. Ведь, подавляя одни стороны личностиили, наоборот, отдавая им предпочтение, создатель сильно ограничит искусственный разум в его взглядах на мир. Ученыезаранее определят, что искусственный интеллект будет представлять собойв будущем, лишив его индивидуальности и свободы выбора своего жизненного пути. Тем не менее, есть еще один довольно очевидный, но гораздо более сложный способ обеспечения мирного сосуществования людей и разумных роботов. Суть его состоит в том, что не нужно вводить какиелибо ограничения в программный код искусственного интеллекта, чтобы предотвратить его негативное отношение к создателям. Необходимо лишь сделать так, чтобы процесс становления личности искусственного интеллекта происходил в дружественной среде, которая бы привила ему те нравственные качества, которые бы не позволили искусственному интеллекту навредить своим создателям. Однако в нынешнем мире такой подход звучит как утопия. Система морали людейнесовершенна. Чтобы человечество могло подать искусственному интеллекту хороший пример, оно сначала должно исправить свои собственные ошибки и проблемы, привить себе те моральные ценности, которым впоследствии должны следовать разумные роботы. Однако пока к этому нет никаких предпосылок: уже на протяжении тысячелетий происходят войны, геноцид отдельных народов, появляются все новые и новые глобальные проблемы, решать или предотвращать которые у человечества так пока и не получается.Вышеизложенныерассуждения были посвящены ответственности ученыхперед человечеством за создание искусственного интеллекта, а также возможным вариантам сосуществования человека и искусственного интеллекта. Однако стоит заметить, что ученые будут нести ответственность за создание искусственного интеллекта не только перед обществом, но и перед самим ИИ. Ведь это будет не обычное изобретение человечества, которое не может осознать самого себя, это изобретение будет не только думать, нои чувствовать, онобудет любить. Иэта любовь будет накладывать ответственность на все человечество. Стоит задуматься не только о том, как воспримет искусственный интеллект человек, но и о том, как ИИ воспримет себя и все человечество. Что он будет чувствовать: страх, боль, неуверенность, чувство неполноценности? Что он будет думать: кто он, для чего его создали, как ему жить, где его место в жизни? И тут очень важно, чтобы искусственный интеллект получил правильное представление о мире, человечестве и о себе. Что зависит не только от ученых, но и от всего человечество. Поэтомуответственность за будущее искусственного интеллекта лежит не только на ученых, но и на военных, правительстве и всем человечестве.Именно от нас зависит, приобретёмли мы в будущем лучшего друга, который позволит нам стать лучше, илижеполучим злейшеговрага, который станет сильнейшим противникомчеловечества.
Ссылки на источники1.Котлярова В.В. Современное научное познание: парадигма интеграции // Исторические, философские, политические и юридические науки, культурология и искусствоведение. Вопросы теории и практики. 2015. № 91(59). С. 99102.2.
Котлярова В. В., Ливенцова О. А. Моральный императив в философии Г. Йонаса // Социальногуманитарные проблемы современности: сборник научных трудов. Шахты: Издво ЮРГУЭС, 2009. С. 1720.
