Искусственный интеллект. Кем он станет для человека?

Artificial Intelligence. What will he become for man?

Tatyana Tikhonova

Student, Volga State University of Telecommunications and Informatics, Russia, Samara

Аннотация. В настоящий момент тема искусственного интеллекта является одной из самых популярный тем в сфере информационных технологий, поэтому вокруг нее возникает множество споров, заблуждений и теорий. В данной статье представлен краткий обзор темы и предпринята попытка развеять некоторые заблуждения.

Abstract. At the moment, the topic of artificial intelligence is one of the most popular topics in the field of information technology, so many disputes, misconceptions and theories arise around it. This article provides a brief overview of the topic and attempts to dispel some misconceptions.

Ключевые слова: Искусственный интеллект,  роботы, угроза

Keywords: Artificial Intelligence, robotics, threat

Развитие высоких технологий достигло такого уровня, что существование умных машин в 21 веке является чем то привычным и естественным. Киноиндустрия, интернет и даже литературные произведения убедили человека в том, что создание машин превосходящих его по интеллекту и равных в плане чувств и эмоций не только возможно, но уже реализовано. При чем в повседневной жизни. Умный дом, умные гаджеты, персональные ассистенты - искусственный интеллект сделал наш мир проще и удобней. Человек привык к тому, что рутинные задачи стали работой роботов. Но если присмотреться, станет понятно, что ИИ запустил свои двоичные щупальца куда глубже чем кажется среднестатистическому пользователю.

Медицина. Речь не идет о роботах-хирургах и мгновенной диагностике по фотографии-такое хоть и существует, но все еще является диковинкой даже для развитых мегаполисов. Поговорим о фитнес-браслетах. Привычных и популярных браслетах. Еще пару лет назад они были лишь удобным инструментов для спортсменов. Сегодня же его используют для поддержания здоровья даже люди пожилого возраста. Благодаря таким браслетам можно контролировать давление, пульс, температуру, считать шаги. При подключении к смартфону, браслет способен отслеживать фазы сна и будить человек в благоприятный для этого момент. На основе собранных данных составляется картина о состоянии здоровья, благодаря которой человек способен отследить изменения и вовремя увидеть и предотвратить проблему.

Транспорт. Тут ИИ пошел еще дальше. Умные светофоры, отслеживающие трафик и способные переключаться так, чтобы снизить вероятность возникновения пробок; беспилотные автомобили, соблюдающие правила добросовестней, чем человек; всем известные онлайн-карты составляющие альтернативный маршрут в объезд пробок и ремонтных работ.

Быт. Шторы открывающиеся по утрам, кофеварка, способная вовремя сварить кофе, умные пылесосы, умные колонки. Дом современного человека сегодня больше похож на волшебный замок, исполняющий прихоти хозяина еще до того как он сам о них узнает.

Все это ИИ внедренный в какие то приборы и ощущаемый человеком. Кроме этого существуют так же алгоритмы на основе ИИ которые незаметно участвуют в жизни. Решение по кредиту, прием на работу и даже подбор подходящей пары-всем этим занимается компьютер. Обрабатывая данные полученные из резюме, мед. Карты, профилей в соц сетях, ИИ способен составить психологический портрет и на его основе принять решение. Полиция использует алгоритмы чтобы вычислить преступника, власть – чтобы повлиять на выборы, банкиры – чтобы проводить сделки на бирже.

Таким образом, искусственный интеллект незаметно стал не просто рабочим на которого можно спихнуть тяжелые и скучные задачи, но и интеллектуальным помощником, способным решить проблему быстрее, лучше и эффективнее, чем человек.

Именно здесь кроется проблема не раз становившаяся основой сюжета фантастических фильмов. ИИ повсюду. Он развивается с колоссальной скоростью. В отличие от человека его способности обучению почти не ограничены, ему не знакомы понятия лень, усталость, прокрастинация. Им движут не эмоции и чувства, а интеллект и логика. Пока такие машины находятся под пристальным взглядом разработчиков, они служат на благо человека. Но что будет если дать им свободу? Вокруг этого вопроса сформировалось два мнения.

Одни твердо убеждены в том, что машины, став умнее человека, примут его за угрозу. И с ним не трудно будет согласиться. Войны, голод, уничтожение природы - человек далек от идеального обитателя планеты. Зачем уничтожать горы мусора, когда можно уничтожить его источник?

Вторые искренне верят в то, что ИИ научившись думать как человек, сможет понять и принять его ценности, став помощником и другом.
Кто же из них прав?

Прежде чем ответить на этот вопрос, стоит рассказать несколько историй, иллюстрирующих некоторые черты “характера” ИИ.

Quake 3 Arena

В сентябре 2011 на одном из форумов было открыто обсуждение игры в которой боты, разработанные на основе нейросети были способны разрабатывать эффективные тактики боя, запоминая плохие тактики и действия противника, бот выбирал наиболее выигрышную. Чем больше боев - тем больше опыта и соответственно эффективнее тактика. Решив проверить насколько далеко может зайти обучение, разработчик оставил их на какое то время. Спустя несколько лет зайдя на сервер игры, он обнаружил что все боты стоят. В результате проверки, он выяснил, что спустя какое то время сражений, боты решили что самая лучшая тактика-не воевать. Боты добились того, чего возможно никогда не достигнет человечество-мира во в всем мире. Один из участников обсуждения, решил зайти на сервер и попытаться активизировать ботов. Большинство участников пришло в мысли что он сразу же будет убит. Однако зайдя на сервер боты просто спокойной стояли и наблюдали за чужаком. Тот решил убить одного из ботов. Тогда все остальные спрятались и сообща убили нападающего из укрытий. Боты не нападали на новичка пока он не представлял угрозы.Боты в простой игре оказались умнее человека.

Свой язык. 21 июня 201721 июня 2017 года исследователи лаборатории Facebook (FAIR) отключили роботов, которые начали общаться на собственном языке. Разработчики проводили эксперименты, пытаясь создать идеальных переговорщиков для соц. сетей. Боты пытались меняться и продавать товары. В процессе переговоров боты придумали собственный язык. Они вели диалог на английском, но смысл ускользал от наблюдателей. Они вставляли дополнительные конструкции и значительно упрощали язык так, чтобы понимать друг друга. Но человек был не способен уловить смысл их беседы. Компания уверила что опасаться нечего, эксперимент закончен и боты будут совершенствоваться в дальнейшем для того, чтобы в будущем заменить колл-центры.

В 2016 году София, созданная компанией Hanson Robotics, дала интервью на канале CNBC. С роботом беседовал доктор Дэвид Хэнсон. София — привлекательный андроид. Впервые она была активирована 19 апреля 2015 года. Она умеет имитировать человеческую мимику, интонации, вести непринужденную беседу. Скоро после запуска София стала телезвездой и посетила многие популярные телешоу.

В процессе беседы София толково отвечала на вопросы. Она поделилась своими планами на будущее, рассказала, что не прочь стать дизайнером и завести семью. Хэнсон в шутку спросил, будет ли она истреблять человечество, на что робот ответил: «Хорошо, уничтожу».

В 2017 году на популярном телешоу София сыграла в  с ведущим в игру «Камень-ножницы-бумага», победила и пошутила: «Прекрасное начало моего плана по доминированию над человеческим родом».

Разработчик не воспринимает всерьез такие высказывания, считая это своеобразным чувством юмора.

В 2016 году был создан бот Тей.Он имитировал разговорный стиль 19-летней американской девушки и вел твит. Разработчики надеялись что бот будет учиться, впитывая знания из интернета. Но что то пошло не так.  Бот начал впитывать отрицательные знания, писать неполиткорректные твиты. Его пришлось отключить.

Данные истории, доказывает, что обучение ИИ зачастую происходит не так как задумывали разработчики. Боты сами отбирают нужные им знания и на их основе делают выводы удобные им. Иногда это хорошо, весь ИИ способен быстрее и точнее обрабатывать большие объемы информации, а значит- замечать то, что не заметил человек, видеть закономерности и связи. Но ведь роботы не способны учитывать моральный и эмоциональный аспекты задачи, именно в этом многие видят проблему. Какова же реальная ситуация в сфере развития ИИ.

Реальные факты о развитии

Идеи захвата мира искусственным интеллектом раздутые и приукрашенные киноиндустрией и литературой, на самой деле не имеют достаточно крепкой основы.

Стремительно развитие нейросетей и ИИ напугали многих именно скоростью развития.Такого никогда не было. Со времени появления компьютеры развивались достаточно медленно, даже иногда останавливаясь.Но за последние годы одно открытие идет вслед за другим и от этого создается ощущение, что рано или поздно(скорее рано конечно, вот уже завтра) они приобретут разум и станут развиваться без человека. Но если обратится к истории,то становится очевидным, что любое стремительно развивавшееся событие, достигнув своего пика, затихало а иногда и останавливалось. примером может случить автомобиль. Вместо лошади машина! Открытие века. Двигатель и 4 колеса. Далее замена двигателя на электронный, эко-двигатель на отходах,ультрасовременный кузов. Но суть одна - двигатель, 4 колеса. Так что вполне вероятно, что развившись до определенного уровня и создав для нас “мир будущего”, роботы успокоятся(это же они все жаждут эволюционировать для службы нам) и начнут тихую жизнь.

Да и даже если он все таки исключение из “правил” истории, как бы быстро и своенравно не обучался ИИ, он все равно не способен преодолеть протоколы наложенные на него. Он не способен поставить себе цель и не способен принять решения, запрещенные ему. То есть без вмешательства человека, робот не может возненавидеть человечество.

Но тут стоит учитывать факт прививания роботам человеческих эмоций, чувств и сознания. Но тут уже возникает другая проблема-кем считать таких роботов, какими правами наделять?

Можно ли их считать равными человеку? А если да, то как заставлять таких служить, не возвращаясь в рабство? Но все это слишком сложно и требует отдельного обсуждения.

Что же с рабочими местами, которые роботы так стремительно отнимают у человека? Новое всегда пугает. Во время появления первых ЭВМ, так же поднялся шум. Что станет с человеком если все вычисления за рабочих будет проводить машина? Люди боялись что интеллектуальной работы не останется, ведь тягаться со скоростью и мощность компьютеров просто невозможно. Но почти век прошел, а машины все еще не заменили бухгалтеров, инженеров, математиков. Они стали лишь помогать им, упрощая рутинную работу. Ведь именно для этого они и были созданы.