В начале 2017 года Европарламент ясно дал понять: мир стоит на пороге новой промышленной революции, которая затронет все сферы общества. И возглавят ее роботы, многие из которых уже сейчас по своим возможностям заметно превосходят людей. А потому, по мнению евродепутатов, неплохо бы было определиться со статусом и правами всех этих многочисленных андроидов, ботов и прочих форм искусственного интеллекта, а также разработать подробный свод правил, в соответствии с которым человек в будущем станет общаться с ними.
В частности, на повестку дня был вынесен вопрос о том, стоит ли наделять роботов статусом «электронной личности», а вместе с ним прозвучало предложение о создании европейского агентства по робототехнике и работе с искусственным интеллектом. Предположительно, новое ведомство должно помочь обеспечить доступ и контроль органам государственной технической экспертизы, этики и регламента к любым машинам с искусственным интеллектом, используемым в различных сферах. Кроме этого, Европарламент предложил уже сейчас начать работу над созданием определенного кодекса этического поведения, чтобы в нем сформулировать и закрепить правила и меру ответственности за последствия использования робототехники, а также за ее возможное негативное влияние на социум и окружающую среду.
К слову, признать роботов «электронными личностями» Европа призывала еще летом прошлого года, однако тогда речь в первую очередь шла о финансовой стороне вопроса. То есть о том, не пора ли владельцам предприятий, активно использующих робототехнику, начать платить соответствующие налоги? Сейчас же разговор в большей степени касается социальной стороны, однако ответ напрашивается тот же: отвечать за своих роботов-сотрудников придется человеку-работодателю, а потому он должен иметь все необходимые рычаги влияния, включающие не только возможность контролировать активность машин, но и кнопку аварийного отключения, то есть полной блокировки.
Роботы начинают и выигрывают?
Споры о том, что же ждет человечество в будущем, после очередной промышленной революции, звучат не первый год. И стоит признать, что большинство их участников рисуют совсем не радужные картины. Активный рост автоматизации производства и расцвет искусственного интеллекта в XXI веке обратил внимание жителей Земли сразу на несколько важных вопросов, среди которых главным, пожалуй, является возможная безработица, вызванная повсеместным внедрением роботов. Причем в список находящихся под угрозой профессий попали даже те, которые всегда считались исключительно человеческими. Например, водители, учителя, врачи, журналисты, страховые агенты, юристы, банковские служащие. И чем дальше, тем сложнее назвать подобные опасения беспочвенными. Простой пример: еще недавно автомобили, для которых не требуется управление человеком и которые могут самостоятельно доставить пассажиров в пункт назначения, казались атрибутом фантастических фильмов, а сейчас стали если не нормой жизни, то уж точно не новинкой. А по прогнозам экспертов, совсем скоро на свои первые маршруты выедут такие же грузовики, а значит, через несколько лет в небытие уйдут и профессии дальнобойщика и логиста.
Еще один пример. В январе 2017-го японская страховая компания Fukoku Mutual Life Insurance объявила об увольнении более 30 сотрудников – выполняемая ими ранее работа была передана автоматизированной компьютерной системе, созданной на основе искусственного интеллекта. Причина подобного решения крайне проста: по мнению руководства Fukoku Mutual Life Insurance, таким образом им удастся повысить производительность не менее чем на 30% и при этом сэкономить на выплатах зарплат около 1,2 млн. долларов США в год. Предполагается, что новая компьютерная система, разработанная японским отделением IBM на платформе Watson, будет собирать сведения, которые необходимы для проведения выплат клиентам со страховыми полисами – например, будет считывать информацию из медицинских карт и справок. Разработчики, к слову, описывают Watson как «когнитивную технологию, которая может думать, как человек», и утверждают, что этот образец искусственного интеллекта способен распознавать человеческую речь и самостоятельно «анализировать и интерпретировать любые данные, в том числе неструктурированные тексты, изображения, аудио и видео». На данный момент свой интерес к новинке высказали как минимум три другие страховые компании из Японии.
Роботизация различных производственных сфер, конечно же, началась не сегодня, однако XXI век ознаменовал новый виток развития в области искусственного интеллекта. И пусть до создания образцов, которые смогут в полной мере сравниться с человеком – то есть смогут самостоятельно мыслить и осознавать себя, – по мнению многих, пока еще далеко, новый рубеж уже покорен. Еще недавно замена человека машиной происходила в первую очередь в тех случаях, когда речь шла о работе, требующей физической силы. И многим казалось, что функции, для выполнения которых нужны умственные способности, образование и квалификация, навсегда останутся вотчиной людей. Однако реальность показывает, что все меняется слишком быстро – уже сейчас роботы претендуют и на эти рабочие места тоже.
И здесь нужно отметить очень важный момент – подобные тенденции активно поддерживаются владельцами и руководителями крупных корпораций, видящих в этом финансовую выгоду. И многие из них даже не скрывают этого. Например, известный американский предприниматель, владелец нескольких крупных сетей фастфуда Эндрю Пазднер свое мнение по данному вопросу высказал однозначно: «Роботы всегда вежливы, нацелены на самые высокие результаты, им не нужен отпуск, они не опаздывают, и с ними не надо судиться по всяким вопросам, начиная с травм на рабочем месте и заканчивая дискриминацией по возрастному, половому или расовому признаку». Так что ничего удивительного в прогнозах экспертов, согласно которым менее чем через два десятка лет в США автоматизировано будет более 50% рабочих мест, пожалуй, нет. Как нет и ничего странного в выходящих на демонстрации против роботизации людях – они просто боятся за свое будущее, в котором могут остаться без работы и, соответственно, средств к существованию.
Согласно результатам проведенного в 2016 году по заказу Всемирного экономического форума исследования, увеличение использования роботов и искусственного интеллекта в течение ближайших 15 лет приведет к потере порядка 5,1 млн. рабочих мест в 15 ведущих странах мира.
Авторы отчета отдельно подчеркнули, что выбранные ими для исследования 15 государств обеспечивают примерно 65% от общей численности рабочей силы в мире.
Камо грядеши
Несмотря на то, что инициатива Европарламента о признании роботов и искусственного интеллекта «электронными личностями» вызвала немало негативных отзывов, ее авторы акцентируют внимание на том, что их целью является именно защита людей. В подготовленном по просьбе европарламентариев отчете, в частности, говорилось: дальнейшее развитие робототехники может вызвать значительные социальные изменения, и в том числе сокращение большого количества рабочих мест в различных отраслях. А потому депутаты призвали Еврокомиссию к тщательному изучению данного вопроса и поиску превентивных путей решения проблемы, которая может носить глобальный характер. Например, к созданию новых моделей занятости, а также к адаптации налоговой системы и системы социальной защиты к новым реалиям.
Вот только, к сожалению, большинство аналитиков на возможность в обозримом будущем создать новую модель занятости, которая смогла бы компенсировать потерю работы большим количеством людей, смотрят крайне пессимистично. И не в последнюю очередь потому, что возникновение массовой безработицы – сейчас принято называть ее технологической – ожидается буквально через 20 – 30 лет, то есть совсем скоро. Развитие отрасли роботостроения идет семимильными шагами. В нее инвестируются огромные суммы, и на каждой новой специализированной выставке создатели презентуют все более совершенные творения. А чем более широким и разнообразным становится набор функций и возможностей роботов, тем быстрее окупается их внедрение в производство. По сути, уже сейчас многие корпорации перестали нанимать людей и отдают предпочтение автоматизированным решениям, которые считают более рациональными и долговечными.
Уже мало кто сомневается в том, что искусственному интеллекту окажется по плечу вождение такси и грузовых автомобилей, проведение погрузочных и разгрузочных работ, обслуживание клиентов в магазинах, а уж во всем, что касается сбора и обработки информации или проведения расчетов и сложных вычислений, ему давно нет равных. Причем нередко речь идет о целых отраслях производства, которые могут стать автоматизированными. И одна из них – сельское хозяйство. Уже сейчас несколько крупных хозяйств в различных уголках земного шара активно тестируют образцы самоуправляемых тракторов, способных распахивать большие поля, используя данные спутниковой навигации. Причем работают они, как можно догадаться, круглосуточно. А за всем этим с высоты птичьего полета наблюдают беспилотные аппараты, контролирующие состояние почвы, чтобы в случае необходимости отправить сигнал ирригационным установкам, снабжающим посевы водой и обогащающим микроэлементами. И даже больше: весной этого года в Англии стартовал проект Hands Free Hectare, призванный доказать, что современная ферма в прямом вмешательстве человека не нуждается вовсе.
Не стоит опрометчиво считать, что развитие робототехники таит в себе исключительно опасности для человечества. Есть во всем этом и большое количество плюсов. И наглядно продемонстрировать это можно на примере сельского хозяйства и решения проблемы голода.
По данным Всемирного банка, если рост населения нашей планеты продолжится нынешними темпами, то уже к 2050 году миру потребуется производить на 50% больше продуктов питания. И сделать это возможно только посредством автоматизации большинства процессов.
Говоря о вхождении на рынок труда роботов как основной рабочей силы, необходимо понимать, что под этим определением скрывается более широкое понятие, чем просто машины, которые выполняют определенные функции. По сути, речь идет именно об искусственном интеллекте или об интеллектуальных системах, способных решать задачи различного уровня сложности, включая творческие, то есть те, которые традиционно считаются прерогативой человека. Подобные системы уже давно без проблем справляются с оперативным созданием финансовых сводок или анализом результатов спортивных матчей, самостоятельно собирают и публикуют на интернет-порталах информацию о пробках на дорогах различных городов или прогнозы погоды. Но если раньше они просто обрабатывали огромные массивы информации, а уже потом человек на основе результатов их труда создавал текст для сайта, то теперь интеллектуальные системы освоили, например, написание небольших заметок для новостных лент и публикуют их самостоятельно.
Кто платит?
Столь пристальный интерес Европарламента к этой проблеме объясняется просто – опасность технологической безработицы в первую очередь нависла над «золотым миллиардом». И дело не только в том, что компании из наиболее развитых стран в числе первых займутся своей автоматизацией. Причина кроется еще и в стоимости рабочей силы. Собственно, корпорации продолжат делать то, что делали и раньше, когда переносили свои производственные мощности в страны третьего мира. Они будут экономить. Представим, например, выход на рынок системы, позволяющей централизованно управлять роботами-уборщиками помещений. С уверенностью можно сказать, что она сразу же заинтересует владельцев крупных сетевых отелей. И управлять машинами, наводящими порядок в гостиничных номерах, например, Лондона, станут люди, сидящие далеко за пределами Великобритании. Вероятно, в одном из тех государств, где такая работа оплачивается раз в 10 ниже, чем в Соединенном Королевстве.
Именно поэтому аналитики, в числе которых отдельно можно отметить Тима Данлопа, автора книги «Почему в будущем не будет работы?», призывают правительства всех стран мира – но в первую очередь наиболее развитых государств – не делать вид, будто бы проблемы не существует, и не рассчитывать, что рабочие места вдруг появятся сами собой, а уже сейчас начать серьезно планировать будущее и искать пути решения. И в качестве оного Данлоп и его сторонники предлагают введение минимального базового дохода до того, как сотни тысяч человек лишатся своих рабочих мест. Правда, пока европарламентарии на этом не настаивают, однако в очередной раз вернулись к вопросу налогообложения и призвали компании, активно заменяющие сотрудников-людей на роботов, хотя бы декларировать те средства, которые были сэкономлены на отсутствии социального обеспечения.
С введением минимального базового дохода есть и другая проблема – социальная. Во-первых, для многих подобное предложение ассоциируется с получением некого пособия и отсутствием гарантий, что этой суммы хватит на тот образ жизни, который человек хотел бы вести. Во-вторых, люди всерьез опасаются, что развитие робототехники приведет к еще большему неравенству между классами. Ну и в-третьих, может возникнуть серьезная морально-этическая проблема – люди просто начнут чувствовать себя бесполезными и беспомощными в мире, населенном «электронными личностями».
Справедливости ради стоит упомянуть об оптимистичном взгляде на автоматизацию производства. Сторонники этого подхода полагают: чем больше обязанностей будет передано роботам, тем лучше и проще станет жизнь человека. Например, потому, что люди получат возможность не думать о необходимости зарабатывать деньги (этот вопрос должен решить гарантированный базовый доход), а значит, будут заниматься тем, что им действительно нравится. При этом себестоимость многих товаров снизится настолько, что каждый сможет купить практически все, что захочет. В качестве основного аргумента оптимисты приводят то, что в снижении покупательской способности не заинтересованы в первую очередь сами производители. И вспоминают как пример диалог между Генри Фордом II и профсоюзным лидером Уолтером Рейтером, состоявшийся во время посещения нового автоматизированного завода Ford Motor Company. Именно тогда Форд с долей иронии спросил Рейтера: «Уолтер, и как вы заставите этих роботов платить профсоюзные взносы?» Однако тот ответил вопросом на вопрос: «Генри, а как вы заставите роботов покупать ваши машины?»
Три закона робототехники
При этом появление инициативы европарламентариев об определении статуса и прав роботов и искусственного интеллекта в человеческом обществе связано не только с финансовой стороной вопроса и опасностью массовой технологической безработицы. Не менее важными проблемами в свете активного развития технологии являются безопасность и этика. В представленном Европарламентом отчете, в частности, был сделан упор на то, что момент, когда искусственный интеллект по своим возможностям превзойдет человеческий, все же наступит. И вполне вероятно, что случится это уже через несколько десятилетий. И если к этому не подготовиться, то может оказаться, что интеллектуальное превосходство машин серьезно осложнит возможность контроля человека над своими творениями. Уже сейчас, подчеркивают евродепутаты, боты, андроиды и интеллектуальные системы становятся все более автономными, а значит, их все труднее считать просто инструментами в руках человека. По этой причине Европарламент предложил создать специальный реестр и начать вносить в него хотя бы самых «умных» роботов – тех, которые могут действовать самостоятельно, без координатора. Кроме того, для всех подобных машин и систем владельцами должны быть приобретены страховые полисы, предназначенные для покрытия ущерба, который может быть нанесен роботом. И что важно, евродепутаты хотят обязать разработчиков не просто регистрировать свои новинки, но и предоставлять доступ к исходному коду, если это потребуется. Например, для расследования несчастных случаев.
В лагере противников такой инициативы оказалась, например, немецкая промышленная группа VDMA, в которую входят все крупнейшие европейские производители робототехники. По мнению ее руководства, время для подобной законодательной базы еще не пришло. И даже больше, сейчас она может оказать негативное влияние на всю отрасль и существенно затормозить ее развитие. По словам Патрика Шварцкопфа, управляющего директора по робототехнике VDMA, о статусе и правах роботов можно не задумываться еще как минимум полвека. Его оппоненты уверены, что разработчики уже сейчас должны тесно сотрудничать с комиссией по научной этике и получать разрешение на создание новых видов искусственного интеллекта только после тщательной экспертизы их проекта. Разработчики также должны гарантировать, что в каждом созданном роботе будет предусмотрено устройство, которое позволит в случае необходимости отключить все функции машины. При этом особое внимание должно быть уделено конфиденциальности информации – многие эксперты всерьез опасаются последствий, к которым могут привести взломанные хакерами роботизированные системы.
Одним из трендов 2016 года стало изучение возможностей искусственного интеллекта и нейросетей. Благодаря достижениям в этой сфере ученым впервые удалось создать машину, которая обыграла человека в игру го; Boston Dynamics презентовала робота-собаку, способного помогать с мытьем посуды; а немецкие исследователи анонсировали разработку нервной системы, позволяющей роботам чувствовать боль.
Ожидается, что новым направлением развития отрасли станет возможность взаимообучения роботов. Речь идет о создании некой базы знаний и навыков, из которой машины станут получать информацию и после обрабатывать ее. То есть в будущем не надо будет закладывать в каждого робота программы, отвечающие, например, за его способность различать предметы или распознавать голос, – достаточно будет просто подключить его к базе, и он научится всему сам.
Долгое время человечество было уверено, что развитие инновационных технологий идет в полном соответствии со сформулированными писателем Айзеком Азимовым еще в начале 1940-х тремя законами робототехники. Согласно первому из них, «робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Но так ли это сейчас? В прошлом году инженер Александр Ребен представил машину, которая может сознательно уколоть человека иголкой. По словам разработчика, на ее создание у него ушло всего несколько часов и пара сотен долларов. Свое изобретение ученый объяснил желанием показать другим, насколько опасной может быть дальнейшая роботизация мира. Здоровый скептицизм в адрес искусственного интеллекта высказывает и создатель Microsoft Билл Гейтс, уверенный в том, что чем дальше, тем сложнее будет спрогнозировать поведение подобных роботов.
Немало волнений вызывают последние разработки в сфере обороны, к которым относят так называемых LAWS (Lethal autonomous weapons – «Автономное смертоносное оружие»). Под это определение в первую очередь попадают военные роботы, появившиеся на свет для того, чтобы атаковать объекты без какого-либо участия человека-оператора. Массовая кампания против LAWS, призванная обратить внимание ООН на данную проблему, была запущена еще в 2013 году. Активисты движения уверены, что нынешний уровень развития технологий и широкое распространение дронов позволят правительствам стран использовать LAWS для нейтрализации как военных, так и гражданского населения. А это, конечно же, недопустимо.
И даже не входя в военную сферу, вопрос безопасности при взаимоотношениях людей и роботов стоит очень остро. Так, в очередной раз он был поднят совсем недавно, накануне ожидаемого массового внедрения автомобилей-беспилотников. Во-первых, до сих пор так и не ясен вопрос юридической ответственности за жизнь пассажиров и других участников дорожного движения. Разработчики, конечно же, уверяют, что с появлением на дорогах их детищ уровень ДТП снизится едва ли не на 90%, однако замена водителей искусственным интеллектом требует от последнего наличия определенных моральных алгоритмов. И это уже переходит в раздел этики. Например, существует проект автомобилей-беспилотников, которые будут запрограммированы таким образом, чтобы в случае аварии любой ценой сократить число ее жертв. То есть искусственный интеллект будет следовать этому алгоритму даже в том случае, если для этого ему, по сути, придется умышленно убить своих пассажиров. Проведенный опрос общественного мнения показал, что большинство людей признает правильность такого подхода, однако при наличии выбора все же приобретут автомобиль, для которого приоритетной будет безопасность тех, кто внутри.
За последние 10 лет количество патентов, поданных в области робототехники, увеличилось в 3 раза. Спрос на интеллектуальные системы растет с каждым годом, и рынку технологий есть что предложить своим потенциальным покупателям. Скорость развития технологий действительно поражает воображение. И каждый новый виток порождает новые вопросы. А потому, пожалуй, стоит признать: у тех, кто считает, что мир стоит на пороге новой промышленной революции, есть для этого все основания. И даже если некоторые опасения противников роботизации беспочвенны и восстание машин так и останется сюжетом для фантастических рассказов и фильмов, человечеству стоит задуматься о том, какой же будет новая эра.
