О том, куда нас приведет развитие искусственного интеллекта, можно было предугадать в 1997 году. Тогда Deep Blue стал первым компьютером, который выиграл шахматный матч у чемпиона Гарри Каспарова. Последний отказывался верить, что слишком «человечная» игра оппонента могла принадлежать машине. Между тем это стало сигналом о том, как далеко могут продвинуться разработки в сфере «умных» алгоритмов.
Как человеческим способностям соревноваться в гонке с искусственным интеллектом, чтобы не потерять доход? В 2017 году Билл Гейтс предложил облагать налогами применение роботов в компаниях. Это, по мнению Гейтса, в ряде случаев будет стимулировать работодателя нанимать людей.
Современный израильский мыслитель, историк и автор трех бестселлеров Юваль Ной Харари в своей книге «Homo Deus: Краткая история будущего» выразил другую идею — заставить технологические компании платить высокие налоги. Из этих средств будет формироваться бюджет для безусловного базового дохода для групп людей, которых искусственный интеллект сделает бесполезными на рынке труда. В некоторых случаях вырученные средства можно будет инвестировать в их переобучение.
Власть больших данных
Харари включает искусственный интеллект в список главных вызовов для современного человека — наравне с ядерной войной и изменением климата. Цифровая революция способствует «цифровому» разрыву между богатыми и бедными странами. В богатых государствах жители будут одеваться при помощи «Echo Look» (IT-разработка для создания «луков» от Amazon на основе искусственного интеллекта) и проходить медицинские диагностики у доктора-робота IBM Watson. В то же время жители бедных стран не только утратят работу на фабриках, но и рискуют стать «цифровыми» неучами — например, не будут знать, как совершать онлайн-переводы через смартфон.
Цифровая грамотность включает информированность пользователей о том, как гаджет или приложение использует их данные. Согласно исследованию компании Deloitte, «Условия использования» не читают 91% потребителей в Америке. Исследователи Коннектикутского университета провели эксперимент: они создали фальшивую социальную сеть NameDrop — наподобие Facebook — и включили в «Условия использования» пункт о том, что пользователь согласен передать разработчикам своего ребенка в качестве платы за сайт. Кроме того, в тексте говорилось, что вся информация аккаунта, включая личные переписки и фотографии, будет передана Агентству национальной безопасности США. В результате 98% участников эксперимента согласились на «Условия использования» при регистрации.
По мнению Харари, главная угроза будущего заключается в том, что массив данных о человеке будет в руках узкого круга людей из технологических компаний. Данные будут включать информацию о том, в какой кинотеатр вы ходите, в каком интернет-магазине заказываете одежду и какое блюдо предпочитаете в пятничный вечер.
Палитра данных может включать даже такую приватную информацию, как сексуальная активность. Так, приложение Bedpost мониторит сексуальную жизнь пользователя, давая рекомендации на основе предоставляемых данных — в зависимости от того, как часто человек занимается сексом и сколько времени на это тратит.
Самое опасное, по мнению израильского историка, — если круглосуточный доступ к мониторингу жизни человека окажется в распоряжении диктаторского правительственного режима. Революция в информационных технологиях сделает диктатуру более эффективной. Государство будет обладать массивами данных, на основе которых человеку будет подсказано, какие решения принимать, какие чувства и эмоции испытывать. Британский сериал «Черное зеркало», в котором исследуется влияние информационных технологий на жизнь человека, уже не покажется ужасающей антиутопией.
Роботы-убийцы
Оборотная сторона технологической медали — автономное оружие. Это системы, способные открывать огонь без приказа человека. Такое вооружение можно взломать и заставить выполнять любую задачу. Таким оружием могут стать дроны, гусеничные автономные роботы, автоматические пушки.
Подобные установки — автономные турели — применяются сегодня в Южной Корее на границе с КНДР в качестве «часового». Они способны открывать огонь без участия человека. В 2004 году Центральное разведывательное управление США впервые использовало дроны с бомбами в операции в Пакистане. Сегодня активные разработки в сфере автономного оружия ведут многие страны мира, в том числе Россия и США.
В 2017 году Илон Маск вместе с разработчиками искусственного интеллекта потребовал запретить разработку подобного оружия. Бизнесмен выступил с петицией к ООН.
Подписантами стали 116 человек. Среди них — руководитель лаборатории Google по разработке искусственного интеллекта Мустафа Сулейман, глава стартапа по исследованию искусственного интеллекта Geometric Intelligence (принадлежит компании Uber) Гэри Маркус. В списке также значится руководитель российской компании NaviRobot Игорь Кузнецов и основатели Promobot — Алексей Южаков и Олег Кивокурцев.
В письме отмечается, что смертельное автономное оружие грозит произвести революцию в военном деле. Действия необходимо предпринимать незамедлительно. «Как только ящик Пандоры будет открыт, закрыть его будет трудно», — подчеркивается в письме предпринимателей и экспертов. Впрочем, Марк Цукерберг вволю посмеялся над Илоном Маском и назвал его страхи «абсурдом».