«За каждой машиной должен стоять человек» – так формулировал идею взаимоотношений человека и его инструментов фильм «Метрополис» в первой трети XX века. В этой же киноленте было дано наглядное предостережение, показывающее, что будет если человека полностью подменять машиной.

Сегодня, когда к финалу подходит первая четверть XXI века, ведутся разговоры о том, что машина сможет полностью заменить человека. Энтузиасты с восторгом ждут, когда роботы возьмут на себя тяжёлую и монотонную работу. Более сдержанные люди озвучивают опасения, что роботизация лишит многих людей работы. А алармисты, вообще, бьют тревогу, опасаясь, что искусственный интеллект захватит власть над человечеством.

Для того, чтобы разобраться в проблеме, Общественная служба новостей обратились к исследователю искусственного интеллекта, футурологу и публицисту Игорю Шнуренко.

Предел роста

Полноценный искусственный интеллект (он же общий искусственный интеллект, artificial general intelligence, AGI) должен уметь сам ставить себе цели, самообучаться. Причём не просто самообучаться, а делать это в соответствии с собственной программой, перестраиваясь с одной области на другую самостоятельно. Такое доступно не только людям, но даже и простейшим животным.

Искусственный интеллект ещё не достиг такого уровня. И, на самом деле есть очень серьёзные ограничение, которые преодолеть пока не удалось.

Но это совершенно не значит, что нет никакой опасности. Потому что сейчас опасность для человека исходит от тех систем, которые уже разработаны и функционируют. Опасность исходит от так называемого «узкого искусственного интеллекта», то есть от систем, которые умеют решать одну единственную задачу, не могут перестроиться на другую. Например, это алгоритм, который идентифицирует человека по фотографии.

Сети для ловли людей

Проблема в том, что сегодня эти системы объединены в сеть. И эта сесть уже имеет собственный искусственный интеллект, и людей, которые работают на эту сеть, и гибридные варианты. Мы видим, как эти системы обрабатывают данные о поведенческих алгоритмах людей. А вся вместе эта сеть, которую я в своих книгах называю «Цифровым Левиафаном», она уже способна настолько серьезно управлять людьми, что люди уже и сами не сознают, как ими управляют.

(прим. ред. Книга Игоря Шнуренко «Homo Fractus/Человек взломанный»)

Сейчас возможны такие ситуации, когда система будет знать всю подноготную человека: какие-то его тайные страсти, всю его жизнь, мысли, что-то совершенное человеком в детстве, какие у него были родители. Допустим, это касается всей политической элиты: на каждого депутата, на каждого министра будет такой «пакет знаний».

Это будет давать возможность в режиме реального времени манипулировать этими людьми, просто зная на что они среагируют. Если держателями этой информации станут внешние силы, то, по сути, срана станет «цифровой колонией».

Я убеждён, именно такая «цифровая колонизация» сейчас происходит с Россией. Потому что нам нечего противопоставить этому: мы долго спали, мы до сих пор окончательно не проснулись.
 

Роботы уничтожат «офисный планктон» как класс

Есть такое мнение, что роботизация остановилась из-за того, что совершенные роботы дороже обычного человека. Образно говоря, нанять на стройку какого-нибудь таджика – это несоизмеримо дешевле, чем покупать робота производства Boston Dynamics. В зоне боевых действий проще и дешевле погрузить ящик с патронами на банального мула, чем использовать «электронную собаку» той же фирмы из Бостона. Удастся ли преодолеть в ближайшей перспективе этот порог?

Об этом – в продолжении беседы с футурологом, писателем и исследователем искусственного интеллекта Игорем Шнуренко.

(начало беседы, в которой эксперт рассказал о цифровых сетях и том, какую власть они дают)

Когда мы говорим о простейших роботах, которые выполняют действия в ключе «подай-принеси», то надо понимать, что в данном случае речь идёт о сложнейших операциях. То, что совершает простой грузчик – это, на самом деле, очень сложно.

Тончайшая настройка

Человек сам по себе гораздо более сложен, чем о нём принято думать. Он постоянно оценивает происходящее вокруг, у него есть здравый смысл: он, например, знает, что если уронит кирпич себе на ногу, то уже не сможет работать. По каждому из огромного количества таких пунктов роботизированной системе нужна настройка.

Например, сегодня есть дроны, которые могут собирать урожай. И когда нейросеть приезжает убирать пшеницу с высотой колосков 50 см, она не может с задачей справиться, потому что была настроена на высоту колосков 20 см. И не на пшеницу, а на ячмень.

В итоге нужно разрабатывать множество задач, каждая из которых будет работать в узких рамках, как показал пример пшеницы. Собственно, программисты этим и занимаются.

Получается, что создать алгоритмы вот этих простейших операций как раз очень сложно. Есть даже такой «парадокс Моравека»: более сложные системы создавать оказывается проще, чем системы, которые должны выполнять «простые» сенсомоторные операции. Например, система, которая играет в шахматы на уровне гроссмейстеров создана давно. А роботы, способные подняться по лестнице только сейчас выходят на какой-то приемлемый уровень.

Сложный и примитивный труд

Таким образом, вполне можно автоматизировать работу чиновников. Можно даже автоматизировать некоторые виды творческой деятельности: книги писать уже научились.

И получается, что средний класс можно без проблем заменить автоматами в самом ближайшем будущем. По-настоящему незаменимыми остаются высококлассные специалисты и то, что называется «разнорабочие». Для всего остального доступна роботизация.

Причём под «высококлассными специалистами» надо понимать тех, кто может соединить знания из нескольких областей, свободно перемещаться между задачами, широко глядеть на предмет. То есть то, что называется «генералисты» – люди, которые способны соединить несколько наук, работать на их стыке.

Например, президент, который управляет страной. С утра он занимается культурой, а вечером у него совещание по экономике и далее в том же ключе. Заменить его роботом, по крайней мере сейчас, не получится.

А, с другой стороны, узкий учёный, который всю жизнь работает над одним экспериментом. Вот его заменить будет легко. Или налоговый инспектор, который решает определённые строго протоколированные задачи. Или работник банка. Или переводчик, писатель, о котором уже говорил. Все те, кто занимаются чем-то одним и узким, должны быть готовы к конкуренции с роботами.

Убийца «среднего класса»

Получается, что средний класс скоро станет не нужным. Причем, я думаю, что причина этого не в технологиях, не в том, что они «выросли сами по себе», а в том, что такой сценарий – это замысел правящего класса.

Потому что давно появилась идея избавиться от среднего класса. Легче управлять толпой необразованных безденежных лишённых собственности людей, чем средним классом, который постоянно качает права. Зачем они правящему классу нужны?

Импульс для поиска был такой. А теперь возникли технические средства для того, чтобы воплотить его в реальность.

То есть многоэтажное человечество – это уже не фантастика. Это то, что могут обсуждать не футурологи, а социологи. Эти процессы уже идут во всю.

www.osnmedia.ru