Мы в ответе за тех кого создали: как люди будут уживаться с новыми технологиями

Директор департамента взаимодействия науки, технологий и общества Московского технологического института, исполнительный директор Молодежного общества нейротехнологов Петр Левич о современных технологиях.
Текст: Егор Мушаров
Сколково
Сколково переосмысливает мир
В последнее время появляется много новостей о технологических проектах: дроны, беспилотные автомобили, очки дополненной реальности, «умный дом». Но насколько комфортной будет наша жизнь, если новые технологии станут нормой?

Мы поговорили на эту тему с Петром Левичем — директором департамента взаимодействия науки, технологий и общества Московского технологического института и основателем Future Foundation.

Петр создал Лабораторию «За 30 лет до Полудня», посвященную разработке гуманитарных инициатив, направленных на работу с новыми технологиями с целью формирования желаемого образа будущего.

Hitch.Space выяснил, ждать ли нам безработицы, что делать, если авария произойдет по вине беспилотного автомобиля и встретим ли мы бары «только для органических людей» [люди без кибер протезов и генетического редактирования — прим. редакции].
Лаборатория «За 30 лет до Полудня» — Ваш личный проект, полностью спланированный Вами. Почему для него Вы выбрали именно тему технологий будущего?
История про технологическую этику, которой я занимаюсь почти год, скорее приводит к вопросу не о технологиях, а о гуманитарной повестке. Нет смысла переживать о технологическом мире будущего. Он так или иначе сложится, потому что есть игроки, которые эту позицию реализовывают: технологические компании на этом зарабатывают деньги. А вот насколько будет комфортным этот мир будущего — тот вопрос, который мы рассматриваем в лаборатории. Будет ли школьник с отредактированным геномом подвергаться издевательствам со стороны сверстников? А еще через 20 лет будет ли полностью органический ребенок подвергаться нападкам со стороны детей с отредактированным геномом? Это гуманитарная повестка. Насколько комфортным будет наш мир? Встретим ли мы бары «только для органических людей» по аналогии с баром «только для белых»?
Петр Левич
Петр Левич
Это станет возможным в ближайшем будущем?
Ускорение развития технологий и то, что технологии будут менять нашу жизнь — это факт. Но никто не отыгрывает позицию комфортной жизни в новом мире. Ее могли бы отыгрывать ООН и какие-либо правозащитные или некоммерческие организации. Но они не ориентируются в сфере науки и технологии или у них не хватает на это времени. У таких организаций есть более актуальные вопросы, связанные с проблемами прошлого и инертно следующих из него проблемы настоящего, куда уж здесь до будущего. В будущем понадобится больше ответственности от каждого человека, чем сейчас. Мы переходим к эпохе всеобщей автоматизации, когда искусственный интеллект и роботы будут за нас все делать, а человеку остается лишь то, что делаем мы с вами в данный момент — коммуницируем, общаемся и целеполагаем.
Выходит, что у нас останется работа управления роботами?
Будет некая техносреда, нечто среднее между роботами, искусственным интеллектом и интернетом вещей. Человеческому мозгу остаются только задачи самого высокого уровня — целеполагания, придумывания новых смыслов и повестки. Но мы видим, что сейчас люди к этому не готовы. Я люблю задавать такой вопрос — что бы вы делали, если вам не нужно было бы зарабатывать деньги? Оказывается, что это психологически сложный вопрос. Нам говорят с детства — учись, чтобы зарабатывать деньги; работай, чтобы не умереть с голоду. Людям трудно представить себе ситуацию, когда им не нужно зарабатывать деньги, а между тем, эксперименты по базовому доходу уже вводятся. Следующий уровень сложности этого вопроса — человеку нужно принять ответственность за свою жизнь, за свою повестку и выбрать эту самую повестку. А когда роботы за тебя все делают, а ты должен создавать какие-либо новые смыслы — это гораздо сложнее, чем работать на наемной работе сейчас. И это не только про новые смыслы. Это история про свободу. Как сделать, чтобы тоталитарный режим не усилился с новыми технологиями.
Что мешает интернету вещей в России
Экспертов в области IoT о том, что тормозит развитие интернета вещей в России, а чем умные дома могут привлечь потребителя
Возможно ли, что власти будут использовать технологии в своих целях?
Наверняка будут. Уже сейчас власти начинают, а точнее продолжают использовать технологии для усиления себя. Как сделать, чтобы люди стали свободнее в действиях, например, от необходимости зарабатывания денег до придумывания новых смыслов. Но это следующий уровень свободы — осознанное действие. Недостаточно просто дать людям свободу. Но и нельзя просто сказать им: «Ребята, вот я дал вам базовый доход, теперь ты занимаешься нейротехнологиями, ты редактируешь геном, а ты летишь в космос…». Люди должны сами присвоить себе эти смыслы, должны откопать их в себе, а это следующий уровень внутренней свободы и ответственности.
Мы переходим к эпохе всеобщей автоматизации, когда искусственный интеллект и роботы будут за нас все делать, а человеку остается лишь то, что делаем мы с вами в данный момент — коммуницируем, общаемся и целеполагаем.
Петр Левич​
Петр Левич
Многие эксперты утверждают, что с развитием робототехники увеличится уровень безработицы. Так ли это?
Замена людей произойдет в тех профессиях которые совсем не содержат в себе целеполагания. Рутинные задачи будут автоматизированы. Но почти в каждой профессии есть доля целеполагания и доля рутинной работы — вопрос в балансе. Раньше архитектор строил дом, вычерчивая каждую линию, а сейчас он создает форму, концепцию и идею, а программа оптимизирует все подробности. Изменится профиль всех профессий, кроме исключительно рутинных. Например, мы с Вами могли не тратить время на то, чтобы договориться об интервью. Эту работы могли бы сделать наши ассистенты с искусственным интеллектом. Они бы назначили время, а нам осталось бы только коммуницировать. Даже в креативных профессиях присутствует огромная доля рутины. Представим, что мы сели за компьютер и начинаем придумывать идею. Планирование работы занимает пару минут, остальное — рутина. Мы печатаем, подбираем шрифт, подстраиваем формат. Но это не значит, что мы станем автоматизированными. Речь идет не о замене профессии, а об изменении принципа работы людей. Даже не все люди, работающие на заводе, будут заменены роботами «прямо сейчас». Если операция отличается от стандартной, то возникает вопрос — робот должен самообучаться? Это уже вопрос не ближайшего года, а десятилетия. Я не люблю отвечать на вопрос «когда что-либо внедрится в жизнь?» Если технология положительная, давайте ускорять процесс работы, если негативная, то надо работать против этого. Разумеется, есть экспертная позиция, но здесь важнее наша работа и отношение к этому. Кроме того, с ускорением технологий, большинство прогнозов сбываются раньше.
На сайте Лаборатории «За 30 лет до Полудня» написано, что одна из ценностей жизни сегодня — выживание человечества. Мне кажется, что люди достигли наивысшей точки комфорта жизни и сейчас нам остается только улучшать то, что уже создано. Разве тема выживания в цивилизованном мире не исчерпала себя?
Выживание человечества — ценность, которую мы бы хотели заложить в тот образ будущего, над которым мы работаем. Казалось бы, это само-собой архиважно, ну что может быть важнее выживания человечества? Даже у Азимова это был нулевой закон, раньше первого. Но люди думают, что нам ничего не угрожает. А пока ничего не угрожает, не хочется ничего делать. А между тем, к примеру, Карибский кризис сложился так, что мы были на волосок от гибели той цивилизации, к которой мы привыкли. Обывателю такие вопросы кажутся выше его уровня, вроде как есть люди, которые этим занимаются профессионально. Но на самом деле те, кто пытается заниматься этим профессионально — зачастую не имеют ресурсов. А те, кто имеет ресурсы, преследует не цели выживания человечества, ну или во всяком случае, не только эти цели, а свои геополитические или финансовые интересы. В итоге получается, что забота об этих проблемах — иллюзия… Мы должны достигнуть точки, когда каждый будет отыгрывать ценность выживания человечества. Тогда, быть может, и оружие массового поражения не будет столь большой опасностью. Но проблема и в том, что есть риски, которые могут реализоваться случайно. Например, концепция «серой слизи» [гипотетический сценарий конца света — неуправляемые самореплицирующиеся нанороботы поглотят всё доступное им вещество Земли, прим. редакции] или падение метеорита. Мы не можем знать, в какую страну он упадет и упадет ли вообще. Вот другой пример — пластиковое пятно в Тихом океане. Технически уже сейчас избавиться от него возможно. Но проблема в том, что люди не могут договориться, какая страна создала это пятно — все приложили «усилия». И это деление ответственности приводит к тому, что никто не хочет брать на себя расходы за работу по уничтожению пятна. Коллаборативные проекты очень сложны. Мы неплохо справились с тем, что, вроде как, не уничтожаем друг друга ядерным оружием. Но общие проекты для человечества остаются невозможными. Мы построили адронный коллайдер, МКС несколькими странами, но в целом, мир достаточно разделен. Это значит, что если появится какой-то глобальный риск для человечества, то на данном этапе развития мы не можем быть уверены, что сможем объединиться. Мы смотрим кино, в котором страны объединяются перед общей проблемой пришествия инопланетян, например, недавнее «Прибытие». Но и там появляются частные интересы — кто будет участвовать в первом контакте и т. д. Пример с инопланетянами экстремальный, но это удобный мысленный эксперимент. Многие же воспринимают себя и отстаивают как людей отдельной нации, гражданства, веры… Но если прибывает что-то внешнее по отношению к человечеству, то это помогает посмотреть на нас со стороны. Отчасти поэтому, мы делаем нашу Лабораторию в игровом сеттинге «Полудня» братьев Стругацких.
Мы неплохо справились с тем, что, вроде как, не уничтожаем друг друга ядерным оружием. Но общие проекты для человечества остаются невозможными.
Promobot
Promobot
Массовое общество готово к улучшению и упрощению жизни с помощью умной техники?
Есть разные исследования по поводу восприятия технологий. К каким-то технологиям, очевидно, готовы, к каким-то нет. Мы все хотим себе макбуки и айфоны, но в космос лететь никто не хочет. В целом не мне, да и не кому-то вообще, наверное, осуждать людей за это. Но и существуют инновации, которые не очевидны для людей. Например, возможность коммуницировать с чат-ботом, который обучен на умершем друге, родственнике. Это включает этические барьеры.
Есть такие люди — грайндеры. Они вживляют в свое тело чипы, магниты. Это может стать однажды мейнстримом?
Рано или поздно такое поведение будет нормой, но пока это заключено в узких сообществах, вроде биохакеров. Если мы сейчас отрежем себе здоровую руку и заменим ее улучшенным киберпротезом, то мы станем диковинкой. Нас будут воспринимать через это, а не через другие наши качества. Но если раз в день мы встречали бы человека с подобными апгрейдами, то это стало бы разновидностью нормы. Поэтому процесс распространения технологии будет иметь лавинообразный характер.
Как в дальнейшем будут регулироваться отношения человека и робота с юридической стороны? Если авария произойдет по вине беспилотника, как рассматривать такие случаи?
Не стоит все вопросы сразу относить к сложным этическим вопросам технологий. Сначала можно попробовать разобраться в понятной и привычной логике. Если авария произошла из-за того, что автопилот «не досмотрел», то ущерб должна возмещать компания, придумавшая его. А если автопилот все предусмотрел, а тормозной путь оказался длиннее ожидаемого, значит проблема в дорожном покрытии, тогда отвечать за аварию должна дорожная компания. Но будут возникать вопросы — что делать, если человек выбежал на дорогу в неположенном месте; если авария была на пешеходном переходе, то почему машина не остановилась на красный свет. Ну, а если переходить все же к этическим вопросам: предположим, происходит ситуация, при которой нужно убить одного человека, чтобы спасти нескольких. Я считаю, что не стоит думать о таких вещах «впустую», лучше акцентировать внимание на том, чтобы таких ситуаций не было вообще. Намного важнее работать над технической стороной — делать улучшенные датчики, более короткий тормозной путь и так далее.
Если мы сейчас отрежем себе здоровую руку и заменим ее улучшенным киберпротезом, то мы станем диковинкой.
Magic Leap
Magic Leap
Что Вы думаете насчет «дополненной реальности», разработок Magic Leap?
Очень трудно придумать однозначно отрицательную или положительную технологию. Все сейчас ругаются на социальные сети, обвиняют их в том, что дети перестали читать книги. Но виноваты ли соцсети? Нет. Вообще, люди почему-то боятся технологий. Но ведь это человек обладает целеполаганием, он сам развращается социальными сетями. Так же и с Magic leap. Сейчас мы приходим с друзьями в бар и сидим в телефонах. Все же боятся, что в будущем мы будем смотреть друг на друга невидящим взглядом, потому что на сетчатку глаза будет что-то проектироваться, так ведь? Предположим, что мы будем злоупотреблять «дополненной реальностью». И как с этим бороться? Разрешить пользоваться только с 21 года или совсем запретить? Такой подход был бы худшим из возможных. Пожалуй, стоит разрешить эту технологию и любой спектр ее применения. И, например, дополнять появление таких технологий развитием осознанности. Еще раз: если вы сидите в баре с друзьями и смотрите в виртуальную реальность, то это не проблема виртуальной реальности — это проблема либо Ваша, либо Ваших друзей, либо Вашей дружбы, либо бара (например, там такая громкая музыка, что проще переписываться с другом напротив тебя, чем перекрикивать — бывает и такое).
Мы много слышим о технологических разработках за рубежом. А каково состояние технического прогресса у нас в стране?
Меня в большей степени интересует история движения всего человечества. В современном мире глобальной связанности, если какой-то проект становится сугубо национальным, это ни к чему хорошему не приводит. Можно сравнить конкурсы Фонда перспективных исследований и DARPA. Их цели похожи. Но условием в конкурсе ФПИ является то, что интеллектуальная собственность принадлежит государству и носит гриф «секретно», а конкурсы DARPA открыты и прозрачны. История с инновациями не может быть узко национальной. И у нас разрабатываются инновации, например робот Promobot, который лучше многих западных аналогов по возможностям и спектру применения. В России ситуация улучшается: есть инструменты поддержки, появляются интересные проекты. Но, повторюсь, здоровая конкуренция — в каких-то областях, наверное, хорошо, но было бы лучше, чтобы человек начинал делать инновационный продукт в первую очередь, потому что хочет улучшить образ будущего мира, двигать человечество вперед, а не для того, чтобы одна страна была «круче», «сильнее» другой.
Еще
Интервью-журнал HITCH.SPACE
mail@hitch.space