«Мы начнем редактировать людей в ближайшие годы. Это неизбежно. Инструменты уже есть»

Почему мы не знаем, как работает самый совершенный мозг на планете, чем он опасен для человека и зачем нам могут понадобиться гены животных, способных пережить Апокалипсис? Илья Колмановский*, биолог, научный журналист, школьный учитель на лекции в Екатеринбурге рассказал о самых удивительных и значимых научных открытиях 2018 года. Публикуем его выступление в изложении журналиста DK.RU.

Илья Колмановский* на лекции в Екатеринбурге

— В конце 2017 г. разработчики компании Google создали самую нашумевшую нейросеть — Alpha Zero. Она играет в настольные игры, но история эта более глобальная, — рассказал на лекции Илья Колмановский*. — В конце прошлого года она обыграла рыбку Stockfish, которая до этого момента была самой сильной шахматной программой. Почему чемпион мира по шахматам Гарри Каспаров* по этому поводу написал колонку в самом важном научном журнале Science? Он назвал ее очень интересно: «Настольные игры как дрозофила наук о сознании». Расшифрую. Если мы хотим изучать гены человека — сложную научную систему, мы берем маленькую плодовую мушку дрозофилу и изучаем сначала ее. Если мы хотим узнать, как работает сознание, мы можем начать с более простой задачи — с настольных игр. 

Как играла Stockfish? Ее обучили 20 лет назад, показав 100 тыс. человеческих партий. Она знает все о том, как в шахматы играют люди. Перед каждым ходом анализирует 60 млн вариантов и выбирает самый сильный ход, который, с ее точки зрения, сделал бы человек. 

Alpha Zero ничего не знает о том, как играют люди. Ей объяснили правила игры в шахматы. За четыре часа она сыграла сама с собой 30 миллионов раз. Обучалась, программировала сама себя и придумала свой способ игры. Перед каждым ходом она анализирует не больше 6 тыс. вариантов. В некотором смысле, она думает. Гроссмейстеры не понимают, каким способом она играет. 

И Каспаров говорит: это потрясающе хорошая новость. Глядя, как играет Stockfish, мы узнаем, как думают люди, которые ее запрограммировали. Глядя, как играет Alpha Zero, мы узнаем правду — то, как на самом деле устроено сознание, как работает самый совершенный мозг, который сейчас есть на планете. Дело не только в шахматах. Есть и другие алгоритмы, которые обучают и программируют сами себя. 

У нас появился фантастический инструмент. Каждый из нас может его использовать. Как?

К примеру, мы можем поручить искусственному интеллекту медицинские задачи, если он обучит сам себя на огромном количестве кейсов и предложит свои идеи. Человеческие врачи ошибаются, а если у искусственного интеллекта статистика будет лучше, значит, он лучше лечит людей. Мы не поймем, почему он прописывает нам именно эту таблетку, и он не сможет нам это объяснить (хорошо бы, чтобы врач мог это объяснить), и если он меня этим убьет, может, это к лучшему? 

Кто-то боится, что таким образом мы станем глупее и разучимся думать. Я приведу обратный пример. Я приехал в крупный исследовательский центр, который ищет лекарство от рака. Ученых интересовало, как победить рак кожи — меланому. Клетки меланомы умеют ползать — разносить по организму метастазы, но делают это по-разному. И ученые хотели понять, можно ли узнать, действительно ли у них разная «походка» и нужно ли выработать два разных вида лекарств. 

Они получили грант, наняли двух лаборантов и наснимали тысячи часов о том, как эти клетки, специальным способом раскрашенные, ползают. Они пили кофе с лимоном, как это принято в Тель-Авиве, часами отсматривали эти записи и не могли понять, в чем разница. В такой момент ученым нужно стать детьми — фантазировать и интуитивно нащупывать истину. 

Теперь такой разговор заканчивается одним. Кто-то ставит кофе на стол и говорит: а теперь давайте скормим это видео нейросетке. Через полчаса искусственный интеллект дал ученым ответ: ваши эксперименты действительно разделяются на две части. Учены в восторге: они рассчитывали, что теперь искусственный интеллект скажет, что это два разных вида меланомы. Но нет. Клетки по-разному ползали в понедельник и во вторник. Ученые быстро поняли, что эксперимент во вторник портил лаборант — плохо мыл посуду. Они могли бы годами безуспешно пытаться понять, в чем дело, а нейросеть быстро дала ответ. Лаборанта уволили и переделали эксперимент.

Весь год я следил за тем, как правительства разных стран обсуждают, как ограничить использование этого самого высокоорганизованного существа на Земле. В Евросоюзе в мае прошлого года вступил в силу закон, который запрещает корпорациям, правительствам, банкам принимать решение в отношении людей, используя искусственный интеллект, если они не могут объяснить, с чем связано такое решение. 

В июле прошлого года на конвенции в Стокгольме Илон Маск, представители Google, правительств, корпораций подписали меморандум о том, что мы не даем в руки искусственного интеллекта оружие. Если дрон ищет цель, выстрел или пуск ракеты должен осуществлять человек. И это полнейшее лицемерие, потому что к этому времени искусственный интеллект убил первого человека. Это произошло в апреле 2018 г. Речь идет о беспилотных машинах.

За весь год обычные водители убили в Америке 200 тыс. человек. Ученые рассчитывали, что компьютеры убьют меньше людей. Но что было особенно неприятно в той истории? Когда на дорогу внезапно выскочил велосипедист, машина сразу же приняла решение его давить. По умолчанию она была запрограммирована на то, чтобы спасти пилота. В какой-то момент социологи спросили себя: а почему мы так программируем машины? Может, пилот хотел бы спасти того человека? 

И когда все проголосовали за то, чтобы не давать оружие искусственному интеллекту, ученые из Массачусетского университета провели огромное исследование. Они спросили 16 млн человек: как должен убивать искусственный интеллект? Предлагали примерно 20 совершенно нерешаемых задач из сложнейших комбинаций младенцев, старушек, беременных, бродяг и богатых людей, которые сидят у вас в салоне или выскочили на переход. От вас требовалось сделать выбор, от которого у меня до сих пор мороз по коже. Ученые хотели собрать статистику и понять, как устроена мораль у людей. 

Выяснилась неожиданная и неприятная вещь: у людей в мире нет единого мнения по этому поводу. Они разделяются по странам с разными традициями. В западной цивилизации принято спасать младенцев. У людей восточной культуры стойкий моральный инстинкт — беречь в первую очередь стариков. 

И авторы открытия говорят: раз мы, люди, не можем договориться о наших моральных правилах, это значит одно из двух. Либо, взяв машину в аэропорту, готовьтесь к тому, что при пересечении границы она будет запрограммирована так, как принято в этой стране, и вам может быть неуютно. Либо искусственный интеллект сам предложит мораль, которая будет выше нашей и снимет наши моральные терзания. 

Мы никогда не можем объяснить, как думает искусственный интеллект. И это ограничивает наши возможности. Если он так хорошо играет в шахматы, он быстро начнет разбираться в реальности лучше нас.

Наши инструменты часто опережают нашу мораль. Что с этим делать?

Самым острым образом эта ситуация сказалась на китайском ученом из университета Гуанчжоу по имени Хе Цзянькуй. 

20 лет назад ученые получили в руки очень качественный редактор, который позволяет редактировать гены — CRISPR-Cas9, его еще называют «молекулярными ножницами». Они задумались, нельзя ли что-нибудь интересное написать в наших ДНК? Например, там бывают ошибки, которые вызывают болезни. У некоторых пар не могут родиться здоровые дети. И несколько лет назад группы ученых в разных странах мира стали доказывать правительствам, что мы можем безопасно редактировать людей. Я брал интервью у представителей правительств. Они боятся: вдруг родятся жертвы неправильной редактуры — люди с еще более тяжелыми болезнями или всемогущие монстры, которые захватят мир.

Поэтому во всех странах мира запрещено редактировать человеческие эмбрионы и подсаживать их женщинам. Вы знаете, что мы можем делать эмбрионы в пробирке — так родилось примерно 6 млн человек на Земле. Но я следил, как в прошлом году три лаборатории мира — в Англии, Китае и Америке — получили от правительств разрешение редактировать ДНК в человеческих эмбрионах, но через 14 дней выливать их в раковину. За это время ученые должны доказать, что во всех клетках произошла одинаковая редактура, и они жизнеспособны. Ученые доказали, что у них все получается. И казалось, власти вот-вот разрешат подсаживать эмбрионы, и мы сможем редактировать, например, наследственные заболевания. 

Считалось, что все играют честно. И ученые уже думали, что именно они отредактируют первым делом, когда получат разрешение правительства. 

Весной прошлого года ученые, в том числе, несчастный герой нашего разговора Хе Цзянькуй, собрались на конгрессе в США. Там была высказана мысль, что в ДНК гораздо проще что-то сломать, чем записать что-то новое. 

Известно, что 30 лет назад в мире началась страшная эпидемия ВИЧ. Но есть люди с редкой поломкой в ДНК — у них «сломан» один ген, из-за которого они не могут заразиться ВИЧ, но восприимчивы к другому редкому вирусу. И Цзянькуй сказал: а что если мы сломаем эмбриону такой же ген, и он не сможет заразиться ВИЧ? 

Сейчас все, кто был на той конференции, говорят: мы ни за что бы не сели играть с ним в покер, потому что по его лицу нельзя было понять, что в тот момент две женщины в Китае уже были беременны эмбрионами, которые он отредактировал. Он сломал у них этот ген, нарушив все законы. В этих семьях мать была здорова, а муж — носитель ВИЧ. В ноябре уже у одной из этих женщин родились две девочки. 

Эти люди не знали, что есть надежные медицинские способы защитить и мать, и эмбрион от заражения. Что они могут сделать ребенка в пробирке, и все будет в порядке. Есть 0,5% риска, но плод легко защитить. Цзянькуй сказал им, что использует новый метод защиты от ВИЧ, обманул руководство клиники и местное городское руководство, чтобы стать первым ученым в мире, который создаст отредактированных людей. Он опубликовал эту новость на своем Ютуб-канале в конце ноября прошлого года накануне крупной конференции в Гонконге.

И потом выступил на ней: пафосно говорил, что у этих отцов появился смысл жить, потому что у них теперь есть здоровые дети. Он забыл упомянуть, что эти отцы получают терапию, которая сдерживает развитие ВИЧ на десятилетия. И их качество жизни ничем не отличается от обычных людей.

Сейчас ему грозит смертная казнь. На него очень сердятся все биологи, которые говорят: «Он испортил нам всю игру, теперь правительства гораздо позже и неохотнее разрешат нам редактировать людей. Хотя мы уже готовы, и наш редактор работает хорошо. Он слишком рано сорвал банк». 

Мы все равно начнем редактировать людей в ближайшие годы. Инструмент уже у нас в руках. И в этом смысле очень интересно, какими будут эти первые отредактированные земляне. И первое, что я вижу из дискуссий ученых — они думают о том, как мы отредактируем людей, чтобы они могли взлететь к другим планетам. Всерьез высказываются идеи, что мы запишем им защиту от вирусов, сделаем им гены тибетцев, которые лучше переносят дефицит кислорода, или сделаем их очень маленького роста. 

Я взял интервью у космонавта Скотта Келли, который попал в научные новости из-за своих генов. Он дольше всех пробыл на космической станции — больше года — и написал про это книгу «Стойкость». На Земле остался его близнец Адам, поэтому можно было сравнить, как ведут себя их гены. Три года назад он вернулся на Землю, и в этом году вышло исследование о том, что 7% его генов из-за воздействия радиации навсегда изменили свое поведение. Скорее всего, он будет жить на 2-3 года меньше своего брата. 

И я сразу спросил у Скота Келли, не считает ли он, что гены нужно отредактировать, чтобы они не пострадали от радиации, как у него. Он возмущенно ответил, что это недопустимо, и мы никогда не будем редактировать людей — это очень опасно. Но так отвечают все ученые. После они ставят точку и продолжают: но, если мы все-таки будем это делать, скорее всего, нам нужно будет изменить что-то не только в теле. Самое сложное, сказал Скотт Келли, что ждет нас в длительных путешествиях, — не поссориться утром около кофеварки. Это очень сложно, потому что в этот момент хочется всех убить. 

Гены голого землекопа понадобятся нам, если мы полетим в космос 

Самые уживчивые существа на земле — голые землекопы. Это венец творений. И, скорее всего, нам понадобятся их гены, если мы полетим к звездам. И вот почему. Когда животные живут в группе, каждый должен чем-то жертвовать ради интересов всей группы. В этом смысле венец социальности — муравьи. Голые землекопы ведут себя так же — десятки молодых особей в пустынях Намибии при наличии одной старой пары отказываются от размножения. Это одновременно младенцы и старцы, они нужны только ради успеха одной особи — чтобы приносить еду. 

Кроме того, голые землекопы долго живут и не болеют меланомой. И в человеческие гены уже начали внедрять гены землекопов и смотреть в пробирке, как развивается эта кожа. Если мы найдем у них гены поведения, может быть, мы сможем создать таких людей. Мне от этого жутковато, но это может произойти.

У водяного медведя есть суперспособность — умение ставить жизнь на паузу

Это еще одно мое любимое животное — тихоходка, его еще называют «водяной медведь». Их отправляли в открытый космос, и после 43 дней при -270 градусах, в отсутствии кислорода и при воздействии радиации половина выжила. Они не больше 1 миллиметра и живут рядом с вашим домом — если вы соскребете с дерева немного мха, положите его в воду, вы увидите их даже с помощью детского микроскопа. У них есть суперспособность — они умеют ставить свою жизнь на паузу: сворачиваются, превращаются в стеклянный шарик и защищают свои ДНК от разрывов. Половина из них после пребывания в космосе развернулись и остались живы. Возможно, для полета в космос нам понадобятся и их гены.

Среди научных открытий прошлого года были и те, с которыми я, честно говоря, не знаю, что делать. К примеру, в Австралии есть сумчатые животные — вомбаты.

Самая большая загадка современности: зачем вомбат делает из круглого квадратное? 

Многие млекопитающие стараются подвесить свой помет повыше, чтобы пометить территорию. И у вомбатов есть суперспособность. Их помет имеет форму кубиков, и они могут строить пирамиды. Если помните, Карлсон пытался сделать пирамидки из фрикаделек, и это невозможно, потому что они рассыпаются. А с кубическими объектами ситуация иная. И зоологов десятилетиями мучил вопрос: как из чего-то круглого может вылезти что-то кубическое? 

Вомбатов нельзя убивать, как очень хотелось бы биологам, с ними нельзя проводить эксперименты. Но группа ученых нашла несколько сбитых на дорогах животных, очистила их кишечник и поместила в него надувные шарики. Они увидели, что под давлением последние 7% стенки кишечника принимают квадратную форму. И это доказывает удивительные свойства соединительной ткани в этом месте. Ученые завершают свой доклад словами: это обязательно найдет применение в технологиях и производстве.

Я не знаю, кому и зачем может потребоваться из круглого выдавливать что-то квадратное, но будущее за вами. Может быть, вы придумаете.

Текст написан на основе выступления Ильи Колмановского* в лектории «Прямая речь», автор: Анна Хлебникова

Фото: Светлана Волженина, hsto.org, svobody.pl, hightech.fm

* - выполняет функции иностранного агента