Два всадника софтреволюции: мало работы и много власти

Сэм Альтман, глава знаменитого инкубатора Y Combinator, написал колонку о том, чем грозит человечеству сегодняшняя технологическая революция.

В человеческой истории было три великих технологических революции (и множество более мелких): сельскохозяйственная, промышленная и софтверная революция, которая идет прямо сейчас.

1. Работы станет мало

Похоже, софтверная революция сделает то же, что делают обычно технологии — создаст новые ценности, но уничтожит рабочие места.

Думаю, что резкое имущественное неравенство станет, вероятно, одной из главных социальных проблем следующих 20 лет. Мы можем перераспределять богатство (и сделаем это), но это все-таки не решает другую проблему — людям нужно делать что-то, приносящее им удовлетворение.

Держаться за бессмысленные рабочие места — идея ужасная, но популярная. Пытаться найти новую работу для миллиардов людей — идея хорошая, но очевидно, очень трудная в реализации, потому что, какими бы ни были эти рабочие места, они, вероятно, будут фундаментально отличаться от всего того, что существует сегодня.

2. Власть сконцентрируется

Второй серьезный вызов софтверной революции — это концентрация власти в малых группах. Так случается во время большинства технологических рывков.

Два крупнейших риска, которые проистекают из революции софта — искусственный интеллект (ИИ) и синтетическая биология — могут дать небольшим группам или даже отдельно взятым людям колоссальные возможности причинять другим вред.

Развитие ИИ, способного положить конец человечеству, может потребовать усилий всего нескольких сотен людей, находящихся где угодно и не имеющих иного оборудования, кроме ноутбуков.

Новые экзистенциальные угрозы не потребуют ресурсов национального масштаба. Сегодня то, что требовало таких ресурсов, например, создание ракет, реализуется отдельными компаниями, в том числе благодаря софту.

Сокращенный перевод материала