Восстание машин
В Британии открывается центр по предотвращению угроз человечеству от развития новейших технологий.
Фантастические сюжеты о порабощении человечества разумными машинами — излюбленная тема для голливудских режиссеров. Однако ученые из Кембриджа опасаются, что такое развитие событий вполне вероятно и что готовиться к этому нужно уже сейчас.
В следующем году в Британии начнет работу Центр по изучению экзистенциальных рисков (CSER), основным полем деятельности которого станет изучение и выявление потенциальных угроз существованию человеческой цивилизации, исходящих от климатических изменений, развития био- и нанотехнологий и искусственного интеллекта.
Как заявляют исследователи на официальном сайте Центра, «Серьезность этих угроз трудно оценить, но нельзя не уделять им достаточного внимания. В течение века интеллект определенно сможет выйти за пределы органической жизни, и люди уже не будут единственными разумными существами на нашей планете. Мы пытаемся обратить на это внимание научного сообщества».
Проект CSER основан профессором философии Кембриджского университета Хью Прайсом, профессором космологии и астрофизики Мартином Ризом и сооснователем Skype Яааном Таллином. Они уверены, что основная угроза выживанию человечества исходит от увеличения вычислительных мощностей компьютеров. Уже сейчас компьютеры стали «умнее» людей, и в скором будущем это может привести к созданию «Единого искусственного интеллекта», который научится самостоятельно писать программы и создавать роботов без вмешательства человека.
Главная опасность этого процесса заключается в том, что компьютеры начнут распределять ресурсы в соответствии с собственными нуждами, не считаясь с потребностями человечества. Рано или поздно мы можем вступить в борьбу за ценные ресурсы с «машинами, чьи намерения не враждебны, но чьи интересы не учитывают наше существование», — уверен профессор Хью Прайс.