Компьютеры уничтожат человечество

Писатели-фантасты нередко описывают будущее, в котором машины будут противостоять человеку. Эксперты до последнего времени отрицали такую возможность. Однако недавно Центр по изучению экзистенциальных рисков Кембриджа провел исследования, доказавшие, что современные технологии способны уничтожить нашу цивилизацию уже в ближайшее время.

В задачу группы ученых входило проанализировать опасность, которую представляют для человечества различные факторы, такие как био- и нанотехнологии, искусственный интеллект, гонки ядерных вооружений, наконец, климатические изменения и экологические катаклизмы. В итоге один из авторов системы Skype Яаан Таллин и философ Хью Прайс пришли к выводу, что главной угрозой для нас является увеличение компьютерных мощностей. Рано или поздно, утверждают ученые, этот процесс приведет к созданию единого машинного разума, который будет способен самостоятельно писать программы, а также производить себе подобные машины без вмешательства человека.
"В течение этого века разум покинет пределы биологической природы, — считает Хью Прайс. — Интеллект обретут и электронные системы, мы станем не единственным разумным видом на Земле. Мы должны серьезно подходить к вероятности, что изобретение искусственного интеллекта может стать новым ящиком Пандоры. При неправильном обращении с ним последствия могут оказаться катастрофическими".

Прайс опасается того, что однажды компьютеры начнут распределять ресурсы в соответствии с собственными рациональными представлениями, и это может быть в ущерб человеческим потребностям. Допустим, машины станут выбирать за нас профессию, место работы или учебы, исходя из того, где и какие специалисты больше востребованы. При этом не будет иметь значения, чего хочет сам человек. Компьютерные системы смогут и контролировать наше место жительства, человек не сумеет, к примеру, переехать в другой город или страну, потому что, с точки зрения машины, он нужен именно здесь… Напротив, его могут вынудить к переезду или переходу на другую работу, если таково будет решение кибернетического разума…
Но людей и вовсе могут решить работы, жилья и даже пищи, если централизованный интеллект сочтет, что предоставлять им все это нецелесообразно. Роботы нового поколения будут сложными, высокоорганизованными существами, предназначенными вовсе не для службы человечеству, а для "обслуживания" материнского искусственного интеллекта.

Со временем цивилизация машин станет во многом превосходить человеческую расу. Ведь мы никогда не сможем быстро анализировать или подсчитывать колоссальное количество информации, при этом мы слишком уязвимы, подвержены болезням, можем быть рассеянны, невнимательны, эмоционально нестабильны…

"Возможно, человечеству придется сражаться за ресурсы с доминирующим видом, — полагает Прайс, — Возьмем, к примеру, горилл. Они вымирают не потому, что люди враждебны к ним, просто мы изменяем окружающую их среду в соответствии с нашими желаниями".
Конечно, не исключено, что прогноз слишком уж пессимистичен. Окончательный вердикт предстоит вынести специалистам в различных областях — науке, информатике, политике, юриспруденции, к которым планируют обратиться эксперты из Кембриджа. Их мнения помогут составить более точную картину будущего.

Но, как говорится, кто предупрежден, тот вооружен. Зная о возможных катастрофических последствиях развития технологий, мы можем попытаться их предотвратить. Как? Вероятно, разработав систему тотального контроля над машинным интеллектом. Допустим, чтобы можно было разом вырубить все! Либо встроив в него программный принцип управления — чтобы без человека машины не могли совершать никаких глобальных операций, тем более, воспроизводить себя… Еще можно ограничить доступ к материальным ресурсам, и тогда компьютеры просто не смогут создавать "дочерних" роботов, потому что у них не будет сырья… Так или иначе, проблему решить можно. Если только мы отнесемся к ней достаточно серьезно и не будем считать возможное господство компьютеров над людьми очередной выдумкой футурологов-антиутопистов…