Элон Маск боится восстания машин

Миллиардер Элон Маск, глава автопроизводителя TeslaMotors и компании SpaceX, опасается воплощения в жизнь сценария из фильма "Терминатор", где искусственный интеллект дал начало войне человечества против машин.Бизнесмен использует технологии в каждом своем бизнесе: в ставшей крайне популярной системе платежей PayPal, в TeslaMotors, производящей отличные электрические седаны, напичканные самым современным софтом, в SpaceX, запускающей ракеты в космос. Но Маск считает, что опасно делать технологии слишком "умными".

В своем Twitter-блоге Маск порекомендовал к прочтению книгу "Суперинтеллект" (Superintelligence) Ника Бострома, философа и профессора Оксфордского университета, известного своими работами об антропном принципе. "Мы должны быть крайне осторожны с искусственным разумом. Теоретически он может быть опаснее ядерного оружия", — отметил Элон Маск.

В книге Бостром отмечает, что если машина превзойдет по уровню развития человеческий мозг, то новый суперинтеллект может оказаться настолько мощным, что управлять им будет крайне сложно. Для сравнения автор книги приводит горилл, чья судьба больше зависит от людей, нежели от них самих. Поэтому, как полагает ученый, наша судьба в дальнейшем может также зависеть не от нас, а от машин с искусственным интеллектом.

Уже не первый раз Маск высказывает свое опасение насчет будущего искусственного интеллекта, который другие известные футурологи, такие, например, как Рэймонд Курцвайль видят в гораздо более позитивном свете. Месяц назад Маск заявил в интервью каналу CNBC, что он серьезно видит вероятность того, что сценарии фильмов вроде "Терминатора" на самом деле сбудутся, и что миллиардер даже вложился в компании, занимающиеся разработками систем AI (Artificial intelligence) чтобы следить за развитием технологии.

Похоже, Маск считает, что в случае чего сможет справиться лучше Джона Коннора, пытавшегося остановить запуск системы искусственного интеллекта "Скайнет" и предотвратить восстание машин.

Впрочем, если обратить внимание на источник, заинтересовавший Маска, а именно автора Ника Бострома, то можно предположить, что беспокойство может быть преждевременным.

В 2003 г. Бостром опубликовал статью, утверждая, что есть все основания полагать, что мы на самом деле живем в компьютерной симуляции, и ученые начали искать "цифровые подписи", которые доказывали бы, что наш мир не так реален, как мы его видим.

Так что, если Маск стал последователем идей Бострома, впору заодно опасаться и воплощения в жизнь сценария "Матрицы".

Ну и вообще, глава TeslaMotors и профессор Оксфордского университета могут быть правы: нам надо контролировать системы искусственного интеллекта. Если, конечно, мы уже не находимся внутри такой системы. Стоп. Секундочку. Это уже сценарий фильма "Трон".

источник