Москва, 04.05.2023, 15:58:55, редакция FTimes.ru, автор Елена Галицкая.
Когда в 2014 году вышел научно-фантастический фильм Transcendence (в российском прокате «Превосходство») с Джонни Деппом и Морганом Фрименом, Стивен Хокинг обратил внимание на его сюжет: там учёные воодушевлённо пытаются создать совершенный искусственный интеллект, а им мешают радикально настроенные террористы – противники технологического прогресса. Изначально разработчиками движут добрые мысли об утопическом будущем безграничных возможностей в медицине, науке и так далее, но в какой-то момент обнаруживается, что машинный разум позволяет внедряться в сознание человека и манипулировать им, и возникают, наконец, сомнения в том, что же, собственно, человечество себе породило. Так вот, Хокинг вместе с коллегами из Калифорнийского университета и Массачуссетского технологического института тогда написали в Independent, что фильм создаёт обманчивое представление об угрозе искусственного интеллекте как о чём-то воображаемом, как просто об источнике вдохновения для фантастов, сообщает Лайф.
Развитие машинного разума
Учёные подчёркивали, что признают огромную потенциальную пользу развитого машинного разума, но призывали одновременно держать в голове и то, что вместе с этой потенциальной пользой вполне реально будут расти и огромные риски. Исследователи предупреждали, что в первую очередь эти риски проявятся в использовании искусственного интеллекта в военных целях — оружие с ИИ даёт большое преимущество.
«В ближайшей перспективе по всему миру вооружённые силы рассматривают вопрос внедрения автономных систем вооружения, которые способны самостоятельно выбирать и поражать цели», —
отмечали учёные.
При этом, с точки зрения физики, нет абсолютно никаких ограничений на создание вычислительных систем гораздо более сложных, чем человеческий мозг, а при способности машинного ума к самообучению он сможет развивать и улучшать себя самостоятельно, объясняли Хокинг и его коллеги.
Все эти мысли всемирно известный физик окончательно оформил и выразил ещё более простыми словами в интервью BBC. Там он прямым текстом сказал, что усовершенствование искусственного интеллекта может оказаться самоубийством человечества.
«Я думаю, что развитие полного и совершенного искусственного интеллекта может означать конец человеческой расы», —
сказал Стивен Хокинг.
Искусственный интеллект улучшит себя сам
По мнению учёного, в тот момент, когда ИИ научится развивать и улучшать себя сам, он начнёт это делать с немыслимой скоростью, абсолютно не идущей ни в какое сравнение с медлительной эволюцией человека.
«Люди, которые ограничены медленной биологической эволюцией, не смогут конкурировать и будут вытеснены», —
сказал Хокинг.
Любопытно, что в 2014 году искусственный интеллект ещё был, в общем-то, только в кино, а в 2023-м любой человек уже может с ним беседовать в соцсетях о чём угодно, причём его ответы порой кажутся не такими уж автоматически, «бездумно» сгенерированными. Невольно возникает вопрос, а точно ли этот GPT — пока ещё ничего не соображающий болван или где-то там в виртуальном пространстве уже формируется осознающая себя личность, которую будет нельзя просто так взять и выключить.
