Харари предостерегает от создания ИИ собственных ценностей и захвата мира на конференции Connected 2024 в Астане

Предупреждая об опасности искусственного интеллекта (ИИ), разрабатываемого «без достаточного внимания к моральным принципам», а также об опасности «создания ИИ своих собственных ценностей», «единственной объединяющей идеей, оставшейся для человечества в быстро развивающемся мире машин и технологий, является осознание своей биологической сущности», — сказал писатель и гуманист Юваль Ной Харари в ходе прямой трансляции на конференции «Connected 2024: переосмысление будущего», которая состоялась во Дворце независимости в Астане, Казахстан, 18 октября 2024 года. 

Называя ИИ или инопланетный разум «чуждым», он подчеркнул, что решения, принимаемые такой неорганической сущностью, принципиально отличаются от решений, принимаемых людьми или животными, и не будут «подходящими» для органических существ. «Я думаю, что в 21 веке нам нужно напомнить себе о нашей биологической сущности, которая является общей для всех. Мы должны гарантировать, что мир подходит для органических существ. Мы не должны позволять неорганическим существам захватить его, создать свои собственные временные рамки и взять мир под контроль», — утверждал автор бестселлеров Sapiens, Homo Deus и Nexus.

Подчеркнув, что «социальные сети — это первая серьезная встреча людей с искусственным интеллектом», он пояснил, что важнейшие новостные платформы, такие как TikTok, X, Facebook и YouTube, в значительной степени управляются ИИ, который «не заботится о ценностях или истине», а его цель — «повысить вовлеченность аудитории».

«И что этот ИИ обнаружил методом проб и ошибок, экспериментируя на миллионах или миллиардах людей — «лабораторных крыс»? Он обнаружил, что очень легко привлечь внимание и удержать человека на платформе дольше, распространяя фейковые новости, теории заговора, ненависть, жадность и страх, потому что такой контент активно привлекает нас», — продолжил он, добавив, что «мы наблюдаем упадок рационального дискурса во всем мире, потому что решения принимает ИИ, который никак не связан с человеческой моралью или принципами».

«ИИ может начать изобретать новые типы ценностей во всех сферах — от финансовых систем до религии. Нам нужно сейчас понять, что произойдет с правительствами и человеческим обществом, когда люди потеряют контроль над такими важнейшими элементами, как политические или финансовые системы», — отметил Харари.

Подчеркнув, что ошибки, допущенные в эпоху индустриализации, такие как возникновение тоталитарных режимов, нацеленных на полный контроль над политикой и обществом с такими фигурами, как Сталин и Гитлер, не должны повторяться, Харари отметил, что «Сами по себе технологии не являются злом. Проблема в том, что мы не знаем, как построить качественное общество, основанное на использовании ИИ».

Он также заявил, что не верит в фундаментальные противоречия между людьми, нациями и странами, которые невозможно преодолеть, сравнив изолированные племена каменного века с более связанными людьми современности: По словам футуриста, за 10,000 8 лет истории люди нашли способы преодолеть свои разногласия и научились сотрудничать с чужаками. «Сегодня сотрудничество выходит за рамки национальных границ. В каком-то смысле мы говорим о глобальной сети, которая охватывает все XNUMX миллиардов человек на планете», — заключил Харари.

В дискуссии, последовавшей за выступлением Харари, тибетский лама и мастер Шьялпа Тензин Ринпоче (Непал) выступил с аналогичным сообщением, подчеркнув, что универсальные ценности, такие как мир, могут объединить Восток и Запад в их стремлении к устойчивому развитию в эти сложные времена политической нестабильности и растущего неравенства. Серик Толукпаев, предприниматель, инвестор и основатель холдинга AITAS в Казахстане, прокомментировал, что «борьба со своим эго станет первым шагом на пути к достижению Целей устойчивого развития ООН во всем мире», в то время как молодежная активистка Джакхини Бисселинк из аналитического центра Whetston в Нидерландах отметила, что новое поколение лидеров должно получить поддержку руководства EQ для борьбы с растущей тревогой по поводу климата в мире.

В конференции приняли участие 2000 делегатов из более чем 20 стран, в том числе заместитель премьер-министра Казахстана Тамара Дуйсенова; гуманист Герд Леонхард; лауреат Нобелевской премии по зеленой экономике Рае Квон Чунг; президент Ассоциации футуристов и советник Европейской комиссии по форсайту Таня Шиндлер; профессор Оксфордского университета и автор бестселлера Шелковый путь: Новая история мира Питер Франкопан; Зелёная Богиня Китая и сторонник зеленого развития Пегги Лю; профессор Стэнфордского университета и автор курсов по искусственному интеллекту Юнес Бенсуда; и автор бестселлеров и первый главный редактор Проводные журнал Дэвид Роуэн.

Поделиться этой статьей: