TechFusion.ruМненияМожно ли доверить искусственному интеллекту деньги и право управлять

Можно ли доверить искусственному интеллекту деньги и право управлять

угрозы искусственного интеллекта

Создатель Всемирной паутины сэр Тим Бернерс-Ли предостерег от неограниченного распространения искусственного интеллекта

Выступая на Innovate Finance Global Summit, сэр Тим Бернерс-Ли рассказал об опасностях экономики искусственного интеллекта. Он заявил об угрозе появления нового «властелина вселенной», который будет создавать и вести бизнес. Также ученый нарисовал сценарий, в котором системы искусственного интеллекта получат способность принимать решения. Какие последствия возникнут для экономических систем?

Властелины вселенной — это отсылка к роману «Костры амбиций» (1987 года) Тома Вулфа, отмечает Techworld. В книге это люди, не машины. Те, кто на Уолл-стрит и в Лондоне зарабатывал огромные финансовые и социальные капиталы перед «черным понедельником» (19 октября 1987 года) на волне бума программного трейдинга с использованием вычислительной техники того времени.

Бернерс-Ли уверен: дело примет серьезный оборот, когда искусственный интеллект начнет принимать решения: кому выдать ипотеку, какую компанию и когда приобрести и прочие. Когда он начнет создавать свои компании, холдинговые структуры, порождать новые версии самого себя, чтобы этими компаниями управлять.

«Получится борьба между такими компаниями по принципу «выживает сильнейший», пока не дойдет до того, что придется задуматься: а возможно ли добиться, чтобы они работали справедливо и добросовестно? И как вообще объяснить это компьютеру?».

Описанный сценарий действительно грозит уничтожить целую отрасль и ставит серьезные вопросы о справедливости финансовой системы без участия человека.

Похожую картину в интервью Vanity Fair не так давно рисовал и Элон Маск: «Допустим, вы создали постоянно совершенствующийся искусственный интеллект для сбора клубники, и задача ему удается все лучше и лучше. Он собирает все больше и больше, и постоянно растет над собой, и его единственная цель — урожай клубники. Ведь так получится, что весь мир превратится в клубничные плантации. Одни только клубничные плантации, навсегда». И среди них нет места человеку.

Бернерс-Ли неоднократно выступал с предостережениями о роли информационных технологий в современной общественной системе. На прошлой неделе он получил премию Тьюринга «за изобретение системы World Wide Web, первого веб-браузера и основополагающих протоколов и алгоритмов, повлиявших на распространение интернета». Давая интервью СМИ по случаю престижной награды, он высказался против отмены администрацией Трампа важнейших норм о защите персональных данных.

Ранее в марте он опубликовал открытое письмо в честь 28-ой годовщины создания Всемирной паутины, в котором описал главные вызовы, существующие сегодня в Сети: потерю контроля над персональными данными, распространение ложной информации, а также отсутствие прозрачности в политической агитации по онлайн-каналам.

В минувший понедельник в Лондоне  Бернерс-Ли развил эту мысль и задался вопросом: во благо ли, в сухом остатке, для всех нас работают социальные сети. Ученый призвал еще раз задуматься над тем, каким образом и почему интернет служит инструментом для распространения не созидательных, а вредных идей.

«Вывод заключается в том, чтобы полностью изменить стратегию. Важно, чтобы не просто создавались любые соцсети — нужно думать о последствиях для общества и, возможно, переосмыслить саму платформу», — полагает Бернерс-Ли.

В нескольких ремарках, касающихся, судя по всему, избрания Дональда Трампа на пост президента США, Бернерс-Ли еще раз прокомментировал неприемлемость адресной политической пропаганды в Сети. «Может быть, следует принять нормативы, что политическим организациям запрещается использовать методы адресной рекламы?» — предположил создатель интернета.

«Я говорю о кошмарном сценарии, когда пользователь будет открывать страницу кого-то из кандидатов, и, в зависимости от того, кто и каков этот посетитель, ему будут выдаваться те или иные политические заявления с нужным посылом — ведь это основа основ маркетинга для политических сайтов. Нужно переосмыслить, каким образом мы строим общество на основе Сети».

Вопросам развития искусственного интеллекта и других новейших технологий, их влиянию на людей и общество, законы и бизнес, будет посвящена V международная конференция Skolkovo Robotics. Мероприятие пройдет 21 апреля в Технопарке «Сколково». Регистрация на конференцию для людей еще открыта.