TechFusion.ruЛюдиКуда ведет развитие технологий, кто заставляет нас бояться роботов и что не так с «Черным зеркалом»

Куда ведет развитие технологий, кто заставляет нас бояться роботов и что не так с «Черным зеркалом»

Андрей Себрант

Андрей Себрант, «Яндекс» — о технологическом оптимизме, маркетинге и фантастике

За что хочется убить маркетологов, почему реклама часто кажется глупой, когда машинный интеллект справляется с задачами лучше человеческого и какие технологии влияют на мир вокруг нас? Поговорили об этом с директором по маркетингу сервисов компании «Яндекс» и одним из главных визионеров Рунета Андреем Себрантом.

Технологии и реклама: куда мы катимся

— В мультсериале Futurama была серия, в которой реклама транслировалась прямо в сны героев. Это, конечно, фантастика но от нее жутковато. Так мы к этому идем?

— Этот сериал я не смотрел, но вообще сама тема не очень веселая. Сейчас то, что люди видят в рекламе, определяется не столько технологиями, сколько этическими ограничениями тех, кто эти технологии применяет. Но с этикой у разных людей по-разному — у некоторых она кончается там, где начинаются деньги. Так что опасения получить неприятный опыт от общения с рекламой и вообще с контентом, в общем-то, оправданы. Как бы ни работали законы об охране частной жизни — они просто не успевают за современными технологиями. Всегда есть нерегулируемая «серая область».

Я очень люблю, например, когда студенты пристают с вопросами о «прайваси» на лекциях, взять, и к отполированной поверхности стола приложить палец. И спросить: стал ли с этого момента институт, в котором стоит стол, оператором моих персональных данных?

— Ну, вы же не подписывали никаких соглашений об этом…

— Я — нет, но, с другой стороны, если я совершу противозаконное действие, сюда прибежит полиция, снимет отпечатки — меня легко идентифицируют. То есть я оставил абсолютно идентифицируемый след, а значит, с ним надо как-то по-особенному обращаться? Это вот пример серой зоны. Точно таким же образом не являются операторами персональных данных бесконечное количество компаний, которые управляют камерами видеонаблюдения на улицах городов.

— Разве они не должны подстраиваться под 152-ФЗ?

— Там столько «но»… Они должны подстраиваться — в тот момент, когда начинают обрабатывать данные. Но они могут сами их и не обрабатывать. А дальше открывается пространство для маневра.

Еще один пример, который ошарашивает людей. Ваш смартфон теоретически позволяет вас идентифицировать. Есть с десяток возможных алгоритмов, опишу один, очень простой. Допустим, за вашим аппаратом следят по его собственному уникальному идентификатору. Есть абсолютно надежный «отпечаток» — нужны всего четыре точки, где вы чаще всего бываете. Это легко для типичного случая: ваш дом, ваша работа, дом вашего бойфренда или родителей. Четвертое место — допустим, ваш любимый бар. Вероятность, что у двух разных людей совпадут все четыре точки — ну очень низка.

Таких цифровых следов на порядок больше, чем физических. Отследить их и дальше использовать как угодно — перепродавать, агрегировать, что-то предлагать — это дело техники. Общий тренд в маркетинге, который никто и не скрывает — максимальная персонализация. Во что это превратится? Я боюсь, что в ряде случаев это может вылиться в не очень приятную историю.

Возьмем ретаргетинг. С точки зрения здравого смысла — полезная технология. Но это же бесит, когда ты купил, например, электродрель, а потом этой электродрелью для тебя завешен весь интернет на ближайшие две недели?

— Это ужасно бесит, да.

— Но это же не про то, что технология плохая — сама идея ретаргетинга хороша. Но отданная в руки жадных маркетологов, она превращается в нечто, за что хочется пойти и этих маркетологов прибить. Той самой электродрелью.

В идеале технология должна использоваться, чтобы уменьшить рекламный шум на экранах пользователей. Простейший пример: мы понимаем, что человек с большей вероятностью владелец кошки, а не собаки — зачем тогда показывать ему рекламу про собачьи площадки, собачий корм и новые ошейники? Ему про кошечек надо, про собачек как-то совсем мимо. С точки зрения рекламодателя это бессмысленно потраченные деньги.

— Но тот же «Директ» часто ошибается — например, предлагает мне одежду для полных или вообще что-то сугубо мужское.

— Ошибается не «Директ» — как и в случае, когда магазин не выключает рекламу товара, который вы уже в нем купили. Тут тот случай, когда хорошие инструменты используются жадными маркетологами. Они ведь все равно платят за клик, поэтому им не важно, чем у вас загажен экран. Именно поэтому Google уже начал — и, я думаю, «Яндекс» в какой-то степени это поддержит — не увеличивать, а уменьшать количество «ручек управления», которые можно «дергать» в контекстной рекламе. Потому что ни Google, ни «Яндексу» не интересно раздражать пользователей.

Андрей Себрант

Выступление Андрея Себранта на Yet another Conference (YaС). Фото: личная страница в Facebook

— То есть вы хотите ограничить свободу действий для рекламодателя?

— И это правильно, потому что рекламодатель не обладает всей той информацией, которая есть внутри системы. Тут-то мы и приходим к нашему любимому машинному интеллекту. Мы и сами не всегда знаем, по каким причинам он решает что-то показать определенному пользователю. Тем не менее, статистически подтверждается, что такие настройки работают лучше, чем настройки человеческие. Ну, это давным-давно известно — то же самое касается, например, стратегий управления ставками. Еще до всякого машинного интеллекта много раз проверено, что, управлять ставками в ручном режиме, соревнуясь с алгоритмом — это бессмысленно просаживать деньги. Так что для того, чтобы уменьшить число людей, которые на своем азарте просаживают деньги и разочаровываются в контекстной рекламе, лучше вообще убрать такую возможность. Предоставить человеку несколько стратегий, за которые отвечает машинный интеллект. Останется выбрать стратегию, которая кажется наиболее правильной, и убрать руки…

— Не боитесь, что будет много недовольных?

— Будут, конечно! Это классическая история.

 Проблемы автопилота Tesla — не проблема человечества

— То, что сейчас происходит в мире — понятно, мы все в этом живем. Но вы же визионер — скажите, что нас ждет?

— Все мое визионерство — оно про то, что машины теперь учатся и умнеют гораздо быстрее, чем раньше. Потому что раньше скорость обучения машин определялась скоростью людей, которые писали код либо ставили задачи по написанию кода. Но в тот момент, когда машины начали учиться сами, это ограничение исчезло. Отсюда все эти истории с победами машин над людьми в играх — в Го, в шахматах, о самообучающемся искусственном интеллекте в StarCraft. За счет того, что машины начали играть, общаться, взаимодействовать сами с собой, они очень быстро учатся. И, соответственно, уходят на тот уровень, который людям не очень доступен.

— Хочется понять, это хорошо или плохо? Илон Маск, например, высказывал опасения в связи с развитием искусственного интеллекта. Как к этому явлению относитесь вы?

— Я? Очень, очень положительно к этому отношусь. И я, надо заметить, не один такой оптимист — у того же Маска хватает оппонентов, в том числе среди очень разбирающихся в теме людей. Например, Эндрю Ын (Andrew Ng) — человек, который в теорию современного машинного интеллекта вложил ну очень много. Он очень иронично, даже довольно жестко полемизирует с Маском. Он говорит что-то вроде: «Ну понятно — человек, который никогда этим не занимался, даже на уровне постановки задач, видимо, считает что проблема автопилота в его Tesla, который действительно очень плох — это проблема человечества».

— У «Яндекса» лучше автопилот работает?

— Он гораздо моложе, да и работает совсем по-другому — мы строим сразу полностью автономную технологию для управления машиной, которой водитель не нужен вообще, это так называемый Level 5. Им еще заниматься и заниматься. Как со всеми обучающимися системами — никакой «супер-умностью» нельзя перепрыгнуть набор опыта. То есть пока система не проедет сколько-то там миллионов километров в разнообразных условиях — она будет сырой. Я думаю, что если сейчас запустить в Москве любую машину на автопилоте, даже из самых продвинутых компаний — это будет то еще шоу.

На самом деле я слежу за этим рынком и думаю, что самая интересная история — это не компании, которые хотят производить беспилотные авто, которые должны ездить везде. Самое интересное — компании, которые решают одну конкретную задачу. Есть такие стартапы, которые уже подняли очень хорошие деньги. Например, компания, которая делает грузовики с системой компьютерного зрения, которые ездят по ограниченному маршруту — между рудником и портом. Этот грузовик умеет только две вещи: останавливаться под экскаватором для загрузки и разгрузки и ехать по дороге из точки А в точку Б и обратно.

— Ну, это же не интеллект — это простой алгоритм…

— Это интеллект, конечно же интеллект, потому что такие грузовики едут по дороге общего пользования. Они едут 200 километров по шоссе. Просто кроме этих 200 километров их нельзя пустить больше никуда. Такие машины работают уже сейчас, и довольно успешно. И вот такой способ — не пытаться сразу решить глобальную задачу, а просто сделать автомобиль, который, может ездить по определенному отрезку в любую погоду, в любое время… Он более реальный.

— Но это куда менее амбициозно, чем цели, которые ставит перед собой тот же Маск.

— Правильно, но я про то, как решаются задачи. Иногда полезно воплощать большой проект по частям. Не пытаться решить всю задачу сразу путем перевода всех машин на самоуправление, а решать небольшие последовательные участки задачи. Поэтому я и думаю, что куски автоматизации будут появляться то там, то здесь.

— Все еще не очень понятно, на чем базируется ваш оптимизм. Что мешает машине серьезно ошибиться на своем маленьком участке работы?

— Ничто не мешает. Дело просто в том, что люди ошибаются чаще. Есть визионеры-реалисты, которые говорят, что, конечно же, беспилотные автомобили будут давить людей…

— Или по-своему решать, кого задавить правильнее?

— Ну, в разных странах это будет решаться по разному. Мне вот нравится подход китайцев, которые говорят, что к тому моменту, когда это станет актуально, они будут точно знать, кого правильно давить. При этом китайское общество соглашается.

— Вы о рейтингах граждан? В Китае — возможно, но в Европе представить такое сложно.

— Европа вообще очень странная. Потому что говорить, что страшно доверить компьютеру решение, кого задавить, при том, что 1,3 миллиона трупов в год оказываются на дорогах — странно. Если даже всего лишь на порядок, до 130 тысяч, эта цифра уменьшится с помощью машин — это же больше миллиона людей, чьи жизни сохранятся. Даже если ежедневно самоуправляемые машины будут давить по несколько человек, но при этом миллион жизней они сохранят… Мой оптимизм основан на том, что миллион жизней стоят того, чтобы «разрешить» машинам задавить сто тысяч. Потому что мы знаем, сколько давят люди.

Андрей Себрант

Андрей Себрант. Фото: личная страница в Facebook

Маркетолог завтрашнего дня

— Вы сказали, что технологии развиваются быстрее, чем успевают развиваться люди. Как меняются требования к навыкам человека?

— Если вернуться к тому же маркетингу, то он стал самой что ни на есть точной наукой. Когда я предупреждал об этом лет семь назад, надо мной посмеивались студенты — в аудитории сидели девочки и мальчики, которые не то что статистику — арифметику-то не знали. А сейчас нормально для рядового маркетолога владеть статистическим аппаратом, математическим. Маркетолог работает с метриками, с аналитикой, с кучей систем, плюс еще с какой-нибудь CRM. Это нормальная работа человека, владеющего методиками той самой эмпирической науки, умеющего спланировать эксперимент, правильно проинтерпретировать полученные количественные данные.

— Всем нужны математики. Где же найти место несчастным гуманитариям?

— А не случайно столько людей сейчас кинулись в SMM. Вот, писать тексты в Telegram, закупать размещения у блогеров…

— Все-таки вернемся к вопросу коммуникаций — как изменятся они?

— Города становятся умными. Вот по Москве, например, это очень хорошо заметно. Рекламные коммуникации тоже «умнеют». Вы замечали в городе щиты — большие экраны, которые, конечно же, имеют сетевой доступ? Это раньше были просто щиты, а теперь они умеют в какой-то момент, в самое лучше время показать нужное сообщение. Пока еще это относительно простые и усредненные «таргетинги», но чем больше будет умнеть город, тем больше будет появляться рекламных носителей, которыми можно управлять в реальном времени. В общественном транспорте тоже все больше и больше экранов. И каждый носитель будет нацелен на какую-то свою аудиторию.

— То есть со мной будет коммуницировать целый город? А если я не хочу, чтобы каждый столб делал мне таргетированное предложение? Я и так уже не успеваю обрабатывать всю входящую информацию. Как мы будем выживать через десяток лет во всем этом шуме?

— Ну, я думаю, что если бы тот вал информации, который сейчас есть вокруг нас, нам бы показали 20 лет назад, мы бы сказали «Э-э-э! Стоп! Остановите! Землю, прогресс, цивилизацию и все остальное. Я сойду». Но как-то же мы постепенно адаптировались. Вспоминаю, какой была Москва конца прошлого века — это и есть почти 20 лет назад. Никаких интерактивных щитов, ничего не происходит у меня в телефоне, у некоторых есть только пейджеры. Показать тем людям современную Москву, с вездесущим интернетом, смартфонами, видео на щитах и в вагонах электричек… Они были бы в шоке. Ну ничего, мы же выжили. Так что, думаю, не стоит недооценивать возможности адаптации человеческого мозга. Мозг, может, в чем-то там машинам уступает. Но вот что мы точно в себе развили — это способность быстро адаптироваться к изменениям окружающей среды. Поэтому новый рекламный фон кого-то будет раздражать сильнее, кого-то слабее, но мы сумеем с ним справиться.

— То есть пока вещи вокруг будет умнеть, нам останется только адаптироваться…

— Я твердо уверен, что «машины», которые так или иначе в маркетинге работают рядом с нами — в Google, «Яндексе», Facebook, «ВКонтакте», а также те, которые появляются в наружке или в рекламе внутри торговых центров… Все эти машины будут умнеть. И будут забирать все больший объем задач, которые на сегодняшний день мы пытаемся решать своими силами. Я про то, что все самые разные кусочки — маркетинговые исследования, медиапланирование и даже местами решение креативных задач — начинают выполняться машинами. Либо требуют творческого соавторства человека-маркетолога, рекламиста, и какого-то интеллектуального машинного продукта.

В одном черном-черном зеркале

— Вы смотрите сериалы? Любите фантастику, фильмы про будущее?

— Люблю. Но тут надо сделать лирическое отступление. Есть одно странное мероприятие, придуманное в Израиле — Kinnernet. На нем собираются люди, которые так или иначе, в силу своих профессиональных интересов, занимаются думами о будущем. Мероприятие закрытое — организаторы персонально приглашают каждого участника, туда нельзя купить билет. Всех участников погружают в некую особую среду, и несколько дней все живут очень простой жизнью, «сливаются с природой». И при этом постоянно идут дискуссии, без всякой предварительной программы. В первый же вечер люди должны самоорганизоваться, заполнить сетку программы, определиться, кто про что будет рассказывать.

Так вот, на одном из этих мероприятий была дама — футуролог, креативщица, работающая на пересечении искусства и технологий, Моника Биелскыте (Monika Bielskyte). Она как раз рассказывала про то, какую роль в конструировании будущего в головах играет Голливуд. Он конструирует что-то, что ему нужно — то, что ему кажется захватывающим. Поэтому представления про «умные» машины у большинства людей стандартны: это, во-первых, всегда про антропоморфных роботов. Потому что просто интеллект, если он непонятно где — в облаке или на экране — не цепляет. А во-вторых, если ИИ никого не убил, то он не вызывает жесткой эмоциональной реакции. Поэтому он должен либо убить, либо, в крайнем случае, замыслить какую-то пакость. Или наплевать на человечество и уйти в какие-то высокие сферы.

Андрей Себрант

Андрей Себрант. Фото предоставлено компанией «Яндекс»

Кроме нашумевшего фильма «Она» есть множество более жестких вариантов, где искусственный интеллект начинает убивать. И опять же, в антропоморфной форме — обязательно. Вся эта история создает в головах людей совершенно идиотскую связку: искусственный интеллект, робот… А дальше — чистая психология. Когда что-то очень похожее на человека при этом не является человеком — это на подсознательном уровне вызывает страх.

И вот это все обыгрывает Голливуд. Тем самым он сильно мешает конструировать нормальное будущее, с каким то оптимистичным видением.

Собственно, поэтому же мне не интересно смотреть сериал «Черное зеркало». Потому что они подают как будущее то, что есть уже сегодня. Большая часть технологий, которая там рассматривается — все классические истории, например, с рейтингом в соцсетях…

— Да-да, отвратительно, жутко и кошмарно…

— Но уже происходит сейчас — вспоминаем про Китай. Потому что китайцы вот сейчас заняты построением этого самого рейтинга. Он нужен, в том числе, чтобы беспилотный автомобиль мог решать ту самую дилемму — кого убить в ситуации, когда избежать аварии невозможно.

— И после этого вы заявляете, что вы технологический оптимист?

— Я сейчас чисто про технологическую историю. Так вот, с точки зрения технологий в сериале «Черное зеркало» нет вообще никакой фантастики.

— А взбесившийся рой робо-пчел? Таких технологий, вроде, пока нет. Точнее, они разрабатываются, но очень далеки от показанного в сериале.

— Взбесившаяся пчела — это поинтереснее, но вообще вот такие распределенные механизмы так не работают. Это вообще история про умные города, где такие «мэши» могут оказаться лучше централизованного интеллекта. Вот, например, некоторые эксперименты показывают, что светофор, который знает о работе только восьми своих соседей, но ничего не знает про глобальные транспортные потоки в городе, почему-то справляется лучше, обеспечивает самое гладкое движение. Так что такие сети «умных» объектов, обменивающихся данными на коротких дистанциях — это тоже оптимистичное будущее. Не всегда надо пытаться построить супер-централизованный интеллект.

— Но достать андроида из коробки и наделить его «личностью» погибшего друга все еще нельзя.

— Ну, тут включается много других нюансов. В целом, один из пунктов моего оптимизма состоит в том, что человека, его личность — нельзя сводить к интеллекту. Мы гораздо более сложные «устройства», чем тот самый интеллект, который, к слову, уже успешно воспроизводится. И это даже не история про эмоции. Все гораздо сложнее.