Изучение рекламы Google с использованием разработанного CMU инструмента под названием AdFisher, который проводит эксперименты с моделированными профилями пользователей, показало, что гендерная дискриминация была реальной, сказал Анупам Датта, доцент кафедры информатики, электротехники и компьютерной инженерии. Он подчеркнул, что до сих пор неизвестно, кто или что несет ответственность.
Было ли это предпочтением рекламодателей? Или это было непреднамеренное следствие алгоритмов машинного обучения, которые управляют механизмами онлайн-рекомендаций?
«Это произошло совершенно неожиданно», — сказал Датта о выявлении гендерной дискриминации, которое было частью более крупного исследования работы веб-страницы настроек рекламы Google, ранее известной как «Настройки рекламы».
Этот вывод подчеркивает важность использования таких инструментов, как AdFisher, для мониторинга экосистемы онлайн-рекламы.
«Многие важные решения в отношении рекламы, которую мы видим, принимаются онлайн-системами», — сказал Датта. "Надзор за этими" черными ящиками "необходим, чтобы убедиться, что они не ставят под угрозу наши ценности."
В исследовании, опубликованном в Proceedings on Privacy Enhancing Technologies и представленном в этом месяце, использовался автоматизированный инструмент AdFisher для проведения 21 эксперимента по оценке параметров рекламы, веб-страницы, созданной Google, чтобы дать пользователям некоторый контроль над показываемой им рекламой. Работа является частью растущего объема исследований, которые сделали Карнеги-Меллон лидером в изучении кибербезопасности и конфиденциальности в Интернете.
AdFisher создает сотни смоделированных пользователей, позволяя исследователям проводить эксперименты в браузере, в которых они могут определять различные эффекты от изменений предпочтений или поведения в сети. AdFisher использует инструменты машинного обучения для анализа результатов и проведения тщательного статистического анализа.
«Мы не можем заглянуть в черный ящик, который принимает решения, но AdFisher может обнаружить изменения в предпочтениях и изменениях в поведении своих виртуальных пользователей, которые вызывают изменения в получаемой пользователями рекламе», — сказал Майкл Карл Чанц, доктор философии.D. выпускник Карнеги-Меллона, который сейчас работает исследователем в Международном институте компьютерных наук в Беркли, Калифорния. Предыдущие исследователи могли показать только корреляцию, но не причинно-следственную связь, между изменениями в настройках рекламы и рекламой, отображаемой для пользователей.
Чтобы изучить влияние пола, исследователи использовали AdFisher для создания 1000 смоделированных пользователей — половину обозначенных мужчин, половину женщин — и попросили их посетить 100 лучших сайтов по трудоустройству.
Когда AdFisher затем просмотрел рекламу, которая была показана имитируемым пользователям, сайт, наиболее тесно связанный с мужскими профилями, был службой карьерного коучинга для руководящих должностей с платой более 200000 долларов.
«Пользователям-мужчинам показывали объявления о высокооплачиваемой работе примерно 1800 раз, по сравнению с пользователями-женщинами, которые видели эти объявления примерно 300 раз», — сказал Амит Датта, доктор философии.D. студент в области электротехники и вычислительной техники. Для сравнения: объявления, которые больше всего ассоциируются с женскими профилями, относятся к общей службе размещения вакансий и автодилеру.
Анупам Датта сказал, что у исследователей нет доказательств того, что Google делает что-то незаконное или нарушает свою собственную политику.
Он добавил, что хотя AdFisher может определить расхождения, он не может объяснить, почему они возникают, не заглянув внутрь черного ящика. Такие несоответствия могут возникнуть из-за того, что рекламодатель или система Google выбрали таргетинг на мужчин.
Анупам Датта в настоящее время работает с Microsoft Research, чтобы изучить рекламную экосистему Microsoft изнутри. Он сказал, что надеется, что другие организации будут использовать такие инструменты, как AdFisher, для мониторинга поведения своего программного обеспечения для таргетинга рекламы, и что регулирующие органы, такие как Федеральная торговая комиссия, будут использовать этот инструмент для выявления злоупотреблений.
В дополнение к выводам, касающимся гендерной дискриминации, другой эксперимент показал, что некоторые изменения в рекламе, представленной пользователям в зависимости от их активности в Интернете, не объясняются прозрачно на странице настроек рекламы. Когда моделируемые пользователи посещали веб-страницы, связанные со злоупотреблением психоактивными веществами, Google впоследствии начал рассылать им больше объявлений о реабилитационном центре.
Тем не менее, это изменение не было отражено в настройках рекламы, что сделало невозможным для пользователя изменить настройки и остановить рекламу, связанную со злоупотреблением психоактивными веществами. Анупам Датта сказал, что это вероятно, потому что изменение рекламы было следствием ремаркетинга.
В ремаркетинге Google позволяет рекламодателям обращаться к пользователям, которые уже посетили их страницу. Этот вывод демонстрирует, что страница настроек рекламы не дает полного представления о выводах, сделанных Google о пользователе.
Авторы заметили, что Google начал выделять это ограничение на странице настроек рекламы несколько недель назад.
В другом эксперименте исследователи обнаружили, что изменение настроек рекламы может позволить пользователям избегать некоторых классов рекламы, которые им могут не нравиться.
Они обнаружили, что смоделированные пользователи, посещающие сайты онлайн-знакомств, могут убрать этот интерес в настройках рекламы, чтобы получать меньше рекламы, связанной с онлайн-знакомствами, что дает пользователям некоторый выбор в отношении рекламы, которую им показывает Google.