Как Facebook и Grindr скомпрометировали конфиденциальность квир-людей

Недавний Утечка данных Cambridge Analytica , которая показала, что британская консалтинговая фирма использовала данные миллионов пользователей Facebook для таргетинга рекламы от имени Трампа, предвещала, как несанкционированные данные могут быть использованы для таргетинга не только на американское население в целом, но и на ЛГБТ-людей и нашу информацию в частности. Теперь эта возможность стала ближе к реальности, поскольку BuzzFeed сообщил вчера что Grindr разрешает двум сторонним фирмам иметь доступ к ВИЧ-статусу пользователей, местонахождению и другой личной и конфиденциальной информации.

Такие разоблачения заставили многих квир-людей, в том числе и меня, обеспокоиться тем, как наши личные данные используются такими компаниями, как Facebook и Grindr, как с нашего согласия, так и без него, и какими уникальными факторами риска их действия представляют для квир-сообщества. Если мы хотим жить в этом мире как безопасные и бесплатные пользователи Интернета, важно понимать, как используются наши данные и как работают эти алгоритмы, особенно теперь, когда мы знаем, что они используются не только для продажи нам продуктов, но и для влияют на наши мысли, мнения и политические взгляды.

Несмотря на то, что возникли некоторые движения против массового обмена данными, такие как #DeleteFacebook, реальность нашего интернет-мира такова, что наши данные собираются в массовом масштабе, и они не являются эксклюзивными для какой-либо одной платформы. Всякий раз, когда мы просматриваем или ищем в Интернете, отправляем электронную почту и публикуем информацию в таких приложениях, как Grindr, вполне вероятно, что эти действия используются для целей сбора данных. Независимо от того, попадут ли эти данные в руки маркетинговой группы, политической организации или консалтинговой фирмы, наша информация не дремлет. Мы можем попытаться немного контролировать процесс — например, используя окно инкогнито, когда мы выходим в интернет, — но это может защитить только часть нашей интернет-активности. Мы больше не просто потребители в Интернете — мы сами являемся товаром, поскольку третьи лица также продают наши данные. Это может быть пугающей мыслью, но это также то, что позволяет большей части Интернета быть бесплатным и доступным, поскольку продажа наших данных и их использование для таргетированной рекламы избавляет компании от необходимости напрямую взимать плату с пользователей.

Прежде чем мы сможем начать защищать себя, важно знать, как на самом деле работает такой сбор данных. Что важно отметить в отношении машинного обучения, так это то, что объем данных, собираемых компаниями таким образом, слишком велик, чтобы кто-либо действительно мог их просеять. Вместо этого компании помещают данные в модели и машины, которые будут делать прогнозы о нас. Они делают это, пытаясь выяснить, как установить связи между различными фрагментами информации, которые им скармливают, например, количеством ваших друзей или тем, какие фильмы вам нравятся. Используя эту информацию, модели могут попытаться угадать ваш пол, политические убеждения или вероятность того, что вы купите продукт. Отсюда о нас делают профили, которые потом продают рекламодателям.

Эти модели настолько сложны, что люди не делают их напрямую. Вместо этого эти модели, также известные как алгоритмы, обучаются, обучая машины угадывать правильные ответы на данные, которые просматривают люди, и надеясь, что это применимо к населению в целом.

Однако даже широко используемые алгоритмы борются с этим обучением, например, технология распознавания лиц, которая эффективен только если вы белый человек . Для квир-людей большие данные также могут привести к усилению таргетинга и неправильному представлению о квирности и ее связи с тем, как мы действуем. Так много предпочтений и действий, которые определяют нас как квир, даже не совсем понятны реальным людям, не говоря уже об алгоритмах, и сильно различаются между членами квир-сообщества, тем не менее системы машинного обучения используют такие действия, чтобы попытаться идентифицировать нас.

Более серьезные проблемы могут возникнуть, когда программное обеспечение работает так, как задумано, или, как в случае с Grindr, если мы добровольно предоставляем информацию о себе, ожидая, что она будет конфиденциальной, и только позже узнаем, что об этом сообщается третьим сторонам. При этом мы даем возможность предсказать, кто мы и как нацелить нас на стороны, которые мы явно не санкционировали. Это может быть не так неприятно, когда просто представляет нам рекламу, и даже может быть полезно, если использовать его ответственно. Это может помочь членам квир-сообщества найти друг друга или передать необходимую информацию тем, кто в ней нуждается. Но этот сбор данных еще более пугает, когда он используется для политического преследования и контроля, и еще страшнее, если он используется во всех сферах нашей жизни, чтобы избавиться от любого подобия частной жизни.

Конфиденциальность всегда была чрезвычайно важна для квир-сообщества, поскольку нам нужно ориентироваться, с кем мы можем встречаться, где безопасно находиться самим собой и с кем раскрывать такие вещи, как наш ВИЧ-статус. Обеспечение нашей безопасности в Интернете — не новая квир-проблема — это старая проблема, которую решают в новом и массовом масштабе. Проблемы конфиденциальности в квир-сообществе восходят к борьбе, за которую многие квир-активисты боролись в наших барах, домах и других социальных пространствах. Если алгоритм может определить или сделать предположение, что мы гомосексуалисты, а также передать информацию о нашем ВИЧ-статусе третьей стороне, мы теряем право решать, когда раскрывать такую ​​конфиденциальную информацию самостоятельно. Конечно, эти данные могут быть переданы рекламодателям, а также правоохранительным органам, нашим семьям, администраторам школ, страховым компаниям или работодателям, и это ставит нас в невероятно опасные ситуации, если они используются не по назначению.

В 2014 году Фейсбук изменили свою политику чтобы пользователи могли выбирать, когда передавать наши данные сторонним приложениям, но мы все равно должны быть осторожны в отношении того, кому мы даем разрешения. Разоблачения Grindr выдвинули эту проблему на первый план, поскольку приложение для знакомств призналось, что делилось ВИЧ-статусом пользователей с третьими лицами, но защищалось, говоря, что такое использование разрешено его политика конфиденциальности, которые многие пользователи не тратят время на изучение. (Вчера вечером компания сказал это прекратит делиться информацией о ВИЧ пользователей с третьими лицами.) Хотя эти третьи лица не являются рекламодателями, а вместо этого являются компаниями, которые пытаются оптимизировать приложения, дело в том, что Grindr не должен предоставлять эту информацию. Таким образом, для квир-потребителей, которые хотят защитить свою конфиденциальность, жизненно важно следить за этими политиками, чтобы гарантировать, что информация о них не попадет в чужие руки. Но помимо того, что мы сами проявляем осторожность, мы также должны возвысить свои голоса и убедиться, что Facebook, Grindr и другие компании, которые получают наши данные, не позволяют не тем рекламодателям использовать свои платформы для злонамеренных действий.

Речь идет не только о конфиденциальности — речь идет о нашем праве существовать на публике в качестве квир-людей на наших собственных условиях и праве делать это безопасно. Как группа анонимных педиков написал в 1990 г.: Быть гомосексуальным не значит иметь право на неприкосновенность частной жизни; речь идет о свободе быть публичным, просто быть тем, кто мы есть.

Джейсон Гуревич учится на младших курсах колледжа Колби, изучает информатику и женские, гендерные и сексуальные исследования. Он является амбассадором кампуса GLAAD и прошлым летом провел стажировку в Google, проводя исследования с использованием машинного обучения.