Цифровая Этика или Темная Сторона Больших Данных

Hи для кого уже не секрет, что в новом цифровом мире одним из лакомых видов заработка становится сбор и продажа данных — цифровых следов наших ежесекундных активностей. И все острее становится вопрос этичности использования этих данных.

Цифровая Этика

Bы, конечно же, помните историю сети супермаркетов Target, когда алгоритм определил беременность девочки и стал присылать ей купоны на товары для беременных, еще до того как семья девочки узнала о ее беременности. Эта история часто приводится как пример возможностей больших данных и машинного обучения, но она также подняла волну протеста и стоила Target лояльности своих клиентов. Вопросы Цифровой Этики сегодня поднимаются на уровень стратегии компании и с каждым днем их важность будет расти. Как решил эту проблему Target и другие компании? Изучаем опыт первопроходцев.

Цифровая Этика имеет несколько граней и проблемы, которая она поднимает можно объединить в следующие группы:

  • Проблема «Выбора» — когда вам нужно выбрать один из нескольких вариантов, каждый из которых является примлемым для вас и не касается вас лично. Классическая задача, с которой сталкивается каждый руководитель, выбирая между временем, ресурсами и деньгами.
  • Проблема «Собственника» — когда вы должны сделать личный выбор — вы хотите заработать много денег или сделать вашего клиента счастливым. Задача найти win-win решение знакома каждому собственнику, которому приходится управлять своей компанией.
  • Проблема «Времени» — когда вы должны выбрать между тактическим и стратегическим решением. Задача заработать деньги быстро сейчас или сделать задел на будущее — одна из самых сложных в бизнесе.

Но вернемся к Target. Основная проблема, с которой они столкнулись — это критика неэтичности подобных предложений, тем более когда речь заходит о несовершеннолетних покупателях. Проблема Выбора была решена довольно просто  — алгоритм сделали немного «умнее» и менее навязчивым. Теперь, если алгоритм уверен в том, что перед ним беременная девушка, то он запрячет предложения товаров для беременных среди других предложений, чтобы не выдавать себя сразу. Этично или цинично, но большинство компаний вынуждены не показывать насколько умны их алгоритмы, только чтобы не потерять лояльность своей аудитории.

В 2012 году Facebook провел эксперимент, о котором стало известно только через два года. Более 680 000 пользователей стали жертвой эксперимента, в котором в течение недели в их ленте показывался либо менее позитивный, либо менее негативный контент, чем обычно. Facebook изучал как реагируют пользователи и ведут себя после, насколько меняется их активность и поведение. Это уже не слежение за частной жизнью, а ее изменение и управление. Этично? Основной источник дохода компании — рекламодатели, а не пользователи сети, и такие эксперименты с лояльной клиентской базой очень опасны.

Очень часто компания начинает действовать как собственник, забывая, что клиенты — это основное в их бизнесе и в цифровом мире их можно потерять очень легко. Влезая в их личную жизнь без их разрешения, да еще и без возможности отказаться от навязываемых услуг, можно гарантировать рост недоверия и даже денежные потери.

Например, для LinkedIn такая оплошность стоила $13 млн. При регистрации LinkedIn сообщала, что не будет использовать пароли и почтовые адреса без разрешения, но при этом после регистрации рассылала «письма счастья» всем контактам нового пользователя (доступные через web mail) от имени пользователя с предложением присоединиться к сети. От этого невозможно было отписаться, что привело к росту недовольства и последующему иску за навязчивость :).

Примерами поспешности в желании «анализировать всё» могут похвастаться и LG и Samsung.

LG так хотели научиться персонализировать рекламу при показе программ на  SmartTV, что пошли дальше простого анализа переключения каналов, а стали скачивать информацию о контенте с подключаемых USB устройств. При этом даже если пользователи отказывались от этой функции, их данные все равно утекали в LG. Проблему решили, но CEO пришлось извиняться за поспешные тактические ошибки.

Samsung пошел еще дальше и в своих умных телевизорах, управляемых голосом, сохраняет все голосовые команды (а при этом может быть и еще много посторонних звуков). И даже предупредил своих клиентов, что эти данные могут использоваться для повышения эффективности рекламы как самой компанией, так и передаваться ее партнерам. Проблема в том, что все эти данные передавались в сеть в незашифрованном виде. Поспешное изменение политик использования, извинения и продолжающиеся работы над улучшением уровня шифрования…

 

Примеров ошибок — как осознанных, так и неосознанных — с каждым днем становится все больше. Алгоритмы пока еще очень несовершенны. Поэтому вопросы Цифровой Этике полностью лежат на человеке.

В Цифровом Мире данные о клиентах являются самым ценным активом, но когда вы хотите на них заработать, не забывайте, что они могут быть в дальнейшем использованы против вас.

 

Вопрос:  А учитываете ли вы вопросы цифровой этики в своей компании и своих проектах?    

Вы можете оставить комментарий здесь