Наука о данных - Брендан Тирни

В качестве примера того, что несоблюдение этических норм может иметь серьезные последствия для разработчиков и поставщиков технологий, можно привести случай 2015 г.{69}. Дело закончилось тем, что Федеральная торговая комиссия США (FTC) оштрафовала разработчиков и издателей игр в соответствии с Законом о защите конфиденциальности детей в интернете (COPPA). Разработчики интегрировали стороннюю рекламу в свои бесплатные игры. Интеграция сторонней рекламы является стандартом бесплатных бизнес-моделей. Однако возникла проблема, поскольку игры были предназначены для детей в возрасте до 13 лет. В результате, предоставляя данные своих пользователей рекламным сетям, разработчики нарушили COPPA. Кроме того, в одном эпизоде разработчики даже не сообщили рекламным сетям, что приложения предназначены для детей. Детям могла быть показана неуместная реклама, поэтому FTC постановила, что издатели игр несут ответственность за обеспечение соответствия контента и рекламы возрасту пользователей. В последние годы число подобных случаев увеличилось, и ряд организаций, в том числе FTC{70}, призвали компании принять принципы «проектируемой конфиденциальности»{71}. Эти принципы были разработаны в 1990-х гг. и признаются в качестве основы для защиты частной жизни во всем мире. Принципы утверждают, что защита конфиденциальности должна быть режимом по умолчанию для проектирования технологий и информационных систем. Чтобы следовать этим принципам, разработчик должен сознательно и активно стремиться воплотить идеи конфиденциальности в технологиях, организационных методах и архитектурах сетевых систем.

Хотя доводы в пользу этической науки о данных ясны, действовать этично не всегда так просто. Чтобы конкретизировать этические вопросы науки о данных, представьте себе, что вы работаете в критически важном для бизнеса проекте специалистом по данным. Анализируя данные, вы обнаружили ряд зависимых атрибутов, которые в совокупности оказались замещающей переменной расы, религии, сексуальной ориентации или иного конфиденциального признака. Вы знаете, что по закону не можете использовать расовый атрибут в вашей модели, но вы уверены, что эти замещающие переменные позволят вам обойти антидискриминационное законодательство. Вы также полагаете, что включение этих атрибутов в модель заставит ее работать, хотя, конечно, обеспокоены тем, что это может усилить дискриминацию, которая уже присутствует в системе. Спросите себя: «Что я буду делать?»

‹1›. Brynjolfsson, Erik, Lorin M. Hitt, and Heekyung Hellen Kim. 2011. «Strength in Numbers: How Does Data-Driven Decisionmaking Affect Firm Performance?» SSRN Scholarly Paper ID 1819486. Rochester, NY: Social Science Research Network. https://papers.ssrn.com/abstract=1819486.

‹2›. Carroll, Rory. 2013. «Welcome to Utah, the NSA’s Desert Home for Eavesdropping on America.» The Guardian, June 14, sec. US news. https://www.theguardian.com/world/2013/jun/14/nsa-utah-data-facility.

‹3›. Kitchin, Rob. 2014a. The Data Revolution: Big Data, Open Data, Data Infrastructures and Their Consequences. Sage.

‹4›. Batty, Mike, Arun Tripathi, Alice Kroll, Cheng-sheng Peter Wu, David Moore, Chris Stehno, Lucas Lau, Jim Guszcza, and Mitch Katcher. 2010. «Predictive Modeling for Life Insurance: Ways Life Insurers Can Participate in the Business Analytics Revolution.» Society of Actuaries. https://www.soa.org/files/pdf/research-pred-mod-life-batty.pdf.

‹5›. Mayer-Schönberger, Viktor, and Kenneth Cukier. 2014. Big Data: A Revolution That Will Transform How We Live, Work, and Think. Reprint edition. Boston: Eamon Dolan/Mariner Books.

‹6›. Batty, Mike, Arun Tripathi, Alice Kroll, Cheng-sheng Peter Wu, David Moore, Chris Stehno, Lucas Lau, Jim Guszcza, and Mitch Katcher. 2010. «Predictive Modeling for Life Insurance: Ways Life Insurers Can Participate in the Business Analytics Revolution.» Society of Actuaries. https://www.soa.org/files/pdf/research-pred-mod-life-batty.pdf.

‹7›. Hill, Shawndra, Foster Provost, and Chris Volinsky. 2006. «Network-Based Marketing: Identifying Likely Adopters via Consumer Networks.» Statistical Science 21 (2): 256–276. doi:10.1214/088342306000000222.

‹8›. Beales, Howard. 2010. «The Value of Behavioral Targeting.» Network Advertising Initiative. http://www.networkadvertising.org/pdfs/Beales_NAI_Study.pdf.

‹9›. Goldfarb, Avi, and Catherine E. Tucker. 2011. «Online Advertising, Behavioral Targeting, and Privacy.» Communications of the ACM 54 (5): 25–27.

‹10›. Mayer, J. R., and J. C. Mitchell. 2012. «Third-Party Web Tracking: Policy and Technology.» In 2012 IEEE Symposium on Security and Privacy, 413–27. doi:10.1109/SP.2012.47.

‹11›. Duhigg, Charles. 2012. «How Companies Learn Your Secrets.» The New York Times, February 16. http://www.nytimes.com/2012/02/19/magazine/shopping-habits.htm.

‹12›. Turow, Joseph. 2013. The Daily You: How the New Advertising Industry Is Defining Your Identity and Your Worth. Yale University Press.

‹13›. Clifford, Stephanie. 2012. «Supermarkets Try Customizing Prices for Shoppers.» The New York Times, August 9. http://www.nytimes.com/2012/08/10/business/supermarkets-trycustomizing-prices-for-shoppers.html.

‹14›. Batty, Mike, Arun Tripathi, Alice Kroll, Cheng-sheng Peter Wu, David Moore, Chris Stehno, Lucas Lau, Jim Guszcza, and Mitch Katcher. 2010. «Predictive Modeling for Life Insurance: Ways Life Insurers Can Participate in the Business Analytics Revolution.» Society of Actuaries. https://www.soa.org/files/pdf/research-pred-mod-life-batty.pdf.

‹15›. Kitchin, Rob. 2014a. The Data Revolution: Big Data, Open Data, Data Infrastructures and Their Consequences. Sage.

‹16›. Clifford, Stephanie. 2012. «Supermarkets Try Customizing Prices for Shoppers.» The New York Times, August 9. http://www.nytimes.com/2012/08/10/business/supermarkets-trycustomizing-prices-for-shoppers.html.

‹17›. Datta, Amit, Michael Carl Tschantz, and Anupam Datta. 2015. «Automated Experiments on Ad Privacy Settings.» Proceedings on Privacy Enhancing Technologies 2015 (1): 92–112.

‹18›. Hunt, Priscillia, Jessica Saunders, and John S. Hollywood. 2014. Evaluation of the Shreveport Predictive Policing Experiment. Rand Corporation. http://www.rand.org/pubs/research_reports/RR531.

‹19›. The Oakland Privacy Working Group. 2015. «PredPol: An Open Letter to the Oakland City Council,» June 25. https://www.indybay.org/newsitems/2015/06/25/18773987.php.