Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта - Фрэнк Паскуале

репутации описывается и критикуется в: Hu Jianmiao, “Can the Children of Those Who Run Red Lights be Restricted from Attending School,” Legal Daily, January 13, 2016, http://opinion.people.com.cn/ m/20i6/oii3/cioo3-28046944.html. Критика Ху указывает на надежные основания, позволяющие противостоять сетевым следствиям в рамках самой правовой системы Китая.

434

Jay Stanley, “China’s Nightmarish Citizen Scores Are a Warning for Americans,” ACLU (blog), October 5, 2015, https://www.aclu.org/ blog/privacy-technology/consumer-privacy/chinas-nightmarish-citizen-scores-are-warning-americans.

435

Возможно, предугадывая негативные репутационные эффекты, гонконгские протестующие против Билля об экстрадиции (2019) использовали маски, карты системы Octopus и лазеры, чтобы подорвать системы распознавания лиц, которые могли бы навсегда стигматизировать их, определив в качестве диссидентов или неблагонадежных.

436

Жиль Делез, «Post scriptum к обществам контроля», в: Жиль Делез, Переговоры (Санкт-Петербург: Наука, 2004); Frank Pasquale, “The Algorithmic Self,” Hedgehog Review, Spring 2015.

437

Nathan Vanderklippe, “Chinese Blacklist an Early Glimpse of Sweeping New Social-Credit Control,” Globe and Mail, January 3, 2018, updated January 18, 2018, https://www.theglobeandmail.com/news/world/ chinese-blacklist-an-early-glimpse-of-sweeping-new-social-credit-control/article374933oo/; Frank Pasquale and Danielle Keats Citron, “Promoting Innovation while Preventing Discrimination: Policy Goals for the Scored Society,” Washington Law Review 89 (2014): 1413–1424; Citron and Pasquale, “The Scored Society.”

438

Dan McQuillan, “Algorithmic States of Exception,” European Journal of Cultural Studies 18 (2015): 564–576.

439

Jathan Sadowski and Frank Pasquale, “The Spectrum of Control: A Social Theory of the Smart City,” First Monday 20, no. 7 (July 6, 2015), https://firstmonday.org/article/view/5903/466o.

440

Violet Blue, “Your Online Activity Is Now Effectively a Social ‘Credit Score,’ ” https://www.engadget.com/2020/o1/17/your-online-activity-effectively-social-credit-score-airbnb/.

441

Audrey Watters, “Education Technology and the New Behaviorism,” HackEducation (blog), December 23, 2017, http://hackeducation. com/2017/12/23/top-ed-tech-trends-social-emotional-learning.

442

Michael Walzer, Spheres of Justice: A Defense of Pluralism and Equality (New York: Basic Books, 1984).

443

О силе и ограниченности утилитаристских и деонтологических теорий см.: Cohen, Configuring the Networked Self Расходясь с западными стандартами либерализма, философия Уолцера хорошо стыкуется с теориями социальной гармонии, которые часто ассоциируются с восточноазиатскими философиями.

444

В идеале значение должны иметь не только корреляции, но и описания причинно-следственной связи. См., например: Kiel Brennan-Marquez, “ ‘Plausible Cause’: Explanatory Standards in the Age of Powerful Machines,” Vanderbilt Law Review 70 (2018): 1249–1301. Мы можем понять, почему задержки платежей в прошлом должны получить кредитную оценку; записывать их – честная игра. Но применять в таких суждениях другие большие данные, не ограничивающиеся ролью человека в качестве должника, уже не так законно, как бы хорошо они ни предсказывали проблемы с выплатами.

445

Jurgen Habermas, The Theory of Communicative Action, vol. 2, Lifeworld and System: A Critique of Functionalist Reason, trans. Thomas McCarthy (Boston, MA: Beacon Press, 1987). Введение в эти идеи см. в: Hugh Baxter, “System and Lifeworld in Habermas’s Theory of Law,” Cardozo Law Review 23 (2002): 473–615.

446

Ирония формулировки Хабермаса (восходящей ко временам, когда «экспертные системы» ИИ можно было легко проинтерпретировать) в том, что метафора «юридификации» указывала на правовое поле как особенно непрозрачную и излишне сложную методику социального упорядочивания, тогда как сегодня базовый для правовой системы стандарт обоснования становится стандартом подотчетности, если применить его к автоматизированным системам.

447

Эта инструментализация самого себя критикуется как разновидность отчуждения в работе: Hartmut Rosa, Resonance: A Sociology of Our Relationship to the World, trans. James Wagner (Cambridge, UK: Polity Press, 2019). См. также: Richard M. Re and Alicia Solow-Niederman, “Developing Artificially Intelligent Justice,” Stanford Technology Law Review 22 (2019): 242, 275, где обсуждается отчуждение от автоматизированных систем.

448

David Beer, The Data Gaze: Capitalism, Power and Perception (Los Angeles: Sage, 2018); Бруссард, Искусственный интеллект: пределы возможного.

449

Charles Taylor, “Foucault on Freedom and Truth,” Political Theory 12, no. 2 (1984): 152–183.

450

Уильям Дэвис, Нервные государства (Москва: ACT, 2021).

451

Adolph A. Berle, Power (New York: Harcourt, 1969); John Gaventa, Power and Powerlessness: Quiescence and Rebellion in an Appalachian Valley (Urbana: University of Illinois Press, 1980); Стивен Льюке, Власть: радикальный взгляд (Москва: Издательский дом ГУ ВШЭ, 2010).

452

Jonathan Schell, The Unconquerable World: Power, Nonviolence, and the Will of the People (New York: Metropolitan Books, 2003).

453

Elizabeth Warren and Amelia Warren Tyagi, The Two-Income Trap: Why Middle-Class Mothers and Fathers Are Going Broke (New York: Basic Books, 2003); Robert Frank, Falling Behind: How Rising Inequality Harms the Middle Class (Berkeley: University of California Press, 2007).

454

Pasquale, “Reclaiming Egalitarianism in the Political Theory of Campaign Finance Reform,” (2008): 599–660.

455

David Silver, Julian Schrittwieser, Karen Simonyan, loannis Antono-glou, Aja Huang, Arthur Guez, Thomas Hubert et al., “Mastering the Game of Go without Human Knowledge,” Nature 550 (2017): 354-359-

456

Peter Galison, “The Ontology of the Enemy: Norbert Wiener and the Cybernetic Vision,” Critical Inquiry 21 (1994): 228–266.

457

Future of Life Institute, “Slaughterbots,” YouTube, November 13, 2017, https://www.youtube.com/watch?v=HipTO_7mUOw; Jessica Gussins, “Al Researchers Create Video to Call for Autonomous Weapons Ban at UN,” Future of Life Institute, November 14, 2017, https://futu-reoflife.org/2017/11/14/ai-researchers-create-video-call-autonomous-weapons-ban-un/?cn-reloaded=i.

458

Shane Harris, “The Brave New Battlefield,” Defining Ideas, September 19, 2012, http://www.hoover.org/research/brave-new-battlefield; Benjamin Wittes and Gabriella Blum, The Future of Violence- Robots and Germs, Hackers and Drones: Confronting the New Age of Threat (New York: Basic Books, 2015).

459

Gabriella Blum, “Invisible Threats,” Hoover Institution: Emerging Threats, 2012, https://www.hoover.org/sites/default/files/research/ docs/emergingthreats_blum.pdf.

460

P. W. Singer and August Cole, Ghost Fleet: A Novel of the Next World War (New