Искусственный интеллект - Мередит Бруссард

Таковы в общих чертах препятствия, с которыми приходится сталкиваться в рамках внедрения того или иного программного обеспечения в новостные редакции. Встречаясь со сложностями, работая с небольшими программами, можно понять, как и что происходит в более крупных масштабах. Можно также увидеть, почему крупные проекты могут потерпеть неудачу. Кроме того, возможно понять, почему процесс написания кода нельзя поставить на поток. Есть модель фабричного производства – с конвейером, – и есть малое производство. В случае с фабричной системой вы смотрите на весь спектр задач и решаете, какая из них может быть автоматизирована и повторяема. В случае малого производства происходит то же самое – и все же часть работы выполняется вручную. Представьте себе вычислительную журналистику как движение за неспешную еду – слоуфуд.

На сегодняшний день мой проект не сильно распространен, но имеет мощное влияние. Я не слежу за тем, сколько репортеров использовали его для создания историй, однако я часто им пользуюсь на занятиях. Каждый семестр я учу около 30 студентов. Это значит, что каждый семестр с помощью «Бейливика» создается как минимум шесть историй. Результат вполне оправдывает затраченные усилия. Если бы им постоянно пользовались в новостных редакциях, можно было бы получать доход, разместив рекламу внизу страниц. Очевидно, что программа не станет ключевым параметром доходов, однако что-то будет капать. И, конечно, «Бейливик» не смог бы привлечь столько же средств, сколько продукты массового спроса, однако мог бы стать ремесленной продукцией, генерирующей небольшой доход.

Пока мой инструмент анализа системы финансирования избирательных кампаний не приносит денег вовсе. На финансовом языке это значит, что у него нет стратегии устойчивого развития. «Бейливик» имеет смысл как инструмент обучения, как модель для проектов – расследований, наконец, в качестве примера практического исследования (имеется в виду «нетеоретическое исследование») в рамках вычислительной журналистики. К моему сожалению, эта неочевидная ценность не помогла мне ежемесячно содержать серверы «Бейливика», что обходилось в $1000. А вот и очередной «секрет» техномира: инновации стоят дорого. Если бы я знала, что проект окажется настолько дорогим, в процессе разработки я бы принимала другие решения. Однако, поскольку никто до нас не создавал такой софт, было совершенно невозможно предсказать расходы. У меня была своя слепая зона – она есть всегда, когда создаешь новую технологию: необходима вера в то, что ты создашь то, что задумала и что на это хватит финансирования. Процесс разработки иногда может быть будоражащим прыжком в неизвестность.

Я не планировала, что «Бейливик» будет работать вечно. В какой-то момент я отключу его, заархивирую и займусь другим программным проектом. Подобно автомобилю, растению или отношениям, софту нужна забота и постоянное внимание. И у него есть срок жизни.

Веб-сайты, приложения и программы всегда ломаются, потому что компьютеры, на которых они работают, необходимо постоянно обновлять. Мир меняется. Программному обеспечению нужны обновления. Если у вас на хостинге располагается даже простейший сайт компании, надо быть готовыми к тому, что компания всегда будет претерпевать управленческие изменения, что нужно будет обновлять серверы и что-то пойдет не так. Каждый год работы того или иного программного продукта накапливает технический долг – стоимость поддержания его актуальности, добавления патчей и латание багов. В своей редакторской колонке для The New York Times профессора Эндрю Рассел и Ли Винзел пишут, что 60 % всех затрат на софт приходятся на поддержание его работоспособности – исправление багов и обновления[163]. В противовес популярному представлению невероятное количество разработчиков и программистов не участвует в реальной разработке инновационных продуктов; 70 % задействованы в поддержании существующих проектов.

Проблема необходимости поддержания софта служит отличным напоминанием о том, что цифровой мир более не нов. Подобно первопроходцам первого бума доткомов, он вошел в стадию среднего возраста. И если полагать, что цифровой мир начинался с Минского и Тьюринга, то можно сказать, что он значительно постарел: пришло время быть более реалистичными и честными по отношению к тому, что происходит в области технологий и реальной необходимости их поддерживать. Я настроена оптимистично и уверена, что мы сможем найти путь использования технологий, чтобы одновременно поддерживать и демократию, и человеческое достоинство.

Ошибки сделаны. Это вполне могло бы быть рефреном к тому, как медиаиндустрия адаптировалась к цифровой революции. Также могло быть рефреном того, как индустрия технологий справлялась с той же цифровой революцией. Секрет понимания прошлого заключается в том, чтобы не сделать те же ошибки в будущем.

Во-первых, мы можем перестать относиться к технологиям как к чему-то новому, сверкающему и инновационному и вместо этого принять их как повседневную часть жизни. Первый компьютер ENIAC был создан в 1946 г. У нас было больше полувека для того, чтобы понять, как интегрировать технологии в общество. Полвека – это много времени. Однако, несмотря на все прошедшие годы, когда я посещаю какие-либо встречи, я знаю, что первые 10 минут всегда будут отданы на то, чтобы разобраться, как работает проектор и как вывести на экран презентацию PowerPoint. На сегодняшний день нам удалось научиться применять цифровые технологии и повышать экономическое неравенство, подрывать экономическую стабильность свободной прессы, провоцировать кризис фейковых новостей, откатиться назад в развитии систем голосования и защиты честного труда, следить за гражданами, распространять лженауку, оскорблять и преследовать (в основном женщин и цветных) онлайн, строить летающих роботов, способных в лучшем случае раздражать людей и в худшем – сбрасывать бомбы, повысить количество случаев хищения персональных данных, обеспечить почву для хакинга, выливающегося во взломы и кражи данных миллионов кредитных карт, продавать невероятные объемы персональных данных и выбрать Дональда Трампа президентом. Это вовсе не прекрасный мир, обещанный ранними техноевангелистами. Это тот же мир, с теми же людскими проблемами, которые всегда были. Однако теперь они спрятаны внутри кода и данных, из-за чего их сложнее увидеть и легче игнорировать.

Нам совершенно необходимо изменить наш подход. Нужно перестать подвергать технологии фетишизации, провести аудит алгоритмов, отслеживать акты проявления неравенства, сокращать наличие стереотипов как в вычислительных системах, так и в самой индустрии технологий. Если код есть закон, то, вспоминая Лоуренса Лессинга, необходимо удостовериться, что те, кто его пишет, сами ему же следуют. Пока что их попытки самоуправления оставляют желать лучшего. Мы не можем учиться на прошлых поступках, но нам нужно обратить на них внимание.

В нескольких современных проектах из области науки и журналистики говорится о том, что грядет новый, более сбалансированный подход к пониманию ИИ. Один из них – подход исследовательского центра Института современного искусственного интеллекта (AI Now Institute) при Университете Нью-Йорка, основанный в 2017 г. Кейт Кроуфорд из отдела исследований Microsoft и Мередит Уиттакер из Google. Созданный представителями Кремниевой долины, проект был запущен Управлением по политике в области науки и технологий при Белом доме президента Барака Обамы и Национальным экономическим советом. Первый отчет центра был сфокусирован на социальных и экономических проблемах ближайшего будущего, связанных с ИИ. Ученые выделили четыре области: здравоохранение, рынок труда, неравенство и этика. Второй отчет призывал «все публичные институции, в частности, ответственные за криминологическую экспертизу, системы здравоохранения, социального обеспечения и образования немедленно перестать использовать системы ИИ и алгоритмы типа “черный ящик” и перейти на системы, обеспечивающие прозрачность работы механизмов, например, посредством легализации, аудита и общественной экспертизы»[164]. Исследовательский центр данных и общества, возглавляемый Даной Бойд, придерживается цели понять и обратить внимание общественности на роль человек в ИИ[165]. Так, например, эксперимент с анализом «хороших селфи» из главы 9 мог бы выиграть от более детальной интерпретации социального контекста тех, кто селфи создает (и тех, кто придумал эксперимент). Другая интересная область, достойная внимания, – люди, фильтрующие нежелательный контент в социальных сетях. Когда контент с порнографией или сценами насилия обнаруживается онлайн, человек его проверяет, действительно ли это видео с обезглавливанием, неприличная фотография или другие примеры худших человеческих проявлений. Ведь психологические последствия ежедневного созерцания чего-то подобного могут быть травматичны[166]. Нам нужно изучить эту практику и вместе, как единая культура, принимать решения о том, что она означает и как с ней быть.