Как учится машина. Революция в области нейронных сетей и глубокого обучения - Ян Лекун

пять причин. Во-первых, мы все убедились в том, что невозможно привлечь серьезных исследователей, если им запрещено публиковать свои работы. Карьерный успех измеряется влиянием этих работ на науку и технологии, а известными они становятся благодаря статьям, которые предварительно оценивают редакции журналов, в которых заседают их коллеги. После одобрения исследовательские работы официально публикуются. «Банковский счет» исследователей – это количество цитат, полученных благодаря их публикациям. Одним словом, без публикаций нет карьеры. Все это объясняет, почему компаниям, которые предпочитают секретность (я не буду их называть), так трудно нанимать талантливых людей.

Во-вторых, качество методологии и достоверность информации возрастает, когда ученым известно, что их работа будет проходить тщательную проверку. А поскольку фундаментальные исследования порой трудно оценивать, цитирование другими учеными является показателем важности их вклада. Я считаю, что мы должны не только побуждать ученых к публикации, но и принимать во внимание влияние их публикаций при оценке их работы.

В-третьих, открытия не возникают сами по себе. Они являются кульминацией долгого процесса. Сначала они проходят этапы проб и ошибок, разработки и тестирования. Исследователям необходимо обмениваться мнениями с коллегами из других лабораторий, чей опыт может полезен. Это напоминает хождение взад-вперед, однако оно приносит свои плоды. Но чтобы вступить в дискуссию с исследователем, необходимо внести свой личный вклад и предложить собственные идеи. Следовательно, компании получают выгоду от обмена информацией со специалистами в своей области только в том случае, если сами «подключают голову» к исследованиям.

В-четвертых, ценность промышленной лаборатории заключается в способности компании определять перспективные разработки и быстро их внедрять. Необходимо, чтобы лаборатории имели возможность оперативно сотрудничать с производственными или оперативными отделами. Но последние не всегда хорошо понимают потенциальное влияние научного прогресса. Иногда компаниям нужна поддержка всего научного сообщества, чтобы убедиться в достоинствах того, что было создано в их собственных лабораториях!

И, наконец, хорошие научные публикации создают компании репутацию инновационного бренда.

Ведущие ИТ-корпорации, такие как Facebook, Google или Microsoft, постоянно создают что-то новое. Одни публикуют свои результаты, а другие в свою очередь улучшают их уже через несколько недель или месяцев. Но технологии будущего требуют крупных научных достижений, а не только технологического прогресса. Очень важно либо предложить что-то свое, или же обладать необходимым опытом, чтобы распознать эти достижения, когда они дадут о себе знать. На создание виртуальных помощников или роботов с уровнем интеллекта, сопоставимым с человеческим, потребуются десятилетия и несколько технологических революций. Ни одна компания, какой бы крупной она ни была, не обладает монополией на хорошие идеи. И ни одна компания не обладает настолько обширной базой, чтобы в одиночку пуститься в авантюру. Постижение тайн интеллекта и его воспроизведения в машинах – одна из самых сложных задач нашего времени, и она нуждается в поддержке международного научного сообщества, для чего требуется максимально полный обмен результатами и методами. Распространяя программное обеспечение с открытым исходным кодом, мы помогаем сообществу развиваться.

Если вы сталкиваетесь со стартапом, руководители которого заявляют, что они обладают какими-либо секретными результатами, относящимися к ИИ чуть ли не человеческого уровня, они или лгут вам, или обманывают сами себя. Не доверяйте им!

Исследовательские лаборатории Facebook

В 2019 г. Исследовательская лаборатория ИИ компании Facebook (FAIR) базировалась в четырех городах: Менло-Парк (Калифорния, США), Нью-Йорк, Париж и Монреаль; вспомогательные лаборатории были созданы также в Сиэтле (Вашингтон, США), Питтсбурге (Пенсильвания, США), Лондоне и Тель-Авиве. В каждой из них работает не так уж много сотрудников, однако в сумме исследовательский штат значителен: летом 2019 г. более 300 исследователей и инженеров были рассредоточены по разным лабораториям в Северной Америке и Европе.

Лаборатория FAIR (Facebook Artificial Intelligence Research), открывшаяся в июне 2015 г. во 2-м округе Парижа, является одной из самых важных. Она поспособствовала динамичному развитию «экосистемы» искусственного интеллекта во Франции и в континентальной Европе. В Париже FAIR установила партнерские отношения с государственными лабораториями, в частности с Inria, и университетскими отделами аспирантуры. Наш центр нанял около 15 докторантов CIFRE (фр. La convention industrielle de formation par la recherche, т. е. промышленная конвенция научно-исследовательской подготовки), которые разрывались между промышленными лабораториями и своей аспирантской работой. Таким образом, FAIR финансировала часть государственных исследований и способствовала обучению следующего поколения исследователей во Франции и Европе. Первые несколько докторантов защитили диссертации весной 2019 г., и их работа оказала реальное интеллектуальное и практическое влияние на машинный перевод, понимание текста, распознавание речи, видеопрогнозирование, самостоятельное обучение и т. д. Большинство из них были приняты на работу в различные европейские лаборатории.

FAIR также наняла некоторое количество ученых, работающих неполный рабочий день, которые могли пользоваться нашими материалами и налаживали сотрудничество с другими лабораториями. Возможность правильно распределить время, чтобы заниматься образованием и работать в лаборатории, стала одной из основных мер, принятых правительством в отношении ИИ после доклада Виллани (Седрик Виллани, «Придать смысл искусственному интеллекту как европейской и национальной стратегии», доклад французскому правительству).

Я хочу также напомнить о пожертвованиях и оборудовании, которое мы предоставляли государственным лабораториям и учреждениям, таким как PRAIRIE (англ. PaRis Artificial Intelligence Research InstitutE), новому парижскому центру передовых технологий в области искусственного интеллекта, находящегося под патронажем правительства. Мы вели лекции и курсы в европейских университетах и на Летних школах. В 2015–2016 гг. я лично ежегодно следил за работой кафедры компьютерных и цифровых наук в Коллеж де Франс[107]. Компания Facebook поддерживала стартапы, частично финансируя «бизнес-инкубатор» Station F и создавая обучающие программы. Что же касается дополнительных доходов, то Александр Лебрен, бывший старший инженер FAIR в Париже, и его коллега Мартин Рейсон покинули исследовательскую группу в начале 2019 г. (с согласия компании Facebook) ради создания стартапа Nabla, ориентированного на ИИ.

Открытие FAIR в Париже произвело на многих сильное впечатление. Со своей стороны, корпорация Google представила в Париже проект Google Brain – исследовательскую лабораторию по изучению ИИ. Компания DeepMind последовала тому же примеру. Наконец, Valeo, Thales, PSA и многие другие французские компании тоже создали исследовательские группы и разработки в области ИИ.

Я думаю, что в большей степени создание FAIR побудило молодые таланты на получение докторской степени в этой сфере. Появление передовых исследовательских лабораторий в Париже дало им перспективы карьерного роста, чего до этого момента у них во Франции не было. Другими словами, Facebook сделал искусственный интеллект популярной темой.

Но когда в 2013 г. меня нанял исследовательский центр «синей соцсети», то есть приняли на работу в лабораторию в Менло-Парке, штат Калифорния, то у меня все еще так и оставалось с десяток инженеров и три исследователя, в том числе Марк Аурелио Ранзато, мой бывший студент. Я сам остался в