Катастеризм - Александра Голубева

– Это если вынести за скобки тот факт, что человек постоянно всё забывает и помнит ничтожный процент своей жизни. Но в целом – браво. Отличный ответ. Да, вполне разумно сказать, что личность человека – это функция от его жизненного опыта. С важным уточнением: не просто самого опыта, но и эмоциональных привязок к нему. Доказано, что мы плохо запоминаем и даже воспринимаем всё, что не вызывает у нас эмоций. Ну и наоборот: что эмоции вызвало, то врезается.

Врезался в стекло рядом с ними мокрый ноябрьский снег – как тогда, год назад.

Впрочем, что год, что день.

– Тут, правда, вот какой интересный парадокс: опыт и эмоциональные привязки – тоже не что-то осязаемое, а процесс…

– «Человек – это в первую очередь процесс», – пробормотал Даня.

– …Да и эмоциональными привязками легко манипулировать. Эмоции наши – это же просто биохимия организма. Выделяется у человека достаточное количество серотонина – и он весел. Не работает серотониновый обмен, вот как у вас, – и ему плохо. И подчас у этого есть некие… ну, скажем так, правильные причины – логичные, оправданные, а подчас и нет. Знаете, какой один из главных катализаторов выработки серотонина? Солнечный свет. Человеку может быть хорошо просто потому, что солнышко выглянуло. И ему врежется в память и изменит всю жизнь какой-нибудь совершенно несущественный эпизод – из-за этой связки с эмоцией.

– Вы клоните к тому, что всё в нас иррационально и бессмысленно?

– Я клоню к тому, что всё в нас управляемо – просто настолько сложно, что мы до сих пор в этом управлении не разобрались. Но работаем над этим. Я ведь не сказала вам, с какой именно сферой работаю? С нейрофизиологией – ну, в том числе. А мозг – штука очень хитрая. Впрочем… тут нужна небольшая предыстория про мозги цифровые.

У самообучающихся алгоритмов и прочих нейросетей бывают сбои, которые можно без натяжки назвать когнитивными ошибками. Например, ошибкой предубеждения.

Допустим, есть нейросеть, которую мы обучаем отличать кошек от собак. Мы показываем ей разных животных, больших и маленьких, мохнатых и лысых – и даже иногда пони для контраста. Она запоминает, что собаки отличаются друг от друга сильно, а кошки, наоборот, похожи, так что если тебе показали что-то непонятное (например, пони), то это, скорее всего, собака. Такое суждение закрепляется – и чем дольше оно даёт более-менее правильные результаты, тем больше вероятность, что алгоритм решит свой стереотип сузить. Например, вдруг убедит себя, что у архетипической кошки должен быть хвост, а бобтейлы выглядят странновато, так что они, наверное, собаки.

Это, впрочем, не слишком неожиданно. Когнитивные ошибки есть и у людей, и, по всей видимости, это просто побочный эффект любого процесса, напоминающего мышление. Мир слишком многообразен, его слишком много; единственный способ справиться с этим хаотичным шумом – сформировать стереотипы, некие идеальные платоновские образцы (чего угодно, от табурета до семьи), с которыми мы сравниваем всё происходящее. Нам, быть может, и хотелось бы польстить себе, заявив, что мы мыслим глубже и вовсе не стереотипами, только это не так.

Логично, что когда нейросети перешли от более чистого, но и более машинного суждения по дифференциальным признакам к суждению через сравнение со стереотипами, из них полезли ошибки.

Тут всё понятно.

Заинтересовало исследователей другое. Они неожиданно обнаружили, что при определённом объёме входящих данных алгоритмы выходят на плато развития. Казалось бы, у цифровой системы, не ограниченной, как мозг живого человека, объёмом вычислительных мощностей и тому подобным бренным миром, не должно быть сложностей с тем, чтобы стремить свой полёт всё выше и выше; об этом, грозя крючковатыми пальцами, предупреждали нас фантасты-алармисты – мол, понаучите роботов на свою голову, а они превзойдут человечество, экспоненциально умнея с каждым новым байтом, что вы им скормите.

Но нет. Нейросети, данные в которых наращивались и структурировались по принципам, схожим с устройством живых мозгов, почему-то упирались в потолок, и с определённого момента КПД их обучения начинал падать, а вычислительные мощности зацикливались на многократной реструктуризации и переосмыслении уже полученных знаний. Грубо говоря, для того чтобы овладеть ещё одним дифференциальным принципом, отличающим кошку от собаки, такая сеть заново «обдумывала», что есть кошка и что есть собака. И порой ставила под сомнение факты, уже установленные раньше, причём совершенно без видимых причин.

Связано это было именно с интенсивностью подачи новых данных. Если информацию предоставляли сети стабильно, плато не возникало, а вот если её было то густо, то пусто, либо если ввод данных вёлся во много потоков сразу, алгоритмы будто замыкались в себе и переключались на пласт переосмысления старого.

Такое метамышление можно назвать и «сознанием».

Некоторые с восторгом это и сделали. В конце концов, отмечали они, одна из гипотез о том, как возникло человеческое сознание, гласит, что это система, необходимая нам, чтобы регулировать конфликтующую информацию о внешнем мире. Чисто рефлекторное существо чихает, когда у него засвербит в носу. Существо чуть более продвинутое способно подавить этот рефлекс, если у него перед лицом стенка. А спустя многие поколения из него вылупляется существо совсем умное – способное, скажем, понять, что стенка эта – шкафа, куда оно спряталось, потому что по дому его бродит маньяк, так что чихать сейчас совершенно точно не надо.

Это, конечно, карикатура. Суть в любом случае в том, что метамышление нужно, чтобы приоритизировать и регулировать мышление обычное, не давать ему происходить стихийно.

Неужто мы в самом деле породили цифровую жизнь?

Большинство, впрочем, называло тех, кто готов был выписывать нейросетям паспорта, романтиками. Феномен был несомненен: из-за перегруза данными поведение обучающейся системы становится странным. А вот как это оценивать, вопрос открытый.

Если перегрузить мусоросжигатель мусором, он тоже поведёт себя странно, но разумным это его ещё не делает.

Идея проверить аналогичный принцип на людях отчасти нужна была всё тем же архитекторам нейросетей: как это всё работает у несравненного прототипа? Начнёт ли его тоже циклить на рефлексии, если послать ему сразу слишком много данных, и если нет, то как именно устроен предохранитель, способный от этого защитить? Можем ли мы его скопировать?

Отчасти же это было самостоятельное исследование. Юлия Николаевна, к примеру, верила, что такой ошибки не возникнет – просто потому, что человек не цифровое существо, а сенсорное: он много тысячелетий формировал способность обрабатывать сразу много каналов восприятия. Наш мозг очень легко перераспределяет нагрузку – зафиксированы случаи, когда половину его человеку попросту удаляли (из-за травмы или чего-нибудь подобного), а он не терял ни памяти, ни когнитивных способностей.

В общем, она была уверена, что живой мозг приспособится к чему угодно.

Судя по первым осторожным экспериментам, Юлия Николаевна была и права, и неправа одновременно. Когда людям специфически перегружали восприятие – например, создавая им «второе зрение» (что очень важно – работающее одновременно с первым, иначе не получится перегруза), это вело к разрыву старых нейронных связей и формированию новых. Причём каким-то неевклидовым образом: дело не в том, что человек-де смотрел часами на мастера кунг-фу, а потом сам неожиданно овладевал этим искусством. Так бывает только в сериалах. А в реальности эффекты были странными и нелогичными.