МОЗГ КАК СХЕМОТЕХНИЧЕСКОЕ УСТРОЙСТВО

Петрийчук Н.Д.

Москва, Россия
е-mail: sergtoolserg@yandex.ru

Любая теория, следуя научной методологии, должна иметь подтверждения. Этот минимальный критерий представляет собой сложную задачу верификации для изучения сознания, поскольку мы не знаем, можно ли подтвердить посредством наблюдения извне, знает ли физическая система о том, что она чувствует изнутри, – эта нерешенная задача называется «трудная проблема сознания». Чтобы прийти к теории сознания, трудная проблема побудила к развитию феноменологические подходы, которые принимают допущения о том, какие свойства сознание проявляет на основе личного опыта, и, исходя из этого, выводят физические процессы, которые вызывают проявления этих свойств. Хотя у сознания как нематериального явления нет каких-либо свойств, но его наличие может проявляться по каким-то свойствам в реализующих это явление механизмах. Известной теорией, использующей этот подход, является теория интегрированной информации (IIT), которая предполагает, что наш субъективный опыт представляет собой единое целое, впоследствии приводя к необходимости физической обратной связи как условия появления феномена сознания.

Каждая достаточно детализованная теория сознания, включая IIT, должна быть инвариантной относительно изоморфизмов, чтобы избежать существования изоморфных «философских зомби» и эпистемологических проблем, которые они ставят. Следует пояснить, что «философский зомби» или «аргумент представимости» – это мысленный эксперимент в философии разума, призванный поставить под сомнение физикалистский подход. Физикалисты этот аргумент, разумеется, не принимают, тем не менее это не значит, что в целом он бессмыслен. В рамках полемики вокруг этого аргумента можно почерпнуть много ценных сведений о других вопросах – модальной логике, понятиях возможного и представимого. Философ не должен безоговорочно соглашаться с тем, что сознание вторично от мозга, также как безоговорочно соглашаться с противоположным доводом, потому что задачей философа является разработка различных подходов, помимо наиболее очевидных, поскольку не всегда наиболее очевидное лучше чего-то другого. У философов есть понятие нематериальной формы, и сознание можно понимать как нематериальную форму процессов мозга, когда эти процессы оказываются в области субъективного внимания к ним, они, таким образом, информируют о сути осмысливаемого.

Теория интегрированной информации, предложенная нейробиологом Дж. Тонони, объясняет сознание как интегрированную информацию, т.е. информационное состояние, производимое всей системой по взаимодействующей совокупности составляющих ее частей. Многих философов привлекает такой подход, поскольку он предлагает способ объяснить сознание в конкретной, систематической форме. IIT подразумевает, что сознание является эпифеноменальным и порождается субъективным значением интегрированной информации, а не является измеримым свойством [9].

Термин «трудная проблема» был сформулирован в 1995 году австралийским философом Дэвидом Чалмерсом [2]. Он предполагает, что сознание нельзя объяснить функциональными терминами. Так, чтобы решить легкие задачи, которые касаются объяснения когнитивных способностей и функций, нужно только указать механизм, который может выполнять эту функцию. Напротив, трудная проблема уникальна тем, что это не проблема производительности функций, ее «загадка» сохраняется даже после объяснения этой производительности – удивительно, но физические процессы создания альтернативных автоматизмов для новых условий в мозге сопровождаются сознанием. Можно назвать это внутренним субъективным «кино» или, лучше всего, самоощущением.

Теория интегрированной информации принимает существование сознания как данность, рассматривая субъективные проявления, которыми характеризуется сознание, она предполагает, что они могут рассказать нам о том, какими свойствами и функциями должен обладать мозг существа, если мы хотим подтвердить, что он имеет разум. Поэтому Дж. Тонони на первое место поставил определение свойств, присущих сознательным ментальным состояниям, а затем предположил, что все, что их воплощает, должно иметь те же соответствующие характеристики. Первые он назвал аксиомами, вторые – постулатами.

Аксиомы описывают то, что сознательные состояния существуют, имеют определенную структуру, содержат интегрированную информацию и имеют исключения, например, скорость, с которой они возникают – это должно быть верно в отношении любой физической системы, которая считается сознательной. Учитывая название теории, возникает вопрос, что означает для системы наличие интегрированной информации? Согласно Тонони, информация, (напр. о визуальном опыте), интегрирована, потому что ее нельзя отделить от целого. Возьмем, к примеру, синюю книгу. Мы не можем видеть отдельно книгу и отдельно цвет – мы видим только целую картину – синюю книгу. Разделить эти две составляющие (цвет и объект) невозможно. Тонони утверждает, что информация в соответствующей структуре мозга интегрируется таким же образом, это значит, что его части причинно связаны, если вы разделите их – информация исчезнет (как из примера с книгой).

Интегрированную информацию, каждую из ее составляющих, в принципе можно измерить. Теоретики интегрированной информации предлагают измерять ее с помощью функции PFI [12]. Следовательно, если теория верна и разумность – это система интегрированной информированности для целей адаптации, мы можем определить, разумна ли машина в принципе. Для этого нужно посмотреть на ее «позитронный мозг» и вычислить PFI. Если значение PFI такое же высокое, как у человека, то машина разумна. Однако на опыте реального создания адаптивной системы, такой подход в верификации разума оказывается недопустимо упрощенным. Не говоря о том, что на данный момент нет возможности измерить PFI человеческого мозга, а тем более машины.

Думается, основное различие между теорией интегрированной информации и другими теориями, которые пытаются объяснить разум, заключается в их подходе к объяснению, имеет ли существо разум или просто самоосознает. Большинство теорий в первую очередь пытаются выяснить как мозг производит разум, а теория интегрированной информации, как сказано выше, пытается сначала объяснить свойства разума. При этом отсутствуют терминологически корректные определения разума и сознания, что вообще характерно для теорий философского качества.

Изучая физиологию мозга во время специфических форм поведения (напр. сон), ученые обнаружили анатомическую локализацию активностей, соответствующих характерным проявлениям состояния осознанности – «нейронные корреляты сознания» (NCC), которые указывают на то, где в мозгу располагаются механизмы, определяющие сознательный опыт. С другой стороны, NCC нельзя использовать для объяснения того, почему мы осознаем или предсказать, является ли другая система, демонстрирующая аналогичные свойства с NCC, сознательной. На самом деле, NCC могут говорить нам только о физиологических процессах, которые коррелируют с предполагаемыми функциональными последствиями в виде субъективного самоощущения, и, в принципе, могут не соответствовать адекватному измерению субъективного опыта. Другими словами, мы можем объективно измерить поведение, которое, как мы предполагаем, точно отражает сознание, но в настоящее время не существует научных инструментов, позволяющих проверить наши предположения. В результате, мы пытаемся различить, действительно ли система сознательна или просто совершает движения, выдает внешние признаки или даже активно сообщает о внутреннем опыте, которого на самом деле нет.

Феноменологически сознание часто ассоциируется с концепцией «нисходящей причинности», когда ментальные состояния «более высокого уровня» осуществляют причинный контроль над реализацией более низкого уровня. Согласно этой точке зрения, «дополнительная информация», предоставляемая процессами, порождающими субъективное самоощущение, считается функционально значимой, поскольку она влияет на то, как одни состояния переходят в другие. Важно признать, что существует альтернативная точка зрения, в которой различия, относящиеся к сознанию, определяются не в терминах абстрактных вычислений, а в терминах конкретных схемотехнических реализаций, как это принимает IIT. Однако это не касается вопроса о том, испытывают ли изоморфные системы в конечном итоге феноменологическое различие, поскольку нет другого способа проверить это предположение, и остается просто постулировать его.

Для такой сложной системы как человеческий мозг, предположительно существует много возможных схемотехнических архитектур, которые определяют класс эквивалентности, способный выполнять одни и те же функции с одним и тем же входом, отличаясь только тем, как состояния представлены внутри (например, тем, как нейроны связаны между собой). Это могло бы, например, объяснить, почему человеческий мозг обладает в норме субъективным самоощущением, несмотря на различия в особенностях структуры сети нейронов, почему внутренние представления, которые развились, были выбраны в первую очередь. Но это не приведет к пониманию того, почему вообще возник эффект субъективного самоощущения. Так же, как не получится понять почему и как возник эффект работы программы на мониторе компьютера только по наблюдаемому факту картинки на мониторе.

Исходить необходимо не от конца цепочки известных фактов, не от сознания, пытаясь распутать клубок причин, а от той функциональности, которая привела к необходимости появления системы «интегрированной информации» – к той совокупности распознанных самых разных признаков восприятия и возможных в данных условиях действий, их сопоставления, выделения главного – как следствие преимущества данного уровня адаптивности. Именно такое понимание и делает возможным практические результаты моделирования системы индивидуальной адаптивности. При этом открываются новые пути решения «сложной проблемы» сознания.

На основе теоретической модели МВАП (Модель Волевой Адаптивности Психики) [5] была осуществлена программная реализация системы принципов индивидуальной адаптивности. Моделирование происходило методом последовательного добавления новых адаптивных улучшений на основе старых, повторяя этапы эволюционного усложнения в организмах от простейших насекомых до видов живых существ, обладающих психикой. Это развитие включало следующие уровни качественного улучшения эффективности адаптации:

• уровень безусловных рефлексов гомеостаза на основе отклонения жизненных параметров от нормы с образованием основных контекстов восприятия-реагирования – поведенческих контекстов;
• уровень безусловных рефлексов на простейшие стимулы;
• уровень безусловных рефлексов на основе предыдущих – инстинкты;
• уровень условных рефлексов на основе предыдущих с фиксацией новых пусковых стимулов;
• уровень выделения значимой новизны в признаках восприятия в зависимости от текущей активности базовых контекстов – ориентировочный рефлекс;
• уровень формирования субъективных контекстов в виде «дерева понимания», отражающих текущие условия, включая воздействия, со связью с наиболее привычными реакциями, которые создаются как альтернатива рефлексам и другим привычным реакциям в условиях значимой новизны, когда старые реакции оказываются не подходящими;
• организация запоминания эпизодов привлечения внимания к значимой новизне в памяти – эпизодическая память, обладающая прогностическими свойствами;
• организация системы целевой мотивации в зависимости от текущего состояния;
• организация системы хранения опыта попыток поведенческого реагирования в данных условиях с оценкой их результативности;
• функции поддержки связи условных символов восприятия с имеющимися значимостями образов восприятия и действия – словарный запас для организации возможности взаимодействий с другим организмом;
• уровень формирования текущей интегральной среды информированности, состоящей из различных видов распознаваемых данных, схожих по идее с таковой в интерпретации Дж. Тонони [7], которая включает в себя активную ветвь «дерева понимания», сопоставление отдельных распознанных элементов восприятия в обобщенный смысл (субъективно оцененную значимость), эпизодическую память, целевую мотивацию, опыт реализации в прошлом вариантов поведения, прогнозы возможных результатов на основе эпизодической памяти;
• функции выбора наиболее предпочтительного варианта действий в текущих условиях значимой новизны;
• функции выбора варианта действий в контексте поискового поведения для получения результатов в текущих условиях значимой новизны и образовании привычного варианта реагирования;
• функции создания доминаты нерешенной проблемы в случае затруднений с выбором предпочтительного поведения.

Все эти функциональные механизмы и их взаимодействие подробно описываются в отчете [4], с очевидностью раскрывая адаптивную функциональность каждого из них. Модель работает в реальном масштабе времени и не является эмуляцией. По ходу развития проекта стало очевидным подтверждение того, что в первую очередь природная нейросеть – это последовательное наслоение локальных адаптирующих механизмов, организующих ответное реагирование (внешнее и внутреннее) в зависимости от условий.

Последующие уровни таких образований получают возможность произвольного влияния на предыдущие (функциональная обратная связь), самым простым примером чего является удержание стимула ориентировочным рефлексом за счет циклов, описанных А. Иваницким [3]. Таких последовательно дополняемых звеньев оказывается огромное количество и все они «наследственно» предопределены.

В ходе разработки возникало множество возможностей «улучшать» и изменять способы организации систем адаптивности начиная от самых основ. Фактические данные исследований природной реализации на примере спектра эволюционно усложняющихся живых существ, реализованных схемотехнически, подтверждают, что последние будут во всем иметь преимущества перед био-существами. Появилась идея основывать понимание психики не на расплывчатом понятии «сознание», а на явлении текущего самоощущения, которое есть у всех существ, обладающих системой обработки абстрагирующего «ориентировочного рефлекса», то есть имеющих гиппокамп.

В схеме Бота (название программной модели) представлена последовательность того, как развивается человек проходя все необходимые стадии. Самоощущение – хорошо формализуемое понятие [1], которое выражено определенной структурой, интегрирующей данные текущего состояния:

• «дерево понимания» выделяет условия, соответствующие моменту воздействия на Бота внутренних и внешних факторов, а также результатов собственной произвольности;
• обобщение отдельных признаков восприятия в общий смысл (субъективно оцениваемую значимость;
• эпизоды памяти схожих ситуаций с прогнозом возможных последствий;
• спектр возможных действий, привычных для данной специфики условий;
• целевая мотивация, соответствующая данным условиям;
• набор имеющегося опыта выработки привычных действий в прошлом с результатами успешности, который используется в выборе альтернативных вариантов поведения, когда есть важная новизна, прогнозирующая неудачность привычной реакции в данных условиях;
• активные доминанты нерешенных проблем (если они есть);
• механизм выработки целей в данных условиях (если есть необходимость что-то делать).

Все эти компоненты вместе и создают «картинку» текущего самоощущения, в которое прорываются все новые детали по мере срабатывания «ориентировочного рефлекса», включая новые результаты обработки данных (идеи) вне этой интегральной области осознания.

Главным, что показала разработка, является то, что в организации адаптивных механизмов мозга нет ничего сакраментального, что требовало бы совершенно новых дополнительных представлений и понятий. Сама возможность удачной реализации системы функций адаптивности, которая общепризнанно присуща уровню субъективной обработки информации, показывает, что мозг организован именно как схемотехническое устройство, то есть представляет собой причинно-следственные механизмы, и никакие другие. Это подтверждает следующее утверждение – схемотехнический подход не просто оправдывает себя, а является эффективным направлением понимания механизмов адаптивности высшего уровня [6].

Таким образом, впервые схемотехнически была реализована система большого числа известных и новых психофизиологических механизмов, целостно взаимодействующих в рамках задачи индивидуальной адаптивности. Ранее известные явления получили конкретное воплощение и понятную функциональность.

Показано, что индивидуальная система адаптивности может быть самобытной только при условии наличия гомеостаза, оптимизирующего жизненные параметры просто потому, что иначе нет никакого критерия для адаптивности: нет параметров, которые нужно и возможно поддерживать в норме (основа любых адаптивных систем). Именно схемотехнический подход адекватно описывает систему адаптивности мозга [8] – иерархия принципов индивидуальной адаптивности может быть организована независимо от способа реализации ее механизмов.

Также проделанная работа показала принципиальную верность философских предположений, сформулированных Дж. Тонони, где он утверждает, что основу явления осознанности организует интегральная среда, в которой сходится информация множества различных компонентов текущего состояния. Принцип иерархических контекстов поведения дает огромные возможности для отражения любых условий с любыми откликами, чего не хватает игровому искусственному интеллекту.

Схемотехническим подходом возможно создавать разные системы живых (имеющих собственный гомеостат) существ.

Здесь мы подошли к важному вопросу. Если предположить, что адаптивность на уровне сознания возникает на основе гомеостатического механизма, то как возникает сам гомеостаз? Ответ на этот вопрос может привести к абстракции, которая выходит за рамки психологических и физиологических «проявлений» – это минимизация свободной энергии. Чтобы самоорганизующиеся системы существовали, они должны иметь механизмы противодействия термодинамической тенденции локальной энтропии (которую можно интерпретировать как количество свободной энергии локальной системы), то есть самоорганизующиеся системы могут существовать в течение долгого времени, только занимая «предпочтительные» состояния – это фундаментальная предпосылка жизни и вообще любой самоорганизации. Здесь не нужно беспокоиться о том, как возникает жизнь. Однако обоснование механизма, субъективно принимающего форму сознания, является необходимой предпосылкой для жизни на определенном уровне самоорганизации, поскольку обычно предполагается, что все сознательное живо, хотя не все живые существа обладают сознанием.

Чтобы система могла противостоять энтропии, должны быть выполнены определенные условия. Эти условия позволяют самоорганизующимся системам существовать и сохраняться в течение долгого времени и возникают естественным образом внутри любой эргодической системы. Случайно выбранная динамическая система обладает «марковским одеялом», которое устанавливает условия и представляет собой вероятностно-статистическую конструкцию, которая зависит от того, что на что влияет и что на что не влияет [11]. Важно осознавать, что сенсорные и активные способности являются свойствами одеяла, а не состояний, с которыми они взаимодействуют, что подразумевает, что система, изолированная марковским одеялом, может «знать» состояния вне системы только косвенно (о чем и говорит, по сути, теорема К. Геделя) [10]. Другими словами, внешние состояния могут быть «выведены» системой только на основе «сенсорных впечатлений» на марковском одеяле. Фактически, для того чтобы противодействовать диссипативным силам, важно, чтобы внешние состояния достаточно адекватно распознавались системой. Это означает, что система должна включать модель мира в рамках ареала своего обитания, которая затем становится основой, на которой она действует. Такие системы – лучшее, что возможно реализовать для обеспечения индивидуальной адаптивности, которая, в первую очередь, должна учитывать окружающие локальные условия. Поэтому они и выделились естественным отбором.

Выводы, которые модель (Бот) генерирует для системы о внешних условиях (выводы, сформированные на основе сенсорных последствий ее действий), принимают форму прогнозов, и эти прогнозы должны постоянно проверяться и пересматриваться. Восприятие и действие влекут за собой постоянные процессы проверки гипотез, посредством которых система экспериментально обновляет свою модель (свои «убеждения») с течением времени – для этого заложены наследственно основы в виде поискового стиля поведения и, на уровне психики, – эмоция любопытства.

Является ли гомеостаз функционально минимизирующим свободную энергию системы, как частный случай более общего явления самоорганизации, вопрос дискуссионный, потому что на уровне произвольности возможно поведение, которое субъективно оценивается как предельно важное, но при этом оно теряет не только энергию, но и саму жизнь.

В настоящее время модель Бота демонстрирует потенциал адаптивности, соответствующий примерно 3-5 летнему ребенку, а в некоторых особенностях (инициативный выбор лучшего варианта) и выше. Для дальнейшего прогресса необходимы большие периоды развития уже существующих механизмов (накопление словарного запаса осмысленных слов, накопление эпизодической памяти для прогнозов и накопления опыта ответных действий). После этого в проекте должны быть реализованы механизмы творчества и опыт произвольных действий (у человека процесс формирования такого уровня опыта занимает до 25-35 лет), поэтому быстрыми методами подачи информации обойтись невозможно – взаимодействия с оператором совершается в реальном масштабе времени и с обоих сторон должно быть живое, адаптивное общение.

Цель разработки данной модели – показать возможности и полную достижимость схемной реализации системы адаптивных механизмов (по отдельности давно известных нейробиологам), системы, в которой появление каждого нового способа информированности о происходящем дает новый качественный потенциал для механизмов адаптации.

Бот развивался не подгонкой под уже имеющуюся модель, а постепенным накоплением функциональных возможностей на каждом новом уровне, развитием на каждом этапе полезных (для целей адаптивности) потенциалов из совокупности возможностей предыдущего этапа. Дополнительной целью являлось сопоставление принципов адаптивности – природной и программной реализации.

В заключение необходимо сказать, что статья не ставит задачу решить «трудную проблему» сознания. Однако в проделанном моделировании эта проблема получает совершенно ясное основание для понимания сути данного явления – моделирование показало, что на уровне создания новых автоматизмов в новых условиях – как альтернативы привычному – необходима та сама интегрированная информационная среда, отвлеченная от непосредственности восприятия, и выявляющая совокупность параметров значимостей текущего состояния для субъекта. Эта среда способна интерпретировать первичное восприятие согласно возникающего понимания смысла происходящего, с произвольной обратной связью так, что могут возникать сколь угодно невероятные иллюзии восприятия.

Литература

1. Базовое самоощущение [Электронный ресурс] // Режим доступа: fornit.ru/160 (дата обращения: 2312.2021)
2. Демин Т.С. Аргумент представимости Дэвида Чалмерса // Философский журнал. 2020. №3 [Электронный ресурс] // Режим доступа: https://cyberleninka.ru/article/n/argument-predstavimosti-devida-chalmersa (дата обращения: 2312.2021)021

3. Иваницкий А.М. «Чтение мозга»: достижения, перспективы, этические проблемы. Журнал высшей нервной деятельности им. И.П. Павлова. 2012. Т. 62. № 2. С. 133-142.
4. Мозг и Бот [Электронный ресурс] // Режим доступа: fornit.ru/49721(дата обращения: 2312.2021)
5. Модель Волевой Адаптивности Психики [Электронный ресурс] // Режим доступа: fornit.ru/7431(дата обращения: 2312.2021)
6. Схемотехника адаптивных нейросетей [Электронный ресурс] // Режим доступа: fornit.ru/41930 (дата обращения: 23.12.2021)
7. Тонони Дж. Теория интегрированной информации [Электронный ресурс] // Режим доступа: fornit.ru/7589(дата обращения: 2312.2021)
8. Что такое Я-схемотехнический подход [Электронный ресурс] // Режим доступа: fornit.ru/40830 (дата обращения: 2312.2021)
9. Яшин А.С., Дубынин И.А. Теория сознания Дж. Тонони: анализ и критика [Электронный ресурс] // Режим доступа: https://elibrary.ru/item.asp?id=46567990 (дата обращения: 23.12.2021)
10. Batzoglou S. Gödel’s Incompleteness Theorem [Электронный ресурс] // Режим доступа: https://arxiv.org/pdf/2112.06641.pdf (дата обращения: 2312.2021)
11. Kirchhoff M., Parr T., Palacios E., Ariston K., Kiverstein J., 2018 Markov Blankets of Life: Autonomy, Active Inference and the Principle of Free Energy J. R. Soc. Interface. 15 20170792 20170792 [Электронный ресурс] // Режим доступа: http://doi.org/10.1098/rsif.2017.0792 (дата обращения: 23.12.2021)
12. URL: https://docs.microsoft.com/en-us/dotnet/machine-learning/how-to-guides/explain-machine-learning-model-permutation-feature-importance-ml-net (дата обращения: 2312.2021)

References

1. Bazovoe samooshhushhenie [Jelektronnyj resurs] // Rezhim dostupa: fornit.ru/160 (data obrashhenija: 2312.2021)
2. Demin T.S. Argument predstavimosti Djevida Chalmersa // Filosofskij zhurnal. 2020. №3 [Jelektronnyj resurs] // Rezhim dostupa: https://cyberleninka.ru/article/n/argument-predstavimosti-devida-chalmersa (data obrashhenija: 2312.2021)021
3. Ivanickij A.M. «Chtenie mozga»: dostizhenija, perspektivy, jeticheskie problemy. Zhurnal vysshej nervnoj dejatel’nosti im. I.P. Pavlova. 2012. T. 62. № 2. S. 133-142.
4. Mozg i Bot [Jelektronnyj resurs] // Rezhim dostupa: fornit.ru/49721(data obrashhenija: 2312.2021)
5. Model’ Volevoj Adaptivnosti Psihiki [Jelektronnyj resurs] // Rezhim dostupa: fornit.ru/7431(data obrashhenija: 2312.2021)
6. Shemotehnika adaptivnyh nejrosetej [Jelektronnyj resurs] // Rezhim dostupa: fornit.ru/41930 (data obrashhenija: 23.12.2021)
7. Tononi Dzh. Teorija integrirovannoj informacii [Jelektronnyj resurs] // Rezhim dostupa: fornit.ru/7589(data obrashhenija: 2312.2021)
8. Chto takoe Ja-shemotehnicheskij podhod [Jelektronnyj resurs] // Rezhim dostupa: fornit.ru/40830 (data obrashhenija: 2312.2021)
9. Jashin A.S., Dubynin I.A. Teorija soznanija Dzh. Tononi: analiz i kritika [Jelektronnyj resurs] // Rezhim dostupa: https://elibrary.ru/item.asp?id=46567990 (data obrashhenija: 23.12.2021)
10. Batzoglou S. Gödel’s Incompleteness Theorem [Jelektronnyj resurs] // Rezhim dostupa: https://arxiv.org/pdf/2112.06641.pdf (data obrashhenija: 2312.2021)
11. Kirchhoff M., Parr T., Palacios E., Ariston K., Kiverstein J., 2018 Markov Blankets of Life: Autonomy, Active Inference and the Principle of Free Energy J. R. Soc. Interface. 15 20170792 20170792 [Jelektronnyj resurs] // Rezhim dostupa: http://doi.org/10.1098/rsif.2017.0792 (data obrashhenija: 23.12.2021)
12. URL: https://docs.microsoft.com/en-us/dotnet/machine-learning/how-to-guides/explain-machine-learning-model-permutation-feature-importance-ml-net (data obrashhenija: 2312.2021)