УДК 004.89
ББК 32.813
Г 20

     Илдар Гарипов
Г 20      Об одном подходе к решению задачи создания сильного искусственного интеллекта. – М.:            Издательство  «Перо», 2016. – 112 с.

ISBN 978-5-906927-03-3

    Что является главным препятствием на пути создания полноценного  сильного  искусственного  интеллекта? Нерешенность какой  проблемы  тому  виной?  Задавшись  этими  вопросами,  автор приходит к выводу о том, что главной причиной того, что СИИ все еще  никак  не  удается  создать,  является  нерешенность  проблемы  наделения его способностью эффективно использовать     ранее приобретенные  эмпирические знания для принятия    правильных решений в новых, еще  не  встречавшихся      ситуациях.  Убедившись  в том,  что  данная  проблема  является  частным  случаем  известной философской проблемы индуктивного вывода, и представив ее в виде математической задачи нахождения вероятностей исхода  "нового" испытания, автор предпринимает попытку      решения    данной  проблемы путем создания такого метода прогнозирования, который может рассматриваться как   новая    интерпретация       понятия  вероятности.
                                                                         УДК 004.89
                                                                               ББК 32.813

ISBN 978-5-906927-03-3

       © By Garipov Ildar. Kazan, 2016, e-mail: strongai@bk.ru
       © Гарипов И.Г. Об одном подходе к решению задачи

Предисловие

В этой совсем небольшой по объему монографии я попытаюсь изложить содержание некоторых идей и со­ображений, лежащих в основе разраба­тываемого мной подхода к созданию "мыслящей машины", т.е. некоего искусственного устройства, обладающего тем, что принято называть разумом или сильным искусственным интеллектом (СИИ).
В рамках этого подхода предполагается, что задача по созданию СИИ мо­жет быть решена путем создания до­статочно эффективной системы управления поведением ав­тономно действующего, универсального самообучающе­гося агента, способного использовать в своей работе само­стоятельно добытые эмпирические знания.
Главное препятствие на пути создания такого агента, названное мною проблемой "новой ситуации", является частным случаем хорошо известной в философии и матема­тике проблемы индуктивного вывода [1; 2; 3]. Содержа­ние этой проблемы в конечном счете сводится к выясне­нию того, какое знание из множества различных знаний, по­лучаемых из эмпирических данных (т.е. при изучении "старых", ранее встречавшихся ситуаций), может считаться достаточно полезным и достоверным для того, чтобы быть использованным агентом при организации своей деятельно­сти (в частности, при выборе им действий в "новой", т.е. не­знакомой или малоизученной ситуации).
С различными проявлениями проблемы индуктивно­го вывода мы можем встретиться в самых разных областях научного познания как на самом высоком уровне обобще­ния эмпирических знаний (автоматизация процесса выдви­жения научных гипотез), так и при решении прикладных задач машинного обучения и статистического анализа дан­ных.
В данной книге будет показано, что проблема индук­тивного вывода в форме проблемы "новой ситуации" тесно связана с проблемой наделения искусственных интеллекту­альных устройств тем, что может быть названо твор­ческим мышлением, т.е. такой формой мышления, которая прояв­ляется при на­хождении оригинальных решений нестандарт­ных задач, т.е. с той проблемой, которую многие иссле­дователи СИИ считают последним и самым трудным препятствие­м на пути создания полноценного искусствен­ного разумного устрой­ства.
Принято считать, что проблема индуктивного вывода в ИИ может быть ре­шена путем создания некоего универ­сального критерия, пригодного для оценки тех или иных индуктивных знаний (гипотез, моделей) [4].
В попытке создания такого критерия для проблемы "новой ситуации" мною был разработан и опробован двух­компонентный метод вычисления веро­ятностей новых, т.е. ранее не проводившихся испытаний, названный биполяр­ным методом прогнозирования. Отличительной особенностью этого ме­тода является то, что в нем исполь­зуются сразу два отличных друг от друга кри­терия отбора индуктивных знаний, которые изначально встроены в процедуры, производимые при вычислении вероятностей.
В процессе разработки биполярного метода прогно­зирования, было вы­двинуто предположение о том, что проблема индуктивного вывода теснейшим образом связана с аксиоматикой теории вероятностей и что одним из путей при­водящих к решению проблемы индуктивного вывода, может быть путь создания принципиально новой интерпре­тации понятия вероятности.
Возможно, именно то обстоятельство, что ключ к ре­шению основной проблемы СИИ, по всей видимости, ле­жит в области чистой математики и на столь высоком уров­не, когда требуется некоторая ревизия существующих ин­терпретаций понятия вероятности, и может послужить объ­яснением причины того, почему работа над созданием СИИ, в плане наделения его способностью к проявлению творческой активности, продвигается с таким трудом и так медлен­но.
В процессе работы над описываемым подходом не только была сделана попытка создания низкоуровневых правил обработки эмпирических знаний, приведшая к со­зданию биполярного метода прогнозирования, но и были разра­ботаны различные приемы применения этого метода как при решении низко­уровневых поведенческих задач (программа СПИ), так и для задач высокоуров­невых, возни­кающих при попытке наделения агента способностью к полноцен­ному содержательному общению.

Композиционно книга состоит из двух отдельных частей, в первой из них приводится последовательное из­ложение всей той цепочки умозаключений, которые были использованы как при выяснении того, что же, собственно гово­ря, является главной, наиболее серьезной и труднорешаемой проблемой в общей задаче создания СИИ, в наибольшей степени тормозящей процесс его создания, так и для определения того, что следует сделать для ее решения. Иначе говоря, в первой части книги производится поиск того главного звена всей проблематики СИИ, ухватившись за которое, мы можем попытаться вытащить всю цепь.
Поскольку многие ИИ-разработчики полагают все рас­суждения подобного псевдо-философского толка излишне отвлеченными и малопродуктивными и потому не пред­ставляющими особого интереса, то они могут пропустить пер­вую часть почти полностью – для них я сделал краткую компиляцию, изложив все содержание первой части в пре­дельно сжатом виде в самом последнем ее разделе, в кото­ром подводится черта под всеми вводными рассуждения­ми.
Непосредственно описание сущности метода БМП, особенностей его применения и того, какие результаты при этом могут быть получены, приводится во второй части книги. Там же содержится краткое описание программы СПИ.
Отдельные аспекты описываемого в данной статье подхода к созданию СИИ, некоторые нюансы его реализа­ции обсуждались, в частности, на форуме Айкома, всем участникам которо­го, в особенности А.С. Потапову, я выражаю свою самую искреннюю призна­тельность.

Часть I

Формализация главной проблемы
задачи создания СИИ

    Человек – мера всех вещей.
           (Тезис, приписываемый
             Протагору из Абдеры.)

1. О специфике задачи создания СИИ

Как известно, на сегодняшний день все еще не созда­но конструктивного, детально проработанного и вместе с тем академически корректного определе­ния понятия "ра­зум"*. Данное обстоятельство в немалой степени осложняет за­дачу построения СИИ, поскольку исключает возмож­ность применения простых и удобных дедуктивных (логи­ко-аксиоматических) приемов решения сложных теорети­ческих и методологических проблем возникающих в про­цессе работы над конструкцией СИИ, но вместе с тем во­все не является непреодолимой преградой на пути его создания.
Принципиальная возможность создания СИИ в усло­виях отсутствия опре­деления ключевого понятия объясня­ется тем, что задача построения СИИ отно­сится к типу креа­ционных задач "на создание". В качестве решения для всех подобных задач выступают искусственно созданные, реально существующие и функционирующие объекты, во­просы же о том, как именно они появились на свет – ис­пользовалась ли при их создании последовательно вы­строенная теория (содержащая в себе всю необходимую аксиоматику и определения в том чис­ле), либо они были созданы спонтанно, например, на основе хаотического перебора или некоего интуитивного озарения, отступают на второй план.
Придя к пониманию того, что задача по созданию СИИ решается путем создания реально функционирующего устройства, что именно таковыми являются ее содержание и специфика, попробуем теперь разобраться с тем, с чего же, собственно говоря, следует начинать ее решение.

Легко понять, что для того, чтобы работа по созда­нию устройства с СИИ была максимально эффективной, осмысленной и целенаправленной, нам в пер­вую очередь нужно определиться с тем, что оно из себя должно будет представлять, какими отличительными признаками обла­дать, т.е. то, какими качествами и особенно­стями мы долж­ны наделить некое искусственное устройство для того, что­бы его можно было признать разумным.

2. Об антропоцентрическом принципе, используемом
 при создании СИИ

На сегодняшний день человек является единствен­ным известным нам ра­зумным существом, о разумах ка­кого-либо иного, нечеловеческого типа нам пока ничего не известно, неизвестно даже, возможны ли такие разумы в прин­ципе. Отсюда следует, что все содержательные рассу­ждения на тему СИИ в ка­честве отправной точки, базиса и предмета обсуждения пока могут использо­вать лишь есте­ственный разум homo sapiens. Поэтому вопрос "какими свой­ствами должно обладать искусственное устройство для того, чтобы задачу по созданию СИИ можно было считать решенной?" вполне логичным образом мо­жет быть транс­формирован в вопрос: "что из существующего в человеке следу­ет воспроизвести в искусственном устройстве для того, чтобы задачу по созда­нию СИИ можно было считать решенной?"
Принятие решения о том, что при создании искус­ственного интеллекта в его основу должны быть положены принципы функционирования интеллекта естественного, в значительной мере упрощает постановку задачи по созда­нию СИИ, поскольку резко сужает круг возможных пред­ставлений о создаваемой конструкции, но вместе с тем та­кое решение вовсе не ставит окончательную точку в вопро­се о том, что же она из себя будет представлять, поскольку не отве­чает на вопрос о том ассортименте, в каком особен­ности устройства человека должны быть воспроизведены в искусственном устройстве.
Задача по созданию СИИ не может рассматриваться как задача по тоталь­ному, абсолютно точному копированию в полном объеме всей конструкции че­ловека (или только его мозга). Характерной особенностью задачи по созданию СИИ является то, что при ее решении в искусственном устройстве должен быть воспроизведен лишь необходимый минимум особенностей устройства человека, а именно тот ментальный функционал человека, который обеспечивает его ра­зумность.
Иначе говоря, задача по созданию СИИ, по всей ви­димости, должна рассматриваться как задача по воспроиз­ведению в искусственном устройстве всего того – и лишь того! – что позволяет человеку считаться разумным суще­ством, т.е. с нахождения того минимального набора осо­бенностей устройства и функционирования человека, кото­рый необходимо и достаточно воспроизвести в искусствен­ном устройстве для того, чтобы его можно было бы счесть облада­телем полноценного интеллекта.

3. О второй составляющей антропоцентрического
принципа

При решении же вопроса о том, что именно из имею­щегося в человеке, в каком объеме и с какой степенью де­тализации следует воспроизвести в искус­ственном устрой­стве, будем исходить из того, что все содержательные рас­суждения, пригодные для дефиниции понятия "разум", как и само это понятие, были выработаны стихийно социумами носителей тех естественных языков, в кото­рых имеются слова обозначающие понятие "разум". Это означает, что при выде­лении свойств разумного человека мы никак не можем проигнорировать коллек­тивное мнение носителей таких языков – языков, в рамках которых это понятие было изначально выработано и нашло свое применение.
Отсюда следует, что единственно возможным спосо­бом выявления от­личительных признаков разумных су­ществ (а следовательно, и разумных искус­ственных устройств) может быть способ переписи, анализа и аудита тех имею­щихся в общественном сознании идей и устано­вок о сущности разума (тем или иным образом отображае­мых, в частности, в самых разных произведениях мировой культуры – от медицинских справочников до сборников анекдотов), которые люди использовали и используют для оценки степени разумности са­мих себя. Поскольку ни ино­го объекта для такой аттестации, ни иных судей, способных оперировать понятием "разум" и вынести обоснованное, а главное – ра­зумное суждение о наличии или отсутствии ра­зума у исследуемого объекта, кро­ме людей не существует.
Несмотря на то, что существующие в общественном сознании обыденные, стихийно возникшие представления о разумности, о которых идет речь, изна­чально возникли и применялись людьми лишь по отношению к другим людям, расширение области их применения на неживые, искус­ственно созданные объекты представляется вполне оправ­данным. Если люди, исходя из этих представлений, могут отказаться признавать наличие разума у некоторых представителей своего вида, то почему они должны их обходить при решении вопроса о наличии разума у искусственных конструкций?

Решив руководствоваться при построении СИИ антропоцентрическим принципом, мы не будем больше искать каких-то иных обоснований и оправданий необходимости  придания создаваемому устройству той или иной особенности. Само по себе наличие в общественном сознании соответствующего мнения относительно некоторой особенности будет считаться вполне достаточным основанием для того, чтобы включить ее в список обязательных для воспроизведения.

4. Об умении работать с неясными знаниями

Многие из известных нам характерных особенностей естественного ин­теллекта (ЕИ) человека в том или ином виде уже воспроизводятся в искусствен­ных устройствах. Так, например, уже созданы и успешно функционируют ав­тономные агенты*, способные самостоятельно получать, преобразовывать и использовать знания, необходимые для организации целенаправленного поведе­ния.
Среди тех же качеств ЕИ, которые все еще не удает­ся искусственно вос­произвести, одним из наиболее важных и интересных является человеческая способность исполь­зовать в своей деятельности "сырые", неясные, неподготов­ленные знания, т.е. такие знания, в которых полезная ин­формация содержится в скрытом, неявном, неудобном и неочевидном для непосредственного примене­ния виде (для краткости знания такого рода будем называть неясными).
У людей – существ разумных по определению – способность работать с неясными, неподготовленными зна­ниями несомненно наличествует, и прояв­ляется она, напри­мер, в том, что люди, встречаясь с новыми задачами, кото­рые им необходимо решить, способны использовать для их решения знания, полученные ранее при решении совсем других задач, порой внешне совершенно несхожих с зада­чей текущей. Эта способность, в частности, проявляется и в тех случаях, когда человек попа­дает в новую, неизвестную или малоизу­ченную ситуацию и, несмотря на явный дефицит актуаль­ной информации, все же зачастую оказывается способен со­вершить в ней вполне адекватные действия благодаря умению применить к этой ситуации знания, полученные при изучении других, уже ранее встретившихся ситуаций.
Здесь, конечно же, речь идет не о том, что люди, по­падая в новые для них обстоятельства, всегда совершают только правильные действия, здесь речь идет о том, что случаи совершения правильных действий всего лишь ста­тистически преобладают над случаями совершения дей­ствий неправильных. То же, что по­ложение дел именно та­ково, следует хотя бы из того, что в противном случае люди бы не смогли выжить в условиях реального, чрезвы­чайно обширного и разнообразного мира, мира, существуя в котором, они непрерывно оказываются в новых, ранее не встречавшихся ситуациях (в которых они вынуждены со­вершать те или иные действия).
Сталкиваясь с новой предметной областью, попадая в новую, незнакомую или малоизученную ситуацию, люди, благодаря наличию у них развитой интуи­тивной способно­сти находить и использовать разного рода модели, метафоры, анало­гии и ассоциации (т.е. всевозможные сходства, существую­щие между предметами или отношениями), оказываются способны использовать даже неясные знания в своих ин­тересах, поскольку умеют выявлять между разными проблемными коллизиями скрытые связи и однотипные закономерно­сти, находить и использовать то общее, что содержится в совершенно разных на пер­вый взгляд задачах (или методах их решения).
Именно благодаря этому люди, научившись решать задачи какого-то од­ного типа либо задачи, относящиеся к какой-то одной предметной области, ока­зываются способ­ными использовать полученные при их решении знания и на­выки при решении совсем других задач, зачастую абсолют­но внешне несхожих с предыдущими. Во многом именно за счет этой способности практическая деятель­ность людей и отличается той несравненной гибко­стью, которая пока все еще недостижима даже в самых со­вершенных современных интеллектуаль­ных устройствах*.
Легко видеть, что способность эффективно использо­вать неясные знания тесно связана с проблемой творчества, т.е. со способностью создавать новое и оригинальное, по­скольку именно способность находить неочевидные, неяв­ные пути решения задач, находить и использовать такие не­стандартные решения, ко­торые большинство не способно увидеть в общедоступном массиве неясных, неподготов­ленных знаний и есть отличительный признак творческо­го ума.

Нужно сказать, что в среде ИИ-исследователей пони­мание актуальности задачи наделения СИИ способностью работать с неясными знаниями возникло очень давно, прак­тически с первых дней существования науки ИИ. Уже с са­мых первых попыток создания искусственных интеллекту­альных устройств стало ясно, что без наделения этих устройств способностью работать с неподготов­ленными знаниями о создании в полной мере автономного и универ­сального СИИ, СИИ, способного находить принципиально новые, свежие и оригинальные решения встающих перед ним нестандартных проблем, т.е. демонстрировать на­личие у них творческого начала, не может быть и речи.

За прошедшие годы, по мере успешного преодоления множества как чи­сто научных, так и технико-прикладных затруднений, имеющих отношение к за­даче создания СИИ, проблема придания искусственным интеллектуальным устройствам способности работать с неясными знаниями постепенно выходила на первый план, и сегодня, когда все остальные, казавшиеся ранее неразрешимыми препятствия удалось преодолеть (удалось создать невероятно мощные процессоры, сверхъёмкие хранители информации, быстрые и надежные алгоритмы работы с большими массивами дан­ных, средства формализации и представления знаний, раз­работать эффективные методы машинного обучения и прие­мы построения рациональных стратегий поведения) стало абсолютно ясно, что данная проблема является одной из наиболее важных во всей проблематике СИИ.

Несомненно, данное обстоятельство признается и осознается очень мно­гими учеными и исследователями, работающими в области СИИ, и потому мож­но лишь удив­ляться тому, как мало внимания ими уделяется рассмотрению тех вопросов, решение которых могло бы открыть возможность преодоления данного препятствия. Зачастую все дело ограничивается либо простой конста­тацией факта на­личия проблемы либо предложением достаточно локаль­ных эвристик или субъективных ad hoc приемов. Более того, само содержание проблемы способности работать с неясными знаниями обычно задается таким расплывча­тым, бесформенным и общим образом, при котором нахождение даже пусть всего лишь возможных подходов к ее рассмот­рению оказывается малопродук­тивным или попросту не­возможным.

5. Проблема работы с неясными знаниями
как проблема "новой ситуации"

Трудность изучения человеческой способности рабо­тать с неясными зна­ниями в немалой степени связана с обилием и разнородностью ее проявлений, поскольку эта способность может заявлять о себе в самом разном виде и в са­мых разных обстоятельствах, например, при решении абстрактных ма­тематических задач, при автоматическом управлении авто­мобилем, переводе текстов, распознавании об­разов или игре в шахматы. Для того чтобы можно было разобраться с содержанием этой способности, с тем, что лежит в самой ее сердцевине, т.е. с тем, что есть общего во всех ее проявле­ниях, попробуем обратиться к предыстории ее возникнове­ния и разви­тия в естественной среде.
Как известно, носитель ЕИ человека, т.е. его цен­тральная нервная систе­ма, возникла и развивалась не как орган мышления, предназначенный для реше­ния отвлечен­ных, абстрактно-теоретических задач. ЦНС человека воз­никла как орган выживания, предназначенный в первую очередь для решения задач орга­низации такого поведения, которое бы обеспечивало выживание как отдельной особи, так и всего рода (вспомним известный афоризм Сен-Дьер­ди: "Головной мозг человека – не орган мышления, а орган выживания, как клыки и когти"). Что немаловажно, задача организации поведения должна была решаться в усло­виях реального мира, отличительными особенностями которого являются его неимоверная сложность, изменчивость и ко­лоссальная величина, – это приводит к тому, что все ситуации, с которыми сталкиваются живые существа, живущие в есте­ственной среде обитания, есть ситуации разные, в той или иной мере отличные друг от друга.
Учтем теперь и то, что при принятии решения о совершении того или иного действия определяющим моментом являются те будущие последствия, к возникновению которых может привести совершение этих действий, это означает, что способность совершать адекватные действия в но­вых, малоизученных си­туациях напрямую связана с умением заранее предвидеть последствия, наступаю­щие после совершения действий в этих ситуациях.
Кроме того, примем также во внимание и то, что достаточно высокоразвитые, способные к обучению существа при принятии решений должны иметь возможность опираться на свой собственный, самостоятельно приобретенный опыт.
Информация о свойствах мира, о существующих в нем закономерностях, необходимая для решения задачи подобного предвидения, может храниться в памяти в виде воспоминаний о том, как в прошлом изменялись различ­ные, ра­нее встреченные ситуации после совершения в них тех или иных действий, но проблема заключается в том, что эти ситуации являются отличными от ситуа­ции текущей, и потому эти знания не могут быть использованы непосредствен­но, т. к. они неприложимы напрямую к текущей ситуации.
При функционировании в реаль­ном мире нужная для совер­шения правильного действия самостоятельно полученная информация почти всегда со­держится в знаниях, описывающих "старые" ситуации, т.е.  находится в скрытом, неявном, непригодном для непосред­ственного применения виде, и по­тому такие знания с пол­ным основанием могут быть названы неясными. Для того чтобы хранящаяся в описаниях прежних ситуаций инфор­мация могла быть использована, она должна быть каким-то образом извлечена и преобразова­на, приспособлена к зада­че прогнозирования последствий могущих наступить после совершения в новой ситуации того или иного действия.
Таким образом, мы приходим к выводу о том, что способность работать с неясными знаниями первоначально могла возникнуть у живых существ в виде умения предви­деть изменения текущей ситуации, каким-то образом используя для этого описания ранее встречавшихся си­туаций, и что для воспроизведения этой способ­ности мы должны понять, как может быть органи­зован про­цесс извлечения скрытой информации прогностического характера из подобного рода неясных эмпирических знаний. Поэтому изучение проблемы воспроизведе­ния человеческой способности работать с неясными знания­ми может быть произведено путем изучения базо­вого, наиболее древнего, наиболее востребо­ванного и оче­видного случая проявления этой способности, когда она выступа­ет в форме способности к предвидения послед­ствий действий, совершае­мых в новых, т.е. ранее не встре­чавшихся ситуациях, имея в своем распоряже­нии знания о том, как некоторые другие ситуации (ситуации "старые") изменя­лись в прошлом.

Как будет показано ниже, принятие решения об изуче­нии проблемы вос­произведения способности к работе с неясными знаниями в форме проблемы "новой ситуации" действительно дает нам возможность уточнить и формализовать ее содер­жание, причем в такой степени, при которой всей задаче наделения искусствен­ных устройств данной способностью оказывается возможным придать характер предельно четко поставленной математической проблемы.

6. О дискретно-ситуативном характере
восприятия действительности

При сведении проблемы работы с неясными знания­ми к проблеме "новой ситуации" мы по умолчанию пред­полагали то, что жизнь людей проходит в че­реде последо­вательно сменяемых друг друга ситуаций и что процесс взаимо­действия их с окружающей средой носит отчетливо выра­женный дискретно-ситуа­тивный характер.
Нужно сказать, что подобный взгляд на общий про­цесс функционирова­ния ЕИ неплохо коррелируется с имею­щимися в общественном сознании идеями и установками, в чем легко убедиться после ознакомления с тем, как тракту­ют понятие ситуации, скажем, философы, согласно работам кото­рых отличительными ка­чествами понятия "ситуация" яв­ляются:
"...одноактность и неповторимость всех жизненных поло­жений, открываю­щихся переживанию и деятельности. Раз­нообразие этих положений и создает всю полноту челове­ческой жизни... Ситуации суть поле деятельности челове­ка и даже содержательный базис всей его этической жизни вообще. Их разнооб­разие и образует всю полноту содержа­ния его существования" (N. Hartmann. Ethik, 1935). "Вся инициатива человека не только ситуационно определена, но и ситуационно оформлена... Человек должен действо­вать в ситуации, но как именно, она ему не указывает, и в этом и состоит его свобода... Ситуация есть принуждение к решению, свобода же состоит в самом решении" (N. Hartmann. Zur Grundlegung der Ontologie, 1941, цитируется по [1]).
К пониманию причин возникновения именно такого дискретно-си­туативного характера взаимодействия ЕИ со средой (как и к пониманию того, как вообще могла возник­нуть потребность в понятии "ситуация") можно прийти и из самых общих рациональных соображений. Для любого суще­ства, обитаю­щего в естественной среде, жизненно важно уметь правильно и своевременно реагировать на те или иные из­менения окружающей обстановки, дабы не пропустить и использовать благоприятные изменения либо успеть избе­жать разрушитель­ных последствий от появления неблаго­приятных. Это значит, что живым суще­ствам в природе необходимо постоянно отслеживать состояние окружаю­щей среды и отвечать на каждое ее новое состояние возможно бо­лее адекватным действием.
Из-за неимоверной сложности реального мира в очень многих случаях не пред­ставляется возможным зара­нее точно знать, каким образом изменится текущее состоя­ние среды и какое состояние придет ей на смену. Это зна­чит, что в реаль­ном мире невозможно заранее приготовить­ся ко всем тем ситуациям, с которы­ми суждено встретиться и реагировать на них мгновенно, без всякой за­держки (как это происходит в реакциях, основанных на безусловных ре­флексах). После встречи с "новой" ситуацией, на которую непонятно как следует реагировать, необходима пауза в внешних действиях, в течение кото­рой производится обработка поступившей информации, оценка тех отличитель­ных особенностей, что присущи новой ситуации и выбор оптимального дей­ствия.
Предельно упрощенно и схематически общий процесс взаи­модействия достаточно развитых существ со сложной внешней средой может быть представлен в следую­щем виде:

... → восприятие очередного состояния внешней среды → ее изучение → оценка возможных последствий от совершения того или иного действия → вы­бор оптимального действия → совершение оптимального действия → восприятие очередного состояния внешней среды → ...
Как можно видеть, в среде достаточной сложности процесс взаи­модействия высокоразвитых жи­вых существ с этой средой действительно будет отличаться дискретностью. Кроме того, мы будем наблюдать в ней и яв­ную цикличность, повторяемость выполняемых проце­дур, наличие циклич­ности и дает возможность отслежи­вать изменения внешней среды безостано­вочно.
В дальнейшем, дабы не усложнять без необходимо­сти содержание проблемы "новой ситуации", мы будем ис­пользовать следующее фундаментальное упрощение: при применении поня­тия "ситуация" мы будем использовать такой вари­ант ее трактовки, при котором будет предполагаться, что агент, попадая в ту или иную ситуацию, успевает совершить в ней лишь одно-единственное дей­ствие (которое может быть названо элементарным), после чего текущая ситуа­ция сме­няется следующей. Как можно видеть, то, что мы будем обозна­чать словом "ситуация", возможно, правильнее было бы называть "микроситуа­цией".

7. О вероятностном характере прогнозирования
в "новой ситуации"

На основании приведенных выше рассуждений мы можем предположить, что СИИ для совершения правиль­ных действий в "новых" ситуациях в первую очередь необ­ходимо будет уметь определять те последствия, которые могут воз­никнуть при совершении того или иного доступ­ного ему действия. В том слу­чае, если необходимые прогностические знания уже получены, сам выбор опти­мального действия не встретит особых затруднений, по­скольку будет сводиться к простому сравнению между со­бой скалярных величин, с помощью которых оценивается степень благоприятности того или иного варианта будуще­го. Из того, что умение ЕИ совершать адекватные действия в новых ситуациях определяется умением предсказывать, прогнозировать последствия своих дей­ствий, совер­шаемых в "новых" ситуациях, следует, что нам для наделе­ния искус­ственного агента способностью совершать аде­кватные действия в "новых" ситуа­циях в первую очередь необходимо наде­лить его аналогичной способностью к прогнозиро­ванию последствий, и потому проблема "новой ситуации" – это, во­обще говоря, проблема искусственного воспроизведения процедур прогнозирования на эмпи­рических знаниях.
Нужно сказать, что само по себе признание задачи наделения искусствен­ных агентов способностью к прогно­зированию в качестве одной из важнейших задач на пути создания СИИ не содержит в себе ничего нового, оно полностью согласуется с мнением многих ИИ-иссле­дователей, еще самом начале становления науки ИИ высказавших мысль о том, что "...интел­лект можно тракто­вать как способность предсказывать будущее... Что опыт личности можно рассматривать как последовательность дискретных событий и что разумные люди способны пред­сказывать будущее" [6]. Среди современных ученых осо­бый акцент на необходимость наделения интеллектуально­го агента способностью к прогнозированию, делает, в частности, Дж. Хокинс (Jeff Hawkins), утверждающий, что "Способность делать предсказания о будущем – основная проблема интеллекта" [7].
Если мы теперь попытаемся разобраться с тем, как именно процесс нахо­ждения последствий реализуется в ЕИ (и, следовательно, с тем, как он должен быть воспроизведен в СИИ), то придем к выводу о том, что в ЕИ этот процесс осуществляется в форме вероятностного прогнозирования, поскольку ка­ким-либо иным образом прогнозирование, основанное на опыте, в реальных условиях осуществляться не может. Когнитивные возможности человека, объем, ко­личество и качество знаний, которые он может использо­вать при прогнозировании, совершенно несопоставимы со сложностью и величиной того мира, с которым ему прихо­дится взаимодействовать. Имея дело с реальным миром, в принципе невозможно полностью выявить и правильно учесть все фак­торы, тем или иным образом оказывающих влияние на воз­можность реализации прогнозируемого события. А обла­дая лишь очень небольшой частью нужных знаний, невоз­можно делать абсолютно точные, однозначные и безоши­бочные прогнозы.
В реальном мире могут быть сделаны лишь прибли­зительные прогнозы, степень приблизительности которых может быть охарактеризована неким пара­метром, который может быть назван либо величиной нашей уверенности в свер­шении события; либо степенью достоверности этого события; либо просто ве­роятностью (здесь вероятность понимается в житейском, бытовом смысле, так, как она понималась людьми задолго до появления работ Паскаля и Ферма). При этом сама задача прогнозирования может рассматриваться как задача нахожде­ния вероятностей появления того или иного события [8].
Утверждение о том, что способность человека эф­фективно управлять сво­ей деятельностью (а значит, и его разумность) тесно связаны со способностью к вероятност­ному прогнозированию, что способность к нахождению ве­роятностей при прогнозировании является абсолютно нор­мальной и естественной ве­щью, что наделение СИИ такой способностью не только не встретит ника­ких возра­жений, а будет воспринято как нечто правильное, необхо­димое и само собой разумеющееся (поскольку полностью совпадает с взглядами современных биологов, физиологов и психологов, непосредственно изучающих функционал ЦНС человека), можно подкрепить следующей объемной цитатой из стандартного учеб­ника по физиологии: "Эффективность адаптивного поведения человека в значительной степени обу­словлена уникальной способностью его мозга предви­деть, прогнозировать на­ступление определенных событий, а значит, соответствующим образом подго­товиться к ним... Прогнозирование на основе прошлого опыта не мо­жет быть абсолютным, прогнозирование всегда носит веро­ятностный характер. Под веро­ятностным прогнозировани­ем понимается предвосхищение будущего, основан­ное на усвоении вероятностной структуры прошлого опыта и вос­приятии ин­формации о реально существующей ситуации. На основе вероятностного прогноза осуществляется подго­товка к таким действиям, которые в наибольшей степени (с максимальной вероятностью) способствуют достижению цели. Способность к вероятностному прогнозу является результатом эволюции живых организмов в условиях вероятностно организованной среды. Прогнозы живого организма направлены на оптимизацию результатов его действий. Поскольку в естественных условиях организм сталкивается со множеством различных случайных воздействий, для построения рационального прогноза необходима соответствующая статистическая обработка этих сигналов. Современные теории вероятностного обучения основаны на представлении о предсказании статистических закономерностей и выборе оптимальных стратегий поведения при обучении субъекта распознаванию вероятностной структуры раздражителей.
Поведенческие реакции организма в соответствии с вероят­ностным прогнозом позволяют ему резко уменьшить число ошибочных реакций, следовательно, яв­ляются эффектив­ным средством активного приспособления к окружающей сре­де" [9].
Как показывают многочисленных биопсихологиче­ские эксперименты, способность производить оценку веро­ятностных характеристик среды обитания проявляется не только при высокоуровневой организации поведения, но и на самом низком уровне, уже при выработке условных ре­флексов, и что такая низ­коуровневая форма способности к вероятностному прогнозированию проявляет­ся у многих видов животных (причем чем более развитым является жи­вотное, тем более сложные и запутанные операции с веро­ятностями оно может произво­дить,  т.е. тем более сложные условные рефлексы вырабатывать).
Разного рода опыты с нерегулярным подкреплением условного стимула безусловным довольно убедительно де­монстрируют наличие вероятностной природы закономер­ностей формирования условно-рефлекторной деятельности:
 "Образование условного рефлекса — один из ведущих прие­мов формирования приспособительного поведения жи­вотного и человеческого организма — пред­ставляет собой физиологический феномен преобразования неопределенной ин­формации в определенную, т. е. реакцию на уменьшение неопределенности в среде" [9].
Широко распространенное в общественном сознании представление о связи способности к правильному вероят­ностному прогнозированию с умением де­лать разумный выбор, конечно же, не могло не найти своего отражения и в мировой культуре в виде разного рода художественных произведений, содержа­щих описания житейских коллизий, где степень интеллектуальности того или иного героя ста­вится в прямую зависимость от его умения правильно оце­нивать свои шансы на успех (или неудачу) тех или иных начинаний.