[ Новые сообщения · Участники · Правила форума · Поиск · RSS ]
Форум » Общие вопросы СИИ: Интеллект, Прогнозирование и Вероятность » Интересные материалы из интернета » Копия моих сообщений на форуме gotai.net в теме "Об одном.." (Копия моих сообщений на форуме gotai.net в теме "Об одном..")
Копия моих сообщений на форуме gotai.net в теме "Об одном.."
FuncДата: Воскресенье, 22.04.2018, 17:34 | Сообщение # 61
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.58.2

Траян
Сообщений: 541
Добавлено: 16 апр 18 8:14
Изменено: 16 апр 18 9:37
Отвечу не одним большим, а несколькими постами поменьше.

Цитата

Автор: гость
Т.> Все верно, насчет специфики

ну, да, наверное если облепить 'автокоррекцию ситуационного образа/модели' существенной спецификой, то можно получить что-то типа не квази/псевдо-сознания, а 'тоже' сознание, пусть и 'иное' (не биогенное).. в принципе в эту специфику можно всунуть и понимание состояния обобщенного ориентировочного рефлекса как 'межмодельного'.. типо перезаплетающиеся смысловые структуры все равно образуют сознание - система рекурсивных функций сознания..


Там похоже дело не только в том, что делается (хотя и это очень важно!), но и в том, как это делается. Т.е. феномен "живого" сознания появляется не только в зависимости от содержания информационных процессов (того, что и для чего обрабатывается), но и того, на каком "железе" происходит обработка информации.

При всем при том, на данном этапе конечно же правильнее сосредоточится на содержании информационных процессов и смысле производимых в них преобразований. Про "железо" пока можно думать лишь в порядке фантазий о очень далекой перспективе.
Т.е. пока имеет смысл ограничиться рассмотрением пусть и человекоподобного, но не "живого" сознания.
Цитата

Автор: гость
> лучше не трогать

может быть вопрос не нужно трогать 'фокусировано' (пытаться аналитически выразить аналитически невыразимое), а перефокусироваться - типо явление квалия возникнет само собою при воспроизведении охватывающего явления.. как тот самый побочный эффект исполнения..

Согласен. Делай, что должно и будь что будет. Тем паче, что ничего другого нам и не остается.
----------------------------------------------------------
Траян
Сообщений: 541
Добавлено: 16 апр 18 8:45
Изменено: 16 апр 18 9:33
>Про "железо" пока можно думать лишь в порядке фантазий, как о очень далекой перспективе.

Порассуждаем в порядке таких фантазий.
Цитата

Автор: гость
'Энергетический' аспект ощущения это наверное сила (сила как градиент
энергии?)

Цитата

Автор: Траян
Т.е. феномен "живого" сознания появляется не только в зависимости от содержания информационных процессов (того, что и для чего обрабатывается), но и того, на каком "железе" происходит обработка информации.


Ясно, что "энергетический аспект ощущения" - скажем, упругая упругость упругого, насыщенная яркость красноты красного, сочный вкус свежего яблока, неожиданная острота пикантного соуса и пр. - не передать на существующих цифровых вычислителях, как не организуй вычислительный процесс на их основе, все равно ничего не получится.
Рано или поздно придется обратиться к аналоговым, т.к. даже самые простые, самые примитивные аналоговые вычислители с неимоверной легкостью демонстрируют возможность придания информационным процессам необходимых качеств.

Приведу пример такого сверх-примитивного вычислителя-сумматора (аналогового брата Феликса). Возьмем небольшой предмет в форме диска. На поверхности этого диска карандашом пометим особые точки, к этим точкам можно - под тем или иным углом с той или иной величиной прикладывать силы. В диске существующем в реальном мире (а не компьютерной симуляции) эти силы мгновенно (почти) складываются и находится результирующая в соответствии с которой диск начинает соответствующим образом двигаться.

Так вот, таких точек приложения разных сил может быть много, очень много. Их может быть и миллиард и триллион и триллион триллионов. А диску пофиг - результирующая все равно находится практически мгновенно. Т.к. он способен мгновенно (почти) воспринять весь окружающий его мир (!!!), сигналы приходящие из всех частей вселенной и найти единственно правильное "решение".
Так и напрашивается аналогия с работой сознания.

И что интересно, эти силы могут иметь совершенно разную природу, возникая либо в результате электромагнитного, слабого или гравитационного взаимодействия.

И что еще интересней, мы ведь до сих пор не знаем глубинную (глубже чем КМ) феноменологию того процесса, при осуществлении которого и находится результирующая.

Неужто правы эти оголтелые отморозки - панпсихисты?
----------------------------------------------------------
Траян
Сообщений: 541
Добавлено: 16 апр 18 9:23
Изменено: 16 апр 18 9:36
Цитата

Автор: гость
.. Ощущения как психические явления наверное могут быть досознательными ...

Сомнительно что-то.
Скажем, современная анестезия (не местная, когда, скажем, с помощью новокаина вырубаются низкоуровневая органика: соматические рецепторы или проводящие нервные пути) и не краш-наркоз с помощью эфира, когда глушится работа сразу почти всех высокоуровневых отделов,
на том и стоит, что с ее помощью точечно вырубается только лишь самая верхушка нервной системы, т.е. вырубается либо искажается работа только лишь очень небольшого участка, обеспечивающего работу механизма сознания.

Т.е. соответствующие датчики генерируют сигнал о боли, нервные пути доводят эти сигналы до головного мозга, подсознание проводит их низкоуровневую обработку - это все объективно регистрируется соответствующей аппаратурой - а вот механизм сознания их не принимает (либо принимает в искаженном виде).
И человек не чувствует боль. Но стоит ему на операции с такой анестезией пусть на мгновение полностью придти в сознание ....

А что не переживается, то и не запоминается осознанно.
Потому-то и в памяти не формируется след о пережитой боли. Хотя низкоуровневые системы ее и зарегистрировали.

>либо принимает в искаженном виде
-------------
Возможно, именно так йоги снижают свою чувствительность к боли. Переходя в состояние измененного сознания.
----------------------------------------------------------
гость
188.170.72.*

Добавлено: 17 апр 18 3:14
Т.> мы ведь до сих пор не знаем глубинную (глубже чем КМ) феноменологию того процесса, при осуществлении которого и находится результирующая.
> Неужто правы эти оголтелые отморозки - панпсихисты?

ну, я вам не указ, но таки вас заносит.. глубже 4 фундаментальных взаимодействией пока и нет нужды и оснований лезть - ну, унифицируются они как межсупербранные, что с того - когда мир существенно расслоен то для постижения явления эмпирического сознания могут не потребоваться ни сильное, ни слабое, ни гравитационное взаимодействие (либо слишком короткодействующие, либо слабое) - остается ЭМ и его производные - химия и физика явлений самоорганизации. Нейродинамический базис эмпирического сознания выглядит вполне достаточным - причем без всяких спекуляций о табулинах и проч.под. Просто нужно вникнуть в самоорганизацию в ультрапластической материи организованной в виде многоуровневой системы гены-мозг-общество-язык (многомасштабные соотв. cети). Панпсихизм просто не интересен из-за наличия более тонких стратегий объяснения-понимания.

> Сомнительно что-то.
> либо искажается работа только лишь очень небольшого участка, обеспечивающего работу механизма сознания.

да, сознание не приурочено к 'малому участку', хотя расстроить сознательный режим работы мозга можно сравнительно локализованным воздействием - скажем на некоторые области ствола или таламуса, когда как следствие рассыпаются должные корковые синхронизации и корко-подкорковые взаимодействия. Тут вопрос в глубине, с которой система психической интеграции подверглась нарушению - в глубокой коме нет психического, а при 'легком' выключении сознания психическая система может сохранять функционирование и поддерживать, cкажем, ноцицептивный анализатор в звеньях когда боль индуцирует неспецифические активности в ассоциативных областях и лимбической системе - если рассматривать их как субстрат психического - что-то как-то 'переживается' хотя сознания нет.

тем более и при наличии сознания наличие неосознаваемых ощущений (психических явлений) не вызывает сомнения - типо как о наличии чего-то судят по проявлениям - неосознаваемый ощущательный прайминг проявляется в сознательных реакциях - что-то фиксируется-захватывается досознательной психикой (что для своего описания требует над нейронального представления - типо семантические характеристики праймингующего стимула) и оно влияет на сознательные проявления, но не становится ими.
----------------------------------------------------------
Траян
Сообщений: 541

Добавлено: 18 апр 18 5:52
Изменено: 18 апр 18 6:19
Цитата

Автор: гость
Т.> мы ведь до сих пор не знаем глубинную (глубже чем КМ) феноменологию того процесса, при осуществлении которого и находится результирующая.
> Неужто правы эти оголтелые отморозки - панпсихисты?

ну, я вам не указ, но таки вас заносит.. глубже 4 фундаментальных взаимодействией пока и нет нужды и оснований лезть

На мой взгляд и на взгляд того же Чалмерса такая нужда есть. Поскольку ни "трудная проблема философии", ни "проблема другого сознания", ни проблема "живого ощущения" не могут быть решены без нахождения каких-то новых свойств материи либо без создания новой интерпретации уже известных (напр. в той же КМ).

Впрочем, сколь-нибудь серьезный разговор на эту тему мне представляется преждевременным, малопродуктивным и бесперспективным.

Задачей сегодняшнего дня является придание искусственным агентам хотя бы "неживого" сознания. Единственным отличием которого от сознания сапиенсов будет отсутствие
компоненты "энергетически насыщенного" переживания при восприятии тех или иных сигналов (которая и придает такую остроту и свежесть нашему чувству реальности происходящего).

Если удастся это сделать - это уже будет невероятным прорывом, имхо.

Цитата

Автор: гость
тем более и при наличии сознания наличие неосознаваемых ощущений (психических явлений) не вызывает сомнения - типо как о наличии чего-то судят по проявлениям - неосознаваемый ощущательный прайминг проявляется в сознательных реакциях - что-то фиксируется-захватывается досознательной психикой (что для своего описания требует над нейронального представления - типо семантические характеристики праймингующего стимула) и оно влияет на сознательные проявления, но не становится ими.


Причина наших разногласий - как и в большинстве инетных дискуссий - в том, что мы по разному понимаем содержание одного и того же термина (ощущение).
Ваше понимание соответствует пониманию большинства существующих философских школ и в этом смысле оно является более правильным.

На мой же маргинальный взгляд, это безнадежно устаревшее консервативное толкование понятия ощущение необходимо несколько уточнить и поправить (поскольку оно изначально возникло еще в те времена, когда считалось, что носителем и реализатором всех психических процессов является некая неделимая идеальная сущность).

Впрочем, это свое личное мнение я с удовольствием засуну куда подальше и буду помалкивать о нем в тряпочку - ибо всякий разговор на тему уточнения содержания старых философских понятий мне откровенно не по зубам, да и желания заниматься подобными вещами у меня нет.
----------------------------------------------------------
гость
188.170.75.*
Добавлено: 19 апр 18 3:01

да ладно, чалмерс вовсе не такой уж большой авторитет - особенно если вы сами вдумаетесь в вопрос серьезно (когда ассимилируете много чего помимо чалмерса). Апеллировать к авторитетам ТУТ бестолково - ну даннет считает вопрос о трудной проблеме сознания псевдопроблемой - я тоже пытался высказаться в позитивистcком смысле о природе этого 'вопроса'. Не нужно аналитически загоняться в аналитически
неразрешимом вопросе - но это и не повод для спекуляций о специфической аналитической трудности вопроса. Трудность просто признается и ОБХОДИТСЯ при ее разрешении явочным порядком (как мы надеемся солидарно).

т.е. трудность это повод для поиска конструктивных способов 'синтезировать сознание' а не для АПРИОРНОГО утверждения о существовании каких-то новых мистических свойств материи - есть неизвестные свойства когерентных коллективных состояний, 'авторезонирующих' рекурренций, cамосогласованных состояний в автопоэтических паттернах etc - но какая тут мистика или повод для парапсихологических штудий о психогенных полях или сверхтонких планах реальности? очень важно иметь в виду высокую
вероятность неверных интерпретаций (особенно вторичного характера - выдумка на выдумку). Вот когда все возможности рационального постижения будут исчерпаны тогда можно обратиться к иррациональным..

т.> не могут быть решены без нахождения каких-то новых свойств материи либо без создания новой интерпретации уже известных

вот именно это суждение сомнительно - не все возможности более-менее консервативного
('киберфизикалисткого') расширения известного исчерпаны чтобы УТВЕРЖДАТЬ неизбежность расширения на мистику

> Единственным отличием которого от сознания сапиенсов будет отсутствие
компоненты "энергетически насыщенного" переживания при восприятии тех или иных сигналов

я бы не стал столь решительно отвлекаться от 'энергетического аспекта' - cкажем у тех же тилденовских робомногоножек синхронистические паттерны слабосвязанных узлов-приводов отдельных ножек (слабосвязанные динамические системы) характеризовались через устойчивость, бишь в конечном итоге через энергетический аспект. Что мешает установить АС-систему на подобную платформу столь 'динамически' укорененную в мире? Потом, на визуальном входе в АС-систему могут стоять какие-то матрицы из электроники функционального класса, более-менее приспрособленные под поддержку чего-то вроде перцептивных гештальтов (или можно иметь в виду двойной перцептивный вход в систему - цифровой и 'гештальтированный' (типо со вторичным захватом динамических конфигураций цифровым ядром системы - чтобы типо когнитивные модели 'напряженного состояния-конфигурации зрительного поля' были 'хорошо фундированными')).

> Ваше понимание

в вопросе об ощущениях я более ориентируюсь на психологию (в частности когнитивную), чем на философию (где первейшее значение я бы придал бергсону). Где здесь 'консерватизм'?? просто не надо допускать мистического пока рациональные ресурсы не исчерпаны. Какая идеальная сущность?? разве о чем-то кроме нейронального базиса и организации событий в нейрональной системе имеет смысл говорить в конструктивном прицеле?? квантовая запутанность как базис (природа) ощущений это мистификация синергетической природы явления, по-моему.
----------------------------------------------------------
Траян
Сообщений: 541

Добавлено: 19 апр 18 5:11
Изменено: 19 апр 18 6:57
Цитата

Автор: гость
да ладно, чалмерс вовсе не такой уж большой авторитет

Имхо, заслуга Чалмерса в том, что смог актуализировать старую и хорошо известную в философии проблему, придать ей некий драматический оттенок и остроту.

Понятно, почему такая актуализация оказалась столь востребованной именно сейчас, когда развитие информационных технологий (в том числе - появление научного направления Искусственный Интеллект) позволило по новому взглянуть на вопросы касающиеся соотношения сознания и мозга и всколыхнуть старые напластования философских построений.

Цитата

Автор: гость
Трудность просто признается и ОБХОДИТСЯ при ее разрешении явочным порядком (как мы надеемся солидарно).


Тут 50 на 50. Я, конечно, в глубине души надеюсь на то, что живое сознание автоматически появится вслед за появлением неживого, в виде такого приятного дополнительного сюрприза/бонуса к решению проблемы создания СИИ, но вполне допускаю и другой вариант развития событий. Время покажет.

"Только одна тема – проблема связи между душой и
телом – затрагивается в литературе со времени Упанишад и до самых современных
философских журналов, что говорит о серьезных размышлениях над ней на протяжении
трех тысячелетий. Нам ничего не остается кроме как почтительно поклониться в сторону
огромной философской литературы и пойти своим собственным путем; поступая так, мы
отнюдь не преуменьшаем важность философских вопросов. Однако в науке есть одна освященная веками стратегия – отложить на время решение философских вопросов и сосредоточиться на эмпирически разрешимых проблемах в надежде на то, что рано или поздно новые научные прозрения, возможно, прольют свет на вечные философские вопросы."
(БЕРНАРД БААРС КОГНИТИВНАЯ ТЕОРИЯ СОЗНАНИЯ)

Цитата

Автор: гость
Вот когда все возможности рационального постижения будут исчерпаны тогда можно обратиться к иррациональным..


Не вижу ничего иррационального в предположении о возможности существования каких-то новых, неоткрытых еще свойств материи. Вполне допускаю и такое.

Но не будем торопиться. Подождем результатов экспериментов.

PS Я сейчас на досуге читаю Д.И.Дубровского и просто поражаюсь тому, как мы все-таки недооцениваем наших отечественных исследователей. Человек еще 50-60 лет смог поставить и начать рассматривать (в кибернетико-философском плане) те вопросы, о которых мы говорим сегодня - когда о Чалмерсе никто и слыхом не слыхивал. Не удержусь и размещу тут ссылку на тот кусок текста, который мне особенно понравился:
ЗАЧЕМ СУБЪЕКТИВНАЯ РЕАЛЬНОСТЬ, ИЛИ «ПОЧЕМУ ИНФОРМАЦИОННЫЕ ПРОЦЕССЫ НЕ ИДУТ В ТЕМНОТЕ?» (ОТВЕТ Д. ЧАЛМЕРСУ)
http://www.dubrovsky.dialog21.ru/nauchnye_texty/sozn_mozg_M.htm#M_7
----------------------------------------------------------
гость
188.170.80.*

Добавлено: 19 апр 18 7:20

да, в эффекте когда чалмерс зазвездился был социальный механизм - ничего концептуально ценного этим автором не сказано вообще. Да, очень по месту акцентировал то, что феноменологические праймы на то и праймы чтобы не иметь вразумительной аналитической 'более глубокой' трактовки. И многие согласились что это действительная 'проблема'.

> Тут 50 на 50

дык у блондинки тоже вероятность встретить динозавра на улице 50х50 - встречу или не встречу..

мне кажется что 'реальное' АС будет с необходимостью 'живым' - хотя может быть на неживой основе - если понятие живое абстрагировать (обобщить) от биохимической специфики и взять за основу аутопоэтический оргпаттерн.

> в предположении о

да, но вы сначала решительно категорически сказали - 'не могут быть решены без нахождения каких-то новых свойств материи либо без создания новой интерпретации уже известных' - я только за поссибилистcкую модальность.. типо НЕ обязательно нужны (будут нужны) какие-то принципиально новые свойства или радикально новые интерпретации (даже не постнеклассические).

да, у дубровскорго есть некий комплекс пристрастности к западным философам сознания - его почти не знают там даже физикалисты, хотя он писал о информационно-кибер-физикалисткой подоплеке сознания еще почти полвека назад - но одно дело просто констатировать, другое как-то более содержательтно проводить 'непрерывно' линию от физики-информатики-управления к эмпирике сознания (через нейрофизиологию к психологии)..
----------------------------------------------------------
Траян
Сообщений: 541
Добавлено: 20 апр 18 2:02
Изменено: 20 апр 18 2:20
Цитата

Автор: гость
... мне кажется что 'реальное' АС будет с необходимостью 'живым' - хотя может быть на неживой основе - если понятие живое абстрагировать (обобщить) от биохимической специфики и взять за основу аутопоэтический оргпаттерн.

Не обязательно. Я сходу могу предложить методику, пользуясь которой мы можем на потоке штамповать СИИ с "неживым" сознанием т.е. то, что в современной философской литературе называют "зомби" (мне такое сопоставление с зомби не нравится, хотя я и сам частенько называю СИИ с неживым сознанием нежитью или носферату - зомби, по определению, интеллектуально ущербные создания, это как бы заранее подразумевается, что в нашем случае в общем-то не обязательно.)

Для этого достаточно получить в свое распоряжение достаточно мощную последовательную вычислительную машину, рабочий процесс которой состоял бы из множества очень простых последовательно выполняемых операций (типа той же МТ), способной в реальном масштабе времени эмулировать работу других, изучаемых нами вычислительных систем.
Тут работает нечто вроде принципа Маркова. Выполнение каждой новой операции в такой машине происходит в условиях новой физической реальности и физическое содержание каждой операции ограничивается только ею самой.

А судя по всему, необходимым условием для появления живого сознания является параллелизм - многократно повторяющееся, массовое, практически одномоментное изменение энергетических состояний элементов вычислительной системы, причем, элементов, способных в процессе выполнения своих "частных" вычислительных операций массово взаимодействовать/интерфирировать между собой (скажем, посредством эл. поля).

Цитата

Автор: гость
> в предположении о
да, но вы сначала решительно категорически сказали - 'не могут быть решены без нахождения каких-то новых свойств материи либо без создания новой интерпретации уже известных' - я только за поссибилистcкую модальность..

Как там говаривал Н.Бор? "По понедельникам, вторникам и средам я верю в свою КМ, а по четвергам, пятницам и субботам - начинаю сомневаться в ней."

Цитата

Автор: гость
у дубровскорго есть некий комплекс пристрастности к западным философам сознания


Я у Дубровского нашел целые куски текста почти один в один совпадающие с моими.
Какой удар от классика! (с)
)

Цитата

Автор: гость
но одно дело просто констатировать, другое как-то более содержательтно проводить 'непрерывно' линию от физики-информатики-управления к эмпирике сознания (через нейрофизиологию к психологии)..

После первоначального и довольно поверхностного пока ознакомления с трудами Дубровского, Бааса, Тонони, Ламме, Дамасио и др. - да!, вот так как-то получилось, что я много лет занимаясь проблематикой СИИ до сих пор так и не удосужился изучить этих авторов - у меня есть куча оправданий по этому поводу, но не о них сейчас речь - обнаружил следующее:

Разрабатываемая мной сейчас теория сознания не содержит в себе ничего концептуально
нового (Помню, о возможности такого варианта развития событий Вы меня несколько раз предупреждали).
Единственным принципиальным отличием этой теории является ее большая конкретика открывающая путь к непосредственной практической реализации (созданию пусть и предельно примитивных, но уже реально работающих моделей).

Т.е. это всего лишь следующий небольшой шажок в развитии уже хорошо известных концепций сознания. В ней появляется возможность ответить на вопросы о содержании нейродинамического кода (Дубровский) или внутреннем формате представления знаний (Баас).

Короче говоря, повторяется история с формулой Байеса. )
Самостоятельное "переоткрытие" того, что всем давным-давно хорошо известно, позволило взглянуть на это несколько по другому.
----------------------------------------------------------
Стр.58.2
 
FuncДата: Понедельник, 21.05.2018, 10:39 | Сообщение # 62
Группа: Администраторы
Сообщений: 158
Статус: Offline
58.2
Траян
Сообщений: 549
Добавлено: 16 апр 18 8:14
Изменено: 16 апр 18 9:37
Отвечу не одним большим, а несколькими постами поменьше.

Цитата

Автор: гость
Т.> Все верно, насчет специфики
ну, да, наверное если облепить 'автокоррекцию ситуационного образа/модели' существенной спецификой, то можно получить что-то типа не квази/псевдо-сознания, а 'тоже' сознание, пусть и 'иное' (не биогенное).. в принципе в эту специфику можно всунуть и понимание состояния обобщенного ориентировочного рефлекса как 'межмодельного'.. типо перезаплетающиеся смысловые структуры все равно образуют сознание - система рекурсивных функций сознания..


Там похоже дело не только в том, что делается (хотя и это очень важно!), но и в том, как это делается. Т.е. феномен "живого" сознания появляется не только в зависимости от содержания информационных процессов (того, что и для чего обрабатывается), но и того, на каком "железе" происходит обработка информации.

При всем при том, на данном этапе конечно же правильнее сосредоточится на содержании информационных процессов и смысле производимых в них преобразований. Про "железо" пока можно думать лишь в порядке фантазий о очень далекой перспективе.
Т.е. пока имеет смысл ограничиться рассмотрением пусть и человекоподобного, но не "живого" сознания.
Цитата

Автор: гость
> лучше не трогать
может быть вопрос не нужно трогать 'фокусировано' (пытаться аналитически выразить аналитически невыразимое), а перефокусироваться - типо явление квалия возникнет само собою при воспроизведении охватывающего явления.. как тот самый побочный эффект исполнения..

Согласен. Делай, что должно и будь что будет. Тем паче, что ничего другого нам и не остается.

----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 16 апр 18 8:45
Изменено: 16 апр 18 9:33
>Про "железо" пока можно думать лишь в порядке фантазий, как о очень далекой перспективе.

Порассуждаем в порядке таких фантазий.

Цитата

Автор: гость
'Энергетический' аспект ощущения это наверное сила (сила как градиент
энергии?)


Цитата

Автор: Траян
Т.е. феномен "живого" сознания появляется не только в зависимости от содержания информационных процессов (того, что и для чего обрабатывается), но и того, на каком "железе" происходит обработка информации.

Ясно, что "энергетический аспект ощущения" - скажем, упругая упругость упругого, насыщенная яркость красноты красного, сочный вкус свежего яблока, неожиданная острота пикантного соуса и пр. - не передать на существующих цифровых вычислителях, как не организуй вычислительный процесс на их основе, все равно ничего не получится.
Рано или поздно придется обратиться к аналоговым, т.к. даже самые простые, самые примитивные аналоговые вычислители с неимоверной легкостью демонстрируют возможность придания информационным процессам необходимых качеств.

Приведу пример такого сверх-примитивного вычислителя-сумматора (аналогового брата Феликса). Возьмем небольшой предмет в форме диска. На поверхности этого диска карандашом пометим особые точки, к этим точкам можно - под тем или иным углом с той или иной величиной прикладывать силы. В диске существующем в реальном мире (а не компьютерной симуляции) эти силы мгновенно (почти) складываются и находится результирующая в соответствии с которой диск начинает соответствующим образом двигаться.

Так вот, таких точек приложения разных сил может быть много, очень много. Их может быть и миллиард и триллион и триллион триллионов. А диску пофиг - результирующая все равно находится практически мгновенно. Т.к. он способен мгновенно (почти) воспринять весь окружающий его мир (!!!), сигналы приходящие из всех частей вселенной и найти единственно правильное "решение".
Так и напрашивается аналогия с работой сознания.

И что интересно, эти силы могут иметь совершенно разную природу, возникая либо в результате электромагнитного, слабого или гравитационного взаимодействия.

И что еще интересней, мы ведь до сих пор не знаем глубинную (глубже чем КМ) феноменологию того процесса, при осуществлении которого и находится результирующая.

Неужто правы эти оголтелые отморозки - панпсихисты?
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 16 апр 18 9:23
Изменено: 16 апр 18 9:36
Цитата

Автор: гость
.. Ощущения как психические явления наверное могут быть досознательными ...

Сомнительно что-то.
Скажем, современная анестезия (не местная, когда, скажем, с помощью новокаина вырубаются низкоуровневая органика: соматические рецепторы или проводящие нервные пути) и не краш-наркоз с помощью эфира, когда глушится работа сразу почти всех высокоуровневых отделов,
на том и стоит, что с ее помощью точечно вырубается только лишь самая верхушка нервной системы, т.е. вырубается либо искажается работа только лишь очень небольшого участка, обеспечивающего работу механизма сознания.

Т.е. соответствующие датчики генерируют сигнал о боли, нервные пути доводят эти сигналы до головного мозга, подсознание проводит их низкоуровневую обработку - это все объективно регистрируется соответствующей аппаратурой - а вот механизм сознания их не принимает (либо принимает в искаженном виде).
И человек не чувствует боль. Но стоит ему на операции с такой анестезией пусть на мгновение полностью придти в сознание ....

А что не переживается, то и не запоминается осознанно.
Потому-то и в памяти не формируется след о пережитой боли. Хотя низкоуровневые системы ее и зарегистрировали.

>либо принимает в искаженном виде
-------------
Возможно, именно так йоги снижают свою чувствительность к боли. Переходя в состояние измененного сознания.
----------------------------------------------------------
гость
188.170.72.*
Добавлено: 17 апр 18 3:14
Т.> мы ведь до сих пор не знаем глубинную (глубже чем КМ) феноменологию того процесса, при осуществлении которого и находится результирующая.
> Неужто правы эти оголтелые отморозки - панпсихисты?

ну, я вам не указ, но таки вас заносит.. глубже 4 фундаментальных взаимодействией пока и нет нужды и оснований лезть - ну, унифицируются они как межсупербранные, что с того - когда мир существенно расслоен то для постижения явления эмпирического сознания могут не потребоваться ни сильное, ни слабое, ни гравитационное взаимодействие (либо слишком короткодействующие, либо слабое) - остается ЭМ и его производные - химия и физика явлений самоорганизации. Нейродинамический базис эмпирического сознания выглядит вполне достаточным - причем без всяких спекуляций о табулинах и проч.под. Просто нужно вникнуть в самоорганизацию в ультрапластической материи организованной в виде многоуровневой системы гены-мозг-общество-язык (многомасштабные соотв. cети). Панпсихизм просто не интересен из-за наличия более тонких стратегий объяснения-понимания.

> Сомнительно что-то.
> либо искажается работа только лишь очень небольшого участка, обеспечивающего работу механизма сознания.

да, сознание не приурочено к 'малому участку', хотя расстроить сознательный режим работы мозга можно сравнительно локализованным воздействием - скажем на некоторые области ствола или таламуса, когда как следствие рассыпаются должные корковые синхронизации и корко-подкорковые взаимодействия. Тут вопрос в глубине, с которой система психической интеграции подверглась нарушению - в глубокой коме нет психического, а при 'легком' выключении сознания психическая система может сохранять функционирование и поддерживать, cкажем, ноцицептивный анализатор в звеньях когда боль индуцирует неспецифические активности в ассоциативных областях и лимбической системе - если рассматривать их как субстрат психического - что-то как-то 'переживается' хотя сознания нет.

тем более и при наличии сознания наличие неосознаваемых ощущений (психических явлений) не вызывает сомнения - типо как о наличии чего-то судят по проявлениям - неосознаваемый ощущательный прайминг проявляется в сознательных реакциях - что-то фиксируется-захватывается досознательной психикой (что для своего описания требует над нейронального представления - типо семантические характеристики праймингующего стимула) и оно влияет на сознательные проявления, но не становится ими.
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 18 апр 18 5:52
Изменено: 18 апр 18 6:19
Цитата

Автор: гость
Т.> мы ведь до сих пор не знаем глубинную (глубже чем КМ) феноменологию того процесса, при осуществлении которого и находится результирующая.
> Неужто правы эти оголтелые отморозки - панпсихисты?
ну, я вам не указ, но таки вас заносит.. глубже 4 фундаментальных взаимодействией пока и нет нужды и оснований лезть


На мой взгляд и на взгляд того же Чалмерса такая нужда есть. Поскольку ни "трудная проблема философии", ни "проблема другого сознания", ни проблема "живого ощущения" не могут быть решены без нахождения каких-то новых свойств материи либо без создания новой интерпретации уже известных (напр. в той же КМ).

Впрочем, сколь-нибудь серьезный разговор на эту тему мне представляется преждевременным, малопродуктивным и бесперспективным.

Задачей сегодняшнего дня является придание искусственным агентам хотя бы "неживого" сознания. Единственным отличием которого от сознания сапиенсов будет отсутствие
компоненты "энергетически насыщенного" переживания при восприятии тех или иных сигналов (которая и придает такую остроту и свежесть нашему чувству реальности происходящего).

Если удастся это сделать - это уже будет невероятным прорывом, имхо.

Цитата

Автор: гость
тем более и при наличии сознания наличие неосознаваемых ощущений (психических явлений) не вызывает сомнения - типо как о наличии чего-то судят по проявлениям - неосознаваемый ощущательный прайминг проявляется в сознательных реакциях - что-то фиксируется-захватывается досознательной психикой (что для своего описания требует над нейронального представления - типо семантические характеристики праймингующего стимула) и оно влияет на сознательные проявления, но не становится ими.


Причина наших разногласий - как и в большинстве инетных дискуссий - в том, что мы по разному понимаем содержание одного и того же термина (ощущение).
Ваше понимание соответствует пониманию большинства существующих философских школ и в этом смысле оно является более правильным.

На мой же маргинальный взгляд, это безнадежно устаревшее консервативное толкование понятия ощущение необходимо несколько уточнить и поправить (поскольку оно изначально возникло еще в те времена, когда считалось, что носителем и реализатором всех психических процессов является некая неделимая идеальная сущность).

Впрочем, это свое личное мнение я с удовольствием засуну куда подальше и буду помалкивать о нем в тряпочку - ибо всякий разговор на тему уточнения содержания старых философских понятий мне откровенно не по зубам, да и желания заниматься подобными вещами у меня нет.
----------------------------------------------------------
гость
188.170.75.*
Добавлено: 19 апр 18 3:01

да ладно, чалмерс вовсе не такой уж большой авторитет - особенно если вы сами вдумаетесь в вопрос серьезно (когда ассимилируете много чего помимо чалмерса). Апеллировать к авторитетам ТУТ бестолково - ну даннет считает вопрос о трудной проблеме сознания псевдопроблемой - я тоже пытался высказаться в позитивистcком смысле о природе этого 'вопроса'. Не нужно аналитически загоняться в аналитически
неразрешимом вопросе - но это и не повод для спекуляций о специфической аналитической трудности вопроса. Трудность просто признается и ОБХОДИТСЯ при ее разрешении явочным порядком (как мы надеемся солидарно).

т.е. трудность это повод для поиска конструктивных способов 'синтезировать сознание' а не для АПРИОРНОГО утверждения о существовании каких-то новых мистических свойств материи - есть неизвестные свойства когерентных коллективных состояний, 'авторезонирующих' рекурренций, cамосогласованных состояний в автопоэтических паттернах etc - но какая тут мистика или повод для парапсихологических штудий о психогенных полях или сверхтонких планах реальности? очень важно иметь в виду высокую
вероятность неверных интерпретаций (особенно вторичного характера - выдумка на выдумку). Вот когда все возможности рационального постижения будут исчерпаны тогда можно обратиться к иррациональным..

т.> не могут быть решены без нахождения каких-то новых свойств материи либо без создания новой интерпретации уже известных

вот именно это суждение сомнительно - не все возможности более-менее консервативного
('киберфизикалисткого') расширения известного исчерпаны чтобы УТВЕРЖДАТЬ неизбежность расширения на мистику

> Единственным отличием которого от сознания сапиенсов будет отсутствие
компоненты "энергетически насыщенного" переживания при восприятии тех или иных сигналов

я бы не стал столь решительно отвлекаться от 'энергетического аспекта' - cкажем у тех же тилденовских робомногоножек синхронистические паттерны слабосвязанных узлов-приводов отдельных ножек (слабосвязанные динамические системы) характеризовались через устойчивость, бишь в конечном итоге через энергетический аспект. Что мешает установить АС-систему на подобную платформу столь 'динамически' укорененную в мире? Потом, на визуальном входе в АС-систему могут стоять какие-то матрицы из электроники функционального класса, более-менее приспрособленные под поддержку чего-то вроде перцептивных гештальтов (или можно иметь в виду двойной перцептивный вход в систему - цифровой и 'гештальтированный' (типо со вторичным захватом динамических конфигураций цифровым ядром системы - чтобы типо когнитивные модели 'напряженного состояния-конфигурации зрительного поля' были 'хорошо фундированными')).

> Ваше понимание

в вопросе об ощущениях я более ориентируюсь на психологию (в частности когнитивную), чем на философию (где первейшее значение я бы придал бергсону). Где здесь 'консерватизм'?? просто не надо допускать мистического пока рациональные ресурсы не исчерпаны. Какая идеальная сущность?? разве о чем-то кроме нейронального базиса и организации событий в нейрональной системе имеет смысл говорить в конструктивном прицеле?? квантовая запутанность как базис (природа) ощущений это мистификация синергетической природы явления, по-моему.
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 19 апр 18 5:11
Изменено: 19 апр 18 6:57
Цитата

Автор: гость
да ладно, чалмерс вовсе не такой уж большой авторитет


Имхо, заслуга Чалмерса в том, что смог актуализировать старую и хорошо известную в философии проблему, придать ей некий драматический оттенок и остроту.

Понятно, почему такая актуализация оказалась столь востребованной именно сейчас, когда развитие информационных технологий (в том числе - появление научного направления Искусственный Интеллект) позволило по новому взглянуть на вопросы касающиеся соотношения сознания и мозга и всколыхнуть старые напластования философских построений.

Цитата

Автор: гость
Трудность просто признается и ОБХОДИТСЯ при ее разрешении явочным порядком (как мы надеемся солидарно).


Тут 50 на 50. Я, конечно, в глубине души надеюсь на то, что живое сознание автоматически появится вслед за появлением неживого, в виде такого приятного дополнительного сюрприза/бонуса к решению проблемы создания СИИ, но вполне допускаю и другой вариант развития событий. Время покажет.

"Только одна тема – проблема связи между душой и
телом – затрагивается в литературе со времени Упанишад и до самых современных
философских журналов, что говорит о серьезных размышлениях над ней на протяжении
трех тысячелетий. Нам ничего не остается кроме как почтительно поклониться в сторону
огромной философской литературы и пойти своим собственным путем; поступая так, мы
отнюдь не преуменьшаем важность философских вопросов. Однако в науке есть одна освященная веками стратегия – отложить на время решение философских вопросов и сосредоточиться на эмпирически разрешимых проблемах в надежде на то, что рано или поздно новые научные прозрения, возможно, прольют свет на вечные философские вопросы."
(БЕРНАРД БААРС КОГНИТИВНАЯ ТЕОРИЯ СОЗНАНИЯ)

Цитата

Автор: гость
Вот когда все возможности рационального постижения будут исчерпаны тогда можно обратиться к иррациональным..


Не вижу ничего иррационального в предположении о возможности существования каких-то новых, неоткрытых еще свойств материи. Вполне допускаю и такое.

Но не будем торопиться. Подождем результатов экспериментов.

PS Я сейчас на досуге читаю Д.И.Дубровского и просто поражаюсь тому, как мы все-таки недооцениваем наших отечественных исследователей. Человек еще 50-60 лет смог поставить и начать рассматривать (в кибернетико-философском плане) те вопросы, о которых мы говорим сегодня - когда о Чалмерсе никто и слыхом не слыхивал. Не удержусь и размещу тут ссылку на тот кусок текста, который мне особенно понравился:
ЗАЧЕМ СУБЪЕКТИВНАЯ РЕАЛЬНОСТЬ, ИЛИ «ПОЧЕМУ ИНФОРМАЦИОННЫЕ ПРОЦЕССЫ НЕ ИДУТ В ТЕМНОТЕ?» (ОТВЕТ Д. ЧАЛМЕРСУ)
http://www.dubrovsky.dialog21.ru/nauchnye_texty/sozn_mozg_M.htm#M_7
----------------------------------------------------------
гость
188.170.80.*
Добавлено: 19 апр 18 7:20

да, в эффекте когда чалмерс зазвездился был социальный механизм - ничего концептуально ценного этим автором не сказано вообще. Да, очень по месту акцентировал то, что феноменологические праймы на то и праймы чтобы не иметь вразумительной аналитической 'более глубокой' трактовки. И многие согласились что это действительная 'проблема'.

> Тут 50 на 50

дык у блондинки тоже вероятность встретить динозавра на улице 50х50 - встречу или не встречу..

мне кажется что 'реальное' АС будет с необходимостью 'живым' - хотя может быть на неживой основе - если понятие живое абстрагировать (обобщить) от биохимической специфики и взять за основу аутопоэтический оргпаттерн.

> в предположении о

да, но вы сначала решительно категорически сказали - 'не могут быть решены без нахождения каких-то новых свойств материи либо без создания новой интерпретации уже известных' - я только за поссибилистcкую модальность.. типо НЕ обязательно нужны (будут нужны) какие-то принципиально новые свойства или радикально новые интерпретации (даже не постнеклассические).

да, у дубровскорго есть некий комплекс пристрастности к западным философам сознания - его почти не знают там даже физикалисты, хотя он писал о информационно-кибер-физикалисткой подоплеке сознания еще почти полвека назад - но одно дело просто констатировать, другое как-то более содержательтно проводить 'непрерывно' линию от физики-информатики-управления к эмпирике сознания (через нейрофизиологию к психологии)..
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 20 апр 18 2:02
Изменено: 20 апр 18 2:20
Цитата

Автор: гость
... мне кажется что 'реальное' АС будет с необходимостью 'живым' - хотя может быть на неживой основе - если понятие живое абстрагировать (обобщить) от биохимической специфики и взять за основу аутопоэтический оргпаттерн.


Не обязательно. Я сходу могу предложить методику, пользуясь которой мы можем на потоке штамповать СИИ с "неживым" сознанием т.е. то, что в современной философской литературе называют "зомби" (мне такое сопоставление с зомби не нравится, хотя я и сам частенько называю СИИ с неживым сознанием нежитью или носферату - зомби, по определению, интеллектуально ущербные создания, это как бы заранее подразумевается, что в нашем случае в общем-то не обязательно.)

Для этого достаточно получить в свое распоряжение достаточно мощную последовательную вычислительную машину, рабочий процесс которой состоял бы из множества очень простых последовательно выполняемых операций (типа той же МТ), способной в реальном масштабе времени эмулировать работу других, изучаемых нами вычислительных систем.
Тут работает нечто вроде принципа Маркова. Выполнение каждой новой операции в такой машине происходит в условиях новой физической реальности и физическое содержание каждой операции ограничивается только ею самой.

А судя по всему, необходимым условием для появления живого сознания является параллелизм - многократно повторяющееся, массовое, практически одномоментное изменение энергетических состояний элементов вычислительной системы, причем, элементов, способных в процессе выполнения своих "частных" вычислительных операций массово взаимодействовать/интерфирировать между собой (скажем, посредством эл. поля).

Цитата

Автор: гость
> в предположении о
да, но вы сначала решительно категорически сказали - 'не могут быть решены без нахождения каких-то новых свойств материи либо без создания новой интерпретации уже известных' - я только за поссибилистcкую модальность..


Как там говаривал Н.Бор? "По понедельникам, вторникам и средам я верю в свою КМ, а по четвергам, пятницам и субботам - начинаю сомневаться в ней."

Цитата

Автор: гость
у дубровскорго есть некий комплекс пристрастности к западным философам сознания

Я у Дубровского нашел целые куски текста почти один в один совпадающие с моими.
Какой удар от классика! (с)
)

Цитата

Автор: гость
но одно дело просто констатировать, другое как-то более содержательтно проводить 'непрерывно' линию от физики-информатики-управления к эмпирике сознания (через нейрофизиологию к психологии)..


После первоначального и довольно поверхностного пока ознакомления с трудами Дубровского, Бааса, Тонони, Ламме, Дамасио и др. - да!, вот так как-то получилось, что я много лет занимаясь проблематикой СИИ до сих пор так и не удосужился изучить этих авторов - у меня есть куча оправданий по этому поводу, но не о них сейчас речь - обнаружил следующее:

Разрабатываемая мной сейчас теория сознания не содержит в себе ничего концептуально
нового (Помню, о возможности такого варианта развития событий Вы меня несколько раз предупреждали).
Единственным принципиальным отличием этой теории является ее большая конкретика открывающая путь к непосредственной практической реализации (созданию пусть и предельно примитивных, но уже реально работающих моделей).

Т.е. это всего лишь следующий небольшой шажок в развитии уже хорошо известных концепций сознания. В ней появляется возможность ответить на вопросы о содержании нейродинамического кода (Дубровский) или внутреннем формате представления знаний (Баас).

Короче говоря, повторяется история с формулой Байеса. )
Самостоятельное "переоткрытие" того, что всем давным-давно хорошо известно, позволило взглянуть на это несколько по другому.
----------------------------------------------------------
гость
188.170.83.*
Добавлено: 20 апр 18 2:44

т.> БЕРНАРД БААРС КОГНИТИВНАЯ ТЕОРИЯ СОЗНАНИЯ

https://www.herzen.spb.ru/uploads....%8F.pdf
----------------------------------------------------------
Стр.58.2 (60): 1 ... 54 55 56 57 [58] 59 60 << < Пред. | След. > >>
 
FuncДата: Понедельник, 21.05.2018, 10:44 | Сообщение # 63
Группа: Администраторы
Сообщений: 158
Статус: Offline
Траян
Стр.59 (60) << < Пред. | След. > >>
Траян
Сообщений: 549
Добавлено: 20 апр 18 2:53
Изменено: 20 апр 18 2:55
Цитата

Автор: гость
т.> БЕРНАРД БААРС КОГНИТИВНАЯ ТЕОРИЯ СОЗНАНИЯ

https://www.herzen.spb.ru/uploads....%8F.pdf

=============
Именно про эту книгу я и говорю.

Именно в ней у него там в самом начале, в Предисловии на стр.8 приводится тот тезис, который мне понравился, и я его выше процитировал:

"Однако в науке есть одна освященная веками стратегия
– отложить на время решение философских вопросов и
сосредоточиться на эмпирически разрешимых проблемах в надежде на то, что рано или
поздно новые научные прозрения, возможно, прольют свет на вечные философские
вопросы."
----------------------------------------------------------
гость
188.170.72.*
Добавлено: 20 апр 18 4:11

Т.> Не обязательно.

ну, если 'неживое сознание' будет означать что автопоэтический оргпаттерн будет 'не сильно выраженным', то возникнет сомнение можно ли подобный информационный процесс вообще называть сознанием.. (если будет только имитация каких-то черт сознания (ну есть репрезентация, так и фотопленка репрезентирует), будет то самое менее квази и более псевдо).

с аф-зомби большая путаница, эти мысленные эксперименты более путают чем проясняют. Z без феноменального сознания и сознания доступа мне представляется - как я представляю себе механизм сознания - просто невозможен как поведенческий эквивалент. Z логически возможен если полагать сознание эпифеноменом.

я разделяю вашу интуицию что сознание не чисто информационный феномен, что 'энергийность' ему придает то, что соотв. информационные процессы нестандартно имплементированы (что нет логической и физической независимости динамики машины и программы). Про это я чуть сказал только что у валента. Да, - параллелизм присутсвия ( взаимодействия) в 'пространстве сознания' пакетов интегрированной информации. Но опять же - может быть возможна 'удовлетворительная' эмуляция физики синхронизации на системе параллельных информационных обменов.. типо энергия силы связи через механизм приоритетов и т.д..

> этой теории является ее большая конкретика

мы все желаем вам новых успехов и надеемся что будете держать нас в курсе..

заметим только что куда уж 'больше конкретики' в многочисленных bica-архитектурах, причем баарсова GWT это даже уже целая платформа (одна из ряда), на которой реализуются различающиеся (конкретные) архитектуры. Тут огромный простор для конкретизаций и реализаций, множество механизмов и процессов можно конфигурировать по-разному, по-разному акцентировать базовые принципы etc etc (это верно и для внутриплатформенных и разноплатформенных работ).

> про эту книгу

огромное мерси - на русском не знал что она есть
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 21 апр 18 1:32
Изменено: 21 апр 18 2:21
Цитата

Автор: гость
ну, если 'неживое сознание' будет означать что автопоэтический оргпаттерн будет 'не сильно выраженным', то возникнет сомнение можно ли подобный информационный процесс вообще называть сознанием.. (если будет только имитация каких-то черт сознания...


Согласен. Если исходить из того, что бОльшая часть профессиональных философов/нейрофизиологов/психологов (хоть и не все), по всей видимости, действительно полагает энергетически-чувственную компоненту неотъемлемой частью сознания то, конечно, говорить о "неживом" сознании или "сознательном зомби" по меньшей мере некорректно.

Пожалуй, действительно, в таких случаях все же правильнее говорить о квази-сознании (псевдосознании, эрзац-сознании).

Цитата

Автор: гость
заметим только что куда уж 'больше конкретики' в многочисленных bica-архитектурах, причем баарсова GWT это даже уже целая платформа (одна из ряда), на которой реализуются различающиеся (конкретные) архитектуры.


Тут вся соль как раз в том, что предлагаемая мной архитектура не является bica изначально.

Эта архитектура строилась в рамках инженерно-аналитического (рационального?) подхода. Отправной точкой в этом подходе является поиск решения следующей конструкторской задачи: "Пусть нам известны общие свойства некоторого мира. Какова должна быть общая схема устройства блока управления агента способного действовать в этом мире достаточно эффективно? Из каких частей, модулей должен состоять этот блок? Как должно быть организовано их взаимодействие между собой?"

Начав с предельно общей, очень расплывчатой и туманной трех-компонентной схемы классического интеллектуального агента (среда, эффекторы+рецепторы+блок управления), мы постепенно, шаг за шагом, начинаем ее детализировать и конкретизировать. Руководствуясь при этом достаточно общими и очевидными(?) рациональными/рационализаторскими соображениями.

Двигаясь так, мы на определенном этапе детализации получаем схему удивительным образом напоминающую одну из наиболее известных схем bica (Баарса-Тонони и прочих, т.е. схем полученных в результате изучения устройства уже существующих блоков управления биологических существ в реальности способных эффективно функционировать в данном мире и к тому же, способных продемонстрировать наличие у них сознания).

Т.е мы наблюдаем конвергенцию в чистом виде. (И получаем заряд уверенности в том, что мы движемся по правильному пути.)

Но! В отличие от описательных по большей части bica, воспроизводящих/обобщающих результаты эмпирических наблюдений, мы можем не задерживаться на данном этапе детализации, мы в своем аналитическом подходе можем идти дальше и сделать уже следующие шаги приводящие нас к столь детальному описанию конструкции, руководствуясь которым можем начать воспроизводить ее в железе.
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 21 апр 18 2:38
Изменено: 21 апр 18 2:39
>Руководствуясь при этом достаточно общими и очевидными(?) рациональными/рационализаторскими соображениями.

По аналогии с аббревиатурой bica, когнитивные архитектуры систем управления действиями агента, полученные в рамках описанного выше аналитико-инженерного подхода, можно условно назвать "baeica" - By Analytical Engineering Inspired Cognitive Architecture (шутка).
----------------------------------------------------------
гость
188.170.72.*
Добавлено: 23 апр 18 2:47

Т.> не является bica изначально.

ну, и весь талмуд норвига-рассела есть ничто иное как реализация этой программы 'от рационального анализа к агенту'.. есть масса и не биологически инспирированного доведенного 'до железа' (есть и масса bica доведенных до программных комплексов и ротототехнических поделок), все эти act, nars (вообще многие класса agi), cистемы класса bdi и проч. Да, конвергенция есть. (Разве что (N)GWT и ТII это разные вещи.)
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 26 апр 18 5:37
Изменено: 26 апр 18 6:51
БАЙКА

Давным-давно в одной далекой галактике на старом форуме Мембраны, еще задолго до Айкома (т.е. где-то в начале нулевых) была ветка А.Плахова о ИИ, где происходило обсуждение разных идей и соображений касающихся ИИ тематики.

Так вот, рассуждая о сути СИИ там многие ссылались на Серля и его знаменитый пример с "китайской комнатой", на что я всегда отвечал, что нафиг ссылаться на Серля предложившего свой пример в 1981 году, если содержательно та же самая идея была предложена давным-давно до него советским фантастом Днепровым в 1961 году. Причем, со мной еще пытались спорить и мне приходилось распинаться доказывая свою правоту...

И вот, прошли годы, и что слышим от Д. Чалмерса:
https://www.youtube.com/watch?v=RlAIuv31YKs
перевод здесь:
https://lenta.co/iskusstvennoe-soznanie-345054

"У философа Джона Сёрля есть знаменитый аргумент, что он мог бы внутри компьютера имитировать поведение человека, знающего китайский язык, хотя сам он китайский не понимает. На самом деле недавно было обнаружено, что этот пример восходит к русскому писателю Днепрову, который в 1961 году написал рассказ, где люди на футбольном поле имитировали процесс перевода фразы с русского языка на португальский. Никто из них не знал, что они делают, так что каждый просто следовал правилам, передавал дальше нули и единицы, и пять часов спустя они составили предложение на португальском. И он сказал: «Вы следовали правилам вычислительной машины, вы составили предложение на португальском, но вы не понимали его, у вас не было сознательного мышления». И Днепров использовал этот аргумент, чтобы доказать, что простое выполнение компьютерной программы не дает вам понимание, не дает сознание. И Джон Сёрль предложил свою версию этого эксперимента намного позже, в 1981 году, с тем же выводом." (и далее два абзаца)

Архивы Мембраны сохранились и каждый может убедиться в том, что здесь и далее Чалмерс практически слово в слово повторяет мои тогдашние рассуждения о примере Днепрова.
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 26 апр 18 5:49
Не удивлюсь, если и к идее биполярной вероятности, о возможности ее применения при решении различных прогностических задач, в частности, при создании эффективных алгоритмов торговли на бирже, народ придет где-то лет через 10.

А к пониманию того, как она может быть задействована при создании СИИ - лет через 15-20.
----------------------------------------------------------
гость во лбу гвоздь
Сообщений: 460
Добавлено: 27 апр 18 13:02
Изменено: 27 апр 18 13:03
Тут уже было кем-то говорилось, что Серл выбрал неправильный критерий оценки интеллекта из-за непонимания сути интеллекта. Так что всякие Серли это все глупости, тем более этот Днепров.
----------------------------------------------------------
Траян
Сообщений: 549

Добавлено: 28 апр 18 3:48
Изменено: 28 апр 18 3:49
Цитата

Автор: гость во лбу гвоздь
Тут уже было кем-то говорилось, что Серл выбрал неправильный критерий оценки интеллекта из-за непонимания сути интеллекта. Так что всякие Серли это все глупости, тем более этот Днепров.

Вообще-то, и пример Серля с китайской комнатой - он не про интеллект, и мой пост - совсем не про Серля.
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 08 май 18 22:44
Всех адекватных участников форума поздравляю с праздником Великой Победы!
----------------------------------------------------------
rrr3
Сообщений: 10365
Добавлено: 09 май 18 0:42
С праздником всех, всех (не адекватных тоже)!
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 10 май 18 23:19
Изменено: 10 май 18 23:20
Цитата

Автор: rrr3
С праздником всех, всех (не адекватных тоже)!

Для неадекватных я просто вставлю здесь красивую картинку. Без комментариев.
----------------------------------------------------------
Траян
Сообщений: 549
Добавлено: 18 май 18 1:19
2 Хмур

30 марта:
Цитата

Автор: Траян
Я сейчас работаю над текстом с ее изложением, думаю это займет где-то полтора-два месяца. Но и до истечения этого срока я как-нибудь вышлю Вам на е-мейл черновик статьи.

Не успеваю, сорри (этого, наверное, и следовало ожидать).

С высокоуровневыми псевдофилософскими и общетеоретическими рассуждансами все ОК, все неплохо согласуется с большинством известных концепций (что не удивительно, поскольку они не противоречат, а скорее, дополняют друг друга). Да и с предельно низкоуровневыми представлениями тоже все обстоит неплохо (во многом благодаря БМП). А вот посередине - разрыв.

Сейчас уперся в проблему определения предметной области, вида деятельности агента (и его способности переключаться с одного на другое). Не выбора из какого-то уже известного набора - это-то делается просто, а самостоятельного разделения агентом всей области его функционирования на отдельные участки/виды, каждый из которых требует своей специфической организации ментальной/вычислительной деятельности. Пока непонятен тот универсальный принцип, которым можно было бы руководствоваться при осуществлении такого разделения.

Понятно, что такое деление делается для оптимизации, экономии вычислительных ресурсов, но вот конкретики, детализации, некой общей идеи , необходимой для полного понимания того, как именно это делается - без коего написание экспериментальной проверочной проги невозможно - пока нет.
----------------------------------------------------------
rrr3
Сообщений: 10365
Добавлено: 18 май 18 2:43
Цитата

Автор: Траян
... А вот посередине - разрыв.

Сейчас уперся в проблему определения предметной области, вида деятельности агента (и его способности переключаться с одного на другое). Не выбора из какого-то уже известного набора - это-то делается просто, а самостоятельного разделения агентом всей области его функционирования на отдельные участки/виды, каждый из которых требует своей специфической организации ментальной/вычислительной деятельности. Пока непонятен тот универсальный принцип, которым можно было бы руководствоваться при осуществлении такого разделения.
Понятно, что такое деление делается для оптимизации, экономии вычислительных ресурсов, но вот конкретики, детализации, некой общей идеи , необходимой для полного понимания того, как именно это делается - без коего написание экспериментальной проверочной проги невозможно - пока нет.

Мда... как уже говорилось потенциал слабоват...

Нет и не может быть универсального принципа ("разделения") в описанном виде! Вся универсальность может заключаться (ограничиваться) тем, что все должно быть не универсально... Для (почти) каждого случая (контекста) свое разделение и все по мере возможности на одном материале-носителе.
Для наглядности - в биологии нет универсального условия выживания (нет единой универсальной "функции", "роли", "значения" у всех живых, даже само выживание им не является), есть выживания конкретного в конкретных условиях...
Но никто не говорил, что Вы лично не должны биться головой о не разбиваемую стенку универсальности.

"Такое разделение" - неизбежная необходимость далеко не для оптимизация (по крайней мере не только)

Не переживайте, топор у вас уже есть, осталось найти то, без чего каши не сварить...

----------------------------------------------------------
гость
188.170.81.*
Добавлено: 19 май 18 2:46

Т.> Пока непонятен тот универсальный принцип, которым можно было бы руководствоваться при осуществлении такого разделения.

> некой общей идеи

ну, если не загоняться насчет универсального принципа, а иметь в виду 'общую руководящую идею', то она на поверхности - самоорганизация в разных видах (через эволюцию, адаптивную модификацию, обучение (без учителя, c подкреплением, c учителем, cамообучение (активное, cо вниманием etc)). Типо как формируются потребностные домены и функциональные системы в их рамках. Тут много разной конретики можно пошукать, помнится даже полевой моделировал эту фазу дифференциации функциональных паттернов.

насчет универсального принципа в смысле универсального критерия 'разделения' то тут облом - из самой общей философии 'cуществования агента' возникает представление о том. что агент это сущее на перекрестке противоречивых требований, а значит 'универсальным' будет только метапринцип поиска ситуационного баланса противоречивых требований, балансирования в паретовых условиях многокритериальной оптимизации (условные субоптимизации и локальные улучшения рулез). Типо что если сильна угроза существованию, то незачем экономить ресурсы - при том, что не экономя ресурсы больше шансов поставить себя под угрозу существованию.
--------

не берите в голову обещанные сроки - ясно, что под общую идею можно напихать много разной конретики, которая никак не исчерпает тему, которая СЛИШКОМ общая - никто и не ждал что вы 'закроете вопрос' - просто вы ранее выступили с объявлением что обнаружили нечто 'cущественно разрешающее вопрос о сознании', более определенного раскрытия чего от вас и ждали (и ждут) - с полным пониманием что вы могли просто ошибиться в оценке масштаба своих озаризмов (о чем говорили и в отношении бмп).
----------------------------------------------------------
Стр.59 (60): 1 ... 55 56 57 58 [59] 60 << < Пред. | След. > >>
 
FuncДата: Суббота, 09.06.2018, 14:09 | Сообщение # 64
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.60 (65)
Траян
Сообщений: 585
Добавлено: 20 май 18 4:13
Изменено: 20 май 18 4:26
Цитата

Автор: гость
... агент это сущее на перекрестке противоречивых требований, а значит 'универсальным' будет только метапринцип поиска ситуационного баланса противоречивых требований, балансирования в паретовых условиях многокритериальной оптимизации (условные субоптимизации и локальные улучшения рулез).

Я все же предпочитаю исходить из принципа одно-критериальной оптимизации. Можно долго спорить о том, что это за критерий - увеличение ли шансов выживания вида, как говорят биологи; увеличение ли вероятности на передачу ядра генома, как нас учат генетики; или повышение степени одухотворенности мира, как учат некоторые просветленные гуру - это все пока вторично.

Я помню Ваше тотальное неприятие идеи одно-критериальной оптимизации, хотя и в толк не возьму, почему Вы отстаиваете именно эту точку зрения. Ведь доказать сводимость многокритериальной к одно- можно даже с помощью сравнительно простых мат. построений.

(Вот даже в приводимом Вами примере: "... если сильна угроза существованию, то незачем экономить ресурсы - при том, что не экономя ресурсы больше шансов поставить себя под угрозу существованию" подспудно подразумевается, что критерий один - выживание.)

Да и из общих соображения ясно, что для того, чтобы агент не мог попасть в неопределенные ситуации, не "зависал" намертво (из-за конфликта интересов разных модулей и процессов), критерий должен быть один. Причем, на всем протяжении всей его жизни.

PS Кстати, спс, за этот пример, я его неоднократно использую в своих построениях, поскольку он помогает наглядно объяснить суть сознания - как его когнитивный функционал, так и его внутренне устройство/архитектуру.

PPS Говоря о выживании вида как о критерии, по которому агент выбирает свои действия следует иметь в виду, что этот критерий не обязательно должен задаваться в явном декларативном виде. Можно просто встроить систему поощрений-наказаний а-ля RL, отслеживающую состояния агента.

Цитата

Автор: гость
... просто вы ранее выступили с объявлением что обнаружили нечто 'cущественно разрешающее вопрос о сознании', более определенного раскрытия чего от вас и ждали (и ждут) - с полным пониманием что вы могли просто ошибиться в оценке масштаба своих озаризмов (о чем говорили и в отношении бмп).


Согласно предлагаемой теории, сознание возникло как инструмент оптимизации одновременно нескольких, в чем-то противоречивых процессов, таких, например, как внутренняя ментальная деятельность (обучение/построение моделей мира); обеспечение оперативности и адекватности реакций при возникновении новых, неожиданных изменений обстановки и т.д.

Сознание возникает в попытке нахождения такого хитрого решения которое могло бы разрешить одновременно (!!!) целый ряд (не менее трех, имхо) совершенно различных по своему содержанию задач оптимизации.

Найти баланс между специализацией и универсальностью, между оперативностью реагирования и "обдуманностью" принимаемых решений.

Можно и так сказать, что сознание - это инструмент выбора того объема знаний, который используется при решении тех или иных проблем.

А можно и так: сознание - это организатор, "вдохновитель" и контроллер, способный сформировать и запустить различные узко-специализированные процессы, способные самостоятельно (и очень экономично - за счет своей специализации) справиться с рутинными задачами (лежащими в одной проблемно-предметной области), когда при решении очередной проблемы нет необходимости каждый раз начинать рассуждения с самых общих соображений, ab ovo. И способный созерцать, отслеживать, причем в высокоуровневой модальности как состояние этих процессов по отдельности (а таких, параллельно протекающих процессов может быть много), так и всю свою деятельность в целом.

PPPS Побочным результатом этой теории является полное обнуление столь любимого Чалмерсом аргумента зомби. Ясно, что в рамках своего мысленного эксперимента он подспудно снимает ограничения-требования на когнитивную архитектуру этого создания, принимая что выч. ресурсы которыми тот располагает - бесконечны, а такого в реальном мире не бывает.
Потому-то и зомби-подобные разумные, но бессознательные существа возможны лишь в воображаемых мирах, либо в специально организованных, виртуально-модельных средах.
==================================
гость
188.170.81.*
Добавлено: 22 май 18 3:35
Т.> что критерий один - выживание

ну, эдак вы несколько смещаете вопрос - конечно, выживание, выживаемость, это как бы необходимое условие, имманентность, собственный императив этого предприятия, котрое называется существованием живой материи, раз устойчивость существования материи в такой форме столь проблематично и обусловлено многим. Вспомним, как, cкажем, шамис рассуждал про этот критерий maхТ. Но при малейшей конкретизации вопроса сразу появляются трудности - выживание индивида, группы, вида, таксона etc - как-то нужно согласовывать эти 'выживаемости', или, cкажем, выживать можно по-разному (разные стратегии выживания) - кто автотроф, кто гетеротроф, кто фотосинтезирует, кто хищничает - 'cамо по себе и из себя' живое вещество не может же предусмотреть все варианты будущего чтобы реально стаивть задачу на махТ - ставится более реалистическая задача - повышение (насколько возможно) выживаемости за счет адаптивности, увеличение ОБЩЕЙ адаптабельности - как бы поддерживается динамическое равновесие - кто впадает в специализацию и глубокую адлаптацию к нише - выигрывает в чем-то, но что-то и теряет (в глобальном смысле устойчивость ниши не гарантируется тем, что вид может отчасти стабилизировать свою нишу), cтановясь зависимой от нее, кто-то пребывает в пограничном состоянии и не падает в воронку глубокой специализации - тоже что-то теряя, но что-то и приобретая - перманентные экологические пертурбации поддерживают баланс между стратегиями.

как бы общий метапринцип что нужно выживать реализуется через динамическое, подвижное положение балансирующей точки (системного состояния) на противоречивых требованиях.

многокритериальное рассмотрение (векторный критерий) можно упростить при скаляризации критерия - но (а) в вообще говоря такое переопределение не тождественно, (б) скаляризовать можно по-разному и эти способы не эквивалентны (или сужать область парето можно по-разному) и (в) скаляризационная редукция это лишь искусственный прием.

наверное вы все это понимаете, но еще плохо осознаете - ведь вы ставите вопрос так -

> самостоятельного разделения агентом всей области его функционирования на отдельные
> участки/виды, каждый из которых требует своей специфической организации ментальной/
> вычислительной деятельности

> такое деление делается для оптимизации, экономии вычислительных ресурсов,

т.е. подразумеваете именно эту ситуацию сочетания общего императива и РЕАЛЬНОЙ постоянной ситуации балансирования противоречивых требований - 'один критерий' (идеал) типо чтобы не зависало в деструктивном конфликте субкритериев - и реальность поиска удовлетворения противоречивым требованиям.
как бы идеал обеспечивается (причем не гарантировано) реальными комромиссами. Не так, что можно выявить 'формулу гарантированного успеха', а что нужно поддерживать популяцию КАНДИДАТОВ в формулу успеха, механизм их генерации (эвристика, генетическая ассимиляция, индукция etc). Как бы императивная тенденция к выживаемости обеспечивается реальным коллективом динамических адаптивных компромиссов. Они изначально запустили процесс самоподдерживающейся эволюционной устойчивости и пока преуспели.

и получается, что 'агентивность' идет сразу по многим путям - агенты ПО-РАЗНОМУ производят разделение на функциональные домены - кто отращивает крылья, а кто второсигнальную систему. И внутри макростратегии также происходит диверсификация на субстратегии - кто отращивает контекстуализацию объектов, кто изолирующие исчисления объектов.. и никуда не уйти от того, что спектр возможностей для маневра максимизируется если сочетать экономию при специализации с избыточностью на поддержание неспециализированных (полипотентных) 'заповедников'.
=================================
Траян
Сообщений: 585
Добавлено: 23 май 18 6:33
Изменено: 23 май 18 6:50
Цитата

Автор: гость
... конечно, выживание, выживаемость, это как бы необходимое условие, имманентность, ... Но при малейшей конкретизации вопроса сразу появляются трудности - выживание индивида, группы, вида, таксона etc - как-то нужно согласовывать эти 'выживаемости', или, cкажем, выживать можно по-разному (разные стратегии выживания) - кто автотроф, кто гетеротроф, кто фотосинтезирует, кто хищничает - 'cамо по себе и из себя' живое вещество не может же предусмотреть все варианты будущего чтобы реально стаивть задачу на махТ - ставится более реалистическая задача - повышение (насколько возможно) выживаемости за счет адаптивности, увеличение ОБЩЕЙ адаптабельности


Все это, конечно, правильно, если ставить задачу выживания вида в явном и непосредственном виде - тогда действительно появляется целая куча трудноразрешимых глобальных проблем связанных, в конечном счете, наиболее глубокими "вечными" философскими вопросами. И, в том числе, с необходимостью формализации базовых понятий-категорий ("Что есть жизнь?" "Что такое существование?").

Но дело в том, что в живых существах и единственном известном нам разумном существе задача выживания ставится в неявном и опосредованном виде , а именно, как задача максимизации разницы между суммами получаемых на протяжении жизни положительных и отрицательных подкреплений (удовольствия и боли).

В том, что это действительно так, следует из того, что все проявления активности достаточно развитых живых существ находят свое полное объяснение в рамках именно такой общей парадигмы. Более того, многие маргинальные вещи, которые в принципе невозможно объяснить в рамках иных концепций (например, суицид) легко объясняются в ее рамках.

(Особо упертые противники этой идеи могут попробовать вживить себе электроды в центры удовольствия и боли и на личном опыте убедиться в абсолютном главенстве данной поведенческой мотивации. )

Поставщиками сигналов о боли и удовольствии является физ. тело, сома. Которая устроена (естественный отбор постарался)так, что при переходе в благоприятные для задачи выживания вида состояния организма генерируются чувства удовольствия и пр., и наоборот.

Справедливости ради нужно сказать, что у высших животных источниками пол. или отр. ощущений могут быть и психические процессы, но на данном этапе рассуждений это пока неважно.

Ясное дело, что такая - завязанная на материальное тело - система генерации поощрений и наказаний является чрезвычайно косной и инертной. При радикальной смене среды обитания эта система может давать серьезные сбои. Так, переход существ с системой заточенной на выживание за счет первобытного собирательства/охоты в условия постиндустриального развитого общества система поощрений за потребление жирной, сладкой и соленой пищи может приводить к нежелательным последствиям. Да и чрезмерная боязнь высоты жителям нынешних небоскребов ни к чему.

Короче говоря, вся эта система далека до идеала, до такой степени совершенства, когда ее применение гарантировало бы 100% успех во всех ситуациях. Это - паллиатив и компромисс.
Минусов у нее куча.
Но! Но это пусть и худо-бедно но действительно работающая в условиях реального мира система - при всех ее недостатках и издержках - именно за счет своей материальности, т.е. своей неразрывной связи с действительностью. Способная дать ответ при попадании организма почти в любые (исключающие его полное разрушение) ситуации. Пусть это будут самые невообразимые, самые не представимые, самые неожиданные и нестандартные ситуации - внутренняя физическая система генерации поощрений/наказаний все равно даст четкий и однозначный ответ - пусть порой и ошибочный, но имея его на руках интеллекту уже есть с чем работать.

Что хорошо - создавая СИИ мы вовсе не обязаны создавать для него спецом и сому с встроенной системой поощрений/наказаний. Роль такой сомы может выполнять и взаимодействующий с ней человек-оператор (двух-уровневая система).

PS Про все это я уже много раз писал, но Вы что-то не хотите вникнуть в суть такого подхода.
==================================
NO.
Сообщений: 10485
Добавлено: 23 май 18 7:07
Цитата

Автор: Траян
Пусть это будут самые невообразимые, самые не представимые, самые неожиданные и нестандартные ситуации

А чего это вдруг озабоченный выживанием организм попадет в такие ситуации? Он же умный, всё обдумает и заляжет под землей в деревянном ящике, чтобы всякие неожиданные и нестандартные ситуации его не убили.
=================================
Траян
Сообщений: 585
Добавлено: 23 май 18 7:23
Изменено: 23 май 18 7:24
Цитата

Автор: гость
.... идеал обеспечивается (причем не гарантировано) реальными комромиссами. Не так, что можно выявить 'формулу гарантированного успеха', а что нужно поддерживать популяцию КАНДИДАТОВ в формулу успеха, механизм их генерации (эвристика, генетическая ассимиляция, индукция etc). Как бы императивная тенденция к выживаемости обеспечивается реальным коллективом динамических адаптивных компромиссов.

Еще раз скажу - ЕИ/разум решает проблему выживания опосредованно, вовсе не желая этого и не стремясь к этому. Его цель - max(суммы пол. - суммы отр.)/

Именно это является той морковкой, стремясь к получению которой интеллект обеспечивает выживание своего носителя/организма.

Поэтому рассуждая о СИИ, о путях его построения, следует говорить не о стратегиях выживания, а о стратегиях способных максимизировать эту сумму разностей.

О том, какие для этого у СИИ есть возможности ресурсы, в каком виде ему дается инфа необходимая для его работы.

Ну и о том, каким образом он может оптимизировать свою работу. А конструкция эффекторов-рецепторов, все эти детали его физической адаптации - это все не про СИИ.
==================================
Траян
Сообщений: 585
Добавлено: 23 май 18 7:40
Изменено: 23 май 18 7:45
Цитата

Автор: NO.
А чего это вдруг озабоченный выживанием организм попадет в такие ситуации? Он же умный, всё обдумает и заляжет под землей в деревянном ящике, чтобы всякие неожиданные и нестандартные ситуации его не убили.


Это по обстоятельствам. Смотря какой образ действий будет более выгодным - в плане максимизации суммы разностей удовольствий и боли.

Кстати говоря, Вы никогда не задумывались над тем, почему необходимые как минимум две эти модальности - и боль и удовольствие?

Почему нельзя обойтись только болью или только удовольствием? Ведь на первый взгляд кажется возможным, что для того, чтобы заставить живое существо действовать нужным нам образом достаточно только одного стимула - только кнута или только пряника.

Я в свое время (очень давно!) пробовал моделировать и таких агентов, было такое. И в реальных машинных экспериментах убедился в том, что без двух разных модальностей не обойтись.

И вот почему. Один агент, обреченный на получение лишь только кнута (в разных степенях воздействия) предпочитал забиваться куда-нибудь в угол и не отсвечивать. Трясясь от страха и вздрагивая от каждого шороха. Вот уж для кого воистину было "жизнь - это боль"
Никакой инициативы, поисковой активности от него было не дождаться.

Второй агент, живший в мире лишь пряников, был слишком уж безбашенным. Похожим на людей с пониженным болевым порогом (забыл как такой синдром называется). Не мог обучаться самым простым и нужным вещам, не говоря уж про оптимизацию своей деятельности. найдя раз действие приводящее к прянику он повторял его до бесконечности.
==================================
NO.
Сообщений: 10485
Добавлено: 23 май 18 22:05
Интересные эксперименты.

Про боль-удовольствие я думаю просто Вы уверенно овладели секретом сложения и умножения положительных и отрицательных величин и теперь хотите эти могущественные знания с блеском применить.
=================================
гость
188.170.75.*
Добавлено: 24 май 18 1:42

Т.> задача выживания ставится в неявном и опосредованном виде , а именно, как задача максимизации разницы между суммами получаемых на протяжении жизни положительных и отрицательных подкреплений (удовольствия и боли).

> не хотите вникнуть в суть такого подхода.

подход этот очевиден, общепонятен и банален. Но нужно понимать и то, что это опять смещение исходного вопроса. Что непосредственно до этой темы, то поскольку 'регистры подкреплений' встроены в систему потребностей (и мотиваций), то общая логика вовсе не Pos-Neg->maх, а снижение потребностного напряжения, нормализации (с учетом фактора времени). Внешнее и внутреннее подкрепление участвует в общесистемных регуляциях, но сводить системную логику к упомянутой формуле это слишком прямолинейно. Одно дело когда система подкрепления вырастает изнутри системной логики при эволюции системы и другое - когда мы принудительно навешиваем на агента некую логику подкрепления которая мнится нам 'очевидной'.

до этого вопрос был об одномерной оптимизации (что тоже было смещением относительно первоначального вопроса о драйвере расщепления на функционально-структурные домены). Мне кажется, что в 'глобальном смысле' речь должна идти не о задаче оптимизации, а о задаче удовлетворения ограничениям - чтобы что-то 'оптимизировать' что-то должно сначала более-менее устойчиво существовать - если условия существования заметно переменны, то вся тяжесть проблемы ложится на задачу удовлетворения ограничениям, а до задачи оптимизации (поиска экстремума некоего критерия оптимальности) 'дело может не доходить', собственно оптимизация может быть не актуальной. В этом смысле организм ориентирован изначально на Pos-Neg->Norm. Как бы метакритерий выживаемости и критерий
махR не находятся в отношении простой связи. Задача maxТ это как бы внешняя задача (когда есть внешний наблюдатель-селекционер), задача на махP (вероятность продолжения) тоже не может быть поставлена корректно из-за переменности генеральной совокупности возможных состояний).

кроме того, при определенной постановке задачи на оптимизацию (экстремизацию) сразу возникает вопрос об издержках (общесистемных) на оптимизацию и их учете - задача на оптимизацию как бы из себя расширяется за свои границы, что говорит о том, что она 'не главное'.

еще одно простое соображение это что поиск лучшего ('оптимизация') на основе эволюционно-генетических эвристик и при 'трудном' пространстве поиска требует одновременно и поддержания генетичечкого разнообразия - т.е. в действитьельности ищется не лучшее, а некий набор вариантов, которые способны переориентировать поиск при смене внешних требований. Что так же и при размытости критерия поиска.
как бы НА САМОМ ДЕЛЕ мы не знаем что лучшее в достаточно общих постановках (когда сочетаются факторы запаса свободной энергии, наличной информации, cтепени организованности информации в знания, возможности трансформации информации в функциональные структуры etc). МахR может оказаться неадекватным критерием если неадекватной окажется подсистема подкрепления - адекватность которой обеспечивается именно встроенностью ее в общесистемную логику, которая подчинена императиву выживания
(или адаптабельности).

> Именно это является той морковкой, стремясь к получению которой интеллект обеспечивает выживание своего носителя/организма.

речь о том, что вы путаете причину и следствие - это из выживаемости вырастает система подкрепления - ПРИЧЕМ КАК ЭВРИСТИКА - отчего в общей постановке она не должна быть фиксированной, априорной и подчинять системную динамику своей логике. Известны постановки в области 'общего интеллекта' на максимизацию суммы прогнозных оценок подкреплений на дальнем горизонте - вопрос только в том что при этом получается интеллект по преследованию этого критерия, а не действительно 'интеллект'.
=================================
NO.
Сообщений: 10485

Добавлено: 24 май 18 2:18
А мне представляется какая-то дама-с-собачкой, где собачка главная, а дама только применяет знания чтобы капризной собачке было хорошо.
Все гораздо лучше объясняется тем, что Траян математику считает единственным источником решений и все задачи хочет свести к вычислительным. Это очень распространено, машобученцы все такие. У меня почему-то о математике сложилось мнение, что там занимаются доказательствами и построением формальных систем. Уж точно ничего там не решается голосованием или взвешиванием. Это только арифметика. И не такого, что дошкольник интеллекта не имеет, а закончив первый класс становится интеллектуалом.
В общем очень старо и скучно, будто ещё не появился Лисп и ещё не возникало задачи ИИ, и из компьютеров пока есть только арифмометр. Зачем арифмометру выживание?
=================================
гость
188.170.83.*

Добавлено: 24 май 18 2:48

потом, кажется некоторой подтасовской переход от констатации роли подкреплений и наказаний при обучении и охранной функции боли к категорической констатации критерия Роs-Neg->мах. Тут помимо того что все Роsi и Negj cвернуты в два главных компонента, но и уж слишком безапелляционно проведена линейная скаляризация - когда не менее очевидна и возможность некоей логики на векторе (Рos,Neg). Агент вполне может предпочитать более (10,5) чем (5,0).
=================================
Траян
Сообщений: 585

Добавлено: 24 май 18 23:35
Изменено: 25 май 18 0:53
Цитата

Автор: гость
подход этот очевиден, общепонятен и банален.


Что не удивительно - поскольку подход этот прост, ясен и естественен. Тысячи, миллионы фактов и фактиков, результатов экспериментов и наблюдений биологов, нейрофизиологов и психологов ежесекундно и ежеминутно подтверждают данную концепцию. На сегодняшний день не обнаружено ни одного (!) проявления человеческой деятельности, поведенческой активности которое бы не укладывалось в канву maxR.

Представление о том, что основой мотивации системы управления поведением homo sapiens (т.е. его аппарата мышления/психики/ЕИ/разума) является максимизация, стремление к получению максимума положительных ощущений и минимума неприятных позволяет объяснить даже самые странные на первый взгляд, нелепые и саморазрушительные проявления человеческой деятельности, подоплеку их поступков и решений - которые совсем непросто, а порой и просто невозможно бывает объяснить в рамках иных подходов.

Цитата

Автор: гостькроме того, при определенной постановке задачи на оптимизацию (экстремизацию) сразу возникает вопрос об издержках (общесистемных) на оптимизацию и их учете - задача на оптимизацию как бы из себя расширяется за свои границы, что говорит о том, что она 'не главное'.


Издержки прекрасно перекладываются на язык подкреплений.

Цитата

Автор: гость
...
как бы НА САМОМ ДЕЛЕ мы не знаем что лучшее в достаточно общих постановках (когда сочетаются факторы запаса свободной энергии, наличной информации, cтепени организованности информации в знания, возможности трансформации информации в функциональные структуры etc).

...
МахR может оказаться неадекватным критерием если неадекватной окажется подсистема подкрепления - адекватность которой обеспечивается именно встроенностью ее в общесистемную логику, которая подчинена императиву выживания
(или адаптабельности).

Задача создания СИИ - не есть задача моделирования филогенеза, процесса адаптации в широком смысле. Т.е. задача создания СИИ мало связана с направлением исследований
"Адаптивное Поведение" (т.н. Анимат-подход к ИИ).

Это даже не задача моделирования когнитивной эволюции самой по себе.

Задача создания СИИ - это задача воспроизведения того набора ментальных качеств (интеллектуальных способностей) наличествующих у прототипа благодаря наличию которых тот считается разумным существом. Если нам известно, что поведение человека полностью определяется maxR (нет ни одного (!) примера опровергающего данное утверждение), то зачем огород городить?

(Вопрос о том как, почему и для чего у человеков (и высших животных) возникла именно такая мотивационная система - ясно, что для решения вопроса выживания вида , но как именно это все сооргнизовалось в каком порядке и последовательности - конечно же жутко интересен сам по себе, но к решению задачи построения СИИ он не имеет непосредственного отношения).

Цитата

Автор: гость Известны постановки в области 'общего интеллекта' на максимизацию суммы прогнозных оценок подкреплений на дальнем горизонте - вопрос только в том что при этом получается интеллект по преследованию этого критерия, а не действительно 'интеллект'.

Ну, это смотря как преследовать. Если агент стремясь к получению maxR проявляет чудеса смекалки и изобретательности, оказывается способен рачительно использовать накопленный опыт и применять его в самых разных областях деятельности, демонстрировать способность находить оригинальные, свежие решения нестандартных задач - т.е. показывать свою интеллектуальную состоятельность: т.е. эффективность, автономность и универсальность сопоставимые с ЕИ - то разве он не будет признан полноценным СИИ?

PS Если даже нынешние, пока еще очень тупые и ограниченные агенты с мотивацией maxR - реализованной в виде RL обучения, способны демонстрировать весьма впечатляющие результаты - возьмите ту же AlphaZero - то что можно ожидать при несравненно более глубоком, тонком и адекватном внедрении этой мотивации?
==================================
Траян
Сообщений: 585

Добавлено: 24 май 18 23:42
Цитата

Автор: NO.
Интересные эксперименты.


Их может повторить любой желающий. Для этого вовсе не обязательно использовать спец. прогу как делал я. Можно взять ту же СПИ и пытаться обучить агента давая ему только лишь кнут или только лишь пряники - и убедиться в справедливости приведенных мной утверждений.

Имхо, детские психологи говоря о правильных принципах воспитания говорят то же самое. Нельзя только кнутом или только пряником воспитать гармонично развитую личность. Нужен баланс.
==================================
СГТР http://egtd.ru
Сообщений: 7518
Добавлено: 25 май 18 0:32
Изменено: 25 май 18 0:34
Цитата

Автор: Траян
Но дело в том, что в живых существах и единственном известном нам разумном существе задача выживания ставится в неявном и опосредованном виде , а именно, как задача максимизации разницы между суммами получаемых на протяжении жизни положительных и отрицательных подкреплений (удовольствия и боли).

Вы упускаете разницу между физическим и интеллектуальным удовольствием.
В СГТР то вопрос решён. В НС хранятся эмоции (связки: эмоция + образ = знание) которые могут подтверждаться или отрицаться. Первые усиливает функцию организма контролируемую этой эмоцией, вторые - ослабляют. При таком подходе понятно что НС становится всё равно с какими эмоциями она работает - внешними (Разума) или внутренними (Физиологии). В случаи с интеллектом - избирательным (регенеративном, человеческом) характере обработки эмоций возможен и суицид.
=================================
гость
188.170.74.*
Добавлено: 25 май 18 1:32
Т.> подтверждают данную концепцию

нет, ваша интонация сродни истерике догматика вы выдаете примитивную НОРМАТИВНУЮ модель рационального агента ('рационального' типа поведения) за модель 'исчерпывающую', 'истинную', 'cущностную'. Естественная агентивность с необходимостью ОГРАНИЧЕННО рациональна (а человек вообще неадекватно рационализирует свое поведение часто постфактум). Критерий махSumR это нормативный идеал, требование, принимаемое в довольно узкой теории, построенной на сильных идеализациях.

агенту не известно его будующее и объективные ситуационные расклады и поэтому агент не ориентируется в текущих выборах на объективную линию махSumR - он не рассматривает все возможности и использует грубые оценки (еще и пересматриваемые на разных основниях), он может вообще не рассматривать далекий горизонт. Критерии локального выбора не гарантируют удовлетворения глобального нормативного критерия. НЕ может быть чтобы все было так просто.

агент локально выбирает 'что получше и что поменьше обременено', но и локальные выборы построены на ПРЕДПОЧТЕНИЯХ (т.е. это паретовы выборы), на векторах (Posi,Negj), а не на примитивной арифметике выбора большего скаляра. Удовлетворяются потребности и разрешаются так или иначе мотивационные конфликты, а не калькулируется нормативная 'экономика' пользы-удовольствия - потребности порождают систему подкрепления, а не нормативный идеал гибкую систему мотивации.

даже если не рассматривать высокую человеческую жертвенность, то жертвенное поведение животных никак не укладывается в модель максимизации разницы позитивного и негативного на протяжении жизни - зачем рисковать жизнью если всегда есть возможность перекрыть текщий ущерб будущими гешефтами? зачем защищать птенцов в безнадежной ситуации с избыточным риском? Это как раз тот случай когда глобальный критерий никак не корреспондирует с локальным (на индивидуальном уровне). В локальные критерии индивида встроены глобальные критерии уровня группы, отчего индивидуальное поведление может быть нерациональным с уровня индивидуальной т.зр. В человека встроены нерациональные эмоции-регуляторы, которые можно рационализовать с коллективного уровня, но не с уровня индивидного maxR. Зачем втягиваться в спираль кровной мести, зачем отвергать выгодные, но несправедливые предложения, зачем испытывать стыд (и ему подчиняться когда выгода от бесстыдства реальна, а издержки большей частью виртуальны)?

> Задача создания СИИ

как понимать эту задачу - одно дело проводить грубую идеализацию (нормативность), другое - ориентироваться на реальные механизмы порождения выборов, построения поведения и адаптации системы на коллективном уровне к ограниченной рациональности на индивидуальном (- получая в итоге как бы расширенную рациональность). Что правильнее - жесткий максимизатор (в итоге может получиться египетская пирамида накопленных польз с неконтролируемыми большими издержками (но не фиксириумыми в модели подкрепления)) или адаптивная система норм и ценностей, гибко и ситуационно чувствительно выстраивающая жизненный цикл агента? Коллектив фанатичных максимизаторов или сообщество субрациональных агентов разных степеней эгоистичности-рациональности?

> поведение человека полностью определяется maxR

конечно нет - из того что человек локально выбирает лучшее (и не жадно) вовсе не следует что человек подчинен глобальному критерию maxR - грубо говоря из этого критерия НЕ СИНТЕЗИРОВАТЬ все богатство регуляции поведения 'cильным интеллектом'.

когда творческая личность испытывает муки творчества она не максимизирует в том смысле что в итоге радость творческих удач перекроет предшествующий негатив - а творец может и не дождаться воздаяния даже самим собою себе самому (творческая неудовлетворенность) - его поведение таково оттого что он не может быть иным (выбор не быть поэтом а быть бухгалтером с большим накоплением подкреплений может даже не рассматриваться) - реальные механизмы порождения поведения это не примитивное подчинение императиву maxR или порождение им.

еще раз - НЕ ДОКАЗАНО что гибкое порождение и гибкая регуляция поведения вырастает из принципа maxSumR (что естественные агенты моделируются на этой основе ВНЕМИРОВЫМ движком) - поведение складывается из ЛОКАЛЬНЫХ актов выбора 'лучшего', но это вовсе не означает что оно жестко подчинено некоему глобальному императиву получить максимум вознаграждений за вычетом издержек.

> что можно ожидать при несравненно более глубоком, тонком и адекватном внедрении этой мотивации?

ну, 'эта мотивация' должна быть адекватной, а не примитивом накопления RL-оценок в ОГРАНИЧЕННОМ мире формальной игры - при синтезе мотивационной системы в мире многих игр 'в жизнь', причем НЕДООПРЕДЕЛЕННЫХ по правилам и вознаграждениям-наказаниям от иллюзии 'очевидности' maxR не останется и следа - грубо говоря глобальный принцип рассыпется в систему локальных эвристик, конфигурируемую ситуационно (когда нужно перебирать альтернативы, когда хвататься за первую приемлемую, когда подчиняться правилу (против желания), а не расчету/желанию, когда нужно рисковать, а когда избегать риска, когда задействовать ресурсы волевой регуляции etc).
=================================
гость
188.170.74.*
Добавлено: 25 май 18 1:55
еще раз - в основе НОРМАЛИЗАЦИЯ ощущений (снизить ощущение голода и боли, разрядить напряжение творческого духа, а не максимизировать мифические аккумуляторы приведенных позитивных ощущений, которые есть артефакт наивной нормативной теории).
=================================
Стр.60 (65): 1 ... 56 57 58 59 [60] 61 62 63 64 65
 
FuncДата: Суббота, 09.06.2018, 14:16 | Сообщение # 65
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.61 (65)
Автор Тема:
СГТР http://egtd.ru
Сообщений: 7518
Добавлено: 25 май 18 5:43
Изменено: 25 май 18 5:46
Цитата

Автор: гость
даже если не рассматривать высокую человеческую жертвенность, то жертвенное поведение животных никак не укладывается в модель максимизации разницы позитивного и негативного на протяжении жизни - зачем рисковать жизнью если всегда есть возможность перекрыть текщий ущерб будущими гешефтами? зачем защищать птенцов в безнадежной ситуации с избыточным риском? Это как раз тот случай когда глобальный критерий никак не корреспондирует с локальным (на индивидуальном уровне). В локальные критерии индивида встроены глобальные критерии уровня группы, отчего индивидуальное поведление может быть нерациональным с уровня индивидуальной т.зр. В человека встроены нерациональные эмоции-регуляторы, которые можно рационализовать с коллективного уровня, но не с уровня индивидного maxR. Зачем втягиваться в спираль кровной мести, зачем отвергать выгодные, но несправедливые предложения, зачем испытывать стыд (и ему подчиняться когда выгода от бесстыдства реальна, а издержки большей частью виртуальны)?


Давайте не будим смешивать тёплое с мягким. Речь идёт об агенте, а не программисте. Жертвенность закладывается на уровне исходных данных поступающих из вне (из хромосом). Организм получает их как данность. Данность по отношению к эмоциям разума и как данность по отношению к эмоциям сохранения генотипа (птенцы). Нет у агента никакого коллектива. Он действует индивидуально. Формализация происходит на уровне границы раздела сред... агент-среда. Агент находится между средой и программистом. Его деятельность это корректировка и того и другого, а сам агент при этом является не возобновляемой моделью - расходным материалом, жертвой.
=================================
гость
188.170.74.*
Добавлено: 26 май 18 1:51

ну, траян отчетливо дал понять нежелательность ваших комментариев - уж слишком велика концентрация невнятицы у вас. Против правил не реагировать больше на ваш бред, пока траян собирается с мыслями, заметим, что речь идет об искусственном агенте существенно (качественно) подобном естественному агенту (т.е. о 'cии'). генетическая система это подсистема организма и в общей постановке генетические данные никакая не 'данность' (а продукт). Коллективное присутсвует на уровне агента как продукт предшествующей интериоризации и генетической ассимиляции - агент предорганизован к усвоению языка и 'cоциальной включенности' (полинтересуйтесь работами томасселло хотя бы). Воздержитесь от бреда об 'эмоциях разума', 'формализации на границе сред' и 'возобновляемости модели' или потрудитесь излагать мысли более внятно.

ещше раз о чем идет речь. Траян выдвинул критерий maxR как кардинальный - на что ему заявлено что естественные агенты совершают поведенческие выборы 'локально' и эвристично (ориентируясь на набор критериев выбора), выбирают более-менее приемлемое поведение и не парятся ни о каком maxR (выбранная альтернатива локально 'лучшая'). Критики говорят о сомнительности прямого переноса представлений из области оптимального управления на естественного агента. Как бы интеллект появляется ДО ТОГО как появляется идея оптимального управления - идея оптимального управления приходит на ум разуму, но разум возникает не из идеи оптимального управления. Критика также сказали, что критерий maхR не гарантирует главного критерия - выживаемости (в смысле что чтобы быть способным жертвовать нужно быть сначала выживающим).
=================================
СГТР http://egtd.ru
Сообщений: 7518
Добавлено: 26 май 18 5:04
Изменено: 26 май 18 14:07
Конечно генетический агент и программный это разные вещи, но мы пытаемся их объединить... не так ли?
Не важно что выдвинул Троян, важно к чему мы придём.
Генетическая информация по отношению к генетическому агенту это данность. Один раз переносится в конструкцию агента и более на него непосредственно не влияет. Она может участвовать в его алгоритмах в качестве данных, но алгоритмы менять уже не может. Алгоритмы меняет только сам Агент исходя из условий среды. Если вы с этим согласны, то можем двигаться далее.

=================================
гость
188.170.82.*
Добавлено: 27 май 18 0:42

поймите меня правильно, я не исхожу из снобистской позиции, но как было много раз ранее показано в основаниях ваших представлений так много неадеквата и так недостаточно знаний по предмету, что особого 'продвижения' в диалоге быть не может. Вот уже в затронутом довольно простом вопросе уже проявляется ваше доктринальное недопонимание. Генетическая подсистема вовсе не пассивна при жизнедеятельности развернутого агента - как фактически, так и теоретически для общего случая. В ограниченных нейро-генетических моделях (типа coGAN) просто не рассматривается участие генетической активности в онтогенетическом развитии мозга (и его когнитивной функциональтной надстройки), синапсогенезе, обучении и стрессовых реакциях мозга (модели как бы в этом аспекте не замкнутые). Более того, никто не запрещает рассматривать и модели 'ламаркистского' типа для акселерации эффектов генетической ассимиляции (чтобы, cкажем, обеспечение функционального перенапряжения каких-то нейро-когнитивных систем по-быстрее получало генетическую прописку в мозгах новых поколений агентов) (ламаркисткие эффекты могут быть получены и при передаче эпигенетической информации).

для иллюстрации - в онтогенезе сначала у нас избыточный синапсогенез, потом элиминация нефункциональных синапсов и нейронов - механизмы апоптоза включает в себя генетическое звено - сначала нейрон 'пытается' найти функциональную специализацию и при неудаче метаболитические сигналы активируют 'домены смерти' механизма апоптоза - как бы имеется взаимодействие генетических и нейрональных программ (в каком-то смысле единый алгоритм нейро-генетической активности (для нейроспецифичных генов и для соотв. фаз развития, обучения и стресса)) (разумеется до поры до времени можно моделировать соотв. явления в абстракции от деталей реальности, т.cк. 'незамкнуто', но рано или поздно наверное придется обратить внимание на эти особенности).
=================================
kondrat
Сообщений: 2936

Добавлено: 27 май 18 1:54
Изменено: 27 май 18 1:54
А как элегантно и красиво в системах передачи наследственной информации родители превращаются в убийц и обратно. Все три стадии формирования защиты играют (проактивная, активная и пассивная).
=================================
Траян
Сообщений: 585

Добавлено: 27 май 18 3:18
Изменено: 27 май 18 4:11
Цитата

Автор: гость
... агенту не известно его будующее и объективные ситуационные расклады и поэтому агент не ориентируется в текущих выборах на объективную линию махSumR - он не рассматривает все возможности и использует грубые оценки (еще и пересматриваемые на разных основниях), он может вообще не рассматривать далекий горизонт.


Агент может и не вникать в детали и варианты при прогнозировании на далекий горизонт.
Для такого прогнозирования он может задаться таким вопросом - Если я буду таким, как сейчас, так же (по тем же правилам) ежедневно обрабатывать входящую инфу и реагировать на поступающие внешние раздражители, то с такой своей конструкцией какую сумму наберу к старости?

Цитата

Автор: гость
НЕ может быть чтобы все было так просто.

А все совсем не просто. Это только так, в первом приближении, без вникания в детали все представляется простым, а на самом деле - даже после такой прорывной формализации - все остается еще очень, очень, ОЧЕНЬ сложным.

Цитата

Автор: гость
агент локально выбирает 'что получше и что поменьше обременено', но и локальные выборы построены на ПРЕДПОЧТЕНИЯХ (т.е. это паретовы выборы), на векторах (Posi,Negj), а не на примитивной арифметике выбора большего скаляра. Удовлетворяются потребности и разрешаются так или иначе мотивационные конфликты, а не калькулируется нормативная 'экономика' пользы-удовольствия - потребности порождают систему подкрепления, а не нормативный идеал гибкую систему мотивации.


Такого быть не может. Должна быть сквозная, всепроникающая и всеобъемлющая система оценок, единая шкала - иначе выбор как отдельных действий так и целых стратегий поведения оказывается невозможным. Чтоб выбрать какое-то одно действие из множества доступных, мы должны их каким-то образом сравнить между собой по степени предпочтительности - и выбрать наилучшее. Величина степени предпочтительности должна быть транзитивной и аддитивной - т.е. скалярной. Иначе говоря, сравнение и выбор возможно только в одной и той же системе измерения, одной и той же валюте. Мягкое должно сравниваться с мягким, холодное с холодным.

Цитата

Автор: гость
даже если не рассматривать высокую человеческую жертвенность, то жертвенное поведение животных никак не укладывается в модель максимизации разницы позитивного и негативного на протяжении жизни - зачем рисковать жизнью если всегда есть возможность перекрыть текщий ущерб будущими гешефтами? зачем защищать птенцов в безнадежной ситуации с избыточным риском?


Птица, бросаясь защищать птенцов, конечно же не руководствуется отвлеченными рассуждениями о выживании вида или продвижении генома.

Похоже такие формы поведения задаются более простым и красивым образом. Ясное дело, что это не благоприобретенная на личном опыте, а сугубо врожденная форма поведения.
(Не зря же говорят о материнском инстинкте). Так вот, эволюция могла встроить такую реакцию в мозг птицы встраивая в нее врожденные/априорные высокоуровневые сложно-организованные знания вида: "Спасай птенцов иначе получишь отрицательное подкрепление такой жуткой величины, что не сможешь его перекрыть никакими последующими поощрениями."

То, что материнское самопожертвование задается именно таким образом - с помощью высокоуровневых знаний, а не безусловных рефлексов следует хотя бы из того, что отнюдь не все самки спасая птенцов идут до конца. Некоторые, даже при небольшой опасности, сравнительно легко их бросают. А некоторые вообще индифферентны к потомству.

Кстати говоря, и такое сложное и трудно формализуемое понятие как "личная смерть" скорее всего априорно задается именно таким - предельно четким и однозначным образом. Как явление сопровождаемое неким невообразимым в своей громадности страшно отрицательным подкреплением.
==================================
kondrat
Сообщений: 2936
Добавлено: 27 май 18 3:27
Изменено: 27 май 18 3:27
Вообще, на пути от основного признака жизнедеятельности к нравственному закону (евангельской любви) на каждом шагу попадаются какие-то мучительные сложности. Хочется держать всё в фокусе внимания, кажется, что это очень просто (наверняка, так оно и есть!), всё, вроде, уже почувствовал и "увидел", но формулировки по-прежнему складываются с огромным трудом.
Когда окунаешься в общее и частное, в их взаимодействие в рамках жизненного процесса, становится не только невыносимо сложно, но и невыносимо интересно.
А уж преодолеть ещё одну ступеньку...
=================================
Траян
Сообщений: 585
Добавлено: 27 май 18 3:38
Цитата

Автор: СГТР http://egtd.ru
Вы упускаете разницу между физическим и интеллектуальным удовольствием.
В СГТР то вопрос решён.


Рад за Вас. Я вообще думаю, что данная ветка не совсем подходит для изложения Ваших - безусловно ценных и значительных - мыслей и рассуждений.

Почему бы Вам не держать их в более подходящем месте, где они не затеряются в массе плебейского трепа, не буду случайно или по небрежности стерты?

Дабы исключить саму возможность такой невосполнимой потери еще раз настоятельно рекомендую Вам в дальнейшем писать лишь в контролируемых лично Вами топиках, где вся информация о Вашей теории будет надежно сохранена - для благодарных потомков.

==================================
Траян
Сообщений: 585
Добавлено: 27 май 18 3:55
Изменено: 27 май 18 3:57
Цитата

Автор: гость
В человека встроены нерациональные эмоции-регуляторы, которые можно рационализовать с коллективного уровня, но не с уровня индивидного maxR. Зачем втягиваться в спираль кровной мести, зачем отвергать выгодные, но несправедливые предложения, зачем испытывать стыд (и ему подчиняться когда выгода от бесстыдства реальна, а издержки большей частью виртуальны)?


Цитата

Автор: kondrat
Вообще, на пути от основного признака жизнедеятельности к нравственному закону (евангельской любви) на каждом шагу попадаются какие-то мучительные сложности. Хочется держать всё в фокусе внимания, кажется, что это очень просто (наверняка, так оно и есть!), всё, вроде, уже почувствовал и "увидел", но формулировки по-прежнему складываются с огромным трудом.

У коллективных животных (начиная с насекомых) имеется очень сложная система априорных высокоуровневых субъектно-ориентированных знаний, регулирующая множество аспектов поведения отдельного индивидуя в коллективе.

Но все они задаются именно через maxR - когда в нежелательные (нежелательные для выживания вида) действие приписывается угроза получения отриц. подкреплений, а желательные - обещание получения пол. подкреплений.

Причем, все эти обещалки - отнюдь не всегда пустой звук и страшилки. Метакогнитивная система управляющаяся со всем этим когнитивным зоопарком априорных ( и не только априорных) знаний может и сама генерировать подкрепления, про это я выше писал:
Цитата

Автор: Траян
Справедливости ради нужно сказать, что у высших животных источниками пол. или отр. ощущений могут быть и психические процессы, но на данном этапе рассуждений это пока неважно.


Все эти угрызения совести, раскаяние, сожаления - с одной стороны, и чувства гордости, самодовольства, чувство победителя, радость от найденного решения трудной задачи и прочее - генерируются уже психикой/метакогнитивной системой управления.
==================================
Victor G. Tsaregorodtsev
Сообщений: 3058
Добавлено: 27 май 18 9:29
Цитата

Автор: Траян
Еще раз скажу - ЕИ/разум решает проблему выживания опосредованно, вовсе не желая этого и не стремясь к этому. Его цель - max(суммы пол. - суммы отр.)/

Именно это является той морковкой, стремясь к получению которой интеллект обеспечивает выживание своего носителя/организма.

Поэтому рассуждая о СИИ, о путях его построения, следует говорить не о стратегиях выживания, а о стратегиях способных максимизировать эту сумму разностей.

Ну, как-бы идея эта давно уже экспериментально опровергнута.
Например, см тут про цель в виде max(предсказуемость среды) http://afranius.livejournal.com/146465.html

А уж над вырожденными решениями Вашего определения - кто только не смеялся в литературе. Вспомним хотя-бы гончаровского "Обломова", который занулил себе сумму отрицательных, а исследовать/изменять мир (чтобы взять оттуда что-то новое положительное, м.б. лучшее, чем текущее обломовское положительное) не полез. Да и удовлетворённый желудочно кадавр в "Понедельнике..." тоже никуда не лез за пределы начальной точки, покуда сидел на потоке ресурса.
=================================
Траян
Сообщений: 585

Добавлено: 27 май 18 11:29
Цитата

Автор: Victor G. Tsaregorodtsev
Ну, как-бы идея эта давно уже экспериментально опровергнута...

Все приведенные Вами примеры не опровергают, а подтверждают принцип maxR. Вы и сами это легко поймете, если посидите подумаете над ними хотя бы 10-15 минут.
(Мне же просто лень подробно расписывать столь очевидные и банальные вещи.)

PS В художественной литературе различные аспекты мотивации на maxR лучше всего рассмотрены у Лема (в частности, в рассказе Собысчас).
==================================
NO.
Сообщений: 10485
Добавлено: 27 май 18 23:09
Аргументы из литературы слишком кошерны.
=================================
гость
188.170.73.*
Добавлено: 28 май 18 2:22
Т.>

из-за двойного смещения мы отклонились от начального вопроса о критерии (критериях) эволюции открытой системы к вопросу о 'законе поведения'.

> он может задаться таким вопросом

агент (досознательный) не задается таким вопросом, а сознательный озабочен таким количествыом вопросов и СИЮМОМЕНТНЫХ проблем, что вопрос об ОПТИМАЛЬНОСТИ накоплений остается чисто теоретическим (и если искусственного агента подчинить излишне жесткому нормативному критерию формирования повеления, то вы что-то потеряете от естественной гибкости).

> даже после такой прорывной формализации

'такая' формализация вовсе не прорывная - сверхупрощение не может быть прорывным.
еще раз - починить всю проблематику глобальной скалярной целевой функции это несусветное упрощение.

> Должна быть сквозная, всепроникающая и всеобъемлющая система оценок, единая шкала

cкаляризация это и есть сравнение теплого с мягким - теплое и мягкое можно сравнить по предпочтению - а предпочтения ситуационны и поэтому нет никакого фиксированного оценочного скаляра.

Унификации разнородных качеств вводятся ситуационно, условно, для тех или иных нужд 'рационализации' выбора - не нужно впадать в иллюзию что эти условности обладают всеобщей силой.

cкажем, критерий выживаемости доминирует над адаптированностью - самые адаптированные могут не выжить при смене условий. А адаптированость можно формализовать как способность извлекать приведенные подкрепления из среды. Чем лучше подкрепляешься тем адаптированнее - но.. ценой адаптабельности и риска невыживания при пертурбациях ниши.

тут пара моралей - не буть жадным в смысле махR - прими во внимание дефект любой системы формализованных подкреплений (усвоенный опыт Уже возможного опыта), и не смешивай вопрос о локальных выборах 'лучшего' (удовлетворения более актуальной потребности) с вопросом о подчиненности мифическому критерию экстремального управления своею жизнью. Принципы оптимальности (экстремальности) проявляются как некие коллективные глобальные ТЕНДЕНЦИИ (типо тенденции к более эффективному функционированию - причем даже критерий выживаемости трудно скаляризовать (он переходит в критерий устойчивости эстафет передачи жизни)), а не как законы, регулирующие поведение на индивидуальном уровне. На индивидуальном уровне многокритериальные выборы и околопаретовые состояния.

> А некоторые вообще индифферентны к потомству.

что означает что на индивидульном уровне НЕТ жеского единообразного принуждения к поведению - есть набор критериев и конкурентный выбор из из ситуационных констелляций - одни агенты не имеют материнского инстинкта, другие имеют в разной степени - вопрос о махR в вашей формулировке оказывается каким-то сверхупрощением и даже некоторой навязчивой идеей. Приемлемыми для эволюции (устойчивые эволюционные стратегии) оказываются разные точки в пространстве возможностей (области парето) - разные наборы (Роs->Norm, Neg->Norm), а не единственная точка Роs-Neg->мах.
=================================
Траян
Сообщений: 585
Добавлено: 28 май 18 3:37
Изменено: 28 май 18 3:44
Цитата

Автор: гость
Унификации разнородных качеств вводятся ситуационно, условно, для тех или иных нужд 'рационализации' выбора - не нужно впадать в иллюзию что эти условности обладают всеобщей силой.

cкажем, критерий выживаемости доминирует над адаптированностью - самые адаптированные могут не выжить при смене условий. А адаптированость можно формализовать как способность извлекать приведенные подкрепления из среды. Чем лучше подкрепляешься тем адаптированнее - но.. ценой адаптабельности и риска невыживания при пертурбациях ниши.
Что мы и наблюдаем в природе на каждом шагу. Почему среди особей какого-то биологического вида есть особи более успешно приспособившиеся - за счет обучения и воспитания - к текущим условиям среды, т.е. имеющие встроенные предпосылки для такого обучения для данных условий среды, а есть - менее.
Т.е. почему отдельные детали и подсистемы общей системы целеполагания даже в рамках одного вида бывают весьма и весьма вариабельными.

Казалось бы, нафига природе подобные излишества?

А вот для чего - при резкой смене условий обитания особи первого типа могут быстренько вымереть или маргинализироваться. Поскольку и то чему они ранее научились и то как они этому обучились (правила обучения) становятся вдруг бесполезными (или вредными). А многие бывшие ранее отщепенцами и лузерами в новых условиях вдруг выбиваются в альфы и расцветают.

Для выживания вида гибель отдельных особей - пустяк, накладные расходы. Это для самих индивидуев их смерть - трагедия, а для вида обычное дело. Собственную выживаемость, гибкость и универсальность своей адаптации вид как целое ставит выше интересов отдельных своих представителей.

Цитата

Автор: гость
что означает что на индивидульном уровне НЕТ жеского единообразного принуждения к поведению - есть набор критериев и конкурентный выбор из из ситуационных констелляций


Единый общий принцип конечно же есть. Сомневающиеся в нем могут попробовать вживить себе пару электродов в центры боли и удовольствия (в более мягком варианте - попробовать подсесть на лошадиные дозы героина) - чтобы потом денно и ночно беспрерывно нажимать на педальку эл. подкрепления как та крыса - напрочь забыв про пищу, сон, секс и прочее - и свалиться в конце концов от полного изнеможения (или инсульта).

PS На этом нашу дискуссию о устройстве системы мотиваций ЕИ, о том, лежит ли в ее основе принцип MaxSum(dR), наверное, можно уже заканчивать? Все равно нам друг друга переубедить не удастся, а повторять по второму кругу одни и те же аргументы неинтересно.
Зафиксируем наши разногласия в этом моменте и двинемся дальше.
==================================
NO.
Сообщений: 10485

Добавлено: 28 май 18 4:10
а зачем нужна искусственная крыса?
=================================
Стр.61 (65): 1 ... 57 58 59 60 [61] 62 63 64 65
 
FuncДата: Суббота, 09.06.2018, 14:35 | Сообщение # 66
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.62 (65)
188.170.75.*
Добавлено: 28 май 18 4:51

Т.> Что мы и наблюдаем в природе на каждом шагу.

так что мы наблюдаем? - что формируется некое распределение адаптированности по индивидам (или видам), разные степени 'подкрепляемости', что на индивидуальном уровне есть только ориентация на некую тенденцию к экстремизации суммы приведенных подкреплений, что реально есть некий оптимум-ориентир МИНУС некий дефект оптимума (поправка на то, что мыслимый оптимум это идеализация).
Даже скорее естественный агент не максимизирует сумму приведенных подкреплений, а получает НОРМАЛЬНЫЙ набор подкреплений согласно 'видовому расписанию' (цикличность потребностей) и ситуационные/индивидуальные отклонения-особенности. Только у человека формируются НЕНАСЫЩАЕМЫЕ вторичные потребности в отношении которых можно говорить о драйве максимизации (жажда власти, накопительство, погоня за приростом капитала) причем часто как откровенно патологическом или ненормальном. И вам мнится правильным сделать сии-агента патологично озабоченным maxR..

> вживить себе пару электродов в центры боли и удовольствия

так ведь это и есть ИСКУСТВЕННЫЙ и неествественный прием - как искусственной и неадекватной являяется идея махR (в отношении ее статуса как 'решающей'). В реальности пространство подкреплений остается многомерным и по каждому измерению ценность подкрепления динамична, зависит от актуальности (доминирования) потребности, организм не максимизирует подкрепления, а не дает неудовлетворенной потребности вызвать критическую системную дисфункцию (т.е. нормализует свое состояние). В принципе даже 'информационные' потребности (типо превентивного освоения среды) более-менее насыщаемы и не становятся необратимо доминирующими.

> наши разногласия

мне кажется что никак нельзя оспорить соображение что СНАЧАЛА ситуация многокритериальности и только ПОТОМ некоторая унификация разнокачественных критериев через какие-то 'обменные курсы'. Причем на индивидуальном уровне не возникает никакой универсальной унификации.
=================================
СГТР http://egtd.ru
Сообщений: 7518
Добавлено: 28 май 18 7:15
Изменено: 28 май 18 7:18
Цитата

Автор: Траян
Рад за Вас. Я вообще думаю, что данная ветка не совсем подходит для изложения Ваших - безусловно ценных и значительных - мыслей и рассуждений.

Почему бы Вам не держать их в более подходящем месте, где они не затеряются в массе плебейского трепа, не буду случайно или по небрежности стерты?

Дабы исключить саму возможность такой невосполнимой потери еще раз настоятельно рекомендую Вам в дальнейшем писать лишь в контролируемых лично Вами топиках, где вся информация о Вашей теории будет надежно сохранена - для благодарных потомков.


Цитата

Автор: гость


поймите меня правильно, я не исхожу из снобистской позиции,
Перенимайте положительный опыт и знания. Иначе потомки могут не оценить ваш MaxR.
=================================
kondrat
Сообщений: 2936
Добавлено: 28 май 18 12:49
Цитата

Автор: Траян
Единый общий принцип конечно же есть. Сомневающиеся в нем могут попробовать вживить себе пару электродов в центры боли и удовольствия (в более мягком варианте - попробовать подсесть на лошадиные дозы героина) - чтобы потом денно и ночно беспрерывно нажимать на педальку эл. подкрепления как та крыса - напрочь забыв про пищу, сон, секс и прочее - и свалиться в конце концов от полного изнеможения (или инсульта).

Странно, что Вы приводите тупик, как доказательство широчайшего выбора путей.
Макс там, наверное, есть как движущая сила, а вот что такое R?...
=================================
Траян
Сообщений: 585
Добавлено: 28 май 18 23:32
Изменено: 28 май 18 23:54
Цитата

Автор: kondrat
Странно, что Вы приводите тупик, как доказательство широчайшего выбора путей.
Макс там, наверное, есть как движущая сила, а вот что такое R?...


А причем здесь доказательство "широчайшего выбора"?

Я привел пример с крысой чтобы показать, что мотивация скалярным R, т.е. на языке боль-удовольствие доминирует над всем. Что простейшие одномерные сигналы о боли или удовольствии, способные на раз перебить любые искусственные "многокритериальные оценки" и управляют - в конечном счете - всем поведением.

=================================
kondrat
Сообщений: 2936
Добавлено: 29 май 18 0:33
Цитата

Автор: Траян

А причем здесь доказательство "широчайшего выбора"?

Я привел пример с крысой чтобы показать, что мотивация скалярным R, т.е. на языке боль-удовольствие доминирует над всем.

Ну, надо сказать, что незыблемые физические законы доминируют даже и над этим правилом.
Например, после эксперимента "молотком по голове" крыса вообще никуда не денется. Тут Вы Америку не открыли.
Если я правильно понял, народ ожидает чего-нибудь посложней.
=================================
Траян
Сообщений: 585

Добавлено: 29 май 18 1:00
Цитата

Автор: kondrat
Если я правильно понял, народ ожидает чего-нибудь посложней.

Народ сам не понимает, чего хочет. Принцип MaxSum(дельтаR) действительно предельно прост, очевиден и банален. Именно эта простота и обеспечивает необходимую преемственность и универсальность, отсутствие каких-либо разночтений и трактовок при его использовании. Это абсолютно надежный, стальной стержень всей когниции мотивационной системы. На которую можно накрутить что угодно.

А сложность, сложность возникает - причем, неимоверная, совершенно головоломная - при попытках практической реализации этого простенького принципа в реальных условиях. Там и многокритериальность местами вылазит и много еще чего. Весь СИИ, по сути дела, заточенный на максимизацию этой суммы.
=================================
Траян
Сообщений: 585
Добавлено: 29 май 18 1:40
Изменено: 29 май 18 1:56
Цитата

Автор: гость
Только у человека формируются НЕНАСЫЩАЕМЫЕ вторичные потребности в отношении которых можно говорить о драйве максимизации (жажда власти, накопительство, погоня за приростом капитала) причем часто как откровенно патологическом или ненормальном. И вам мнится правильным сделать сии-агента патологично озабоченным maxR..

Почему "патологично"? Это абсолютно нормальная и естественная мотивация всех живых существ. Как бы Вы не старались, Вы не сможете привести ни единого примера опровергающего данное утверждение. Все живые существа стремятся к удовольствиям и все стараются избежать боли (даже мазохисты). Это - закон природы.

Другое дело, что источники этих удовольствий и боли у разных людей могут быть разными.

Почему Вы решили что у человека максимизация Sum(dR) обязательно выразится в "жажде власти, накопительстве, погоне за приростом капитала", а не в жажде знаний, стремлении облагодетельствовать ближнего и не в бесконечном (!) стремлении к самосовершенствованию ?

Даже самый лучший музыкальный инструмент - творение Гварнери или Страдивари - может оказаться совершенно непригодным для исполнения на нем музыкального произведения - если его предварительно правильно не настроить.

Так и самый потенциально совершенный аппарат мышления может оказаться заточенным на какофонию потребительства, разрушение, зло и насилие, а может вдруг оказаться нацеленным на достижение высших гуманистических целей, жажде стать матерью Терезой, доктором Лизой, Д.Перельманом или Толстым.

Все зависит от предварительной настройки.

А настройка для ЕИ/СИИ - это период его начальной инициации, период его воспитания и постепенного взросления. Точно так же как у человека весь его характер и привычки лежат корнями в детстве, в особенностях полученного воспитания, так и у СИИ этот период является во многом определяющим для всей его дальнейшей деятельности. (Потому- то сразу после создания СИИ можно ожидать появления новых профессий - робото-педагогов, робото-пихологов и прочих )

PS Тезис о "бесконечном (!) стремлении к самосовершенствованию" которое может обеспечить лишь принцип maxSumdR, является одним из важнейших аргументов в его пользу.

Вряд ли кому будет интересен СИИ не обладающий подобным стремлением.
=================================
Траян
Сообщений: 585
Добавлено: 29 май 18 1:43
Цитата

Автор: NO.
типа хотите на одних пряниках ИИ сделать

ИИ на одних пряниках - это кадавр Стругацких. Никакого титана духа и корифея так не получить - я убедился в этом в машинных экспериментах.
=================================
гость
188.170.83.*
Добавлено: 30 май 18 2:39
Т.> Весь СИИ, по сути дела, заточенный на максимизацию этой суммы.

нет, это у хаттера так, причем его aixi (это и название agi-архитектуры и параметр) невычислимо, что означает. что концепция махR это лишь сверхупрощение и перенос идеи оптимального управления туда, где она иррелевантна. Грубо говоря, интеллект появляется тогда, когда появляется самовоспроизводство, управление, память, целедостижение, моделирование среды (в той или иной форме), прогнозирование етс етс - и не собственно оптимальное управление, ДО НЕГО. Тенденция к улучшению появляется рано. но сначала появляется базовый слой интеллекта как такового и только потом и поверх него начинают в какой-то степени работать наивные критерии 'оптимального' управления (у вас - максимизация приведенных удовольствий).

еще раз - организм просто живет и удовлетворяет потребности - НИКАК организм не реализует свой жизненный путь как выбор оптимального из всевозможных. Если организм предпочитает положительные ощущения против отрицательных и более положительные менее положительным (причем в действительности положительные ощущения не унифицируются полностью, а организм ориентируется на СПЕЦИФИЧЕСКИЕ данной актуальной потребности подкрепления, а не просто на 'большие') это не значит что на самом деле организм решает задачу махR. Это на искусственном полигоне можно обучать искусственного агента
собирать бонусы на основе этого принципа, когда этот принцип является единственной 'потребностью' агента - а реальный агент решает многокритериальную задачу 'жизни', - что нужно адекватно понять чтобы установить 'сии' на правильную основу..

еще раз - реальный организм это НЕ крыса в электродом - в реальности поток подкрепления переключается с потребности на потребность, а электрод лишь демонстрирует что получается, если правильную систему стимуляции заменить неправильной (и махR это неправильное вырождение системы регуляции мотивации). Рассуждение об одномерных сигналах подкрепления это потеря сути вопроса (гибкость организации реального поведения из-за того, что сигналы никак не одномерные (не унифицированные)).

такая иллюстрация. Вот целерациональный интеллект. Cигнал подкрепления по мере приблежения к цели. Если интеллект выводить ТОЛЬКО из принципа махR, то цель может оказаться самой бессмысленной (рассудок без разума). Как говорилось выше и ранее - СНАЧАЛА смыслоопределяющий слой интеллекта (содержание цели) и только ПОТОМ
совершенствование способов целедостижения. ВАжно получить интеллект ДОСТАТОЧНО подкрепляемый (жизнеспособный), пусть и неоптимальный в отношении действующих подкреплений, - если среда переменна, то важно обеспечить выживаемость, адаптивность, гибкость регуляций и оперирования моделями, а не махR. В принципе принцип махR может даже и не задействоваться.. И это может оказаться принципиальным - эти неоптимизированные организмы могут пребывать долго в условиях переменности и нестабильности и зафиксировать достаточный уровень подкрепляемости (на потребностной базе) как нормативный - и минимизировать отклонения от Norm, а не стремиться махR. Cхемы прямой самостимуляции (электроды в мозг) не жизнеспособны.

В КОНЕЧНОМ СЧЕТЕ нет никакого махR, есть Norm(Ri). Можно варьировать Norm, но одномерный максимизатор это абстракция не отражающая суть дела (из голого этого принципа каши не сваришь).

> Все живые существа стремятся к удовольствиям и все стараются избежать боли

не повторяйте мантры, а вникните в критику - организмы стремяться удовлетворить потребность и система подкрепления ориентирует организм на это, она не самоцель, принципа махR (как автономного или главного) НЕТ в реальности (базовой). Когда угрожающе голоден не ищещь удовольствий от фуагра, а ищешь хлебную корку, cожрешь и лягушку без всяких удовольствий и с болью отвращения. И вцелом жизнь это цепочка выборов разной степени 'нежадности' (неудовольствие ради возможного (!) удовольствия) (идем долиной скорбей - куда уж там максимизировать удовольствия..).

> Тезис о "бесконечном (!) стремлении к самосовершенствованию" которое может обеспечить лишь принцип maxSumdR, является одним из важнейших аргументов в его пользу.

не надо дурной литературщины. Cтремление к самосовершенствованию (как идеальная потребность) никак не подкрепляет принцип махR. Может быть так, что этот драйв будет волезависимым - РЕАЛЬНО он будет сопровождаться ПРЕОДАЛЕНИЕМ негативных ощущений (как истово верующие истязают свою плоть) и только отчасти компенсироваться идеогенными подкреплениями. Можно не купаться в море эндорфинов, а ОБМАНЫВАТЬСЯ только обещаниями (прогнозом воздаяний). Эти внутренние подкрепления могут быть не столько 'химически сильными', cколько специфичными, заточенными под определенную духовную потребность (вторичную) - организм будет не столько максимизировать превышение удовольствий над неудовольствиями, cколько обеспечивать хотя бы минимальное превышение первых над вторыми чтобы удержать поведенчески-идеологический выбор.

в более спокойных психологичесвких условиях мотив самосовершенствования встроен нормальным образом в систему потребностей-мотиваций и подпадает под обычную схему многокритериальной регуляции (без фанатизма переживаем 'cтандартную' циклограмму подкреплений без озабоченности химерой мах - поели, поспали, немного посамоусовершенствавались, поотдыхали - без той патологии когда все подчинено одномерному целевому критерию..).
=================================
kondrat
Сообщений: 2936
Добавлено: 30 май 18 5:30
Цитата

Автор: гость
В КОНЕЧНОМ СЧЕТЕ нет никакого махR, есть Norm(Ri). Можно варьировать Norm, но одномерный максимизатор это абстракция не отражающая суть дела (из голого этого принципа каши не сваришь).

Эт точно.
Крысе велели максимизировать удовольствие в течение жизни, но не дали средств продлить жизнь.
Нагляднейший пример лишения свободы воли.
Путь к большинству максэров лежит через завесу небытия.

В общем, поддержу предыдущих ораторов.
Сложные явления лучше иллюстрировать сложными опытами. А по мере усложнения опытов в этой области даже сам экспериментатор может потерять представление, что же нужно в следующий момент максимизировать.
=================================
kondrat
Сообщений: 2936

Добавлено: 30 май 18 14:49
Короче, как верно заметил Хмур, Траян не хочет построить агента, который сам сможет строить оптимальное управление. Зато, хочет на основе микроагентов, поддающихся оптимальному управлению сваять адаптивного суперагента оптимального управления.
Хмур вмазывает про не вычислимость. И так можно сказать. Но я скажу ещё злее. Развитие принципиально невозможно организовать без нерациональных агентов. Причём только одного типа. Конечно, в процессе поиска могут рождаться разные типы "повстанцев", но сыграет только один.
=================================
NO.
Сообщений: 10486
+1
Добавлено: 30 май 18 23:45
Во всех таких подходах ошибка в том, что управление закладывается изначально. Так можно построить только некое исчисление, в котором законы не меняются и думать можно только о тождестве и выводимости. Это менталитет такой, скорее всего даже гармоны виноваты, с возрастом у некоторых проходит. Естественно-научный подход хорошо работает про неодушевленные неразумные явления, а про моделирование интеллекта там и вопросов не возникает, такого явления там просто нет и само это понятие неопределено. Получится опять какой-то физический процесс, воспроизводящий другой физический процесс. Чтобы этот менталитет изменить его нужно развивать, познакомиться с другими науками. Если интересен интеллект то наверно стоит почитать про интеллект. Это вроде бы очевидная мысль для любого цивилизованного человека, но не для физика. Они считают других наук нет, физика объясняет все от кварков до галактик. Ни у тех ни у других ума не видно, поэтому якобы интеллект большая научная проблема, "науке" даже не известно что это такое. Но скорее всего чего-то про притягивание-отталкивание.
=================================
Траян
Сообщений: 585
Добавлено: 30 май 18 23:58
Изменено: 31 май 18 0:37
Цитата

Автор: гость
Грубо говоря, интеллект появляется тогда, когда появляется самовоспроизводство, управление, память, целедостижение, моделирование среды (в той или иной форме), прогнозирование етс етс "


А Волга впадает в Каспийское море.

Цитата

Автор: гость
"- и не собственно оптимальное управление, ДО НЕГО. Тенденция к улучшению появляется рано. но сначала появляется базовый слой интеллекта как такового и только потом и поверх него начинают в какой-то степени работать наивные критерии 'оптимального' управления (у вас - максимизация приведенных удовольствий)."

А с этим кто-то спорит?

Цитата

Автор: гость
"еще раз - организм просто живет и удовлетворяет потребности - НИКАК организм не реализует свой жизненный путь как выбор оптимального из всевозможных."


Это простейшие не выбирают. Начиная с брюхоногих моллюсков и плоских червей - выбор появляется. Это следует хотя бы из того, что они способны вырабатывать условные рефлексы.

Цитата

Автор: гость
"Если организм предпочитает положительные ощущения против отрицательных и более положительные менее положительным (причем в действительности положительные ощущения не унифицируются полностью, а организм ориентируется на СПЕЦИФИЧЕСКИЕ данной актуальной потребности подкрепления, а не просто на 'большие') это не значит что на самом деле организм решает задачу махR."


В развитых организмах есть специальная структура/формация заведующая вопросами управления поведением. Нервная система называется. Которая, собственно говоря, и решает, какое действие в данной ситуации данной животиной будет совершено.
Есссно, у разных видов степень совершенства устройства и функционала НС может быть разной. У самых примитивных выбор действия совершается после прогнозирования лишь на один шаг вперед. А там - хоть трава не расти.
Но локально реализуя жадную стратегию, они тем самым - в меру способностей, пусть и весьма посредственным, далеким от идеала образом - реализуют свое стремление к maxSumdR/(максуду). То что это у них хреновенько получается - это не их вина, это их беда, обусловленная слабостью интеллектуальных способностей.

Если бы это было не так, если бы они не стремились к получению пол. подкр. и избегать отр. мы не смогли бы у них вырабатывать условные рефлексы.

У более развитых существ НС позволяет осуществлять куда более обоснованный выбор действий, принимаемых после анализа последствий могущих наступить после совершения действий на много-много шагов вперед. Хотя и у них это делается пусть и получше, но все еще лишь в некотором приближении, далеким до идеала, образом. Идеал недостижим в принципе.

Но принцип максуд остается прежним. При сравнении различных потенциально возможных вариантов будущего выбирается, которое даст большую SumdR.
=================================
Траян
Сообщений: 585
Добавлено: 31 май 18 0:22
Цитата

Автор: гость
собирать бонусы на основе этого принципа, когда этот принцип является единственной 'потребностью' агента - а реальный агент решает многокритериальную задачу 'жизни',

Кто-то нам говорил про бесконечное повторение мантр-заклинаний?

Цитата

Автор: гость
еще раз - реальный организм это НЕ крыса в электродом

Есссно.

Цитата

Автор: гость
- в реальности поток подкрепления переключается с потребности на потребность, а электрод лишь демонстрирует что получается, если правильную систему стимуляции заменить неправильной (и махR это неправильное вырождение системы регуляции мотивации).

Доказательства?

Цитата

Автор: гость
Рассуждение об одномерных сигналах подкрепления это потеря сути вопроса (гибкость организации реального поведения из-за того, что сигналы никак не одномерные (не унифицированные)).

Пример с крысой доказывает обратное.

Цитата

Автор: гость
такая иллюстрация. Вот целерациональный интеллект. Cигнал подкрепления по мере приблежения к цели. Если интеллект выводить ТОЛЬКО из принципа махR, то цель может оказаться самой бессмысленной .

А такое в жизни с сапиенсами бывает сплошь и рядом. Неправильное воспитание, приводящее к неадекватному восприятию действительности. Или получение несанкционированного доступа к центру удовольствий (наркотики).

Цитата

Автор: гость
не повторяйте мантры, а вникните в критику - организмы стремяться удовлетворить потребность и система подкрепления ориентирует организм на это, она не самоцель, принципа махR (как автономного или главного) НЕТ в реальности (базовой). Когда угрожающе голоден не ищещь удовольствий от фуагра, а ищешь хлебную корку, cожрешь и лягушку без всяких удовольствий и с болью отвращения.


Когда угрожающе голоден, то стремишься набить брюхо вовсе не затем, чтобы обеспечить выживание вида, а чтобы прекратить свои страдания. Настоящее чувство голода - это штука пренеприятнейшая, и потому все живые существа стремятся его избежать. На фоне этого чувства неприятность от процесса поедания лягушки представляется куда как терпимой (R отр. заменяется на меньшую величину).

Цитата

Автор: гость
И вцелом жизнь это цепочка выборов разной степени 'нежадности' (неудовольствие ради возможного (!) удовольствия) (идем долиной скорбей - куда уж там максимизировать удовольствия..).

По спецом оговариваемое условие мак. удовольст и МИН.БОЛИ мы предпочитаем умалчивать?

Цитата

Автор: гость
не надо дурной литературщины.

Юпитер, не надо сердиться. Я вот эту дискуссию на тему мотивации рассматриваю как бессмысленную потерю времени, как повторение в тысячный раз прописных истин, мне куда интереснее сейчас идти дальше, говорить о механизмах сознания - но я же держу себя в рамках.

Цитата

Автор: гость
Cтремление к самосовершенствованию (как идеальная потребность) никак не подкрепляет принцип махR. Может быть так, что этот драйв будет волезависимым - РЕАЛЬНО он будет сопровождаться ПРЕОДАЛЕНИЕМ негативных ощущений (как истово верующие истязают свою плоть) и только отчасти компенсироваться идеогенными подкреплениями.

Верно. Но волевое усилие порождается тем самым максудом. Когда при анализе варианта будущего определяется, что за серией отр. подкреплений затем последует колоссальное положительное.

Цитата

Автор: гость
Эти внутренние подкрепления могут быть не столько 'химически сильными', cколько специфичными, заточенными под определенную духовную потребность (вторичную) - организм будет не столько максимизировать превышение удовольствий над неудовольствиями, cколько обеспечивать хотя бы минимальное превышение первых над вторыми чтобы удержать поведенчески-идеологический выбор


Верно. Причем эта духовная потребность задается в первую очередь полученным в детстве воспитанием (построенными тогда базовыми моделями мира).
=================================
гость
188.170.75.*

Добавлено: 31 май 18 7:23
Т.> А Волга впадает в Каспийское море.

а вот не шутите так - это ж вам плохо известно что помимо физической географии есть экономическая и прочие - что скалярная оптимизация это частный случай и что с многомерными величинами можно работать без их скаляризации ('обязательной' по вашему).. в конце концов странно же думать, что отобразив точку многомерного пространства на одномерную шкалу суммы ее координат вы ничего не потеряли в представлении..

> Начиная с брюхоногих моллюсков и плоских червей - выбор появляется.

появляется выбор из локальных альтернатив ('не поверну направо раз там бьют током'), а не организация поведения в перспективе максимизации Роз-Neg на горизонте жизни. Приемлемость (по локальным критериям выбора) локальных выборов обеспечивает только приемлемость жизненной траектории, а не ее максимизирующий глобальный характер.

условные рефлексы есть продукт жизненного опыта - отражают цепочку локальных ситуаций фиксации корреляций стимулов, - без каких либо гарантий что они обеспечивают махR. Рефлекс выработался на подкреплении, пока рефлекс угасает или переделывается на неподкреплении происходит отклонение от возможного более оптимального поведения (когда не совершается неэффективное действие). Выработка рефлекса это адаптивная стратегия для более эффективного получения безусловных подкреплений - в их НОРМАЛЬНОМ (cогласно расписанию потребности), а не максимальном количестве.

> принцип максуд остается прежним.

это ваша мантра - нет в реальности такого принципа (это идеализация и частное понимание общих принципов) - вы не максимизируете гастрономические, cексуальные, глорические и мн. проч. удовольствия - а получаете их по возможности и потребностному императиву, легко довольствуясь приемлемым, а не 'cамым лучшим'.

> Пример с крысой доказывает обратное.

перестаньте спорить не вникнув в возражения - пример с крысой показывает что в реальности принцип максимизации удовольствий не действует - пример с крысой показывает что этот принцип (в его ГОЛОМ виде) действует разрушающе - что само по себе поведение на основе только этого принципа будет слишком регидным и эволюционно неприемлемым (невыживающим). В реальности действует принцип нормализации потребностного напряжения, в действующих ограничениях выбирается локально относительно лучшее, а не встраивается жизненная траектория в ориентации на сбор максимума ценностей в какой-то абстрактной шкале универсальной ценности ценностей.

> Настоящее чувство голода - это штука пренеприятнейшая,

этот пример показывал, что организм стремиться уменьшить негативное ощущение голода, а не делать это каждый раз так, чтобы максимизировать пожизненную сумму гастрономических ощущений, - когда все подчиняется обжорству или погоне за все более тонкими гастроудовольствиями, это такая же ненормальность как электрод у крысы (с соотв. поведением). НОрмально следовать циклограмме потребностей и в меру возможности удовлетворять ненасыщаемые вторичные потребности - а не пытаться решить неопределенную задачу 'максимизации'. Если в ходе жизни происходит прирост приведенного позитива это не значит что он ОБЯЗАН БЫТЬ собран с ориентацией на максимизацию из возможного. Даже когда бесишься с жиру, то это не значит что твои суммы есть максимумы в объективном смысле (что упущено при вырождении критерия выбора поведения?).

> мак. удовольст и МИН.БОЛИ мы предпочитаем умалчивать?

я ж специально ранее говорил о том, что более общая стратегия это не скалярный максимум разницы, а векторная нормализация. Если достаточно нормализован можно попробовать и максимизнуть что тебе взбрело в голову, но никак не наоборот.

> Юпитер, не надо сердиться.

я не сержусь, а недоумеваю зачем вам спорить если предмет не представляется вам особо важным и тем более спорить, когда истина скорее всего не за вами.. О сказанном вами насчет сознания ранее и в перспективе я обязательно выскажусь.

> я же держу себя в рамках.

вы молодец

> Когда при анализе варианта будущего определяется, что за серией отр. подкреплений затем последует колоссальное положительное.

но в реальности ожидания часто обманываются - значит УЖЕ максимизируются не подрепления, а оценки возможных подкреплений - построение поведения с ориентацией на будующие подкрепления это ДОБАВОЧНЫЙ механизм который может позволить себе нормализующий базис. Жизненная энергия организма распределеяется между нормализующим базисом и часто с дуру максимизирующей надстройкой - и все эти максимизации это эфимеры.
=================================
Стр.62 (65): 1 ... 58 59 60 61 [62] 63 64 65
 
FuncДата: Суббота, 09.06.2018, 14:40 | Сообщение # 67
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.63/1 (65)
Траян
Сообщений: 585
Добавлено: 02 июн 18 1:33
Изменено: 02 июн 18 1:43
To 188

> в конце концов странно же думать, что отобразив точку многомерного пространства на одномерную шкалу суммы ее координат вы ничего не потеряли в представлении..
=============
Одно другому не мешает. Скажем, строя обобщенную оценку прошедшего дня - "это был хороший день", "это был плохой день", "это был день на троечку", мы вовсе не обязательно должны терять видение дня как сложного явления, состоящего из множества событий, деталей, нюансов, встреч, новостей, локальных подкреплений и прочего

> Выработка рефлекса это адаптивная стратегия для более эффективного получения безусловных подкреплений - в их НОРМАЛЬНОМ (cогласно расписанию потребности), а не максимальном количестве.
==============
Возьмем стороннего наблюдателя изучающего поведение агента - способного вырабатывать простейшие одно-шаговые условные рефлексы.
Наблюдатель видит, что агент старается не поворачивать туда, где получил удар током и вообще делать то, за что его наказывали отр. подкреплениями.
А старается делать то, что давало положительные. подкр.
Причем, при выборе из двух действий он выбирает то, что давало большее.

Имеет ли право этот Наблюдатель сказать, что данный агент - по факту! - реализует поведение максимизирующее - в меру его разумения и имеющихся интеллектуальных способностей по постройке моделей и прогнозированию - сумму dR? Да или нет?

> это ваша мантра - нет в реальности такого принципа (это идеализация и частное понимание общих принципов) - вы не максимизируете гастрономические, cексуальные, глорические и мн. проч. удовольствия - а получаете их по возможности и потребностному императиву, легко довольствуясь приемлемым, а не 'cамым лучшим'.
===================
Я, кажется, начинаю догадываться, что именно Вы не понимаете в принципе максуда - и что является источником наших разногласий. Вы считаете, что в максуде величина подкрепления (ощущения боли-удовольствия") от некоего стандартного физического воздействия на штатные сенсоры ("гастрономические, сексуальные, глорические и мн. проч. удовольствия") - является некой неизменной константой.

А это далеко не так. И я об этом говорил в самом начале этой бессмысленной дискуссии.
Сигналы от штатных сенсоров всегда проходят предобработку и рассматриваются в контексте общей ситуации и лишь потом лимбическая система порождает а затем и решает, как и какое ощущение боли-удовольствие будет выдано в высшие управленческие отделы.

> пример с крысой показывает что этот принцип (в его ГОЛОМ виде) действует разрушающе - что само по себе поведение на основе только этого принципа будет слишком регидным и эволюционно неприемлемым (невыживающим).
=================
Есссно. Прямое (не опосредованное) воздействие на центры боли-удовольствия является абсолютно недопустимым. Ломающим всю систему. Позволю себе привести самоцитату:
"Нормальное существо привести свою эмоцию в желательное состояние (то, какое состояние эмоции желательно, определяется его метацелью), только воздействуя на внешнюю среду, потому что состояние самой значимой составляющей эмоции, т.е. первичной эмоции (по Вайнцвайгу) зависит только от состояния внешней среды. Именно это обстоятельство принуждает устройство к активным внешним действиям. В тех абсолютно недопустимых случаях, когда у устройства появляется возможность изменять величину эмоции не опосредованно, а напрямую (например, у некоторых живых существ это может происходить при химической или электрической самостимуляции центра удовольствия расположенного между гипоталамусом и лимбической системой), его интеллект будет разрушаться, вследствие того, что искусственно создаваемые этим устройством приращения к величине метацели, будут неадекватны условиям внешней среды (такие приращения противоречат той концепции метацели, которая приводит к возникновению и существованию интеллекта)."

Но пример с крысой хорош тем, что он дает нам возможность рассматривать воздействие приблизительно одинаковых по своей величине подкреплений (т.е. полностью выключив внутреннюю систему генерации подкреплений, заменив ее электродом). И это эксперимент ясно и четко показывает, что поведение жив. существ и на самом деле определяется принципом максуд.

> Настоящее чувство голода - это штука пренеприятнейшая,
этот пример показывал, что организм стремиться уменьшить негативное ощущение голода, а не делать это каждый раз так, чтобы максимизировать пожизненную сумму гастрономических ощущений, - когда все подчиняется обжорству или погоне за все более тонкими гастроудовольствиями, это такая же ненормальность как электрод у крысы (с соотв. поведением).
============================
Есссно. Но ведь сами по себе гастрономические яства не содержат в себе никаких ощущений, не содержат ни боли, ни удовольствия.
Точно так же как квалиа-ощущение красного не содержится в красном яблоке,
как пряный вкус мясного бульона не содержится в супе-фрикассе, так и ощущения боли-удовольствия не содержатся в физических кнуте и прянике с помощью которого мы пытаемся влиять на агента.

Удовольствие от поглощения пищи порождается внутренней "эмоциональной" системой агента. А система эта чрезвычайно гибка, мобильна и адаптивна.
Тут уж эволюция расстаралась и постаралась сделать так, чтобы приятное и неприятное порождаемое в ответ на состояние организма в наибольшей степени соответствовало задаче выживания.

Черствая корочка хлеба съеденная человеком голодным доставит ему куда больше удовольствия, чем съеденный при переполненном желудке трюфель.
А если того же голодного человека засунуть под воду, то он - отчаянно пытаясь выбраться на поверхность - на время забудет и о неприятном чувсте голода.

Т.е. максимизировать сумму dR за счет поедания корочек ну никак не получится. Можете даже не стараться. Придется переключиться на что-то другое.

Это - самый простой пример. А в реальности эта древняя система мгновенно учитывает и интегрирует тысячи, если не миллионы изменчивых параметров, наличествующих в данный момент обстоятельств и условий. Чтобы итоговая оценка отражала весь текущий контекст. Есссно, на пути создания такой оценки возможны и потери и неточности (про это я писал раньше), но это те издержки, на которые приходится идти.

> но в реальности ожидания часто обманываются - значит УЖЕ максимизируются не подкрепления, а оценки возможных подкреплений - построение поведения с ориентацией на будующие подкрепления это ДОБАВОЧНЫЙ механизм который может позволить себе нормализующий базис.
===============
Ессссно, в аппарате управления поведением агента при выборе действия (прогнозировании будущих последствий) максимизируются не суммы самих подкреплений, а суммы мат. ожиданий. (А Вы думаете для чего я городил свою БМП? ) , но это означает лишь то, что агент функционирующий в реальном а не идеальном мире может стремиться к максуду лишь в меру имеющихся у него возможностей.
=================================
гость
188.170.72.*


Добавлено: 02 июн 18 3:59

Т.> Одно другому не мешает.

вы должны осознать что 'cамо собою разумеющаяся необходимость скаляризации' является умственным наваждением. ПОложение о том, что аддитивная свертка многих критериев при решении задач векторного выбора не является универсальным решением, давно является общим местом.

> Да или нет?

так c чего вы взяли, что наблюдаемый выбор это выбор наибольшего (а не просто большего) положительного подкрепления? ВЫ реальную механику выбора подводите под нормативную упрощающую (якобы рациональную) теорию выбора.

Ассоциативная память организмов не совершенна и из ассоциативной памяти не сразу извлекается энграмма выбора с наибольшим количеством подкрепления, извлеченные энграммы еще оперативно сравниваются и их веса дополнительно модулируются ситуацией - за исключением простейших случаев вовсе не очевидно какой выбор доставит наибольшее подкрепление - при лимите времени выбирается приемлемая поведенческая программа, а не доставляющая обязательно максимум подкрепления. Это на локальном уровне. Хотя
локальные субоптимальные выборы (если вообще можно говорить об объективно оптимальных) вызывают корректировки весов программ по результатам, но и глобально выстраивается жизненная линия 'субоптимальная' - оринтированная на нормализацию, а не на максимизацию. (Исходно ваш тезис был относительно глобальной максимизации суммы полученных подкреплений.)

> что именно Вы не понимаете в принципе максуда

- а потом вы дали некоторую иллюстрацию того, что механизм выбора сложноустроен (контекстуализация оценок возможного вознаграждения, борьба мотивов, переоценки) - что максуд это только частный (простой) случай.

боюсь, это вы недопонимаете корня разногласий. Выбор (поведенческий) осуществляется как производное от комплекса механизмов - рациональная модель выбора не подводится под один принцип - поведение может быть поведением подчинения правилу (инстинкту), целеориентированным, ценностным - чем сложнее организована система организации поведения тем проблематичнее подчинение ее единственному критерию.
вцелом все выросло из необходимости обеспечить выживание (и индивида и рода) - и механизм вознаграждения это подчиненный механизм для эвристического огбеспечения императива выживания. Когда вы говорите о главенстве принципа максуд вы выстраиваете концептуально неверную схему (для 'общего интеллекта'), производное делаете порождающим (первообразным).

в конце концов даже в области обучения с подкреплением можно выстраивать схему управления не только по выбору наибольшей награды, но и по ошибке прогноза награды - равно как иметь в виду и комплексный характер интегрального механизма (нормализатор + максимизатор). ОБманувшись с большими обещаниями в дальнейшем механизм выбора-сравнения альтернатив будет принимать во внимание и другие факторы, а не только величину обещанного вознаграждения. КАк пример - если предстоит вкуснейшая трапеза, но
происходит что-то неожиданное, то имеет смысл отвлечься от максуд и поинтересоваться происходящим (что само по себе вовсе не обещает каких-то конкретных вознаграждений). Доминировать станет ориентировочное поведение, а не пищевое. Оправданность этого зашита в приоритетах etc, а не в непосредственном взвешивании прогнозов-ожиданий вознаграждений. Есть критерий величины вознаграждения, есть критерий неожиданности (важности по неожиданности, рассогласованию, ошибке прогноза), есть относительные важности критериев - вцелом есть динамическая систуация многокритериального выбора.

> пример с крысой хорош тем

вы верно констатируете что прямая самостимуляция разрушает интеллект и тут же предлагаете сделать принцип макcуд корневым принципом интеллекта.. Изменение системы актуализирует принцип максуд (cистема вырождается) - что означает что интактная система построена на противоречивых критерях (принцип максуд не доминирует) и постоянно ищет компромисс (векторный), а не скалярный оптимум.

> Черствая корочка хлеба съеденная человеком голодным доставит ему куда больше удовольствия,

однако вы предпочтете регулярный дежурный обед столь же регулярным пропускам ради большего удовольствия от корочки. ВЫ подчиняетесь физиологической (и психологической, и культурной) норме, а не максимизации возможных удовольствий от еды (когда любовь вкусно поесть перерастает в патологию как трансформируется поведение крысы при заголении принципа максуд). Что мешает вам вслед за французскими королями откушать, cблевануть и снова откушать? ВЫ подчинены норме, cтереотипу etc - а не универсальному (якобы) правилу максимизировать (и локально, и глобально).

вцелом ЕСТЕСТВЕННЫЙ агент стремится получить ДОСТАТОЧНЫЕ подкрепления (быть парето-оптимальным), а не 'максимум суммы'. Если скаляризация происходит по-разному (переменность относительной важности критериев), то вообще говоря Sum(maх)<>Max (глобальный Mах требует в общем случае нежадных локальных принципов, и вообще говоря нежадные локальные принципы выбора (будучи самодостаточными) должны гарантировать выживаемость, а не глобальный максимум - для открытой ситуации продолжающейся жизни объективный максимум это какая-то метафизическая химера).

еще и еще раз - стремление выбирать локально 'что по-лучше' (по-больше доставит радости, удовольствия, субъективной пользы) это НЕ принцип максуд в вашей трактовке (что организм подчинен закону максимизировать сумму РОз-Neg на горизонте жизни (при прогнозе) и на траектории жизни). На этом принципе можно строить искусственного агента - но не нужно выдавать его за решающего проблему интеллектуального-рационального поведения исчерпывающе. В конце концов вопрос об универсальной ценностной шкале не решен.
=================================
NO.
Сообщений: 10486

Добавлено: 02 июн 18 14:21
Хмур:
У меня знакомый собирается найти путь из Испании в Индию не вокруг Африки, а двигаясь просто на запад, что Вы об этом думаете?
=================================
гость
188.170.83.*
Добавлено: 02 июн 18 22:47

что имея даже неадекватные представления можно куда-то приплыть - все зависит от исторических обстоятельств, - колумбу позволительно до конца жизни считать америку индией, но современному путешественнику можно и по-лучше ориентироваться в географии. хотя, конечно, ваш знакомый может и пересечь америку и продолжить движение на запад. Поэтому важно донести до траяна идею что америка это еще не индия и что принцип максуд следует сочетать с принципом реальности (в содержание котрого можно включить все моменты, осложняющие наивное проведение принципа максуд).
=================================
Траян
Сообщений: 585
Добавлено: 03 июн 18 1:25
Изменено: 03 июн 18 1:55
>вы должны осознать что 'cамо собою разумеющаяся необходимость скаляризации' является умственным наваждением. ПОложение о том, что аддитивная свертка многих критериев при решении задач векторного выбора не является универсальным решением, давно является общим местом.
======================
В общем случае это действительно так. Математика говорит нам, что не существует идеального метода свертки многокритериальной задачи в случае разной модальности (разной природы) этих самых критериев. И это совершенно естественно.

Но почему Вы решили, что нам нужно общее решение? Вы же сами говорите (и совершенно правильно) о том, что в конечном счете задача систем управления живых существ одна - это повышение выживаемости вида.
Это означает, что принципиальная возможность сведения к одному параметру задается изначально.

Критерии выбора используемые управленческими системами реальных жив. существ берутся не с потолка, не произвольно, они создаются и используются для решения задачи управления нацеленной на выживание вида. Т.е. они изначально предполагают их сводимость и скаляризацию. Нафига эволюции создавать такие системы управления, в которых бы рассматривались представления о действительности содержащие параметры никак не сводимые к задаче выживания. Никак - это значит никак. Никаким самым хитрым, опосредованным и запутанным образом. Типа тех, что позволяют свести к ней даже желание гиков заняться рассмотрением самых отвлеченных математических абстракций.

> так c чего вы взяли, что наблюдаемый выбор это выбор наибольшего (а не просто большего) положительного подкрепления?
=================
Потому что я точно знаю, что ни одно живое существо не откажется совершить некое действие "А" абсолютно точно зная, что после его совершения оно получит огромадное, запредельное удовольствие (типа того, что получают при достижении цели всей жизни) и минимальное неудовольствие (как душевное так и физическое), а при его не совершении все будет наоборот - жуткая боль, мучения и раскаянье и никакого удовлетворения. НИ ОДНО живое существо при такой альтернативе не сделает иной выбор.

Может быть Вы знаете такое существо?

>однако вы предпочтете регулярный дежурный обед столь же регулярным пропускам ради большего удовольствия от корочки... Что мешает вам вслед за французскими королями откушать, cблевануть и снова откушать? ВЫ подчинены норме, cтереотипу etc - а не универсальному (якобы) правилу максимизировать (и локально, и глобально).
================
Вот почему бы Вам вместо того что бы в десятый раз повторять заклинание про то, что: "вцелом ЕСТЕСТВЕННЫЙ агент стремится получить ДОСТАТОЧНЫЕ подкрепления (быть парето-оптимальным), а не 'максимум суммы'" - (это кто нам тут говорил про мантры? ) - взять да и не разложить по полочкам один из этих примеров. Не спеша. С чувством, с толком с расстановкой.

Как, что и почему там делается. Вот после того анализа, думаю, многое могло бы проясниться. Стало бы понятно, как именно принцип максуд регулирует все аспекты (пищевой, ориентировочной, социальной и др.) деятельности живых агентов.

Что люди стремятся избежать участи лоха, лузера, гамма-самца или бомжа вовсе не потому, что они рационально полагают, что это как-то скажется на выживаемости вида, а потому что ЛИЧНО им очень неприятно чувствовать себя лохом, лузером, гамма-самцом или бомжом (они априорно точно знают, что это очень неприятно).

Что если человеку каким-то образом удастся заглушить-купировать возможность получения этого неприятного ощущения собственной ущербности, например, с помощью алкогольной, религиозной или философской ментальной интоксикации, то перестав испытывать от этого страдание они с легкостью соглашаются быть терпилами (бог терпел и нам велел) или бомжами (Диоген).

Вот подробным разбором какого-то одного конкретного жизненного примера поведения реальных существ я и предлагаю заняться. Вместо очередной декларации своей позиции. Выбор этого примера я предоставляю Вам. Можно взять тех же римских патрициев (хотя его разбирать будет эстетически неприятно), можно какой-нибудь другой - который по Вашему мнению однозначно опровергает максуд.
=================================
гость
188.170.74.*
Добавлено: 03 июн 18 3:54

Т.> Т.е. принципиальная возможность сведения к одному параметру задается изначально.

думаю что этот корневой 'один' параметр (выживаемость) как бы неформален, многосторонен, это идея, при его формализации и вылазит это многокритериальное представление. Уже говорилось про неоднозначность этого (мета)критерия - выживаемость индивида против выживаемости рода (вида). Индивид может не выживать, а своим
поведением способствовать выживанию рода. Но и вид может не выживать, а своим 'cистемным' 'поведением' способствовать продолжению существования живого вещества. КАк бы конкретизированная выживаемость (приуроченная к виду) не полностью характеризует суть дела. Вид должен характеризоваться с одной стороны устойчивостью, а с другой - способностью к эволюционной трансформации. Критерий махТ недостаточен - есть виды реликты (типо тупики), а есть и короткоживущие переходные квазивиды.

> я точно знаю

вы рассмативаете крайний случай - как пример с крысой. Было объяснено, что крайние (идеализированные) случаи не исчерпывают реальности.

> в десятый раз повторять

чтобы наконец дошло что именно вам говорят и почему идея максуд является обманкой. Помимо сказанного можно еще заметить, что вообще говоря живые организмы являются несовершенными компараторами альтернатив и не могут быть 'максимизаторами' при выборах между не крайними (выраженными) случаями, а в потоке реальных выборов.

еще раз. Полагать 'удовольствие' 2ухаспектным (знак и величина) это упрощение - есть третье измерение - специфичность (кстати, можете вспомнить про базовый семантический дифференциал), организм реагирует не только на 'плоский' образ стимула (в виде вызываемого им удовольствия-неудовольствия), но и на содержание-смысл стимула - в случае дочеловеческой семантики организм реагирует на степень специфичности ощущения-подкрепления доминирующей потребности. Базовой логикой является не максуд, а снижение потребностного напряжения (повышение степени удовлетворения потребности). Cами по себе
удовольствия могут быть неадекватны биологии и смыслу (напр. цели) и поэтому ОПАСНО выстраивать систему на основе максуд - система должна быть выстраиваема на основе
потребностной базы, механизмов формирования подкреплений, адаптации системы подкреплений к системе потребностей, cистеме целеопределения и уровню 'cознания' системы. ПО мере развития информационного сектора (знаний) в системе в ЯВНОМ виде начинает действовать помимо принципа удовольствия и принцип полезности - что-то может
признаваться полезным, но система подкреплений еще не адаптировалась к этому и не подкрепляет соотв. выбор, хотя система должна быть способной его совершить. ПОлезно обследовать территорию даже если очень страшно - и система должна терпеть страх, хотя подкрепление от исследовательского поведения пока не представлено на индивидуальном уровне. Примером-прототипом должна быть не крыса с электродом, а крыса, которая наперекор ударам тока и страху лезет обследовать темный угол (подкрепляя исследовательское поведение неспецифично).

> после того анализа

это задание дается вам - более внимательно вникнуть в проблематику, еще раз перечитать критику прямого проведения принципа максуд.

> им очень неприятно чувствовать себя лохом, лузером, гамма-самцом или бомжом

даже наивные обиходные примеры не должны быть столь поверхностными. Как говорилось, люди стремятся избежать крайних случаев негатива, - довольствуясь большим разнообразием ПРИЕМЛЕМЫХ состояний - как раз это вы не докажите что в каждой ситуации выбора (и в жизненной цепочке выборов) происходит максимизация, а не выбор более-менее приемлемого. Cредние случаи в массе трудносравнимы и поэтому организм не тратится на строгое решение задачи оптимизации (максимизации в ограничениях) (тем более в
общем случае многокритериальной и являющейся паретовой).

еще раз - идея максуд фиктивна - это под наблюдаемые компромиссные выборы ('cубрациональные') мы в целях объяснения ЗАДНИМ ЧИСЛОМ подверстываем простую идею скалярного экстремума (ультрарационализм) - типо нефальсифицируемо выбранному полагаем максуд, вместо того чтобы рассматривать реальную ситуацию-процесс выбора приемлемой (удовлетворяющей ограничениям) альтернативы.

нужно рассматривать не частные случаи, а случай общего положения - когда вариант выбора характеризуется (а) доставляемым вознаграждением, (б) ценностью (в понятиях RL) (оба пункта в отношении данной потребности или задачи накопления данных вознаграждений) и (в) включенностью ситуации выбора в общий мотивационный и жизненный контекст организма (вознаграждения характеризуются специфичностью и в общем случае не унифицируемы в единой шкале - фундаментальна ситуация многокритериальности, векторного вознаграждения). Идея максуд проводится в RL при отвлечении от (в), отчего она никак не может быть принята как решающая.
=================================
Victor G. Tsaregorodtsev
Сообщений: 3058

Добавлено: 03 июн 18 10:02
Цитата

Автор: Траян
А сложность, сложность возникает - причем, неимоверная, совершенно головоломная - при попытках практической реализации этого простенького принципа в реальных условиях. Там и многокритериальность местами вылазит и много еще чего. Весь СИИ, по сути дела, заточенный на максимизацию этой суммы.


Не, это Вы вынуждены брать многокритериальность (вернее, сводить в одну сумму несколько разных слагаемых) для того, чтобы получить одноэкстремальный рельеф суммарной целевой функции.

А в реальном случае многоэкстремального рельефа - фишкой СИИ должна быть совсем не максимизация суммы, а некоторая исследовательская стратегия, допускающая целенаправленное ухудшение состояния ради возможных плюшек в будущем (ради возможности попасть в окрестность более глубокого экстремума, где и можно будет затем радостно запустить простенькую стратегию по скатыванию из этой окрестности в самый-самый экстремум). После чего поход за приключениями на СИИшную задницу может повторяться - желательно, конечно, с памятью о прошлых ситуациях, чтобы, например, не лезть в ранее исследованные экстремумы, худшие по сравнению с лучшим найденным.
=================================
NO.
Сообщений: 10486
Добавлено: 04 июн 18 1:09
=================================
Стр.63/1 (65)
 
FuncДата: Суббота, 09.06.2018, 14:41 | Сообщение # 68
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.63/2 (65)

Траян
Сообщений: 585

Добавлено: 04 июн 18 2:39
Изменено: 04 июн 18 4:15
>Cами по себе удовольствия могут быть неадекватны биологии и смыслу (напр. цели) и поэтому ОПАСНО выстраивать систему на основе максуд
===================
Что мы и наблюдаем на каждом шагу. На опыте! В реальной жизни. Сама возможность реализации людьми саморазрушительного поведения - наркотики, переедание, нездоровый образ жизни и т.д. - есть прямое и объективное доказательство того, что их система управления подчиняется принципу максуд, а не принципам полезности (кстати, что это такое?)

За счет правильного воспитания, когда психика ребенка особенно восприимчива к кнутам и пряникам, т.к. это период построения базовых моделей мира, с помощью максуда можно заложить основы правильного поведения. И получить здоровую, гармонически развитую личность, с нормальной, крепкой и адекватной психикой. Стремящуюся совершать полезные для себя и общества поступки.
А можно - с помощью того же максуда! - так все исковеркать, что получится неврастенник, гедонист, монстр или извращенец.

>ПО мере развития информационного сектора (знаний) в системе в ЯВНОМ виде начинает действовать помимо принципа удовольствия и принцип полезности
====================
А откуда он берется и на что опирается? Почему система управления вдруг решает придерживаться именно этого принципа? Что ее к этому принуждает?

>ПОлезно обследовать территорию даже если очень страшно - и система должна терпеть страх, хотя подкрепление от исследовательского поведения пока не представлено на индивидуальном уровне. Примером-прототипом должна быть не крыса с электродом, а крыса, которая наперекор ударам тока и страху лезет обследовать темный угол (подкрепляя исследовательское поведение неспецифично).
=========================
Поисковая активность как и куча других априорно задаваемых форм поведения (пищевых, социальных, половых и т.д.) задается не как механические инструкции (это только безусловные рефлексы так задаются), типа машинных программ: делай то-то и то-то, а потом то-то и то-то, а с помощью корпуса априорных, т.е. изначально имеющихся у агента знаний, знаний отражающих опыт предков, содержащих в себе сообщения о том, что сделаешь это и это - и получишь вкусняшку (положит. ощущение). По отношению к поисковой активности доказательством служит тот кайф, который люди получают узнавая что-то новое и интересное. Чувство первооткрывателя.
Именно в погоне за этим кайфом и идут на начальные жертвы.

> нужно рассматривать не частные случаи, а случай общего положения
=========================
На общем уровне мы ничего друг другу не докажем. При имеющейся у нас доказательной базе, опирающейся на гипотезы и интуиции, ни Вы меня, ни я Вас ни в чем не убедим. И все сведется к бессмысленному сотрясению воздуха. Который уже начинает меня исподволь тяготить.

Единственный выход - перевод дискуссии в конкретику. Начав обсуждать какой-то конкретный и реальный пример поведения людей (безусловно имеющий место в действительности), который по Вашему мнению опровергает максуд, (а такой пример Вы должны придумать легко и просто, если считаете, что на общем уровне все ОК) мы можем выжать из нашего обсуждения хоть что-то для себя полезное.

>Идея максуд проводится в RL при отвлечении от (в), отчего она никак не может быть принята как решающая.
======================
Неверно. Нет никакого отвлечения. R генерируется с учетом контекста, всех сопутствующих обстоятельств. Я же говорил, что этот момент Вы не до конца понимаете.
=================================
Траян
Сообщений: 585
Добавлено: 04 июн 18 2:48
Цитата

Автор: Victor G. Tsaregorodtsev
А в реальном случае многоэкстремального рельефа - фишкой СИИ должна быть совсем не максимизация суммы, а некоторая исследовательская стратегия, допускающая целенаправленное ухудшение состояния ради возможных плюшек в будущем...

Так ведь принцип максуд как раз и заточен именно на это. Руководствуясь этим принципом как раз и выбирается то действие, которое дает макс суммы подкреплений на всем протяжении выбираемого варианта будущего.

Но тут дело упирается в интеллектуальные возможности. Скажем, слабо развитые существа, способные прогнозировать лишь на один-два шага вперед, будет воленс-неволенс реализовывать "жадный" алгоритм.

Разумные (предусмотрительные) существа способны прогнозировать на годы и десятилетия вперед. Вот они и будут способны идти на серьезные первоначальные жертвы, дабы выиграть потом.
=================================
Траян
Сообщений: 585
Добавлено: 04 июн 18 2:53
To NO (Махадев поясняет, что такое рай и ад)

Как раз про это я и написал выше - в самих по себе кнуте и прянике не содержится ни боли, ни удовольствия.
=================================
kondrat
Сообщений: 2936

Добавлено: 04 июн 18 2:56
Цитата

Автор: Victor G. Tsaregorodtsev
А в реальном случае многоэкстремального рельефа - фишкой СИИ должна быть совсем не максимизация суммы, а некоторая исследовательская стратегия, допускающая целенаправленное ухудшение состояния ради возможных плюшек в будущем (ради возможности попасть в окрестность более глубокого экстремума, где и можно будет затем радостно запустить простенькую стратегию по скатыванию из этой окрестности в самый-самый экстремум). После чего поход за приключениями на СИИшную задницу может повторяться - желательно, конечно, с памятью о прошлых ситуациях, чтобы, например, не лезть в ранее исследованные экстремумы, худшие по сравнению с лучшим найденным.

Возможно, эта особенность элемента "тренируется снаружи" и даже имеет "общественное значение".
=================================
гость
188.170.81.*
Добавлено: 04 июн 18 8:12

Т.> что их система управления подчиняется принципу максуд,

вы напрочь отказываетесь вникнуть в возражения - еще раз на досуге внимательно перечитайте возражения (последние 6 страниц). Когда принцип максуд голый, то имеем дефектное поведение. В норме нет чистого максуда.

основной аргумент прост - сранение альтернатив производится приблизительно (что-то типа в лучшем случае софтмакс), альтернативы характеризуются разнокачественными 'удовольствиями' (в области парето альтернативы не доминируют однозначно друг над другом) и - главное - НЕТ НЕОБХОДИМОСТИ максимизировать удовольствия - выбор НЕМАКСИМАЛЬНОГО ТОЖЕ совместимо с жизнеспособностью.

принцип максуд как бы слишком обязывающий, cлишком сильный - концептуально он неадекватен: его утверждение это значит максимизация удовольствий это самоцель организма. НО более реалистично считать, что самоцель организма не максимизировать удовольствия, а выполнить свою 'программу', - отработать циклограмму базовых потребностей, достигнуть поставленные цели. Эта программа подчинена 2м главным исходным функциям - выживательности и развития знания о среде. Ощущение подкрепления (чувство приятного и неприятного, эмоции) это промежуточный слой (между потребностью и принятием решения), удовольствие-неудовольствие только отражают в общих чертах что 'все идет правильно или что-то не так' - тенденция предпочтения приятного и избегания неприятного и предпочтения более приятного менее приятному (более-менее однокачественного) это никак не принцип максуд. ОРганизм может действовать
наперекор 'очевидным' удовольствиям - как любопытствующая крыса или жующая (по инстинкту) горькую травинку животина (тут опять этот общий случай - о пользе горечи знает не организм, знает как бы видовой опыт, воплощенный в организме, на уровне аппарата индивидуальных ощущений данная объективно полезная горечь еще не стала приятной - а может и не стать).

после длительной эволюции и адаптации аппарата подкрепляющий ощущений к системе родовых и индивидуальных потребностей при наблюдении за ним возникает иллюзия что принцип максуд базов - однако это не так - этот принцип не исходен, и не достаточен.

может имеет смысл поразмышлять над диалектикой то ли делаем что приятно, то ли приятно то, что делать полезно.. объективная полезность выживанию, когнитивному освоению среды порождает индивидуальные ощущения подкрепления, общая система порождения поведения вцелом как бы 'мудрее' чем индивидуальная система удовольствий-неудовольствий. Cначала система удовольствий-неудовольствий корректируется 'снизу' инстинктивными регуляциями (жувать горькую травинку или воздействие (объективно полезных) 'иррациональных' негативных эмоций) (что-то не смогло закрепиться в аппарате удовольствия), - потом механизмом целедостижения 'cверху' (когда цель сопряжена с абстрактной выгодой, не порождающей выраженного чувственного удовольствия - золотарь компенсируется
вознаграждением, но вряд ли это занятие способ максимизации приведенных удовольствий).

организм живет и выживает, есть консервативная тенденция и есть тенденция развивающая - принцип максуд не может не быть уравновешен принципом нежадности (cистематического ослабления озабоченности удовольствиями) - в совокупности это выражается в том, что организм вцелом не максимизирует удовольствия, а нормализует их поток, способен терпеть изрядные неудовольствия (лишь бы они были прогнозируемыми), поддерживает новизну и остроту на некотором нормальном уровне (удовольствия приедаются). Только поломка этого уравновешенного механизма приводит к формированию патологического
доминирования стремления к максимизации удовольствий.

> По отношению к поисковой активности доказательством служит тот кайф, который люди получают узнавая что-то новое и интересное

в отличие от любопытной крысы информационная потребность людей подкрепляется более специфично и возникает специфическое удовольствие (cм. физиологию кортико-лимбических отношений). Но общий принцип остается прежним - на новорм уровне возникают (воспроизводятся) 'вынуждаемые' формы поведения, которые не подкрепляются специфично. Как творческая личность может терпеть муки творчества так и не получив решающего вознаграждения-удовлетворения. КАк идеологическая личность может терпеть
муки/неудовольствия самоограничения ради призрачного воздаяния (когда трудно говорить что приятные ощущения предвкушения реальных удовольствий это удачная стратегия максимизации их превышения над реальными неудовольствиями). Однако это более-менее нормально - как нормально не 'максимизировать', а достигать более-менее компенсированного, уравновешенного, приемлемого (нормализованного) состояния.

> начинает меня исподволь тяготить

не отвечайте, просто примите к сведению сказанное против банальности принципа максуд (банальность при его неудовлетворительности вцелом).

если хотите 'теоретического' выхлопа, то задумайтесь над обобщенеием RL, когда ri не скаляры - само собою возникнет понимание, что максимизация сумм по компонентам работает только до области парето - а потом увеличение по одному критерию-измерению будет возможно только за счет снижения по другому..

> такой пример Вы должны придумать легко и просто

боюсь это вы настолько угорели от сколь элементарного, столь и неудовлетворительного максуда, что не видите очевидного - вы посмотрите на свою жизнь (бог с ними, c римскими патрициями ) - дежурные поступки, дежурные реакции, стереотипные выборы, рутинное поведение - ну где вы находите максуд?? cплошь норма реакций легкое шевеление чтобы чуть-чуть какие-то удовольствия увеличить и существование в нише приемлемого потока cпецифических вашему образу жизни удовольствий-неудовольствий.. не гамма - дык и не альфа.. и это нормально..
-------------

такое наблюдение. ВЫ прочувствовали что стандартной вероятностной аксиоматике ситуации
неопределенности предшествует ('онтологически') неконсистентность оценок неопределенности в квазивероятностной мере (ваш бмп). НО что-то мешает вам отвязаться от нормативности наваждения 'самоочевидного' принципа максуд - хотя должно быть даже более очевидно, что онтологическим предшественником является 'нечистый' максуд, стремление к увеличению суммы удовольствий не доводимое до конца (когда есть вещи (выживательность и инф. освоение среды) более важные чем удовольствия)..
ей-бо, вникните в сказанное, не соглашайтесь, но примите к сведению..
=================================
Траян
Сообщений: 585
Добавлено: 05 июн 18 2:39
Изменено: 05 июн 18 6:20
>вы напрочь отказываетесь вникнуть в возражения - еще раз на досуге внимательно перечитайте возражения (последние 6 страниц).
================
Я суть приводимых Вами возражений понял. Вы же понять мою аргументацию не хотите.

> принцип максуд как бы слишком обязывающий, cлишком сильный - концептуально он неадекватен: его утверждение это значит максимизация удовольствий это самоцель организма.
=================
Не организма в целом, а системы управления поведением.

>НО более реалистично считать, что самоцель организма не максимизировать удовольствия, а выполнить свою 'программу', - отработать циклограмму базовых потребностей, достигнуть поставленные цели.
==================
Снова скажу - максуд это не про организм в целом, а про его систему управления.

>после длительной эволюции и адаптации аппарата подкрепляющий ощущений к системе родовых и индивидуальных потребностей при наблюдении за ним возникает иллюзия что принцип максуд базов - однако это не так - этот принцип не исходен, и не достаточен.
===================
Для системы управления максуд базов, для организма в целом - нет.

>организм живет и выживает, есть консервативная тенденция и есть тенденция развивающая - принцип максуд не может не быть уравновешен принципом нежадности (cистематического ослабления озабоченности удовольствиями) - в совокупности это выражается в том, что ОРГАНИЗМ ВЦЕЛОМ (выделено мной -т.) не максимизирует удовольствия, а нормализует их поток, способен терпеть изрядные неудовольствия (лишь бы они были прогнозируемыми), поддерживает новизну и остроту на некотором нормальном уровне (удовольствия приедаются). Только поломка этого уравновешенного механизма приводит к формированию патологического
доминирования стремления к максимизации удовольствий.
===========
Все верно.

> КАк идеологическая личность может терпеть
муки/неудовольствия самоограничения ради призрачного воздаяния (когда трудно говорить что приятные ощущения предвкушения реальных удовольствий это удачная стратегия максимизации их превышения над реальными неудовольствиями).
=============
Потому как суммируются мат. ожидания будущих вознаграждений.

> боюсь это вы настолько угорели от сколь элементарного, столь и неудовлетворительного максуда, что не видите очевидного - вы посмотрите на свою жизнь (бог с ними, c римскими патрициями ) - дежурные поступки, дежурные реакции, стереотипные выборы, рутинное поведение - ну где вы находите максуд??
============
А разве я вижу варианты действий наверняка приводящие к достаточно большой сумме (к безграничному счастью)? Без последующих сожалений и угрызений совеcти?
Увидь такое - и я , и любой другой нормальный человек! - тут же бросится выполнять соответствующий план действий.

>ей-бо, вникните в сказанное, не соглашайтесь, но примите к сведению..
=============
Вник, принял. Вывод: все-таки зря я поленился и не объяснил с самого начала принцип максуд более подробно - многих бессмысленных препирательств удалось бы избежать. Поскольку в пояснения даваемые по ходу дела потом уже никто не хочет ни читать, ни вникать в них.

(продолжение следует)
=================================
Траян
Сообщений: 585

Добавлено: 05 июн 18 3:25
Изменено: 05 июн 18 4:04
(продолжение)

Давным-давно, много-много лет назад, только-только приступая к разработке темы СИИ я решил начать это дело с изучения вопроса целеполагания. И пришел к максуду (не той его вульгарно-примитивной трактовке, кою воспринял Хмур и иже с ним, а вполне работоспособной, обоснованной и перспективной схеме его реализации).

Даже написал статью по этому поводу, которую потом где-то благополучно похерил, поскольку все показалось уж очень очевидным и никому не нужным. Среди многих положений этой статьи в свете нынешней дискуссии упоминания стоят следующие:

1. В функциональном отношении разум человека (рассматриваемый как прототип СИИ) состоит из двух частей - из эмоциональной составляющей (ЭС) и интеллектуальной составляющей (ИС).
(В последнее время, появилась мода называть ЭС "эмоциональным интеллектом" - но это глупость и перебор. ЭС и ИС - это не равноправные и равнозначные структуры, а это взаимодополняющие части одного целого. Бессмысленные друг без друга.)

2. Роль ЭС - в генерации оценок (с модальностью "приятно-неприятно") текущих состояний организма. Но не только. Он может оценивать и состояния внешней среды - но опираясь на данные из ИС. (именно поэтому оказываются возможными такие психологические феномены как аутотренинг и самовнушение). И еще он может оценивать (в некоторых, четко заданных рамках) и работу ИС.

3. Роль ИС - в формировании поведения, рациональном вычислении того, какое действия следует совершить.
Подлежащее выполнению действие находится путем выбора какого-то одного - наилучшего - из всего множества доступных. Наилучшее определяется после оценки тех будущих последствий, что могут наступить после его совершения.
Таким образом, ИС (т.е. система управления поведением) базируется в своей работе на чистом максуде. Только ИС (для разума, организма в целом, принцип максуда всего лишь инструмент, а не цель/доминанта).

4. Несмотря на наличие в реальных жив. существах некоторых связей между ЭС и ИС, по большому счету - в первом приближении - в функциональном отношении эти две системы могут рассматриваться как совершенно независимые друг от друга. Прямо и непосредственно повлиять на работу друг друга они не могут.

5. В ЭС генерация оценок лабильна и подвижна. И производится по очень хитрым НЕЛИНЕЙНЫМ схемам (отражающим в себе опыт предыдущих поколений) в контексте и с учетом множества сопутствующих факторов.
Одним из наиболее распространенных, очевидных и древних алгоритом реализации нелинейности - в уменьшении величины положит. ощущения при многократном повторении одного и того же стимула.

6. Помимо всего прочего в ЭС генерация оценок опирается на громадный массив априорных (врожденных) знаний, говорящая о тех формах поведения (социального, пищевого, полового и др.) которые следует реализовывать при тех или иных условиях (циркадных и сезонных в том числе).
Это древняя когнитивная часть ЭС весьма и весьма значительна и очень сложна.

7. ИС при прогнозировании тех или иных вариантов будущего помимо всего прочего учитывает и эти будущие смещения пол. и отр. оценок. Строя предположения о том, как в будущем ЭС изменит свое отношение к происходящему. Поскольку модели мира, которые строит ИС включают в себя и самого агента (предположения о его внутреннем устройстве в том числе) как часть этого мира.

8. К счастью, при создании СИИ нам вовсе не обязательно воспроизводить весь корпус знаний ЭС в искусственном агенте. Мы можем поступить гораздо проще и элегантнее.
Убив одним выстрелом сразу трех зайцев.
А именно, мы можем напрямую связать ЭС агента с ЭС человека-наблюдателя, создателя или юзера данного агента. Т.е. пусть не ЭС агента, а человек-наблюдатель генерирует для агента базовые ощущения (приятно-неприятно).- в зависимости от того, нравится ему как агент работатет или нет.
Это похоже на то, как если бы мы в эксперименте с крысой полностью отлучили бы саму крысу от педальки, а предоставили бы это делать наблюдателю за ее поведением.
=================================
Стр.63/2 (65): 1 ... 59 60 61 62 [63] 64 65
 
FuncДата: Суббота, 09.06.2018, 14:47 | Сообщение # 69
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.64 (65)
гость
188.170.74.*
Добавлено: 06 июн 18 2:12
Изменено: 07 июн 18 2:50, автор изменений: Траян
Уважаемый Хмур, уж не знаю как это получилось, но Ваш пост исчез. То ли скрипт глюканул, то ли я ошибся (хотя как это могло получиться, ума не приложу, ведь он исчез УЖЕ после того, как я на него ответил двумя постами и начал отвечать NO).

Что хорошо - я ответил на него достаточно подробно, чтобы его можно было восстановить где-то на 80-90%.

Все равно, как хозяин ветки приношу свои извинения.
=================================
NO.
Сообщений: 10486
Добавлено: 06 июн 18 2:55
Максуд ибн Траян
=================================
Траян
Сообщений: 585
Добавлено: 07 июн 18 1:40
Изменено: 07 июн 18 1:56
Т.> вот совсем уж конкретно. ВЫ апеллировали к технике RL.
============
Аппелировал. Дабы показать, что максуд даже в его примитивнейшей реализации (на таблицах Q-learning иди алгоритмах SARSA) УЖЕ дает неплохие результаты (см. проект AlphaZero).
Это - медицинский факт.
Т.е. даже если ИС агента строит модели мира на уровне планарий с их одношаговыми условными рефлексами, это оказывается достаточно для реализации примитивных форм адаптивного поведения.

В СИИ, есссно, качество, сложность и совершенство используемых моделей действительности в миллиарды (?) раз превосходят модели задаваемыми таблицами RL/
Вообще-то, это качественно разные вещи, совершенно несопоставимые между собой..

>Если среда становится отличной от той, в которой происходило обучение, то агент, продолжая обучаться, обязан совершать действия не по максимому ценностей, чтобы Успевать
адаптировать систему ценностей к изменяющейся среде.
===========
Даже на Q-learning агент способен переучиваться (как и планарии, морские зайцы и прочие)
при изменении среды. Есссно, с некоторым запозданием.
Юзающая более совершенные модели СИИ будет способна заранее предвидеть возникновение или изменение закономерностей мира.

>Это все об одном и том же - принцип максимума удовольсвий ограничен принципом реальности. ОДно дело формальный агент и другое - естественный.
============
Плоские черви и брюхоногие моллюски реальны?

>еще раз - сам принцип максуд это только технический прием и/или нормативная идея, - критикуется мысль что организм (его система управления - тут ваш маневр с их разведением неуместен)
=================
Это не мой маневр, это природа почему-то выбрала для конструкций живых существ именно такое базовое решение . Далеко не идеальное. Для отдельных особей зачастую приводящее к фатальным ошибкам.
Но реально работающее при его массовом использовании.

>Идея что максуд 'на самом деле все-таки работает' неверифицируема и нефальсифицируема,
================
Эксперимент с крысой железно доказывает, что стремление к получению пол. подкреплений является главенствующим. Перебивающим все.

>тогда она просто догматика-схоластика, - всегда можно сказать, что каждый выбор максимизирует некую величину (назвать ее удовольствием)
============
Верно.

> - вопрос только в том, что эти 'удовольствия' будут фиктивны и не соответствовать реальным удовольствиям (которые не максимизируются, а цикличны, не скалярны, а качественно различаются, не суммируются, а имеет место коррекция оценок важностей (сила и специфика удовольствия регулируются динамически и ситуационно)
=============
Если бы эти удовольствия не были скалярны, т.е. не обладали свойствами аддитивности и транзитивности, то невозможно было бы многошаговое планирование включающее в себя разнородные этапы деятельности. Типа выбора плана действий на неделю. Сегодня вечером пойти в клуб, пьянка и секс, завтра сесть за диссер, в среду посидеть с детьми, в четверг залезть на Эверест, в пятницу начать изучать Саттона/Барто). Или наоборот: в понедельник с детьми, а в пятницу в клуб.

>, проявляются ситуационно, локально
=============
Верно.

> - это не значит что этот эпизод встраивается в глобальную жизненную цепочку доставляющую максимум суммы удовольствий в виде постоянного горолазания)).
==================
Верно. Об этом уже раза три упоминалось. Между воздейстием среды и получаемым R нет однозначного соответствия (поскольку R генерится опосредованно, в ЭС). Это только в нынешнем RL при прогнозировании R напрямую связывается с состоянием среды S.

>Введение 'удовольствия' как такого
потенциала это ошибочная идея (в самом принципе найти такой потенциал, максимизации которого достаточно для описания поведения сложной системы).
============
Никто не говорит что максуд - это идеальное решение. Но в отличие от сферических коней в вакууме - это реально существующее и работающее решение.

>модель приятностей должна адекватно апроксимировать объективные полезности - а именно это никак не гарантированно
================
Именно так. Никаких гарантий нет (и быть не может).
Вот так и живем.
А что, Вам кто-то гарантировал, скажем, правильность той модели мира, что Вы используете?
Нет ведь?
Но все мы живем и действуем так, как если бы мы были уверены в абсолютной правильности и незыблемости своих представлений о действительности (в том числе, самого этого представления о его негарантированности).

(продолжение следует)
==================================
Траян
Сообщений: 585
Добавлено: 07 июн 18 2:31
Изменено: 07 июн 18 3:09
(продолжение)

>еще раз - ищется приемлемый компромисс
между вознаграждаемостью и риском, матожиданием и дисперсией, прогнозом и уровнем притязаний, между суммами несравнимых компонентов векторного вознаграждения
============
Ну и что? ЭС и дает этот компромисс, анализируя и интегрируя сразу многие тысячи самых разнородных параметров.

> пищевое вознаграждение полностью не заменить сексуальным - кто-то предпочтет перебрать пищевое за счет сексуального, кто-то наоборот - нет универсальной шкалы не только для разных индивидов, но и внутри одного индивида для разных потребностей в разных функционльных состояниях
==============
Верно. Конвертация различных состояний организма во внутреннее оценки-ощущения на шкале "боль-удовольствие" всегда происходит по разному - т.е. плавающему - курсу. Вычисление текущего значения происходит в ЭС, при этом используются сложнейшие нелинейные
много-критериальные вычисления. На выходе дающие одну-единственную результирующую скалярную величину.

>(между приятным-и-бесполезным ('объективно') и полезным-но-неприятным в конечном итоге выбираться будет последнее - апелляция к самостимуляции и аддиктивному поведению демонстриует как раз недостаточность максуда). Принцип удовольствия действует как раз более локально-ситуационно (сиюминутные удовольствия), а глобальные расчеты (если организм
================
Способность выбирать полезное-но-неприятное может быть обеспечена за счет двух разных механизмов. Во первых, в самой ЭС, когда при вычислении результирующей
ощущение неприятного (горькой лечебной травки) суммируются с приятным ощущением "правильности" совершаемого действия. Так бывает, наверное, у кошек.
У людей способность сознательно пить горькие, но полезные микстуры может обеспечиваться предусмотрительностью ИС, за счет подсчета будущих сумм.

>вообще даже косвенно ориентирован на подобные расчеты) ведется в ориентации не на субъективные удовольствия. Реальность-объективность внедряется в индивида в ходе генетической ассимиляции истории-опыта, система подкрепления и система переживания удовольствий отражают реальность, но реальность представлена в системе порождения поведения ШИРЕ чем только эффекты от удовольствия и боли.
===============
Ессссно, шире.

>> Увидь такое - и я , и любой другой нормальный человек! - тут же бросится выполнять соответствующий план действий.
>да, но нормальный человек не ищет 'абсолютного' (реально возможного) максимума - сидит на попе ровно в своей области приемлемости
===============
Он сидит ровно только до момента обнаружения возможности - реальной, без дураков, без нежелательных последствий - причем, именно в его системе координат и представлений о счастье - стать счастливым.
Обнаружив такое любой человек тут же подрывается с места как оглашенный.

> Опять же - чтобы решить более общую оптимизационную задачу нужно затратить дополнительные силы, т.е. оптимум должен положить себя неоптимумом.. тогда вообще вся идеология оптимизации (как чего-то существенно важного) ставится под сомнение.
==============
Дополнительные усилия, затраты - все это входит в общую сумму.

> ВЫ неудачно называете эту величину выгоды/пользы удовольствием.
=============
Я виноват, что природа придала этой величине именно такую модальность?

>ИНтеллект максимизирует В МЕРУ СВОЕГО ПОНИМАНИЯ
===============
Верно.

> но интеллект и понимает ограниченность формального решения, варьирует понимания и ищет компромисс между решениями полученными на разных критериях.
===================
Неа. В интеллекте все всегда сводится к одному критерию - максуду.

>Грубо говоря группа экспертов может быть виртуальной - быть в одном, достаточно развитом интеллекте. Как бы пока интеллект-собственно не развит его решения существенно корректируются подсистемой и надсистемой, по мере развития интеллект 'вбирает в себя' критерии подсистемы и надсистемы, cтановясь более гибким, cпособным к многаспектным рассмотрениям. Игра с природой многуровнева и многосмысленна.
==================
Верно то, что интеллект при его развитии, начинает рассматривать сами возможости получения максуда на все более глубоком, общем и потому высоком уровне.
Если для 2-3 летних детей счастье (наиболее желательный вариант будущего) - это полученная вдруг шоколадная конфетка, то для человека 40-50 лет, понятие удовольствия может быть связано со сложнейшими мировоззренческими аспектами его бытия.

>> Убив одним выстрелом сразу трех зайцев.
> первым же выстрелом (приближение по п.4) из своего максуда вы убили зайца, жизнь которого собрались изучать-воспроизводить.
===========
Я не жизнь зайца собираюсь воспроизводить, а лишь его интеллектуальную составляющую (ИС). СИИ с двух-этапной эмоциональной составляющей сходу снимает часть проблем. Оставшихся хватает выше крыши.
Создание СИИ и без них является труднейшей, на грани осуществимости задачей.
==================================
Траян
Сообщений: 585
Добавлено: 07 июн 18 2:35
Цитата

Автор: NO.
Максуд ибн Траян


Вместо корявого "максуда" я поначалу хотел использовать известный термин "марковский процесс принятия решений" (MDP), поскольку там тоже речь о выборе стратегии дающей максимальную сумму подкреплений, но MDP содержит в себе некоторые изначально вводимые ограничения. Максуд же говорит о стремлении к максимизации суммы вообще, как общем принципе.
==================================
NO.
Сообщений: 10486
Добавлено: 07 июн 18 2:36
>Никто не говорит что максуд - это идеальное решение.

А идеальное искать пробовали?
=================================
Траян
Сообщений: 585
Добавлено: 07 июн 18 2:47
Цитата

Автор: NO.

>Никто не говорит что максуд - это идеальное решение.

А идеальное искать пробовали?


Природа, возможно, пробовала. И почему то остановилась именно на этом варианте. Отчего-почему - может быть куча всяких предположений.

Я же всего-навсего пытаюсь сплагиатить найденное ею решение. Т.к. оно показало принципиальную возможность создания на его основе ЕИ.
==================================
NO.
Сообщений: 10486
Добавлено: 07 июн 18 2:50
у индусов про удовольствие встречается вот тут
https://ru.wikipedia.org/wiki/Сатчитананда
Удовольствие правильно понимается после того, как осилили вечность и сознание. У ученых крыса сдохла, ещё и вечности нет и даже не ищется. Значит дальше будет много бестолковой путаницы про то, как псевдо-субъект получает псевдо-удовольствия.
=================================
NO.
Сообщений: 10486
Добавлено: 07 июн 18 3:12
Эволюция адаптировала крысу к земным условиям. Ученые создали условия, к которым она не приспособлена. Крыса сдохла. Найдите в этом ум. Я только вижу, что у нее нет предохранителя, в технике обычно вставляют какую-то защиту например от скачков напряжения или других разрушительных факторов, которые известны, но когда слишком дорого или не требуется чтобы система их пережила. Иногда такое наоборот основная задача, например граната-лимонка напилена на дольки, иначе её прорвет в одном месте и весь кусок железа дезертирует с поля боя в неизвестном направлении.
Не понимаю я чего такого перспективного в удовольствиях. Ну да, есть такая фича. Ученые нашли хак каким образом за её счет все разрушить. Так система же сложная, там такого сколько угодно.
=================================
Траян
Сообщений: 585
Добавлено: 07 июн 18 3:27
Изменено: 07 июн 18 3:28
Цитата

Автор: NO.
Не понимаю я чего такого перспективного в удовольствиях.


И это хорошо. Хотелось бы надеяться на то, что этого не понимает и большинство современных СИИ-исследователей.

Хотя вряд ли. Эти гады все чаще и чаще начинают говорить именно о тех вещах, и рыть именно в тех направлениях, о которых было бы желательно, чтоб они пока не говорили и не рыли.
==================================
NO.
Сообщений: 10486
Добавлено: 07 июн 18 3:45
Тут говорят много хорошего, даже самые тупые иногда выдают удивительно проницательные догадки, но без всяких последствий. Да даже на Западе много умного говорят, только сами же не понимают. Может им нужно пряники выдавать, я видел на какой-то лекции мужик кидал в зал конфетки.
=================================
NO.
Сообщений: 10486
Добавлено: 07 июн 18 11:15
Цитата

Автор: Траян
Природа, возможно, пробовала. И почему то остановилась именно на этом варианте.

Так он не идеальный.
В истории же много случаев, когда люди чего-то долго не понимали и большинство даже не пытались, а потом кто-то понял. Думаете с интеллектом так не получится?
=================================
Траян
Сообщений: 585
Добавлено: 08 июн 18 1:11
Изменено: 08 июн 18 1:56
Цитата

Автор: NO.
Не понимаю я чего такого перспективного в удовольствиях. Ну да, есть такая фича.


Вопрос мотивации - это не просто фича. Это - тот кончик нити, взявшись за который можно последовательно, шаг за шагом, распутать всю проблематику СИИ.

СИИ - не может быть инертной, замкнутой в коконе "вещью в себе". Такой СИИ и невозможен и неинтересен.

У нормального СИИ должно быть активное начало, то что заставляет его непрерывно действовать, шевелиться, совершать внутренние и внешние действия. Следовательно, нам в первую очередь следует разобраться с тем, что является той пружиной, что приводит агента с СИИ в действие. Как и почему она работает.

Вопросы обучения, прогнозирования, оптимизации, самосовершенстования - это все, конечно необходимо и важно, но что заставляет потенциально разумного агента обучаться, прогнозировать, оптимизировать? Он же не может действовать как заводная игрушка, как автомат, запрограммированный на совершение одних и тех же действий в одних и тех же ситуациях?

Хотя бы потому, что мы не можем заранее предусмотреть все те ситуации, в которых он может оказаться. Реальный мир слишком сложен и разнообразен для этого.

Но какая мотивация может заставить агента непрерывно действовать - адаптируясь и приспосабливаясь - даже в ранее незнакомых ему условиях? Какая цель?

Ясно, что эта цель не может быть задана в виде некой формальной семантической конструкции, содержащей в себе в явном виде вторичные, трудноформализуемые понятия (например, такие как "выживание"). По целому ряду причин.
Мы и сами вложить их не сможем ни в виде декларативных, ни в виде процедуральных знаний.
(Как бы вы не старались, вы не найдете и двух когнитологов-герменевтиков совершенно одинаково понимающих слова "жизнь", "смерть", "существование" и т.п.)
И сам агент - непрерывно развиваясь и самосовершенствуясь - со временем неизбежно начнет вкладывать в эти понятия совершенно новое содержание (о которое мы пока можем даже не догадываться). А к чему это может привести - Бог весть.

Единственное приемлемое решение - которое и нашла природа для живых существ - это задание мотивации в виде стремления к максимизации некой скалярной величины. Какой бы степени совершенства не достиг сверх-СИИ, максимизация останется максимизацией. Какой бы не была предметная область и специфика той текущей задачи, которую предстоит решить СИИ, максимизация останется максимизацией.

Именно предельный примитивизм (иначе говоря, предельная фундаментальность) такой мотивации и обеспечивает ее предельную универсальность и надежность.

Есссно. У этого принципа есть и недостатки, как же без них? При его применении неизбежны издержки в виде принципиальной возможности реализации саморазрушительного поведения.
По трем причинам.
1. Когда ЭС (штука очень инертная и консервативная) приспособленная к одним условиям среды, пр их резком изменении начинает глючить и выдавать неадекватные подкрепления.
(переедание, гиподинамия и т.д.)
2. Когда особо хитрожопые агенты находят пути получения подкреплений напрямую, в обход ЭС (наркомания, электростимуляция etc).
3. Неизбежные при работе ИС ошибки в деле строительства моделей мира.
Когда строится мировоззрение нерелевантное реальному миру.
(Философские интоксикации, религиозные девиации и т.п.).
==================================
NO.
Сообщений: 10486
Добавлено: 08 июн 18 2:14
Цитата

Автор: Траян
Вопрос мотивации - это не просто фича. Это - тот кончик нити, взявшись за который можно последовательно, шаг за шагом, распутать всю проблематику СИИ.


Ну если это единственная соломинка, не позволяющая Вам утонуть в естественных науках, тогда пользуйтесь. Но вообще-то их много.
И на будущее замечу, что есть небольшая разница между приобретенными знаниями, через мотивацию или ещё как, и по-настоящему своими, не усвоенными. Поэтому лучшая мотивация это как бы отсутствие мотивации. В этом проблема больших компаний, в маленьких люди делают что хотят, а в больших что не умеют.
=================================
гость
188.170.80.*
Добавлено: 08 июн 18 2:34

воспроизведу для порядка мистическим образом исчезнувший пост, его можно переместить на надлежащее место, и будем надеяться что возможный глюк серверного скрипта не эксплуатируется вашим аффективно-когнитивным подсознательным..
-------------------

Т.> Вы же понять мою аргументацию не хотите.

так ее почти не было, а та что была благополучно отведена.

вот совсем уж конкретно. ВЫ апеллировали к технике RL. Тут крайне любопытна ситуация аналогичная той, когда формальными средствами доказывают ограниченность формализмов (любых). Агента обучают максимизировать сумму наград (отождествим cкалярные награды и удовольствия). Обученый агент совершает выборы по ценности действий-в-ситуации, максимизируя целевую функцию, имея модель среды в виде накопленных ценностей. Если среда становится отличной от той, в которой происходило обучение, то агент, продолжая обучаться, обязан совершать действия не по максимому ценностей, чтобы Успевать
адаптировать систему ценностей к изменяющейся среде. Это все об одном и том же - принцип максимума удовольсвий ограничен принципом реальности. ОДно дело формальный агент и другое - естественный.

еще раз - сам принцип максуд это только технический прием и/или нормативная идея, - критикуется мысль что организм (его система управления - тут ваш маневр с их разведением неуместен) подчиняется полностьтю максуду. Идея что максуд 'на самом деле все-таки работает' неверифицируема и нефальсифицируема, тогда она просто догматика-схоластика, - всегда можно сказать, что каждый выбор максимизирует некую величину (назвать ее удовольствием) - вопрос только в том, что эти 'удовольствия' будут фиктивны и не соответствовать реальным удовольствиям (которые не максимизируются, а цикличны, не скалярны, а качественно различаются, не суммируются, а имеет место коррекция оценок важностей (сила и специфика удовольствия регулируются динамически и ситуационно), проявляются ситуационно, локально (альпинист преодалел трудности ради адреналивого опъянения и чувств от сознания свершения - это не значит что этот эпизод встравивается в глобальную жизненную цепочку доставляющую максимум суммы удовольствий в виде постоянного горолазания)).

есть совсем уж общее основание для критики - вариационные (экстремальные) принципы даже в области физики не вполне универсальны - для открытых существенно неравновесных систем их эволюцию не подчинить только энерго-энтропийным балансам, нужно рассматривать перепетии истории игры кинетик (кинетических соревнований) (в частности эффективность функционирования информации в подсистемах самоуправления), не удается ввести универсальный кинетический потенциал, который бы детерминировал то, какая метастабильная структура выиграет соревнование. Введение 'удовольствия' как такого
потенциала это ошибочная идея (в самом принципе найти такой потенциал, максимизации которого достаточно для описания поведения сложной системы).

еще так. - Приятное должно быть объективно (для выживательности и целедостижения) полезным (чтобы максуд был эволюционно устойчивым) - модель приятностей должна адекватно апроксимировать объективные полезности - а именно это никак не гарантированно (и агент обучается несовершенно, и среда переменна, и ценности векторны, и собственно компарация несовершенна).

> суммируются мат. ожидания будущих вознаграждений.

еще раз - ищется приемлемый компромисс между вознаграждаемостью и риском, матожиданием и дисперсией, прогнозом и уровнем притязаний, между суммами несравнимых компонентов векторного вознаграждения - пищевое вознаграждение полностью не заменить сексуальным - кто-то предпочтет перебрать пищивое за счет сексуального, кто-то наоборот - нет универсальной шкалы не только для разных индивидов, но и внутри одного индивида для разных потребностей (между приятным-и-бесполезным ('объективно') и полезным-но-неприятным в конечном итоге выбираться будет последнее - апелляция к самостимуляции и аддиктивному поведению демонстриует как раз недостаточность максуда). Принцип удовольствия действует как раз более локально-ситуационно (сиюминутные удовольствия), а глобальные расчеты (если организм вообще даже косвенно ориентирован на подобные расчеты) ведется в ориентации не на субъективные удовольствия. Реальность-объективность внедряется в индивида в ходе генетической ассимиляции истории-опыта, cистема подкрепления и система переживания удовольстий отражают реальность, но
реальность представлена в системе порождения поведения ШИРЕ чем только эффекты от удовольствия и боли. Cтимул, вообще говоря, имеет не только значение в смысле ощущения подкрепления.

> Увидь такое - и я , и любой другой нормальный человек! - тут же бросится выполнять соответствующий план действий.

да, но нормальный человек не ищет 'абсолютного' (реально возможного) максимума - сидит на попе ровно в своей области приемлемости - которая может рассматриваться даже не как локальный максимум на некоей объективной поверхности объективного потенциала, а как метастабильное (самоподдерживающиеся) состояние на склоне - субъективно принятый стандарт 'предела возможностей' (типо самодельная вмятина на упругой поверхности). Опять же - чтобы решить более общую оптимизационную задачу нужно затратить дополнительные силы, т.е. оптимум должен положить себя неоптимумом.. тогда вообще вся идеология оптимизации (как чего-то существенно важного) ставится под сомнение.

> (не той его вульгарно-примитивной трактовке, кою воспринял Хмур и иже с ним

ради красного словца не пожалеете и юпитера..

неа - это вы дали вульгарную формулировку максуда - что и вызвало возражения.

вы верно пишите про (под)системы оценок, (пере)оценивания и оперирования оценками - только смешиваете интеллект с удовольствиями. В игре с природой при массе неопределенностей интеллект/организм ориентируется на набор критериев (оптимистичные, острожные, cмешанные, несожаления и др.) - на более-менее абстрагированные от удовольствия выгоды/пользу. Нет универсальной 'оптимальности'. ВЫ неудачно называете эту величину выгоды/пользы удовольствием. Это не эмпирические (субъективные)
удовольствия. Cама эта величина (идея этой величины) при ее формализации оказывается не универсальной. ИНтеллект максимизирует В МЕРУ СВОЕГО ПОНИМАНИЯ - но интеллект и понимает ограниченность формального решения, варьирует понимания и ищет компромисс между решениями полученными на разных критериях. Грубо говоря группа экспертов может быть виртуальной - быть в одном, достаточно развитом интеллекте. Как бы пока интеллект-собственно не развит его решения существенно корректируются подсистемой и надсистемой, по мере развития интеллект 'вбирает в себя' критерии подсистемы и надсистемы, cтановясь более гибким, cпособным к многаспектным рассмотрениям. Игра с
природой многуровнева и многосмысленна.

> Убив одним выстрелом сразу трех зайцев.

первым же выстрелом (приближение по п.4) из своего максуда вы убили зайца, жизнь которого собрались изучать-воспроизводить. Остается переквалифицироваться в управдомы-таксодермисты. cобственно вы и предлагаете не AGI-агента, а аватара.. нет, так обломить своих интересантов..
=================================
Стр.64 (65): 1 ... 60 61 62 63 [64] 65
 
FuncДата: Суббота, 23.06.2018, 18:43 | Сообщение # 70
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.65 (66)
188.170.80.*
Добавлено: 08 июн 18 2:36

Т.> RL

речь идет не о том, что эта техника в ее скалярном варианте работоспособна, а о том, что ее обобщение
на проблематику agi/cии (напр. по хаттеру) это сверхобобщение. Недаром появилось различение сильный общий интеллект в узком смысле. В самом cкалярном rl рассматривают многозадачное обучение и проблему переноса обобщенного навыка, что приводит, в частности, к рассщеплению сетей (напр. в вврианте актор-мимик), - не за горами осознание, что недостаточность подобных решений (для сии в широком смысле) следует преодалевать на путях комбинирования расщепленных сетей с расщепленным (векторным) подкреплением-вознаграждением.

> моллюски реальны?

итак, cитуция такова: приведен некоторый набор аргументов и соображений почему максуд это неадекватный принцип - вы часть не восприняли, c частью согласились, ничего не отвели и не привели соображений в поддержку максуда - однако продолжаете его утверждать. Такова сила навязчивости априорной идеи. Природа минимизирует действие - идея о максимизации сумм приведенной разницы удовольствий и неудовольствий это сверхобобщение сверхупрощения. Удовольствия нормализуются, неудовольствия минимизируются и терпятся.

два коана для просветления. Удовольствие-подкрепление не скаляр, а специфицированная величина - если вы сложите 2 яблока, три груши и отнимите один банан, то вы получите не 4 фрукта, а 5 фруктов и долг отдать банан, когда он у вас появится. Если вы систему управления больницей оптимизируете минимизацией средней температурой по больнице (не посчитав что температура больных и температура тел в морге это разные по специфике величины), то вы рискуете получить перевод всех больных в морг (вместо нормализации их температуры).

> природа почему-то выбрала для конструкций живых существ именно такое базовое решение

природа выбрала не максуд, а обеспечение компромисса между эволюционной устойчивостью вида и его общей адаптабельностью (эволюционной пластичностью) через нормировку систем потребностей и инстинктов индивидов данного вида, охранные рефлексы и рефлекс превентивного освоения среды со специфическими и неспецифическими подкреплениями.

напрямую принцип максуд не верифицировался, но есть веские соображения что он не может быть верным - примерно как доказывается принципиальная ограниченность стандартно заданных формальных систем. Cитуация с навязчивостью идеи скалярной паноптимизации в ии при его обобщении на сии сродни с идеей рационального агента в экономической теории. Классическую теорию строили исходя из очевидного постулата максимизации полезности. Прямое же исследование поведения показало, что агенты не подчиняются и ослабленному принципу максимизации ожидаемой субъективной полезности. Альтернативы сравниваются не как скаляры, а как структуры (моделируемые векторами).

> Эксперимент с крысой железно доказывает, что стремление к получению пол. подкреплений является главенствующим.

еще и еще раз. В реальном поведении мы не видим максимума удовольствий - ВОЗМОЖНОГО при введении цепи самостимуляции - природа не создала канал прямой самостимуляции оттого, что эволюционное конструировние организма никогда не подчинялось принципу максуд, в природе вообще НЕТ такого принципа (он есть в упрощенных теориях или спекуляциях), как объяснялось (есть локально регулирующая поведение эвристика предпочитания более приятного менее приятному если они однокачественны и есть охранная эвристика не доводить боль до сверхмерной). Нет регистров, в которых накапливаются пожизненные суммы удовольствий и неудовольствий - эти величины фиктивны. Реальное поведение отличается от аддиктивного, что доказывает, что максуд никак не главенствующ. ГЕНЕРАЛЬНЫЙ фитнесс никак не замкнут на пожизненные суммы разниц уд. и неуд. > Если бы эти удовольствия не были скалярны, т.е. не обладали свойствами аддитивности и транзитивности, то невозможно было бы многошаговое планирование включающее в себя разнородные этапы деятельности.

вы рассуждаете крайне поверхностно. Удовольствия РЕАЛЬНО разнокачественны - на уровне и нейрохимии, и нейрофизиологии. Даже на уровне сознания удовольстивия не унифицируются - приятное чувстсво расслабленности это совсем не то, что оргазм, а удовольствие от сладкого это совсем не то, что приятное чувство 'контролируемого' страха (при разрядке опасной ситуации). Именно разнокачественность подкреплений и позволяет осуществлять комплексное планирование - удовлетворять неким сбалансировнным (компромиссным) образом все потребности, а не стремиться к гиперкомпенсации одной за счет других - такая скаляризация (и патологическая 'транзитивность') отражает как раз дефектное поведение. Просто 'удовольствие' это только слово - и ошибочное обобщение скалярного представления.

> работающее решение.

псевдорешение - как калькулятор это псевдорешение если речь идет о 'думающей машинке'. Важно то, что подчинение максуду дает слишком регидное поведение. БОлее того - чтобы выполнялся коллективный максуд, на уровне индивида не должно быть жадности, не должно быть максуда - как при глобальном индивидуальном максуде (гипотетическом, но эта гипотеза неудовлетворительна) должны быть допустимы нежадные эпизоды. Решение работает - но работает недостаточным образом. РАботать должны более развитые принципы (они обозначались).

> На выходе дающие одну-единственную результирующую скалярную величину.

еще раз. В каждый момент выбора полимотивированного действия образуется некий подкрепляющий интеграл - разные мотивы удовлетворяются в разной мере. Это не скалярное, а векторное состояние. Даже в отношении одной потребности можно выбрать что поприятнее, а можно что БЫСТРЕЕ снимет потребностное напряжение (эти параметры не сливаются в один). В цепочке выборов нормализуется потребностное состояние, а не максимизируется сумма некоих сверток вектора подкреплений от удовлетворения потребностей. В общем случае нет необходимости максимизировать (нет и возможности раз имеется вектор а не скаляр), достаточно чтобы решение было приемлемым, удовлетворительным, cостоятельным - природе нужны динамические адаптации и парето-оптимумы, а не экстремумы, когда речь идет о сложных системах, а не о ситуациях когда в чистом виде проявляются сильные вариационные принципы, природа отбирает в области сложных систем более-менее приемлемое, а не скалярный оптимум - а когда конструкция скалярного фитнесса переменна, то вообще нет ориентации на скалярный фитнесс.

> Обнаружив такое любой человек тут же подрывается с места как оглашенный.

это же не значит что чел максимизирует - он просто переходит на другой уровень ожидания (ожидает большего), начинает регулироваться по ошибке уточненного прогноза. Вообще, во всей этой кухне нужно еще правильно оценить роль привычки. Ходите вы в любимый ресторан, дежурно едите, в меру экспериментируете (хотя знаете что можно обнаружить и какие-то несусветные явства) - вы не максимизируете удовольствия от еды, вы следуете некоей норме приемлемости - а переключение на максуд в отношении гастрономии это аномалия. ПО всем базовым потребноcтям вы нормализуете, а не максимизируете. Для ненасыщаемых потребностей также их удовлетворение не становится главенствующим принципом - он сочетается с нормализацией по базовым потребностям - а реальное главенствование скалярного максуда сопряжено с дефектным поведением.

> сходу снимает часть проблем.

проблема порождается скалярным максудом. Это мешающая (заужающая) презумпция. Даешь немаксудову логику!
===================================
Траян
Сообщений: 597

Добавлено: 08 июн 18 5:44
На этом я приостанавливаю свое участие в дискуссии на тему мотивации СИИ. Поскольку при продолжении оной все сведется к повторению - по второму и третьему кругу - одних и тех же аргументов и деклараций, а такое повторение чревато скатыванием в пустое препирательство.
(Занятие малопочтенное и не способное принести ни удовольствия, ни пользы.)

Пора, пора идти дальше и заняться моделированием сознания, т.е. проектом ПИС (простейшее искусственное сознание).
===================================
kondrat
Сообщений: 2962
Добавлено: 08 июн 18 6:27
Хочу подкинуть ещё одно слово, которое нужно максимизировать: успех.
===================================
mimino_r
Сообщений: 86

Добавлено: 08 июн 18 6:36
Изменено: 08 июн 18 6:39
Цитата

Автор: Траян
Пора, пора идти дальше и заняться моделированием сознания, т.е. проектом ПИС (простейшее искусственное сознание).


Имея скудные ресурсы для полноценной реализации своего проекта, я сформулировал решение в области ПИС - виртуальной интеллектуальной кофеварки, полностью подчиненное моим догматам. Суть идеи. Есть кофеварка с датчиком наличия стакана и датчиком перелива воды. Управляющим клапаном для подачи воды и датчиком заряда батарейки. Функционал еды - батарейка заряжается только в случае наличия стакана и подачи туда воды без перелива оной через край. Жизнь - уровень заряда батарейки. Скорость разряда фиксирована и постоянна. Смерть - полный разряд. Задача. Создать такую программу, которая бы сама нашла эту зависимость чашка-вода-батарейка при условии, что она может управлять только клапаном. Прямое программирование логики работы запрещено. Имхо - очень интересная задачка...
===================================
гость
188.170.82.*

Добавлено: 09 июн 18 4:36
Т.> и заняться моделированием сознания

во второй части поста 20 май 18 4:13 (с.60) вы сделали ряд замечаний о своем подходе к вопросу.

мне кажется, что вопрос о 'необходимости' сознания можно связать с вопросом о трудностях оптимизации при многокритериальности и переменности множества 'сейчас-действующих' критериев. КАк бы при контакте со стационарной средой достаточно сложный организм (уже простейший) факторизирует среду посредством ассортимента рецепторов разных типов. А при переходе от химического контакта (контактной связи?) со средой к информационному (дистантному?) при формировании образов комплексных стимулов среда теряет факторизируемость - если релизер запускал комплекс фиксированных действий (факторизация на инстинкты и безусловные рефлексы), то синтезированный образ оказывался как бы 'подвешенным' - при его профилировании могли запускаться разные реакции (группы реакций). Вот эти подвешенные в активной рабочей памяти комплекные образы (декларативные части процедур если угодно), описание текущей ситуации и явились основой для формирования сознания (потом появились обобщенные и абстракные образы и знаковая функция). Cознание как обобщенный перманентный ориентировочный рефлекс. Cознание как следствие того, что градиентное (скалярное) движение (рабочей точки системы управления поведением) сменилось многомерным (перестало скаляризироваться) - бактерия редко ищет компромисс между градиентом освещенности и градиентом сахара - а уже какой-нибудь сурикат в своем коллективе уже ПОСТОЯННО согласовывает свои соматические потребности с реакциями других на его реакции - в среде появились сравнимые с ним по сложности поведения постоянные неигнорируемые (дистантный контакт) объекты и среда перестала факторизовываться - как она факторизовывалась еще для какого-нибудь ежа (с его трудностью выработки ассоциативных комплексов).
===================================
Траян
Сообщений: 597

Добавлено: 09 июн 18 5:37
Изменено: 09 июн 18 5:47
Цитата

Автор: гость
...мне кажется, что вопрос о 'необходимости' сознания можно связать с вопросом о трудностях оптимизации при многокритериальности и переменности множества 'сейчас-действующих' критериев.


Согласен с таким видением.

>Cознание как обобщенный перманентный ориентировочный рефлекс.
==================
В этом утверждении есть значительная доля истины, но я исхожу из того, что сознание изначально возникло (поначалу в очень примитивных формах) для выполнения функций кризисного менеджмента.
===================================
Траян
Сообщений: 597

Добавлено: 09 июн 18 5:43
Изменено: 09 июн 18 5:44
Цитата

Автор: mimino_r
Имея скудные ресурсы для полноценной реализации своего проекта, я сформулировал решение в области ПИС - виртуальной интеллектуальной кофеварки, полностью подчиненное моим догматам.


Данную задачу (на раз решаемую простейшими нейронными сетями, даже тем же перцептроном) очень трудно использовать для иллюстрации роли и сущности такого высокоуровневого явления/феномена как сознание, имхо.
===================================
Траян
Сообщений: 597
Добавлено: 10 июн 18 1:33
Изменено: 10 июн 18 3:02
(проект ПИС)

Изложение своего видения устройства механизма машинного сознания (точнее говоря - как мы выяснили в дискуссии с Хмуром - машинного квази-сознания, поскольку энергетически-чувственную его составляющую, определяющую саму возможность возникновения феномена субъективно переживаемых ощущений мы пока оставим в сторонке) начну с напоминания некоторых ранее приведенных положений (в посте от 12 апреля):

"Похоже, возможны такие сравнительно простые формы управления, при которых феномен сознания (пусть поначалу и слабенького) появляется как бы сам собой, как побочный эффект. Есссно, сами эти формы управления управлением не появляются из ничего просто так, ради удовольствия поосознавать мир, посозерцать его, так сказать и во всей полноте прочувствовать момент своего существования "здесь и сейчас" (и попутно попытаться осмыслить свое место и предназначение): причины его возникновения сугубо рациональны и прагматичны и направлены на решение задачи адаптации к реально существующему миру - важнейшими свойствами которого являются 1)его неимоверная сложность; 2) внезапность и необратимость некоторых происходящих там событий, зачастую жизненно важных для агента; 3) безжалостность и бескомпромиссность реального мира (если так можно выразиться)."

"...строим общую схему СИИ, которая неизбежно будет включать в себя две системы: сравнительно низкоуровневую когнитивную систему управления поведением и надстройку над ней, т.е. метакогнитивную систему управления этим самым управлением.

Потом определяемся с тем аспектом функционирования этой надстройки, который необходимо оптимизировать для повышения эффективности всей деятельности агента, для обеспечения возможности его существования в том мире, свойства которого описаны выше."

"Пытаясь подобрать слова для описания выбранной мной функции я ранее использовал такие понятия как "самоконтроль" и "самопроверка", но сейчас понимаю, что куда правильнее/точнее называть это функцией "автокоррекции" (т.е. оперативной самоподстройки под текущую действительность)."
===================================
Траян
Сообщений: 597
Добавлено: 10 июн 18 2:05
Цитата

Автор: Траян
"Пытаясь подобрать слова для описания выбранной мной функции я ранее использовал такие понятия как "самоконтроль" и "самопроверка", но сейчас понимаю, что куда правильнее/точнее называть это функцией "автокоррекции" (т.е. оперативной самоподстройки под текущую действительность)."


А можно сказать и так, что сознание возникло в ответ на потребность как-то справиться с проблемой сложности, что сознание - это способ сосуществовать рядышком с непрерывно грохочущими комбинаторными взрывами.

Именно сосуществовать, не обуздать или укротить их, как-то справиться с ними - это в принципе невозможно, а именно сосуществовать.

Экзистенциальная причина перманентной детонации комбинаторики очевидна - это неимоверная сложность реального мира. Впрочем, можно сказать и иначе, комбинаторная стена всегда возникает как ответ на недостаток имеющихся в распоряжении агента вычислительных ресурсов, (в первую очередь временных). Был бы он властелином времени, была бы в его распоряжении бесконечность - он бы горя не знал.

Наиболее выпукло дефицит выч. ресурсов при решении сложных задач становится виден в критических для агента ситуациях, когда ему требуется в течении нескольких секунд, считанных мгновений, найти правильное решение в критической, чреватой фатальными последствиями ситуации. Агент может целый год трудиться соблюдать режим правильного питания и набирать необходимый запас энергетических ресурсов, затем приложить неимоверные усилия при поиске пары и завоевании ее симпатий. А затем вдруг - скажем, при неожиданном нападении хищника, принять ошибочное решение и бездарно закончив свой жизненный путь буквально за пару секунд пустить по ветру результаты всех своих предыдущих усилий и стараний (в том числе - стараний многих поколений его предков).

Это значит, что с точки зрения эволюции для живых агентов было весьма и весьма желательно получить в свое распоряжение механизм анти-кризисного менеджмента, позволяющий - пусть и с колоссальными энергетическими издержками - очень быстро справляться со сложностью выбора.
===================================
гость
188.170.73.*
Добавлено: 10 июн 18 2:19
нужно продумать чем отличается многоуровневая (иерархическая) система управления объектом управления и управление управлением (когда высоколежащие уровни иерархического управления замыкаются друг на друга?). В чем различие критериев качества управления и метауправления. Что хорошо для тела, то может быть плохо для сознания и наоборот. КАк связано появление метауправляющих связей в структуре управления с рефлексией и саморефлексией?

думается, что даже имея в виду 'квазисознание' не обязательно абстрагироваться от 'энерго-чувственно-субъективно_переживательности', пусть эти аспекты хотя бы грубо все-таки 'проектируются'. Типо, cкажем, когда сигнал датчика будет не просто сигналом, а неким прообразом 'ощущения' (как психической ткани-основы собственно сознания?)? - когда сигнал будет 'диффундировать' за границы контура управления для которого данный сигнал специфичен. Когда контура управления (процессы в них) станут 'cущественно' взаимозависимыми (связными). тО самое динамически связанная целостность.. Синтез сознания как двунаправленный процесс - дифференциация с реинтеграцией-конденсацией на уровне контуров регуляции-управления. Сразу аллюзия на теорию таламо-кортикального динамического ядра сознания (вообще комплекса подкорково-кортикальных петель).
===================================
Траян
Сообщений: 597

Добавлено: 10 июн 18 2:38
Изменено: 10 июн 18 2:59
Эти две проблемы - проблема скорости и проблема сложности - решаются по-разному. Но хотя решение этих двух проблем и лежит в разных плоскостях, они должны быть как-то совмещены в одной и той же конструкции.

Проблема скорости/быстродействия.
Если исключить из рассмотрения тривиальности (вроде увеличения быстродействия элементной базы) при решении проблемы скорости могут бы использованы лишь следующие два общих метода:
1. Распараллеливание. (Организовать везде где это возможно параллельную обработку) информации.
2. Аналогизация. (Перевод на аналоговую базу все расчеты/обработку инфы, заведомо потребные в кризисных ситуациях. Здесь, имхо, и кроется решение проблемы субъективных перживаний/квалиа, но мы пока эту тему развивать не будем, полностью сосредоточившись на квази-сознании).

Конечно же, в плане экономии энергии это очень невыгодные решения. Чреватые кучей излишних затрат и потерь. Но - жизнь агента дороже.

Проблема сложности.
Проблема сложности может быть решена путем наделения механизма анти-кризисного менеджмента способностью к вычленению в каждой проблемной ситуации того главного, что составляет саму суть этой проблемы. Т.е. к умению отсекать второстепенные, несущественные в текущей ситуации детали.
Данная способность может позволить этому механизму предельно рачительно и эффективно использовать имеющиеся в его распоряжении выч. ресурсы - сосредотачивая их на самом главном.
(Забегая вперед скажу, что данная способность может оказаться весьма полезной и в обыденной жизни, поскольку она может позволить находить - среди множества стоящих перед агентом задач - те задачи, которые при их решении могут дать наибольшую отдачу при одинаковой трате ресурсов, а затем сосредотачиваться именно на них).

Способность к нахождению главного невозможна без умения работать с предельно высокоуровневыми знаниями, что означает, что механизм сознания есть некая мета-когнитивная
система.

Вспомнив же про быстродействие, можно сказать, что работа со знаниями в этой системе должна производиться - насколько это возможно - параллельно, отдельными автономными модулями.

Что означает, что данная мета-когнитивная система конструктивно должна быть выполнена в виде некой распараллеленной продукционной машинки.

Вывод этот - в силу своей простоты и очевидности - конечно же не нов, представление архитектуры механизма сознания в виде когнитивной аналоговой продукционной машинки той или иной степени извращенности сложности, можно найти у многих нейрофизиологов и психологов.

===================================
гость
188.170.74.*
Добавлено: 10 июн 18 3:20
продукционная машинка (или машинка фреймов) + сеть распространения влияния + доска объявлений (глобальная структура данных - пассивных и ситуационных-активных).
===================================
Траян
Сообщений: 597
Добавлено: 10 июн 18 5:00
Цитата

Автор: гость
продукционная машинка (или машинка фреймов) + сеть распространения влияния + доска объявлений (глобальная структура данных - пассивных и ситуационных-активных).

Да, что-то в этом роде. Я уже приводил здесь пробный набросок первоначального эскиза

подозрительно напоминающую схемку Баарса (по Ревонсуо):
===================================
гость
188.170.81.*

Добавлено: 13 июн 18 4:33

это все чудненько, только этим картинкам уже давно пора перестать удовлетворять.. самое очевидное и первостепенное что колет глаза - отсутствие выденности фокуса внимания (где обработка т.ск. 'рвется вперед') и парафокала, куда помимо неактуального (смещение фокуса) попадает и то, что вызвало затруднение в обработке - откуда связи регуляции (обратные связи) на сенсорные гейты (регулируемые фильтры etc) (экстро- и интроцептивные).
===================================
Траян
Сообщений: 597
Добавлено: 13 июн 18 5:16
Цитата

Автор: гость
...это все чудненько, только этим картинкам уже давно пора перестать удовлетворять..


Все верно, чего уж там.
Подобных картинок в литературе - вагон и маленькая тележка, что не удивительно.
Еще в концепции Павлова (с его "светлым пятном сознания") было нечто подобное. У Крика была "теория прожектора", Пенфилд с его ретикулярными формациями, у Баарса (сознание как театр). У Домасио тоже можно найти параллели в работе с когнициями - это все по большому счету об одном и том же.

Т.е. на самом общем уровне все всЁ понимают приблизительно одинаково (что не удивительно), как там может быть устроено.

Но при попытке перехода уже к следующему этапу детализации, открывающему дорогу к непосредственно практической реализации пусть и простеньких, но вполне работоспособных машинных моделей - дело пока упирается в необходимость решения целого ряда проблем.

Я в своем подходе пока уперся в проблему формализации высокоуровневых знаний пригодных для описания и последующей само-оптимизациии процесса оперативного управления поведением агента. Уж очень все пока выглядит как-то надуманно, произвольно, хаотично, сложно и запутанно - и мне это совсем не нравится. На таком фундаменте ничего толкового не построить. Нужна какая-то прорывная идея, на основе которой можно было бы все упорядочить, упростить и систематизировать.
А для этого нужно не спеша все обдумать.
===================================
Стр.65 (66):
 
FuncДата: Суббота, 23.06.2018, 18:48 | Сообщение # 71
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.66 (66)
Траян
Сообщений: 597
Добавлено: 19 июн 18 5:31
Изменено: 19 июн 18 5:32
Цитата

Автор: Траян
Я в своем подходе пока уперся в проблему формализации высокоуровневых знаний пригодных для описания и последующей само-оптимизациии процесса оперативного управления поведением агента.

Стало понятно, что на данном этапе главная причина всех возникающих затруднений заключается в необходимости формализации такого трудно-формализуемого понятия как интуиция .

1. Надо как-то разобраться со способностью агента строить предположения о возможности решения тех или иных возникающих перед ним задач, причем, заранее, еще до того, как он непосредственно приступает к их решению. Он как то должен уметь строить оценки (вероятностные?) о возможности решения задач исходя из их условий/описаний.

2. Надо как-то разобраться со способностью агента самостоятельно ставить перед собой текущие задачи, определять их первоочередность и рентабельность.
===============================
гость
188.170.73.*
Добавлено: 19 июн 18 5:54

интуиция как скрытый от высокоуровневых мониторов-дескрипторов-анализаторов-операторов процесс, нераспознаваемый ими, отделенный от них, распределенный и 'несошедшийся' (а потому и не проникающий в глобальное рабочее пространство сознания).. все упирается в то, о чем вы сказали - каково представление 'нижних этажей' пирамидообразной гиперструктуры знания, как эффективно сопрячь символическое и субсимволическое, cимволические коды-структуры, четкие паттерны с дистрибуциями по инфраструктурным элементам. КАК в нейродинамике эмулировать динамику структурную, композициональную и комбинаторную.. Вспоминается тензорный формат смоленского в его интегрированной коннекционистко-символической архитектуре ICS. Жаль, что это направление пока не получило развития. А может это и к лучшему - нужны более эвристические гибридизации чем через тензоры, благо есть опыты..
================================
NO.
Сообщений: 10589
Добавлено: 19 июн 18 16:09
интуиция бессознательна, то есть там машобуч, логично?
================================
mimino_r
Сообщений: 86
Добавлено: 20 июн 18 1:22
А попроще можно - от простого к сложному?
Исходный материал - сперматозоид и яйцеклетка. Интеллект есть? Да!!! Оказывается, что уже в этой фазе "головастики" разделены на роли и часть из них не летит на крыльях любви а херачит чужие особи, освобождая путь своей "элите" (недавно открыли). Покопать - там война идёт. Какие, нахрен, тензоры??? Если путать причину со следствием можно договориться о вселенском заговоре глистов.
Дальше что? Деление. Хорошо. Поделилась клетка. Ну и так 10 в 9-ой - что получится? Неструктурированная биомасса. Онкология. Значит кто-то распределяет что куда? И где это хранится? В ДНК и что-то м.б. в самой клетке. Каков процесс? Клетка отпочковалась по алгоритму ДНК, далее ей отводится соответствующая функция и она "принимает" из ДНК кусок функционального кода и начинает работать по этой "программе". Вырос зародыш организма. Интеллекта нет - есть рефлексы и инстинкты. Сосательный, например. Откуда взялся? Правильно. В ДНК хранится не только функции клеток, но и базовые "программы" всего организма и его топология. Где располагаются? Очевидно где... Т.е. структура нейронов формируется так, что она, выполняя функции поддержки работы внутренних систем, формирует некую конструкцию, обладающую возможностью ... воспринимать, накапливать и использовать информацию о внешнем мире. Примерная структура мной описана и выглядит примерно так. Датчик/сенсор, совокупность сенсоров/датчиков - первичная обработка, вторичная обработка (двухуровневая нейронная сеть?) - система идентификации - объект,свойства - память, связи - сцена (суперпозиция объектов) - роль в сцене - шаблон поведения - цель - анализ - выбор - действие - анализ - update памяти действий ("рецептов").
Интуиция - состояние центра прогноза, когда у него нет детерминированного решения, но есть неопробованный на практике прогноз.
Обучение - формирование логической цепочки из объектов, их свойств и действий, определяющую переход суперпозиции объектов из состояния 1 в состояние 2 с положительным значением целевой функции. Был набор овощей. Дали рецепт. Исполнили его. Получился борщ.
Т.е. всё раскладывается на индексированные нашим языковым аппаратом сущности, связи которых и определяют нашу память. И есть импульсный "механизм" параллельной активации процессов в нейронах. В каком-то смысле - это биокомпьютер. ДНК, тело, окружающий мир, информация. И всё остальное - динамическое функционирование в социально/природной среде. По типу путешествия пылесоса-автомата в закоулках публичного дома... Вроде всё одно и то же, но есть нюансы...
================================
гость
188.170.80.*
Добавлено: 20 июн 18 2:06
NO>

обычно обучаемости (опыт как учитель) противопоставляют самоорганизацию и врожденность (предобученность). В общей теории обучения рассматривают и обучение без учителя, и обучение через эволюционно генетический процесс.

'там' бог знает как преобразованный филогенетический и онтогенетический опыт ('превращенные формы'), cамым причудливым образом разформатированный и перепутанный, находящийся в 'cамодвижении' в разных степенях конденсации (подобно тому как легкие облака движутся 'не cами' (но самоорганизуясь), а тяжелые порождают как бы собственные явления). Интуиция, конечно, это в некоторой мере организованный процесс (запрос-ответ), но имеющий связь с этими разформатированными слоями (творческая интуиция). В случае интеллектуальной интуиции ('этот самолет не полетит') задействуются слои специального опыта, обобщенного знания (т.е. как раз НЕ разформатированное) и эвристики эстетического чувства.

может быть всю мистику интуиции и можно будет погрузить в общую теорию обучения машин (обобщенных).
(а общем-то под обучение можно подводить все - обучение извлечению признаков, обучение важности признаков, обучение идентификации релевантного контекста, определению уровня грануляции информации, обучение логике, регуляции, целепостановке, планированию, настойчивости, морали, языку etc).

мне кажется что критика творческих способностей глубоких генерирующих сеток (в рамках общей критики глубокого обучения традиционалистами) связана с той интуицией, что творческий продукт должен выражать некую 'идею', иметь некий замысел, cодержательную модель замысла - что это должно предшествовать порождению (хотя и преобразовываться по ходу порождения). (Типо авторство без авторства.) Пока интуитивно не ясно, что глубокие слои помимо представления иерархии статистических закономерностей выражают и какие-то содержательные обобщенные модели частных аспектов реальности (подобно тому как мелодия выражает некий ситуационный комплекс чувств автора, может быть даже некий сюжет, а не статистику произведений данного типа в данной традиции (хотя и удовлетворяет ей в какой-то мере)).
================================
Траян
Сообщений: 597

Добавлено: 20 июн 18 5:34
Изменено: 20 июн 18 6:11
Цитата

Автор: mimino_r
Интуиция - состояние центра прогноза, когда у него нет детерминированного решения, но есть неопробованный на практике прогноз.

Цитата

Автор: гость
В случае интеллектуальной интуиции ('этот самолет не полетит') задействуются слои специального опыта, обобщенного знания


Мне тоже кажется, что интуиция как-то связана именно с прогнозированием.
Что рыть надо именно в этом направлении.
Прогнозирование на неявных, слабо формализованных условиях.

Интуитивное ощущение того, что данная задача может быть решена с помощью данного инструментария (логического или математического) - это ощущение возможности получения требуемого результата, т.е. в конечном счете, некоего прогноза будущего состояния мира (в котором у вас в руках оказывается искомое решение).

Говоря конкретнее, скажем для двух видов интеллектуальных задач - задач на дедуктивный/логический вывод и задач на поиск/перебор интуиция работает на прогнозирование исхода процессов вывода и поиска/перебора.

Ясно, что т.н. интеллектуальная интуиция каким-то образом может быть связана с т.н. "физической" интуицией. Поиск/перебор искомого сочетания в массиве данных внешне очень похож на поиск, скажем, пульта телевизора в комнате.

Интуиция говорит, ключ скорее всего в гостиной, но никак не на кухне. Интуиция говорит, что идея решения шахматного этюда можно найти в рамках партии Алехин-Касабланка, а не Карпов-Фишер.
===============================
гость
188.170.74.*

Добавлено: 21 июн 18 0:51
Т.> именно с прогнозированием

поскольку в будущее попадают все ментальные активности, то так или иначе с прогнозированием (опережающим отражением) все они связаны, для интуиции это не специфично. Интеллект на основе занинй-опыта решает задачи-проблемы (в т.ч. целепостановки и целедостижения), распознает образы и принимает решения (собственно задача прогноза как подзадача задачи ПР) - все это насквозь пронизано интуицией. В фундаментальном смысле интуиция это когда в регистр ответа что-то пишется, а траектория происхождения этой информации не прослеживается. В принципе даже если в ответ (напр. задачи распознавания ситуации) пишет скомпилированный модуль на основе четких деревьев решений, а система не имеет возможности декомпилировать его, то это тоже 'интуиция'.

в еи каждый переход от мысли к мысли содержит что-то интуитивное (обусловленное неопределенным контекстом и подтекстом, а не прямотолько предыдущей мыслью. Даже логическая форма связи мыслей не обходится в естественном процессе без интуиции (типо как в релевантной логике установить релевантный контект это полуформальная операция). Каждая явленная мысль содержит интуитивный момент подведения содержания внутреннего содержания мысли под данную форму выражения.

есть как бы микроинтуитивные эффекты и макроинтуитивные.

есть романтическое представление об интуиции как о канале связи носителя данного интеллекта с внешними источниками информации (в смысле мистического канала связи), что сомнительно рационализируется и через представление о сцепленных состояниях 'квантовой сети' мозгов-сознаний.

т.о. получается 2 основных смысла эффекта интуиции (когда все заключено в процессах на данном носителе интеллекта) - (а) скрытость от монитора ответа пути его получения (без монитора скрытость происхождения механизмов инстинкта не трактуют как интуицию) и (б) специфическая природа этой скрытости, которую можно связать с диффузностью, генерализованной фазой связи 'центров', неустойчивостью, нечеткостью (напр. cтруктурной), обобщенностью репрезентации (невыразимостью на языке самоописания-самомониторинга) (как в случае интеллектуальной интуиции на основе обобщенных структур экспертного знания) и перепутанностью структур опыта-знаний (когда архетипические слои, базовые метафорические когнитивные модели взаимодействуют со специальным знанием (динамические бленды), когда активность на структурах специального знания тонизируется и структурируется, cкажем, музыкой и т.п.).
================================
гость
188.170.74.*

Добавлено: 21 июн 18 0:57
м._r> от простого

ну, в геноме и эпигеноме оплодотворенного яйца нет никакой простоты - остается все тот же ГЛАВНЫЙ вопрос ии-проблемы - откуда алгоритмы и откуда генетическая программа (чтоб без сквозного креатора). Заход на интеллект со стороны 'нейронов', управления, нечеткости это давно уже не оригинально (куча материалов про нечеткие нейросхемы управления). Генетический поиск структурых функций, функций принадлежности, параметрических настроек это тоже уже азбучный подход чтобы его лишний раз на поверхностном уровне не прокламировать как америку. Даже взаимодействие процессов генетического развертывания, эпигенеза при развитии и 'постгенетического' обучения так или иначе моделируется вплоть до эффектов генетической ассимиляции фенотипической специфики (псевдоламаркизм и эпигенетический ламаркизм). Вопрос только в том что на деле пока никому не удалось синтезировать комплекс высокоуровневых когнитивных функций. Кавалеризм увязает в массе частных трудностей и проблем.

> Интуиция - состояние центра прогноза, когда у него нет детерминированного решения, но есть неопробованный на практике прогноз.

эффекты интуиции не приурочены только к 'центру' прогноза (нейронный оператор акцетора результата действия типо), они пронизывают насквозь всю информционную активность еи (как писалось траяну выше).
и вообще - неапробированный прогноз может быть получен в результате явного логического (типо механического) процесса, это не будет интуицией. Если по двум эпизодам наблюдения белых лебедей я сделаю индуктивное обобщение 'все лебеди белые' то это прогноз (явный или косвенный) будущих наблюдений, но никак не интуиция. Тут интуиция проявится в чувстве сомнения на реминисценциях аналогии с предыдущими случаями неоправдавшихся обобщений. Индуктивный разум будет говорить одно, а интуитивный сопроцессор будет писать в регистр вывода маркеры сомнительности. ИНдуктивный вывод может быть и 'недетерминированный' типо 'а не преположить ли нам что многие лебеди белые' что тоже может сопровождаться интуитивным сомнением (на нерефлексируемых основаниях), типо из подсознания идут импульсы соображения что наблюдается только локальная популяция лебедей, но они не формируют четкой мысли, а остаются только в виде интуиции-сомнения.

> всё раскладывается на индексированные нашим языковым аппаратом сущности, связи которых и определяют нашу память.

тут тоже хотелось бы призвать к аккуратности формулировок - что слова что-то индексируют это верно, но слова индексируют не все. Есть разного рода лакуны. Ледяная дорожка на тротуаре не имеет специальной номинации, требует более-менее вольной дескрипции, многие ментальные явления (типо эмоциональных переживаний, мызыкальных впечатлений, ощущений от скрытого концептуального процесса, мышечного чувства и т.п.) лишь весьма приблизительно индексируются языковыми средствами, они сами маркируют образы своими паралингвистическими средствами, естестенная ассоциативная память работает по индексам разных типов, многотегова.
================================
Стр.66 (66):
 
FuncДата: Воскресенье, 12.08.2018, 14:23 | Сообщение # 72
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.67 (69)    << < Пред. | След. > >>      

Luarvik.
Сообщений: 13187
Добавлено: 30 июл 18 3:40
Изменено: 30 июл 18 4:24

Цитата
Автор: Траян
Увы.

Увы.
Печально, но закономерно... когда пластилином пытаются забивать гвозди.


Траян
Сообщений: 620
Добавлено: 30 июл 18 4:46

Цитата
Автор: Luarvik.
Увы.
Печально, но закономерно... когда пластилином пытаются забивать гвозди.

Можно поподробнее? В данный момент я особенно восприимчив к развернутой и конструктивной критике.


Андрей
Сообщений: 3399
Добавлено: 30 июл 18 7:27

Цитата
Автор: Траян
Выход из положение видится в полном отказе от БМП и замене ее более адекватной (и более антропоцентрической) теорией работы с вероятностями.


В отпуске прочитал Вашу книгу. Спасибо. Если Вам интересно моё мнение, то вот оно.
1. В книге мало примеров. Уверен, если бы Вы иллюстрировали свои идеи конкретными примерами (как в случае со стрелкАми), то предмет изложения стал бы более ясным и читателю и автору.
2. Через всю книгу красной нитью проходит проблема "новой ситуации". И если бы Вы приводили конкретные примеры, то стало бы очевидным, что в Вашей формулировке эта проблема является парадоксом, не имеющим решения. В абсолютно новой ситуации всё, что можно сделать - это запомнить её. Например. К Вам обращается человек на китайском языке. Это действительно новая ситуация. И что Вы можете в ней сделать, основываясь на предыдущем опыте, например, на знании русского языка? Ничего. То, что в книге названо "индуктивным выводом" на практике является вспоминанием аналогичной ситуации, т.е. такой же, а не новой.
3. По какой-то неизвестной мне причине Вы рассматриваете узко-специализированные вероятностные методы как основу для построения механизмов познания. Но ведь жизненный опыт говорит нам о том, что человек не оперирует вероятностями. Как правило, человек в чём-то уверен абсолютно. Он может при этом на 100% ошибаться, но любая ситуация представляется в уме как чёткая связная система взаимоотношений. Например. "Ветер дует, потому что деревья шатаются". Здесь чёткая система буквально механических связей - деревья по своей внутренней воле шатаются и толкают воздух, так возникает ветер. Модель эта абсолютно ошибочна, но она работает в голове безо всяких вероятностей. Вероятности удобно использовать, когда явных связей между событиями не видно вообще, но, во-первых, это не так часто случается в тех задачах, с которыми постоянно сталкивается человек, а во-вторых, это может приводить к суевериям и совершенно ложным связям и отношениям.
4. В качестве одного из способов решения задачи индуктивного вывода Вы приводите слудующее: "путь решения проблемы индуктивного вывода может основываться на наделении системы построения моделей агента некой мета-онтологией, содержательно определяющей понятие "изменение", т.е. то, как и за счет чего происходят все изменения в мире и, в частности, то, какие глубинные механизмы являются ответственными за появление того или иного исхода испытания". Эта мысль в книге мне понравилась больше всех, и я уверен, что именно в этом направлении нужно проводить поиски, чтобы построить антропоморфный ИИ. Вы приводили цитату Сеченова в своей книге, у меня есть другая любимая
Цитата
"Все бесконечное разнообразие внешних проявлений мозговой деятельности сводится окончательно к одному лишь явлению - мышечному движению." Я намекаю на то, что онтология, построенная на местоположениях и изменении местоположений, в полной мере охватывает всё многообразие задач, решаемых человеком. Стр.67 (69)    << < Пред. | След. > >>      

Luarvik.
Сообщений: 13187
Добавлено: 30 июл 18 3:40
Изменено: 30 июл 18 4:24

Автор: Траян
Увы.

Увы.
Печально, но закономерно... когда пластилином пытаются забивать гвозди.

Траян
Сообщений: 620
Добавлено: 30 июл 18 4:46

Автор: Luarvik.
Увы.
Печально, но закономерно... когда пластилином пытаются забивать гвозди.

Можно поподробнее? В данный момент я особенно восприимчив к развернутой и конструктивной критике.

Андрей
Сообщений: 3399
Добавлено: 30 июл 18 7:27

Автор: Траян
Выход из положение видится в полном отказе от БМП и замене ее более адекватной (и более антропоцентрической) теорией работы с вероятностями.

В отпуске прочитал Вашу книгу. Спасибо. Если Вам интересно моё мнение, то вот оно.
1. В книге мало примеров. Уверен, если бы Вы иллюстрировали свои идеи конкретными примерами (как в случае со стрелкАми), то предмет изложения стал бы более ясным и читателю и автору.
2. Через всю книгу красной нитью проходит проблема "новой ситуации". И если бы Вы приводили конкретные примеры, то стало бы очевидным, что в Вашей формулировке эта проблема является парадоксом, не имеющим решения. В абсолютно новой ситуации всё, что можно сделать - это запомнить её. Например. К Вам обращается человек на китайском языке. Это действительно новая ситуация. И что Вы можете в ней сделать, основываясь на предыдущем опыте, например, на знании русского языка? Ничего. То, что в книге названо "индуктивным выводом" на практике является вспоминанием аналогичной ситуации, т.е. такой же, а не новой.
3. По какой-то неизвестной мне причине Вы рассматриваете узко-специализированные вероятностные методы как основу для построения механизмов познания. Но ведь жизненный опыт говорит нам о том, что человек не оперирует вероятностями. Как правило, человек в чём-то уверен абсолютно. Он может при этом на 100% ошибаться, но любая ситуация представляется в уме как чёткая связная система взаимоотношений. Например. "Ветер дует, потому что деревья шатаются". Здесь чёткая система буквально механических связей - деревья по своей внутренней воле шатаются и толкают воздух, так возникает ветер. Модель эта абсолютно ошибочна, но она работает в голове безо всяких вероятностей. Вероятности удобно использовать, когда явных связей между событиями не видно вообще, но, во-первых, это не так часто случается в тех задачах, с которыми постоянно сталкивается человек, а во-вторых, это может приводить к суевериям и совершенно ложным связям и отношениям.
4. В качестве одного из способов решения задачи индуктивного вывода Вы приводите слудующее: "путь решения проблемы индуктивного вывода может основываться на наделении системы построения моделей агента некой мета-онтологией, содержательно определяющей понятие "изменение", т.е. то, как и за счет чего происходят все изменения в мире и, в частности, то, какие глубинные механизмы являются ответственными за появление того или иного исхода испытания". Эта мысль в книге мне понравилась больше всех, и я уверен, что именно в этом направлении нужно проводить поиски, чтобы построить антропоморфный ИИ. Вы приводили цитату Сеченова в своей книге, у меня есть другая любимая "Все бесконечное разнообразие внешних проявлений мозговой деятельности сводится окончательно к одному лишь явлению - мышечному движению." Я намекаю на то, что онтология, построенная на местоположениях и изменении местоположений, в полной мере охватывает всё многообразие задач, решаемых человеком.
Желаю Вам творческих успехов.

Luarvik.
Сообщений: 13187
    Добавлено: 30 июл 18 8:37
Изменено: 31 июл 18 1:47

Автор: Траян
Можно поподробнее? В данный момент я особенно восприимчив к развернутой и конструктивной критике.
Лежачих не бьют, как известно... и, пожалуй, Вашим незавидным положением в корыстных целях я не воспользуюсь - и без меня желающих окажется предостаточно (Вот ! Первый из них уже проявился)
Сверхвосприимчивость так же губительна как и абсолютное равнодушие.
Признаком конструктивной кондиции с Вашей стороны послужат правильные вопросы.
(В общем же ситуация весьма банальна: кто не с того начал, тот не тем и закончит.)

Траян
Сообщений: 620
Добавлено: 31 июл 18 0:41

Автор: Андрей
В отпуске прочитал Вашу книгу. Спасибо. Если Вам интересно моё мнение, то вот оно.
Спасибо за толковую и содержательную рецензию. Есть над чем поразмыслить. Отвечать буду по мере обдумывания отдельных положений.

Траян
Сообщений: 620
Добавлено: 31 июл 18 2:33

Автор: Luarvik.
Признаком конструктивной кондиции с Вашей стороны послужат правильные вопросы.
Спасибо, не надо. Я, наверное, все же обойдусь без Ваших поучений. Надувать щеки и с многозначительным видом цедить разные туманные сентенции у меня и самого неплохо получается.

rrr3
Сообщений: 10551
Добавлено: 31 июл 18 2:59

Автор: Траян
При попытке создания таких метакогниций была обнаружена скрытая ошибка в самих основаниях БМП...
Вас давно и не однократно предупреждали. Но Вы и сейчас еще не услышали предупреждения...
Это нормально и типично. В этом нет ничего плохого...

Возможно вновь в пустоту, но повторюсь.

Ошибка не в "основах БМП", а в самом походе, в любой(!) "метагокгниции". Любой высокоуровневый алгоритм, высокоуровневый самый правильный прием, закономерность, онтология, вероятность, последовательность действий и т.п. и т.д. - наткнется в последующем на тупик.
Такие тупики обходятся лишь перманентным эволюционным процессом. Другими словами, лишь обеспечение перманентного эволюционного процесса может быть "метакогницией" (а точнее, заменой различных вариантов метакогниций).

Luarvik.
Сообщений: 13187
Добавлено: 31 июл 18 15:30

Автор: Траян
Можно поподробнее? В данный момент я особенно восприимчив к развернутой и конструктивной критике.
...
Спасибо, не надо. Я, наверное, все же обойдусь без Ваших поучений. Надувать щеки и с многозначительным видом цедить разные туманные сентенции у меня и самого неплохо получается.

Забавная у Вас позиция: здесь критикуйте, здесь не критикуйте, а здесь рыбу заворачивайте...
Конечно обойдетесь, поскольку:

Автор: Траян
Выход из положение видится в полном отказе от БМП и замене ее более адекватной (и более антропоцентрической) теорией работы с вероятностями.

- что в переводе означает: "Нам нужен экскаватор, но начнем мы с совочка и лопаточкой продолжим. Да, деревянный совочек не получился. Ну что ж, попробуем пластмассовый."

Траян
Сообщений: 620
Добавлено: 05 авг 18 9:17
Изменено: 05 авг 18 9:17

Автор: Андрей
2. Через всю книгу красной нитью проходит проблема "новой ситуации"...

Что не удивительно.
Имхо, понятие "новой ситуации" представляет собой одну из самых интересных и ценных идей всего предлагаемого Подхода.

Главным его достоинством является то, что благодаря ему оказывается возможным представить ключевые проблемы задачи создания СИИ (а именно, такие как обучение и управление/выбор) в предельно сжатом, ясном и четком - т.е. формализованном - виде.
Т.е. такая формализация позволяет перевести все отвлеченные иишные бла-бла-бла разговоры в более конкретную и практическую плоскость.

Главным достоинством формализации "новой ситуации" является то, что она позволяет исключить из рассмотрения все второстепенные и наносные детали и дает возможность сосредоточиться на самом главном. Вот на соседней ветке проблему индуктивного вывода рассматривают в плане продолжения последовательности чисел 1,2, 4 .... (я сам одно время использовал такую формализацию), но при такой постановке нам не избежать кучи темных и непонятных мест, начиная с того, как в восприятии СИИ возникает само понятие числа.

Кроме того, как всякая удачная формализация "новая ситуация" обладает немалой выразительной силой, что тоже немаловажно. Придание сложной и запутанной теоретической задаче простую, легкую для восприятия форму придает дополнительную толику энтузиазма и желания ее решить. Ясно, что скажем с теоремой Ферма или аксиомой о параллельных мучилось бы куда меньше любителей их доказать, имей они менее лаконичный, яркий и запоминающийся вид.

Правда, у таких выразительных и общедоступных и понятных формализаций сложных проблем есть и свои минусы - в частности, навязывание, задание формой постановки задачи того пространства, в котором происходит поиск решений - но тут уж ничего не поделаешь. Кровь, пот и слезы, многолетний труд, тысячи попыток преодоления подспудно навязываемых условиями задачи умственных рамок - это та цена, которую приходится платить за решение всякой по настоящему крупной научной проблемы.

Вообще говоря, понятие "новой ситуации" может быть использовано для рассмотрения проблемы индуктивного вывода (т.е. проблемы приобретения адекватных знаний) не только в контексте задачи создания СИИ, но и в философско-теоретическом плане.

И потому ее решение даст выход не только в виде решения задачи создания СИИ, но и приведет к немедленной автоматизации всего процесса научного познания мира.

Траян
Сообщений: 620

Добавлено: 05 авг 18 9:33

Автор: Андрей
В абсолютно новой ситуации всё, что можно сделать - это запомнить её. Например. К Вам обращается человек на китайском языке. Это действительно новая ситуация. И что Вы можете в ней сделать, основываясь на предыдущем опыте, например, на знании русского языка? Ничего.

Как же так? А обобщения, аналогии, ассоциации с ранее встречавшимися ситуациями? Пусть и отличными от текущей, но в них тоже происходила встреча с разными новыми объектами.
Обобщение опыта таких встреч может быть использовано и в данный момент.

Автор: Андрей
То, что в книге названо "индуктивным выводом" на практике является вспоминанием аналогичной ситуации, т.е. такой же, а не новой.

Аналогичная ситуация не есть ситуация точно такая же.

Вообще говоря, все ситуации - длинная череда которых и представляет собой всю человеческую жизнь, являются уникальными и по своему неповторимыми. Т.е. все ситуации с которыми встречается человек хоть в чем то (хоть в порядковом номере их появления) да отличаются друг от друга.

Сила ЕИ как раз и заключается в том, что он - в частности используя аналогии и обобщения -
оказывается способен приспосабливать инфу извлеченную при рассмотрении одних ситуаций к применению к совсем другим ситуациям.

Андрей
Сообщений: 3399
Добавлено: 05 авг 18 15:18

Автор: Траян
Сила ЕИ как раз и заключается в том, что он - в частности используя аналогии и обобщения - оказывается способен приспосабливать инфу извлеченную при рассмотрении одних ситуаций к применению к совсем другим ситуациям.
Всё-же странно, почему Вы не приводите примеров. Очень хотелось бы разобрать конкретный пример применения знаний из одной ситуации к "совсем другой" ситуации, как Вы говорите. Мне думается, что в такой постановке это чистейший парадокс, у которого нет разрешения. Очевидно, справедливо утверждать, что знания, извлечённые из одних ситуаций, могут быть применены к точно таким же ситуациям. Я приведу свой пример. Правда, Вы можете сказать, что я привёл плохой пример, но в условиях отсутствия Ваших примеров иного пути я не вижу. Например. Я ел арбуз и ко мне прилетели осы. Из этого события я могу извлечь знание: "осы летят на арбуз". Теперь я могу предсказывать, если я опять буду кушать арбуз, то ко мне могут прилететь осы. Но если я сделаю обобщение и извлеку также более абстрактное знание: "осы летят на фрукты" или ещё более общее "осы летят на сладкое" - то, по аналогии, я могу предсказать, что если я буду кушать манго или дыню, ко мне тоже могут прилететь осы. Арбуз, манго и дыню я могу отождествить по признаку "сладкое" или "фрукт", и на таком уровне абстракции эти "разные" ситуации оказываются тождественными, равными.

Таким образом, чтобы знание из одной ситуации можно было применить в другой, эти ситуации должны быть тождественны на каком-то уровне абстракции (уровне отвлечения от деталей, от каких-то второстепенных свойств ситуации). Зачем искать способ совместить несовместимое мне не очень понятно. Я предполагаю, что Вы не сможете привести конкретный пример ситуации, в которой применимо знание, полученное из "совсем другой ситуации". Прошу, пожалуйста, пример.

гость
188.170.75.*
Добавлено: 06 авг 18 1:33

А.>
траян же (опережу его) ясно говорит о переносе по аналогии, а не по сходству по конкретному признаку.
Cитуации могут быть 'cовсем разными' (в смысле разной тематической принадлежности), но обладать структурным сходством, на основе которого и можно делать перенос знаний из одной области в другую.
Есть более-менее разработанные теории аналогии, метафоры. Можно усмотреть структурное сходство между ситуацией разгона генератора с обратной связью и разрушением переднего колеса самолета из-за вихляния (или крыла из-за флаттера) (предметно разные ситуации) - и перенести опыт гашения положительной обратной связи из одной области в другую. Cобственно так и возникают метанауки - напр. та же кибернетика, усмотревшая структурное сходство в разных на первый взгляд ситуациях.

действительно тут есть нечто фундаментальное для интеллектуальной способности - не просто ассоциировать по сходству признака, а и по сходству отношений между признаками (или сходству изменения одного признака (автоотношения)). Типо в класс лиц объединять не просто паттерны с признаком глаза, а определенные конфигурации признаков (т.е. не просто вектора). В современном глубоком обучении ограничение векторного представления пытаются преодалеть рассматривая т.н. реляционные сети.

Траян
Сообщений: 620
Добавлено: 06 авг 18 1:42
Изменено: 06 авг 18 2:04

Автор: Андрей
Таким образом, чтобы знание из одной ситуации можно было применить в другой, эти ситуации должны быть тождественны на каком-то уровне абстракции (уровне отвлечения от деталей, от каких-то второстепенных свойств ситуации).
Возможно, наши расхождения объясняются разным пониманием терминологии. Для меня искусственно построенное описание некой ситуации полученное после обобщения/абстрагирования (т.е. после огрубления/упрощения ее полного описания) вовсе не тождественно исходному.

Точно так же, как модель объекта не тождественна самому объекту.

Приведу пример с использованием формализма "новой ситуации" (дабы полностью исключить все возможные неточности и расхождения связанные с использованием ЕЯ).

Пусть у нас имеется агент сенсорная система которого состоит из двух бинарных датчиков: а и b (каждый из которых может находиться в одном из двух состояний - условно будем обозначать их как "0" и "1" - можно было бы использовать и любые другие значки, например "*" и "#" - это не играет никакой роли).

(Можно сказать, что каждый из сенсоров агента способен зарегистрировать какой то один признак ситуации.)

Пусть агент попадает в новую, никогда ранее не встречавшуюся ему ситуацию в которой состояния его сенсоров следующие a=1, b=0.

Задача агента найти вероятность того, что в следующей, идущей на смену текущей ситуации ситуации было бы a=1.

Дело осложняется тем, что агенту ситуации полностью тождественные наличествующей никогда ранее не встречались, так что простой набор статистики здесь не прокатит.

Все, ранее встречавшиеся ему ситуации хоть чем то, но отличались от текущей. Были ситуации когда a=0,b=0; или a=1,b=1; или a=1,b=1; или a=0,b=0 .

И для всех типов ситуаций была ранее набрана вся необходимая статистика и найдены вероятности того, что после них будет a=1.

Т.е. если бы агенту встретилась одна из этих ситуаций он бы без проблем нашел для них вероятность нового появления a=1.

Проблема в том, что новая ситуация отличается от всех ранее встречавшихся.

И как тут быть?

Агент может попробовать огрубить исходное описание ситуации a=1,b=0 выбросив из него какую одну деталь. Т.е. построить модели текущей ситуации.

Траян
Сообщений: 620
Добавлено: 06 авг 18 2:03
Изменено: 06 авг 18 2:12

Автор: Траян
Агент может попробовать огрубить исходное описание ситуации a=1,b=0 выбросив из него какую одну деталь/признак ситуации. Т.е. построить модели текущей ситуации.

Из полного описания текущей ситуации он может построить, например, следующие две модели/обобщения/абстракции:
a=1, b=любой и a=любой, b=0
или в более короткой записи a=1,... и ...,b=0

Теперь он может точно таким же образом упростить и хранящиеся у него в памяти описания ранее встречавшихся ситуаций. И он получит два описания вида a=1,... и ...,b=0 - для которых уже имеются достоверные, полученные опытным путем вероятности появления a=1.

(Как можно видеть здесь имеет место тождество не между ситуациями, а между моделями ситуаций.)

И все казалось бы хорошо, но проблема в том, что одну и ту же ситуацию можно упростить несколькими разными способами, т.е. получить из нее сразу несколько разных моделей.

И каждая из этих моделей будет давать свою вероятность появления a=1. Например, может оказаться так, что для модели a=1,... вероятность появления a=1 будет равна 0.999999, а для модели ...,b=0 вероятность появления в следующей ситуации a=1 будет равна 0.00000001.
Ну и как тут быть?

Т.е. здесь немедленно возникает вопрос - а какую из них, собственно говоря, мы правомочны использовать? Какая из моделей ухватывает важные, сущностные особенности и потому обязательна для рассмотрения?

Траян
Сообщений: 620
Добавлено: 06 авг 18 2:54
Изменено: 06 авг 18 2:55

Автор: Траян
Т.е. здесь немедленно возникает вопрос - а какую из них, собственно говоря, мы правомочны использовать? Какая из моделей ухватывает важные, сущностные особенности и потому обязательна для рассмотрения?

Автор: Андрей
Прошу, пожалуйста, пример.

Автор: Андрей
Арбуз, манго и дыню я могу отождествить по признаку "сладкое" или "фрукт", и на таком уровне абстракции эти "разные" ситуации оказываются тождественными, равными.

А почему, собственно, Вы среди множества признаков арбуза выбрали именно вкус, а не цвет, форму или запах? Или его цену? И не сделали такой вывод: я ем красный арбуз - прилетают осы.

=> Я буду есть красную морковку и тоже прилетят осы.

 Стр.67
Желаю Вам творческих успехов.

Luarvik.
Сообщений: 13187
    Добавлено: 30 июл 18 8:37
Изменено: 31 июл 18 1:47

Автор: Траян
Можно поподробнее? В данный момент я особенно восприимчив к развернутой и конструктивной критике.
Лежачих не бьют, как известно... и, пожалуй, Вашим незавидным положением в корыстных целях я не воспользуюсь - и без меня желающих окажется предостаточно (Вот ! Первый из них уже проявился)
Сверхвосприимчивость так же губительна как и абсолютное равнодушие.
Признаком конструктивной кондиции с Вашей стороны послужат правильные вопросы.
(В общем же ситуация весьма банальна: кто не с того начал, тот не тем и закончит.)

Траян
Сообщений: 620
Добавлено: 31 июл 18 0:41

Автор: Андрей
В отпуске прочитал Вашу книгу. Спасибо. Если Вам интересно моё мнение, то вот оно.
Спасибо за толковую и содержательную рецензию. Есть над чем поразмыслить. Отвечать буду по мере обдумывания отдельных положений.

Траян
Сообщений: 620
Добавлено: 31 июл 18 2:33

Автор: Luarvik.
Признаком конструктивной кондиции с Вашей стороны послужат правильные вопросы.
Спасибо, не надо. Я, наверное, все же обойдусь без Ваших поучений. Надувать щеки и с многозначительным видом цедить разные туманные сентенции у меня и самого неплохо получается.

rrr3
Сообщений: 10551
Добавлено: 31 июл 18 2:59

Автор: Траян
При попытке создания таких метакогниций была обнаружена скрытая ошибка в самих основаниях БМП...
Вас давно и не однократно предупреждали. Но Вы и сейчас еще не услышали предупреждения...
Это нормально и типично. В этом нет ничего плохого...

Возможно вновь в пустоту, но повторюсь.

Ошибка не в "основах БМП", а в самом походе, в любой(!) "метагокгниции". Любой высокоуровневый алгоритм, высокоуровневый самый правильный прием, закономерность, онтология, вероятность, последовательность действий и т.п. и т.д. - наткнется в последующем на тупик.
Такие тупики обходятся лишь перманентным эволюционным процессом. Другими словами, лишь обеспечение перманентного эволюционного процесса может быть "метакогницией" (а точнее, заменой различных вариантов метакогниций).

Luarvik.
Сообщений: 13187
Добавлено: 31 июл 18 15:30

Автор: Траян
Можно поподробнее? В данный момент я особенно восприимчив к развернутой и конструктивной критике.
...
Спасибо, не надо. Я, наверное, все же обойдусь без Ваших поучений. Надувать щеки и с многозначительным видом цедить разные туманные сентенции у меня и самого неплохо получается.

Забавная у Вас позиция: здесь критикуйте, здесь не критикуйте, а здесь рыбу заворачивайте...
Конечно обойдетесь, поскольку:

Автор: Траян
Выход из положение видится в полном отказе от БМП и замене ее более адекватной (и более антропоцентрической) теорией работы с вероятностями.

- что в переводе означает: "Нам нужен экскаватор, но начнем мы с совочка и лопаточкой продолжим. Да, деревянный совочек не получился. Ну что ж, попробуем пластмассовый."

Траян
Сообщений: 620
Добавлено: 05 авг 18 9:17
Изменено: 05 авг 18 9:17

Автор: Андрей
2. Через всю книгу красной нитью проходит проблема "новой ситуации"...

Что не удивительно.
Имхо, понятие "новой ситуации" представляет собой одну из самых интересных и ценных идей всего предлагаемого Подхода.

Главным его достоинством является то, что благодаря ему оказывается возможным представить ключевые проблемы задачи создания СИИ (а именно, такие как обучение и управление/выбор) в предельно сжатом, ясном и четком - т.е. формализованном - виде.
Т.е. такая формализация позволяет перевести все отвлеченные иишные бла-бла-бла разговоры в более конкретную и практическую плоскость.

Главным достоинством формализации "новой ситуации" является то, что она позволяет исключить из рассмотрения все второстепенные и наносные детали и дает возможность сосредоточиться на самом главном. Вот на соседней ветке проблему индуктивного вывода рассматривают в плане продолжения последовательности чисел 1,2, 4 .... (я сам одно время использовал такую формализацию), но при такой постановке нам не избежать кучи темных и непонятных мест, начиная с того, как в восприятии СИИ возникает само понятие числа.

Кроме того, как всякая удачная формализация "новая ситуация" обладает немалой выразительной силой, что тоже немаловажно. Придание сложной и запутанной теоретической задаче простую, легкую для восприятия форму придает дополнительную толику энтузиазма и желания ее решить. Ясно, что скажем с теоремой Ферма или аксиомой о параллельных мучилось бы куда меньше любителей их доказать, имей они менее лаконичный, яркий и запоминающийся вид.

Правда, у таких выразительных и общедоступных и понятных формализаций сложных проблем есть и свои минусы - в частности, навязывание, задание формой постановки задачи того пространства, в котором происходит поиск решений - но тут уж ничего не поделаешь. Кровь, пот и слезы, многолетний труд, тысячи попыток преодоления подспудно навязываемых условиями задачи умственных рамок - это та цена, которую приходится платить за решение всякой по настоящему крупной научной проблемы.

Вообще говоря, понятие "новой ситуации" может быть использовано для рассмотрения проблемы индуктивного вывода (т.е. проблемы приобретения адекватных знаний) не только в контексте задачи создания СИИ, но и в философско-теоретическом плане.

И потому ее решение даст выход не только в виде решения задачи создания СИИ, но и приведет к немедленной автоматизации всего процесса научного познания мира.

Траян
Сообщений: 620

Добавлено: 05 авг 18 9:33

Автор: Андрей
В абсолютно новой ситуации всё, что можно сделать - это запомнить её. Например. К Вам обращается человек на китайском языке. Это действительно новая ситуация. И что Вы можете в ней сделать, основываясь на предыдущем опыте, например, на знании русского языка? Ничего.

Как же так? А обобщения, аналогии, ассоциации с ранее встречавшимися ситуациями? Пусть и отличными от текущей, но в них тоже происходила встреча с разными новыми объектами.
Обобщение опыта таких встреч может быть использовано и в данный момент.

Автор: Андрей
То, что в книге названо "индуктивным выводом" на практике является вспоминанием аналогичной ситуации, т.е. такой же, а не новой.

Аналогичная ситуация не есть ситуация точно такая же.

Вообще говоря, все ситуации - длинная череда которых и представляет собой всю человеческую жизнь, являются уникальными и по своему неповторимыми. Т.е. все ситуации с которыми встречается человек хоть в чем то (хоть в порядковом номере их появления) да отличаются друг от друга.

Сила ЕИ как раз и заключается в том, что он - в частности используя аналогии и обобщения -
оказывается способен приспосабливать инфу извлеченную при рассмотрении одних ситуаций к применению к совсем другим ситуациям.

Андрей
Сообщений: 3399
Добавлено: 05 авг 18 15:18

Автор: Траян
Сила ЕИ как раз и заключается в том, что он - в частности используя аналогии и обобщения - оказывается способен приспосабливать инфу извлеченную при рассмотрении одних ситуаций к применению к совсем другим ситуациям.
Всё-же странно, почему Вы не приводите примеров. Очень хотелось бы разобрать конкретный пример применения знаний из одной ситуации к "совсем другой" ситуации, как Вы говорите. Мне думается, что в такой постановке это чистейший парадокс, у которого нет разрешения. Очевидно, справедливо утверждать, что знания, извлечённые из одних ситуаций, могут быть применены к точно таким же ситуациям. Я приведу свой пример. Правда, Вы можете сказать, что я привёл плохой пример, но в условиях отсутствия Ваших примеров иного пути я не вижу. Например. Я ел арбуз и ко мне прилетели осы. Из этого события я могу извлечь знание: "осы летят на арбуз". Теперь я могу предсказывать, если я опять буду кушать арбуз, то ко мне могут прилететь осы. Но если я сделаю обобщение и извлеку также более абстрактное знание: "осы летят на фрукты" или ещё более общее "осы летят на сладкое" - то, по аналогии, я могу предсказать, что если я буду кушать манго или дыню, ко мне тоже могут прилететь осы. Арбуз, манго и дыню я могу отождествить по признаку "сладкое" или "фрукт", и на таком уровне абстракции эти "разные" ситуации оказываются тождественными, равными.

Таким образом, чтобы знание из одной ситуации можно было применить в другой, эти ситуации должны быть тождественны на каком-то уровне абстракции (уровне отвлечения от деталей, от каких-то второстепенных свойств ситуации). Зачем искать способ совместить несовместимое мне не очень понятно. Я предполагаю, что Вы не сможете привести конкретный пример ситуации, в которой применимо знание, полученное из "совсем другой ситуации". Прошу, пожалуйста, пример.

гость
188.170.75.*
Добавлено: 06 авг 18 1:33

А.>
траян же (опережу его) ясно говорит о переносе по аналогии, а не по сходству по конкретному признаку.
Cитуации могут быть 'cовсем разными' (в смысле разной тематической принадлежности), но обладать структурным сходством, на основе которого и можно делать перенос знаний из одной области в другую.
Есть более-менее разработанные теории аналогии, метафоры. Можно усмотреть структурное сходство между ситуацией разгона генератора с обратной связью и разрушением переднего колеса самолета из-за вихляния (или крыла из-за флаттера) (предметно разные ситуации) - и перенести опыт гашения положительной обратной связи из одной области в другую. Cобственно так и возникают метанауки - напр. та же кибернетика, усмотревшая структурное сходство в разных на первый взгляд ситуациях.

действительно тут есть нечто фундаментальное для интеллектуальной способности - не просто ассоциировать по сходству признака, а и по сходству отношений между признаками (или сходству изменения одного признака (автоотношения)). Типо в класс лиц объединять не просто паттерны с признаком глаза, а определенные конфигурации признаков (т.е. не просто вектора). В современном глубоком обучении ограничение векторного представления пытаются преодалеть рассматривая т.н. реляционные сети.

Траян
Сообщений: 620
Добавлено: 06 авг 18 1:42
Изменено: 06 авг 18 2:04

Автор: Андрей
Таким образом, чтобы знание из одной ситуации можно было применить в другой, эти ситуации должны быть тождественны на каком-то уровне абстракции (уровне отвлечения от деталей, от каких-то второстепенных свойств ситуации).
Возможно, наши расхождения объясняются разным пониманием терминологии. Для меня искусственно построенное описание некой ситуации полученное после обобщения/абстрагирования (т.е. после огрубления/упрощения ее полного описания) вовсе не тождественно исходному.

Точно так же, как модель объекта не тождественна самому объекту.

Приведу пример с использованием формализма "новой ситуации" (дабы полностью исключить все возможные неточности и расхождения связанные с использованием ЕЯ).

Пусть у нас имеется агент сенсорная система которого состоит из двух бинарных датчиков: а и b (каждый из которых может находиться в одном из двух состояний - условно будем обозначать их как "0" и "1" - можно было бы использовать и любые другие значки, например "*" и "#" - это не играет никакой роли).

(Можно сказать, что каждый из сенсоров агента способен зарегистрировать какой то один признак ситуации.)

Пусть агент попадает в новую, никогда ранее не встречавшуюся ему ситуацию в которой состояния его сенсоров следующие a=1, b=0.

Задача агента найти вероятность того, что в следующей, идущей на смену текущей ситуации ситуации было бы a=1.

Дело осложняется тем, что агенту ситуации полностью тождественные наличествующей никогда ранее не встречались, так что простой набор статистики здесь не прокатит.

Все, ранее встречавшиеся ему ситуации хоть чем то, но отличались от текущей. Были ситуации когда a=0,b=0; или a=1,b=1; или a=1,b=1; или a=0,b=0 .

И для всех типов ситуаций была ранее набрана вся необходимая статистика и найдены вероятности того, что после них будет a=1.

Т.е. если бы агенту встретилась одна из этих ситуаций он бы без проблем нашел для них вероятность нового появления a=1.

Проблема в том, что новая ситуация отличается от всех ранее встречавшихся.

И как тут быть?

Агент может попробовать огрубить исходное описание ситуации a=1,b=0 выбросив из него какую одну деталь. Т.е. построить модели текущей ситуации.

Траян
Сообщений: 620
Добавлено: 06 авг 18 2:03
Изменено: 06 авг 18 2:12

Автор: Траян
Агент может попробовать огрубить исходное описание ситуации a=1,b=0 выбросив из него какую одну деталь/признак ситуации. Т.е. построить модели текущей ситуации.

Из полного описания текущей ситуации он может построить, например, следующие две модели/обобщения/абстракции:
a=1, b=любой и a=любой, b=0
или в более короткой записи a=1,... и ...,b=0

Теперь он может точно таким же образом упростить и хранящиеся у него в памяти описания ранее встречавшихся ситуаций. И он получит два описания вида a=1,... и ...,b=0 - для которых уже имеются достоверные, полученные опытным путем вероятности появления a=1.

(Как можно видеть здесь имеет место тождество не между ситуациями, а между моделями ситуаций.)

И все казалось бы хорошо, но проблема в том, что одну и ту же ситуацию можно упростить несколькими разными способами, т.е. получить из нее сразу несколько разных моделей.

И каждая из этих моделей будет давать свою вероятность появления a=1. Например, может оказаться так, что для модели a=1,... вероятность появления a=1 будет равна 0.999999, а для модели ...,b=0 вероятность появления в следующей ситуации a=1 будет равна 0.00000001.
Ну и как тут быть?

Т.е. здесь немедленно возникает вопрос - а какую из них, собственно говоря, мы правомочны использовать? Какая из моделей ухватывает важные, сущностные особенности и потому обязательна для рассмотрения?

Траян
Сообщений: 620
Добавлено: 06 авг 18 2:54
Изменено: 06 авг 18 2:55

Автор: Траян
Т.е. здесь немедле
 
FuncДата: Воскресенье, 12.08.2018, 14:39 | Сообщение # 73
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.68 (69) гость
188.170.72.*
Добавлено: 06 авг 18 3:09
тут то обобщение, что если ты будешь что-то есть (тем более 'кушать' ), то обязательно кто-то прибежит..

Траян
Сообщений: 620
Добавлено: 06 авг 18 3:19
smile

Андрей
Сообщений: 3399
Добавлено: 06 авг 18 10:36
Цитата

Автор: гость 188.170.75.*
траян же (опережу его) ясно говорит о переносе по аналогии, а не по сходству по конкретному признаку.

Аналогия - это и есть сходство по конкретному признаку. Я бы даже усилил, не сходство - а тождество.

Цитата

Автор: гость 188.170.75.*
но обладать структурным сходством


Тождеством.

Цитата

Автор: гость 188.170.75.*
по сходству отношений между признаками


По тождеству.
"Сходство" - я вообще не понимаю, что это такое. Это размытый бытовой термин и я предлагаю его не использовать в конкретных обсуждениях.

Цитата

Автор: Траян
Проблема в том, что новая ситуация отличается от всех ранее встречавшихся.
И как тут быть?


А быть тут можно только одним способом - эту ситуацию нужно запомнить как она есть, как новое знание. Мне кажется, что Ваши попытки вывести, грубо говоря, "слона" из "ежа" - продиктованы желанием максимально сэкономить память агента и выжать из неё максимум эффективности. Но эта установка в общем случае вредная. Человек не экономит свою память, он старается запомнить буквально всё, потому что на каждом шагу может встретиться совершенно новое знание, никак не выводимое из всего предыдущего опыта.

Цитата

Автор: Траян
проблема в том, что одну и ту же ситуацию можно упростить несколькими разными способами, т.е. получить из нее сразу несколько разных моделей.
Ну и как тут быть?


Совершенно верно, некоторые из этих моделей будут пригодными, а некоторые абсолютно ложными. Именно поэтому человеку нужно потратить лет 20, чтобы более-менее сносно начать существовать самостоятельно и адекватно взаимодействовать с окружением. Всё это время человек путём проб и ошибок селекционирует пригодные модели (в том числе и модели работы с моделями).

Цитата

Автор: Траян
А почему, собственно, Вы среди множества признаков арбуза выбрали именно вкус, а не цвет, форму или запах? Или его цену?


Это очень правильный вопрос. Заведомо я никак не могу знать, какая модель окажется пригодной, если я её не испробую на практике. Именно поэтому я нахожусь в недоумении, зачем Вы вычисляете вероятности. Вероятность нужно не вычислять, а, грубо говоря, присваивать. Сначала я выбираю модель, например, "осы летят на цену", присваиваю ей вероятность 1, т.е. абсолютно в ней уверен, абсолютно ей доверяю. На основании этой модели строю своё поведение, например, покупаю золотое кольцо, кладу его на стол и жду, когда на него прилетят осы. Когда осы на него не прилетают, я признаю эту модель абсолютно ложной, присваиваю ей вероятность "0" и абсолютно отбрасываю. Скорее всего, человек использует модели над моделями, таким образом ускоряя селекцию хороших моделей по некоторым мета-признакам, в том числе, используя накопленный опыт поколений в виде текстов. Например, я могу использовать анимистическую модель и предположить, что осы выбирают арбуз на тех же основаниях, на которых выбираю его я, и таким образом сразу угадать подходящую модель.

Траян
Сообщений: 620
Добавлено: 07 авг 18 1:13
Изменено: 07 авг 18 1:44
Цитата

Автор: Андрей
По какой-то неизвестной мне причине Вы рассматриваете узко-специализированные вероятностные методы как основу для построения механизмов познания. Но ведь жизненный опыт говорит нам о том, что человек не оперирует вероятностями.


То, что при решении задачи создания СИИ мы воленс-неволенс должны разобраться с тем, как он будет оперировать с вероятностями следует как из обще-теоретических соображений, так и из результатов непосредственно экспериментальных наблюдений за ЕИ.

Так, исходя из общих соображений мы можем предположить, что СИИ должен будет уметь осуществлять осмысленную целенаправленную деятельность (СИИ без царя в голове, способный совершать лишь бессмысленные хаотичные действия - это не СИИ).
Это значит, что СИИ должен уметь предвидеть результаты совершаемых им действий. Разумный СИИ - это предусмотрительный СИИ.
Это в свою очередь значит, что:
a) СИИ должен уметь оценивать степень достоверности своих прогнозов;
б) автономный СИИ значительную часть своих прогностических знаний должен генерировать самостоятельно на основе благоприобретенного опыта.
Лучшей мерой для выполнения этих задач является вероятность. Вряд ли удастся придумать что-то лучше. Среди прочих достоинств вероятности можно выделить еще и ее объективность.
Существо, предназначенное для функционирования в реальном мире - "весомом, грубом, зримом" - где расплата за ошибки наступает немедленно и неотвратимо, должно уметь адекватно оценивать существующие в этом мире вероятностные закономерности.

Теперь насчет того, что человек, его аппарат мышления не работает с вероятностями.
С вероятностями работают все живые существа начиная с одноклеточных. Инфузория прекрасно умеет оценивать разницу между частыми ударами током и редкими. Частым появлением пищи и редким. Более высокоразвитые существа при работе с вероятностями используют все более совершенные методы и механизмы. Скажем, макаки-резус прекрасно умеют находить уже сумму/произведения вероятностей.
Вообще, результаты экспериментальных исследований о том, как и какие животные работают с вероятностями каждый месяц публикуются десятками.

Для нейрофизиологов тезис о умении мозга работать с вероятностями, находить и использовать вероятностные свойства окружающей среды - вообще общее место. Я же приводил длиннющую выдержку из самого обычного учебника по физиологии (стр. 24) там про все это достаточно определенно говорится.

Кстати говоря, то что человек подспудно/подсознательно работает с вероятностями легко понять и анализируя существующие ЕЯ (про это еще в 70-80 годы много писали во время бума "мягких" вычислений).
В качестве примера приведу цитату из Вашего поста. Вот Вы пишите, что "Но ведь жизненный опыт говорит нам о том, что человек не оперирует вероятностями. Как правило, человек в чём-то уверен абсолютно. Он может при этом на 100% ошибаться, но любая ситуация представляется в уме как чёткая связная система взаимоотношений."
Т.е. говоря о том, что человек не использует вероятности Вы тут же ее используете.
Понятия "как правило, редко, часто, реже, чаще, изредка всегда, никогда, почти всегда" и т.д. и т.п. - это все отсылки к вероятности.

PS В общем, это общее место, тут и спорить не о чем, имхо.
Более того, отношение того или иного исследователя к теме вероятности может служить показателем того, насколько глубоко он разбирается в проблематике СИИ.

гость
188.170.75.*
Добавлено: 08 авг 18 5:10

А.> Аналогия - это и есть сходство по конкретному признаку

это как понимать признак. Если признак простой, то сходство по этому признаку это просто сходство по этому признаку, а не аналогия. Красный шар схож по цвету с красным кубом. Аналогия это сходство по набору отношений между признаками. Глаз осьминога аналогичен глазу млекопитающего (но выводы по аналогии нужно делать осторожно).

> Тождеством.

cходство не тождество, cходство легче обнаруживается чем тождество, тождество применимо более к идеальным объектам. Утка и модель утки могут быть схожи по камим-то признакам, модель может быть функциональным аналогом в каком-то аспекте. Но реальная утка тождественна только самой себе. Для реальности отношение тождества слишком узкое. Тождество может быть номологическое (один электрон тождественен другому, теплота тождественна интенсивности движения частиц), но реальные отождествления (утренняя звезда это вечерняя звезда (венера)) это установление одного реального объекта. Область отношения сходства гораздо шире. Сходство это вовсе не 'бытовой термин', это вполне себе рабочий термин, когда мера сходства устанавливается сообразно той или иной ситуации.

> в общем случае вредная

вредным может быть умствование на почве недостаточных знаний - тогда возникают разные сверхупрощения и вздорные схоластизмы. Типо - и воробей и пингвин это тождественно птицы (по признаку оперения) - когда по аналогии можно сделать неверный вывод что пингвин тоже летает.

> Вероятность нужно не вычислять, а, грубо говоря, присваивать

ну, вероятностные оценки нужно пересчитывать после первоначального присвоения оценок гипотезам по мере получения новых данных. Траян говорил об индуктивной ситуации как бы еще не дотягивающей до возможности применить байесовскую или статистическую технику.

> осы выбирают арбуз на тех же основаниях, на которых выбираю его я

это правдоподобный вывод по аналогии (я-арбуз-вкус, пчела-арбуз-?), хотя ситуации не тождественны.

Андрей
Сообщений: 3399

Добавлено: 08 авг 18 7:04
Цитата

Автор: Траян
a) СИИ должен уметь оценивать степень достоверности своих прогнозов;
б) автономный СИИ значительную часть своих прогностических знаний должен генерировать самостоятельно на основе благоприобретенного опыта.


В этом нет никаких сомнений. И для достижения этих целей человеческий интеллект старается запомнить как можно больше этого самого опыта. Ретроспективный анализ которого позволяет в каждой конкретной ситуации подобрать подходящую модель и использовать её. Где, как и зачем здесь появляется вероятность, для меня осталось загадкой. Здесь скорее присутствует большая память, каталогизация, структурирование, абстрагирование, иерархирование для ускорения и упрощения доступа к памяти.

Цитата

Автор: Траян
должно уметь адекватно оценивать существующие в этом мире вероятностные закономерности


Мой жизненный опыт подсказывает, что в этом мире закономерности обусловлены взаимодействиями, а не вероятностями. И к расчёту вероятностей следует обращаться только в тех случаях, где явное взаимодействие обнаружить затруднительно. А это редкость. Например. Мячик из кустов выкатился на дорогу. Чтобы объяснить данное событие, я, конечно, могу начать высчитывать вероятностную зависимость от фазы луны, кривизны ландшафта и концентрации СО2. Но это ближе к астрологии. Самые обычные люди, которые и являются прототипами для СИИ, сразу скажут, что это писюрва за кустами играет в футбол. Люди могут полностью ошибаться, но им не нужны вероятности, им нужно понимание и запоминание взаимодействий. Если мячик катится, значит его кто-то пнул.

Цитата

Автор: Траян
Понятия "как правило, редко, часто, реже, чаще, изредка всегда, никогда, почти всегда" и т.д. и т.п. - это все отсылки к вероятности.


Сюда же можно добавить: "на мой взгляд", "как мне кажется", "похоже", "практически" и т.д. Вежливые люди, как правило, используют эти термины для того, чтобы, как мне кажется, не обидеть собеседника безапелляционностью своих утверждений и не спровоцировать в восприятии собеседника модели того, что его мнение не уважается. А также признать неполноту своих знаний и возможность их изменения. Переверзев-Орлов Вячеслав Сергеевич (Slava Aips) практически в каждом своём сообщении снабжал свои утверждения такими фразами. Этому, как мне кажется, стоит поучиться для бесконфликтного общения. Безусловно, бывают случаи, когда вероятностная коннотация текста продиктована тем, что в памяти хранятся разные (даже противоречивые) модели для текущей ситуации и ретроспективный анализ не даёт однозначного ответа, какую из них лучше выбрать. Часто используют мажоритарную модель - каких случаев в памяти больше, те и возьмём за основу. Но это не обязательно. Вот даже Вы, например, чтобы убедить меня в своей правоте апеллируете к "десяткам публикаций", "в 70-80 годы много писали". Так и возникают слова "часто", "обычно", "как правило", но это не значит, что где-то в уме вычисляется вероятность. Более того, вероятностные парадоксы намекают на то, что под "здравым смыслом" типичный человек понимает вовсе не формулу Байеса.

Цитата

Автор: Траян
отношение того или иного исследователя к теме вероятности может служить показателем того, насколько глубоко он разбирается в проблематике СИИ

Интересная модель, похоже, Вы в ней уверены с вероятностью 1.

Действительно, к теорверу я отношусь скептически, как к частному узкоспециализированному математическому методу, позволяющему в самых неудачных условиях выудить из плохих данных хоть что-то, пусть даже это будет суеверие. Но зачем в хороших данных и во всех случаях использовать вероятность - мне непонятно.
По аналогии, если сравнить теорвер с химией, и в условиях шведского стола химику необходимо определить, какие блюда на столе находятся - химик перемелет всё на фарш и потом химическим путём будет выяснять, что же там было...

Из Вашей модели следует, что в тематике ИИ я не разбираюсь совершенно. Пусть так и будет, я не претендую. Но я взял на себя труд прочитать весь этот топик, и увидел много интересных мыслей и поворотов. Мне показалось, что Вы не нуждаетесь в переубеждении и спорах. В этом топике СИИ должен быть построен либо на вычислении вероятностей, либо никак.

Мысли, которые особо понравились:
Цитата

Автор: Траян
я пришел к пониманию того, что при создании полноценного СИИ изначально закладываемая в агента онтология должна иметь возможно меньший объем


Цитата

Автор: Траян
Похоже, я с большим трудом переключаюсь на волну собеседника, и очень медленно приспосабливаюсь под его точку зрения.


Цитата

Автор: Траян
Все материалы выложены в открытый доступ. Никаких "знаю, но не скажу" не практикую.


Цитата

Автор: Траян
А я и не собираюсь ничего скрывать и секретить. Принцип "знаю, но не скажу" я считаю чуждым для себя и совершенно неприемлемым в науке.


Цитата

Автор: Траян
я очень трепетно отношусь к вопросам авторства


Цитата

Автор: Траян
я был неправ и серьезно заблуждался


Цитата

Автор: Траян
я тогда здорово ошибался, а они были правы


Я Вам желаю успехов, пусть подходов к СИИ будет много разных.

Цитата

Автор: гость 188.170.75.*
по аналогии можно сделать неверный вывод


Можно. Ведь не все выводы одинаково полезны. Никакая методология не гарантирует правильный вывод. Кроме полного перебора. Но это уже перебор.

Цитата

Автор: гость 188.170.75.*
правдоподобный вывод по аналогии (я-арбуз-вкус, пчела-арбуз-?), хотя ситуации не тождественны


Не совсем так. Я же сказал, используем анимистическую модель, т.е. сначала отождествляем себя и пчелу (в оригинале - осу) по абстрактному признаку "одушевлённости" (сознательности, живости) и тогда уже делаем вывод: одушевлённый-арбуз-вкус -> пчела-арбуз-вкус. И так, конечно же, ситуации оказываются тождественными.

Траян
Сообщений: 620
Добавлено: 08 авг 18 7:44
Цитата

Автор: Андрей
Я Вам желаю успехов, пусть подходов к СИИ будет много разных.


Пусть. И я Вам тоже желаю успехов.

Мы все, кто на свою беду решил когда-то заняться проблематикой СИИ - архисверхсложной и неблагодарной, отдача от занятий которой совершенно не сопоставима с прилагаемыми усилиями, все те, кого она околдовала и взяла в плен - являемся товарищами по несчастью.

Нам не гнобить, а помогать, жалеть и сочувствовать друг другу должно: типа, и Вас тоже уважаемый угораздило запасть на эту тематику? Вот несчастье-то.

По большому счету, нам молоко за вредность наших занятий должны бесплатно давать.
Сколько народу свихнулось на СИИ (сразу вспоминается Д.Поспелов), сколько загубило карьеру, сколько обрекло себя на нищету и безвестность.

Траян
Сообщений: 620
Добавлено: 08 авг 18 7:58
Цитата

Автор: Андрей
Мой жизненный опыт подсказывает, что в этом мире закономерности обусловлены взаимодействиями, а не вероятностями.


На соседней ветке mss замечательное высказывание А. Пушкина вспомнил:
"... Ум человеческий, по простонародному выражению, не пророк, а угадчик, он видит общий ход вещей и может выводить из оного глубокие предположения, часто оправданные временем, но невозможно ему предвидеть случая — мощного мгновенного орудия..."

Угадчик - значит ничего не может предсказать со 100% уверенностью. Лишь с той или иной степенью достоверности (вероятности в бытовом смысле этого слова).

гость
188.170.73.*
Добавлено: 08 авг 18 7:58

А.> Никакая методология не гарантирует правильный вывод.

ну, если строго, то помимо полного перебора 'гарантирующим' является и корректный дедуктивный вывод.
Потом, как вы сами упомянули, правильность гарантируется некатегоричностью в 'негарантированной' ситуации. Типо модальная теория истины.. Вывод, типа 'cудя по всему пингвин летает' (или 'возможно что пингвин летает') правилен даже если пингвин не летает. Т.е. притензию нужно обратить не на сам вывод, а на основания (недостаточные для фактической истинности) вывода.

> т.е. сначала отождествляем себя и пчелу по абстрактному признаку "одушевлённости"

ну, это уподобление (типо унификация в формальной процедуре) - именно обнаружение сходства по какому-то признаку, замена одного значения переменной на другое в структуре ситуации X-арбуз-Y (траян как раз говорил о выводе на основе обобщенной модели), а затем собственно вывод по аналогии. (Хотя в действительности пчелоса привлечена запахом и цветом.)

Андрей
Сообщений: 3399

Добавлено: 08 авг 18 13:32
Цитата

Автор: Траян
архисверхсложной и неблагодарной


"Всегда выбирайте самый трудный путь - на нем вы не встретите конкурентов".
© Шарль де Голль

Траян
Сообщений: 620
Добавлено: 10 авг 18 7:06
Цитата

Автор: Андрей

В этом нет никаких сомнений. И для достижения этих целей человеческий интеллект старается запомнить как можно больше этого самого опыта. Ретроспективный анализ которого позволяет в каждой конкретной ситуации подобрать подходящую модель и использовать её. Где, как и зачем здесь появляется вероятность, для меня осталось загадкой.

Похоже, здесь мы имеем ментальный феномен аналогичный тому, который Чалмерс описал по отношению к трудной проблеме философии (цитирую по памяти):

"Все, даже одинаково умные люди делятся на два типа: тех, кто схватывает содержание трудной проблемы философии сразу же - буквально по прочтению первых двух страниц. И тех, кто в принципе не может понять ее смысл, сколько бы он про нее не читал и не изучал материалов по теме сознания."

Я вот тоже удивляюсь тому, как может быть непонятно то, что для всех существ живущих в нашем бесконечно большом и сложном мире, обладающих весьма скромными интеллектуальными ресурсами (исчезающе малыми по сравнению со стоящими перед ними задачами) все получаемыми ими прогностические знания о мире могут носить исключительно лишь вероятностный характер?

Что в силу ограниченности наших знаний о реальном мире, мы в принципе не можем безошибочно и с абсолютной точностью предсказывать результаты своих наблюдений за появлением тех или иных интересных нам событий или их деталей.

Jenka
Сообщений: 838
Добавлено: 10 авг 18 7:22
Изменено: 10 авг 18 7:35
Цитата

Автор: Траян
Я вот тоже удивляюсь тому, как может быть непонятно то, что для всех существ живущих в нашем бесконечно большом и сложном мире, обладающих весьма скромными интеллектуальными ресурсами (исчезающе малыми по сравнению со стоящими перед ними задачами) все получаемыми ими прогностические знания о мире могут носить исключительно лишь вероятностный характер?

кроме собственно вероятностных предсказаний человек обладает некоторым запасом пластичности, устойчивостью к ошибкам предсказания, т.е. когда неправильное предсказание не приводит к фатальным последствиям для него. и таких ошибок идущих подряд может быть достаточно много.

p.s. вообще, я подумал, что возможно, механизм анализа ситуации не дает совершать поступки которые приведут к фатальным последствиям. т.е. когда мы что-то предсказываем с некоторой вероятностью, мы дополнительно оцениваем степень последствий за ошибки,
если последствия не фатальные мы можем совершить попытку даже при маленькой вероятности успеха. с другой стороны если последствия могут быть фатальные мы возможно не будем пробовать что-то делать даже при большой вероятности успеха(тут появляется как бы обратная вероятность)

Траян
Сообщений: 620
Добавлено: 10 авг 18 7:30
Цитата

Автор: Андрей
Это очень правильный вопрос. Заведомо я никак не могу знать, какая модель окажется пригодной, если я её не испробую на практике. Именно поэтому я нахожусь в недоумении, зачем Вы вычисляете вероятности. Вероятность нужно не вычислять, а, грубо говоря, присваивать. Сначала я выбираю модель, например, "осы летят на цену", присваиваю ей вероятность 1, т.е. абсолютно в ней уверен, абсолютно ей доверяю. На основании этой модели строю своё поведение, например, покупаю золотое кольцо, кладу его на стол и жду, когда на него прилетят осы. Когда осы на него не прилетают, я признаю эту модель абсолютно ложной, присваиваю ей вероятность "0" и абсолютно отбрасываю.


Это все хорошо, но проблема в том, что даже на одних и тех входных эмпирических фактах/данных можно построить очень большое (вообще говоря, потенциально бесконечное) количество моделей - абсолютно точно им соответствующих, но при этом дающих совершенно разные прогнозы.

(именно по этой причине стандартная задача на индуктивный вывод в виде поиска продолжения последовательности чисел, напр. 1,2,4,8 ... , в общем случае, т.е. без учета предшествующего контекста, не имеет решения.)

(Замечу в скобках. Подлянку комбинаторного взрыва многие создатели умозрительных "теорий СИИ" упускают из вида - и напрасно. Поскольку именно комбинаторика чаще всего встает стеной на пути реализации их смелых прожектов.)

У проблемы взрывообразного возрастания количества детерминированных моделей есть и другая сторона - какую из бесконечного множества этих моделей СИИ следует использовать в той или иной ситуации выбора?

Временно выкрутиться из положения может помочь идея критерия качества моделей. Но!
1. Этот критерий еще следует придумать.
2. Даже это не спасает. Все равно ничего не получится.

Цитата

Автор: АндрейСовершенно верно, некоторые из этих моделей будут пригодными, а некоторые абсолютно ложными. Именно поэтому человеку нужно потратить лет 20, чтобы более-менее сносно начать существовать самостоятельно и адекватно взаимодействовать с окружением. Всё это время человек путём проб и ошибок селекционирует пригодные модели (в том числе и модели работы с моделями).


Используя детерминированные модели в условиях реального - бесконечно сложного, разнообразного мира - даже через 20 миллиардов лет отбора/селекции детерминированных моделей вы все равно будете обречены на ошибки.

Поскольку, если Вы - следуя заветам Лапласа - попытаетесь полностью учесть все детали и обстоятельства, оказывающих воздействие на возможность возникновения прогнозируемого события, то очень быстро выясните, что для этого потребно иметь в своем распоряжении:
1. Бесконечно большие вычислительные ресурсы.
2. Бесконечно большое время обучения.

Траян
Сообщений: 620
Добавлено: 10 авг 18 7:46
Приведу пример, поясняющий сказанное выше.

Допустим, Вы работник в офисе, любящий придя с обеденного перерыва в 15-00 дня зайти потусоваться на готайку.

Ваш начальник, не приветствует данное занятие, но, по счастью, он обычно приходит с обеда с опозданием и поэтому у Вас есть шанс сделать так, чтоб и волки были сыты и овцы целы. И на готайку успеть заскочить, и потом браузер закрыть и сделать на лице максимально рабочее выражение. Но для этого желательно знать во сколько эта зараза сегодня заявится.

Допустим, вчера он пришел в 15-09. И Вы построили модель-знание "начальник приходит в 15-09". Но сегодня он пришел в 15-20. Вы стираете модель 15-09 и строите новую, про 15-20.

Но на следующий день он приходит в 15-30. И Вы снова стираете предыдущую модель и строите новую.

Конечно, Вы можете попробовать строить более полное описание для событий предшествующих приходу этого гада, но деталей, которые Вы можете включить в это описание очень много (погода, была зарплата, пятница, он одел спортивный костюм .... ...) и если начинать строить модели комбинируя эти признаки, то очень быстро упретесь в комбинаторную стену.

Траян
Сообщений: 620
Добавлено: 10 авг 18 8:12
Изменено: 10 авг 18 8:39
Цитата

Автор: Андрей
Например. Мячик из кустов выкатился на дорогу. Чтобы объяснить данное событие, я, конечно, могу начать высчитывать вероятностную зависимость от фазы луны, кривизны ландшафта и концентрации СО2. Но это ближе к астрологии. Самые обычные люди, которые и являются прототипами для СИИ, сразу скажут, что это писюрва за кустами играет в футбол. Люди могут полностью ошибаться, но им не нужны вероятности, им нужно понимание и запоминание взаимодействий. Если мячик катится, значит его кто-то пнул.


Скажите на милость, а зачем нам - при работе с вероятностями - высчитывать про фазу Луны и прочее?!

Предположим, на основе своего прежнего опыта у нас были построены знания "Катится мяч на дороге: с вероятностью 99% его пнули дети, 01% - другие причины"

Повстречавшись с мячом в очередной раз я строю предположение - с p=99 его выпнули дети.
И все довольны.

Но вот если вдруг выяснится, что в данном конкретном случае дети оказались непричем, что мяч оказался на дороге потому что:
а) принесло порывом ветра;
а) его выронил из проезжающего авто болельщик ЧМ 2018;
б) мяч упал с вертолета;
в) мяч случайно оказался на дороге в результате эксперимента по телепортации материальных тел, проведенного жителем Сириуса в прошлый четверг,

Но для знания p=99% это пофиг. Эти новые данные не отменяют его.

А вот при применении строго детерминированных знаний это катастрофа. Поскольку даже один-единственный случай не срабатывания детерминированного знания полностью его обнуляет.
Делает никчемным.

Выход из положения для детерминистов - в учете непрерывно увеличивающейся массы привходящих деталей и обстоятельств. Тут и фазу Луны следует брать в расчет и то, что сегодня безветренная погода, ЧМ уже закончился, вертолеты не летают, а на Сириусе уже пятница.

Стр.68
 
FuncДата: Пятница, 17.08.2018, 19:25 | Сообщение # 74
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.69(1)
Jenka
Сообщений: 838
Добавлено: 10 авг 18 8:12
Цитата

Автор: Траян
Конечно, Вы можете попробовать строить более полное описание для событий предшествующих приходу этого гада, но деталей, которые Вы можете включить в это описание очень много (погода, была зарплата, пятница, он одел спортивный костюм .... ...) и если начинать строить модели комбинируя эти признаки, то очень быстро упретесь в комбинаторную стену.


а зачем вообще продолжать комбинировать признаки? допустим мы проанализировали время прихода, погоду и день недели и получили приемлемую вероятность. допустим в какой-то момент ошиблись. но продолжать анализировать дополнительные признаки у нас просто не хватит ресурсов мозга.
Поэтому самый простой вариант в данном случае не искать максимальную вероятность а использовать обратную. Т.е. если есть возможность что начальник придет то лучше на готайку не заходить.
помоему все живые существа так и пользуются своим ЕИ в условиях ограниченности его ресурсов.
----------------------------------------------------------
Траян
Сообщений: 629
Добавлено: 10 авг 18 8:27
Цитата

Автор: Jenka
Поэтому самый простой вариант в данном случае не искать максимальную вероятность а использовать обратную. Т.е. если есть возможность что начальник придет то лучше на готайку не заходить
помоему все живые существа так и пользуются своим ЕИ в условиях ограниченности его ресурсов.


Имхо, живые существа при выборе действий высчитывают разницу мат. ожидания получения положительного подкрепления (получения удовольствия) и мат. ожидания получения отрицательной эмоции (получения наказания).

Именно поэтому они способны идти на риск.

Любопытно, что так, как Вы описали, поступают в машинных экспериментах искусственные интеллектуальные агенты аппаратно лишенные способности получать удовольствие от жизни, только наказания.
А в реальной жизни - зашуганные, забитые индивидуумы, очень мало видевшие в жизни хорошего.
----------------------------------------------------------
гость во лбу гвоздь
Сообщений: 549
Добавлено: 10 авг 18 8:57
Цитата

Автор: Траян
Скажите на милость, а зачем нам - при работе с вероятностями - высчитывать про фазу Луны и прочее?!

Зачем нам вообще так поклоняться вероятностям, от них до СИИ так же далеко, как от нас до луны. Такое чувство, что вы радуетесь миллиграмму кокса на кончике ножа не замечая что всю дорожку спиздили
----------------------------------------------------------
Андрей
Сообщений: 3410
Добавлено: 12 авг 18 18:07
Цитата

Автор: Траян
в силу ограниченности наших знаний о реальном мире, мы в принципе не можем безошибочно и с абсолютной точностью предсказывать результаты своих наблюдений за появлением тех или иных интересных нам событий или их деталей.


Цитата

Автор: Траян
Используя детерминированные модели в условиях реального - бесконечно сложного, разнообразного мира - даже через 20 миллиардов лет отбора/селекции детерминированных моделей вы все равно будете обречены на ошибки.


Ровно об этом я и писал выше, что человек может абсолютно ошибаться. Может и должен ошибаться. Это нормально. Абсолютная точность в реальности не требуется и не достигается. Но в каждой конкретной ситуации наступает момент, когда колебаться с выбором варианта поведения нельзя, сомнения нужно отбросить, принимать конкретное решение и действовать. Мышечное действие происходит только в условиях абсолютной уверенности в том, что ты действуешь правильно, т.е. вероятность выбранной модели = 1. Ведь даже слово "вероятность" происходит от слова "верить". Если мы не поверим в некоторую модель как в абсолютную истину, то никакое движение мускулами окажется невозможным. Мускул не может двигаться с вероятностью 0,5. Он двигается с вероятностью 1 и детерминирует тем самым действительность.

Цитата

Автор: Траян
вчера он пришел в 15-09
сегодня он пришел в 15-20
на следующий день он приходит в 15-30


Да, и если я буду изучать поведение начальника, то я запомню всю эту информацию как она есть. Вы же не будете, я надеюсь, отрицать, что человек способен в аннотационном стиле, обобщённо, через последовательности абстракций запоминать буквальную хронологию всех происходящих событий. Мы помним прошлый день, мы помним наш трудовой путь, нашу биографию, даже просто фильм, который мы посмотрели, запоминается как есть. Для этого нужна большая память. И она у нас, судя по всему, есть. И при наличии этой памяти, все те задачи, которые, как кажется, требуют статистической обработки, решаются ретроспективным анализом этого большого массива данных. Возможно, некий простейший статистический анализ производится, всё же мы оперируем такими понятиями как "чаще", "реже", "скорее всего" и .т.д. Но как только мы взяли из памяти что-то за основу нашей модели поведения, в дальнейшем мы должны быть уверены в выбранной модели абсолютно.

Цитата

Автор: Траян
какую из бесконечного множества этих моделей СИИ следует использовать в той или иной ситуации выбора?

Ту, что более других похожа на данную. Т.е. тождественна по наиболее существенным признакам.

Цитата

Автор: Траян
при применении строго детерминированных знаний это катастрофа. Поскольку даже один-единственный случай не срабатывания детерминированного знания полностью его обнуляет

Почему же полностью? Случай не срабатывания какой-то модели, опять же, запоминается как есть - ведь это тоже наш бесценный опыт, который впоследствии можно и должно подвергнуть ретроспективному анализу. Например, я забивал гвоздь и ударил себя по пальцу. Разве из-за этой неудачи я полностью отказываюсь от молотка при забивании гвоздей? Нет, я просто запомню этот случай как он есть, ретроспективно проанализирую случившееся и попытаюсь в следующий раз занять более удобную позу, не считать ворон и не совать палец под молоток т.е. выбрать более удачную и при этом абсолютно детерминированную модель. Более того, даже размышления о чём-то, является нашим опытом и запоминается как и есть и впоследствии мы можем вспомнить где, когда и о чём мы думали и думать впредь более эффективно.
----------------------------------------------------------
гость
188.170.72.*
Добавлено: 13 авг 18 6:35

А.>

поразительно как А. привязан к схоластизмам.. плохо, что это искажает представления о когнитивных механизмах.

> при наличии этой памяти, все те задачи, которые, как кажется, требуют статистической обработки, решаются ретроспективным анализом этого большого массива данных.

феноменальная иконическая память имеет последствием когнитивные трудности, гипермнезия даром не проходит и вполне естественно, что 'нормальная память' это память обобщающая и схематизирующая. Ретроспективный анализ иконических образов это совершенно неэффективный способ действия - гораздо эффективнее оперативные сравнения обобщенных оценок частот - 'такой сильный ветер это редкость' (не потому что просканирована память с оценкой всех вариантов ветра, а потому что ассоциативная память не выдает соотв. прецедента или заведомо понятно, что даже при его обнаружении данный ветер заметно сильнее обычной (высокочастотной) нормы - и нет необходимости считать относительную частотность аналогичных событий. После набора первичной статистики, первичного опыта формируются опорные оценочные нормы - такие-то примерные средние, такие-то обычные отклонения - и новый опыт оценивается уже относительно этих норм, которые корректируются (так или иначе) по мере ассимиляции опыта.

> если я буду изучать поведение начальника, то я запомню всю эту информацию как она есть.

тут самое важное это 'если буду' - мнемоник тоже все-таки не запоминает все подряд - а то, что более-менее привлекает его внимание (есть задача) - а при нормальном режиме функционирования памяти, даже если специально интересоваться режимом начальника (без опоры на записи), то реализуются механизмы систематизации неопределенности - возникнут интервальные оценки, возникнут представления об обычном времени прихода и обычной вариации, - именно эти оценки будут вовлекаться в когнитивную обработку в оперативных ситуациях - никак не каждый раз новая ретроспективная обработка памяти (и какой баран будет запоминать все эпизоды прихода этого козла-начальника?).

есть как бы естественные когнитивные механизмы работы с неопределенностью (тут рулит прототипирование, грубая оценка возможностей, частотные оценки, нормы ожидания (типо и вводящие в заблуждения 'якоря')) и есть более-менее строгие - статистика, теорвер, которые основаны на идеализациях (совершенная память, поддерживающая статистическую базу это тоже идеализация).

в вопросе о 'подлинном интеллекте' важно понять как формальное возникает из неформального, а не скроить интеллект на основе схоластических формализмов. Желательно, чтобы субъективные оценки вероятности апроксимировали объективную вероятность - но похоже, что разум адаптирован именно к ситуации неустойчивых и переменных статистик, к странным статистикам (из-за 'фрактальности'), размытостям - что нужно смотреть именно этот процесс формирования формального (напр. формальной теории неопределенности) из неформального (содержательного опыта и его когнитивной систематизации-самоорганизации, когда играет и частотность, и недавность, и важность).

> ретроспективно проанализирую случившееся

а именно вспомните ОДИН (или пару недавних) эпизод негативного опыта и постараетесь внести коррективы в новый эпизод (на уровне грубых обстоятельств) - ваше подсознательное даже может быть попробует откорректировать моторику на мозжечковом уровне и уровне хвостатого ядра ('встать поудобнее и ударить менее сильно') - но никак не ретроспективный анализ всей статистики ударов - просто нет такой статбазы, есть накопленный и превращенный опыт (ассоциативные поля мозжечкового контроллера, отпирающие конфигурации активности на базальных ганглиях при запуске действия на реализацию), который модифицируется инкрементно.

> Если мы не поверим в некоторую модель как в абсолютную истину, то никакое движение мускулами окажется невозможным. Мускул не может двигаться с вероятностью 0,5.

это жесть какое бестолковое схоластическое умствование.. полная уверенность (а реально всегда уверенность не полная) что я таки почешу себе спинку вполне соотносится с тем обстоятельством, что априори можно оценить что данное мышечное волокно будет задействовано в движении только с некоторой вероятностью - есть ансамбль совершенных (возможных) движений и данная цель может быть реализована с известной свободой реализации. Как тут не вспомнить и про когановские нейронные ансамбли и про эквифинальность (конфинальные состояния достигаются разными путями). Cхоластический детерминизм это совсем пустое.
----------------------------------------------------------
Траян
Сообщений: 629
Добавлено: 13 авг 18 8:47
Цитата

Автор: Андрей
Ровно об этом я и писал выше, что человек может абсолютно ошибаться. Может и должен ошибаться. Это нормально. Абсолютная точность в реальности не требуется и не достигается.


Верно. И ЕИ ошибается и СИИ - буде он когда-либо создан - тоже будет совершать ошибки. Это неизбежно. Но!
Все дело в том насколько часто они ошибаются. И что это за ошибки.
Слишком часто ошибающиеся существа не могли бы выживать в реальном мире, а устройства никому не нужны.

А чтоб сравнительно редко совершать ошибки нужно уметь обнаруживать царящие в окружающем мире закономерности, извлекать знания из накапливаемого опыта предельно эффективным образом. Ваш же подход обучения по прецедентам не просто является недостаточно эффективным а, пожалуй, одним из самых худших по этому показателю. Он просто-напросто обрекает своего пользователя на бесконечное совершение самых тупых и бессмысленных ошибок.

Цитата

Автор: Андрей
Но в каждой конкретной ситуации наступает момент, когда колебаться с выбором варианта поведения нельзя, сомнения нужно отбросить, принимать конкретное решение и действовать.


Верно. Используя вероятностные прогнозы мы можем отобрать один - наилучший вариант действий и выбрав его отдавать команды - четкие и однозначные - эффекторам. Какие проблемы? Посмотрите на работу агента СПИ, как решительно он действует.

Цитата

Автор: Андрей
Почему же полностью? Случай не срабатывания какой-то модели, опять же, запоминается как есть - ведь это тоже наш бесценный опыт, который впоследствии можно и должно подвергнуть ретроспективному анализу.


Скажу одно.
Смею предположить, что Вы никогда на практике не пробовали создавать разработки основанные на Вашем подходе? Вот когда начнется этап попыток его практической реализации - попомните мои слова про комбинаторный взрыв.

Дальнейшая дискуссия на тему "детерминированные знания vs стохастические" мне представляется бессмысленной. Все, что хотели мы друг другу уже сказали, а многократно повторять одни и те же аргументы неинтересно и неконструктивно. Предлагаю зафиксировать наше расхождение в данном вопросе и идти дальше.
Тем паче, что в некоторых Ваших рассуждениях есть и рациональное зерно.
----------------------------------------------------------
Траян
Сообщений: 629
Добавлено: 13 авг 18 9:21
Цитата

Автор: гость
А.>
поразительно как А. привязан к схоластизмам.. плохо, что это искажает представления о когнитивных механизмах.

Я уже как-то писал о том, что почти в любой из многочисленных "теорий СИИ" - если хорошенько покопаться - можно найти рациональное зерно. Авторам этих теорий каким-то образом, интуитивным чутьем, что ли, все-таки удается увидеть какой-то, зачастую очень далекий отблеск истины - свет которого пленил автора и заставил его думать в данном направлении.

Так и в подходе Андрея, казалось бы совершенно иррациональная приверженность к вульгарному детерминизму при более глубоком рассмотрении оказывается вполне оправданной (более подробно на эту тему напишу позже). Хотя все это организованно несравненно более сложно, чем это он себе представляет.

Имхо, конечно. Это сугубо мое субъективное мнение.
----------------------------------------------------------

Стр.69(1)
 
FuncДата: Пятница, 17.08.2018, 19:26 | Сообщение # 75
Группа: Администраторы
Сообщений: 158
Статус: Offline
Стр.69(2)

Андрей
Сообщений: 3410
Добавлено: 13 авг 18 10:48
Цитата

Автор: гость 188.170.72.*
'нормальная память' это память обобщающая и схематизирующая.

О другой памяти речь и не шла. Ведь никто, я надеюсь, не подозревает, что мозг запоминает данные с отдельных рецепторов, чтобы потом анализировать это спустя годы. Всё, что мы запоминаем - данные предельно обобщённые и схематизированные, но, тем не менее, вполне детерминированные.

Цитата

Автор: гость 188.170.72.*
После набора первичной статистики, первичного опыта формируются опорные оценочные нормы - такие-то примерные средние, такие-то обычные отклонения - и новый опыт оценивается уже относительно этих норм, которые корректируются (так или иначе) по мере ассимиляции опыта.

Да, с этим можно согласиться. Норма, в ряде случаев, формируется примерно так. Но это не отменяет запоминание фактологического опыта как он есть.

Цитата

Автор: Траян
Посмотрите на работу агента СПИ, как решительно он действует.

Да, действует, что даёт мне основания подозревать, что в коде запрограммирован переход от вероятностной оценки моделей поведения, к выбору некоторой модели поведения как абсолютной.

Цитата

Автор: Траян
Смею предположить, что Вы никогда на практике не пробовали создавать разработки основанные на Вашем подходе?

Принципиальная годность дискретных детерминированных моделей была продемонстрирована в топике про рефлексы. Конечно, там был взят вырожденный случай, который мне самому не очень нравится, но тем не менее всё задуманное заработало. В планах сделать нечто более практичное с захватом изображения с веб-камеры, абстрагированием, выявлением нормы, и другими плюшками.

Цитата

Автор: Траян
Предлагаю зафиксировать наше расхождение в данном вопросе и идти дальше.

Поддерживаю. Тем более, я был уверен, что мы это сделали уже дней 5 назад.
----------------------------------------------------------
kondrat
Сообщений: 3083
Добавлено: 13 авг 18 14:29
Изменено: 13 авг 18 14:30
Цитата

Автор: Траян
Верно. И ЕИ ошибается и СИИ - буде он когда-либо создан - тоже будет совершать ошибки. Это неизбежно. Но!
Все дело в том насколько часто они ошибаются. И что это за ошибки.
Слишком часто ошибающиеся существа не могли бы выживать в реальном мире, а устройства никому не нужны.
А чтоб сравнительно редко совершать ошибки нужно уметь обнаруживать царящие в окружающем мире закономерности, извлекать знания из накапливаемого опыта предельно эффективным образом. Ваш же подход обучения по прецедентам не просто является недостаточно эффективным а, пожалуй, одним из самых худших по этому показателю. Он просто-напросто обрекает своего пользователя на бесконечное совершение самых тупых и бессмысленных ошибок.


О! Да Вы начали движение к моему пониманию жизнедеятельности.
Согласитесь, что какие бы критерии безошибочности мы не задали. неживая материя не будет менять частоту "ошибок" со временем. И даже , если мы начнём пытаться уменьшить количество ошибок, это будет просто изменением условий безошибочности.
А вот жизнь поддаётся дрессировке и может даже самостоятельно не только приблизиться, но и выйти за наши критерии.
Впрочем, я не думаю, что и Андрей имел в виду всего лишь русскую рулетку.
----------------------------------------------------------
гость
188.170.75.*

Добавлено: 14 авг 18 1:52

А.> вполне детерминированные.

концептуально понятно отчего андрею так важно утвердить (беспомощно) идею детерминизма - ясно, что испуганному сознанию никак не обойтись без 'главного детерминатора'. Плохая новость для такого умонастроения в том, что из естественно-научного фундаментального миропонимания неопределенность и соотв. вероятностность (случайность) никак не исключить.

в приложении к 'умственной механике' также нет резонов уперто проводить 'детерминизм'. Умственные модели отражают вариативность среды (то ли встречу тигра на этом лугу как бывало, то ли не встречу) в виде вероятностно-возможностных моделей, реализованных не как ретроспективный оперативный перерасчет частот всех соотв. эпизодов из базы эпизодов, а как соотносительная сила (уровень активности) сценария (прецедентного) безопасного выпаса и сценария встречи с опасностью на данном лугу. АКтивность соотв. cтруктур памяти модулируется текущими обстоятельствами и общим текущим функциональным состоянием ума - динамика выбора поведения может быть неустойчивой (при примерно равной силе конкурирующих тенденций), может возникнуть неуверенность для разрешения которой может повыситься чувствительность к текущим обстоятельствам или возобладать осторожность (если вцелом, cкажем, ум еще находится под остаточными влияниями испуга по иному поводу). Вцелом динамика детерминирована (в смысле что она чем-то определеяется), но и недерминирована (в смысле что исход определеяется текущей игрой влияний, а не предопределен жесткой глобальной моделью поведения - и пока данный ситуационный процесс не сошелся есть спектр возможных исходов).

мозг анализирует (динамически) распределение возможностей - детерминизм и индетерминизм в одном флаконе. Модель распределения возможностей-вероятностей детерминировано задает недетерминированность. И сама эта модель может быть 'недодетерминированной'.

> запоминание фактологического опыта как он есть.

'как он есть' это недоопределенная формулировка и тем самым основа схоластической демагогии. Вспомните конфигурации облаков в момент вашего выхода на улицу в течении последней недели. Даже иконист не запоминает не попавшее в фокус внимания (другое дело что у икониста фокус может быть расширенным, - но все равно ресурсы памяти (биохимические хотя бы) не беспредельны. А для когнитивной обработки данностей памяти они с необходимостью должны быть категорированными, загрубленными, cжатыми (не без потерь), схематизированными, обобщенными - лишний материал активно вытормаживается и с течением времени исчезает из памяти (или по крайней мере исчезает к нему доступ). Вы слышите обращенную к себе речь - акустически звуки могут быть искажены - но вы слышите именно те фонетические категории, на которые настроилось ваше категорное фонетическое восприятие при формировании восприятия системы классов звуков вашего языка - и в памяти нет никакой фонетической бызы в которой хранится спектральная картина прозвучавшей речи ('cырая фактология') - вы сразу запоминаете цепочку прототипических звуков и соотв. надструктуры (что было сказано). И вообще говоря это общее положение вещей - базы сырых данных (голых 'фактов') живыми мозгами никогда и не поддерживались. Даже реликтовый обоятельный анализатор функциолнирует на принципах сжатия информации (распознавание на основе формирования аттракторов нейродинамики). Иконическая ('фотографическая') фиксация это аномалия ('и такое может перцептивная система'), а не основа (ап)перцептивного интеллекта.
----------------------------------------------------------
Траян
Сообщений: 629
Добавлено: 14 авг 18 2:01
Цитата

Автор: Траян

При попытке создания таких метакогниций была обнаружена скрытая ошибка в самих основаниях БМП. Эта ошибка почти на треть обнуляет все содержание того Подхода, для изложения которого использовался данный топик. Увы.

Несмотря на то, что в малых модельных задачах БМП работает прекрасно и даже как бы находит свое подтверждение в непосредственных экспериментах (как машинных, так и "физических") при попытках масштабирования, перехода к более-менее реальным (и представляющим интерес) объемам представлений моделей мира упомянутая выше ошибка в аксиоматике наслаивается сама на себя и это приводит к совершенно катастрофическим последствиям.

Как я проглядел эту ошибку - ума не приложу. Но что есть - то есть, чего уж тут.

Выход из положение видится в полном отказе от БМП и замене ее более адекватной (и более антропоцентрической) теорией работы с вероятностями.


Уф!

Слух о смерти БМП оказался преждевременным.
За время прошедшее с опубликования приведенного выше поста был проведен углубленный анализ и фундаментальное переосмысление всей концепции "Одного Подхода... " и было найдено неожиданное решение возникшей проблемы.

Выйти из создавшегося положения и спасти "Один подход..." оказалось возможным за счет найденного 7-10 августа соображения о изменении отношения к концепции причинности.
(Если раньше концепция причинности рассматривалось лишь как следствие из БМП (из тенденции к нахождению максимальных вероятностей), то теперь причинность - это отдельная, совершенно самостоятельная базовая категория.)

Правда, новая аксиоматика Подхода серьезным образом отличается от прежней, и сейчас правильнее говорить о Подходе-2.0. В рамках нового Подхода БМП - остается правильной и полезной штукенцией, но теряет статус центральной, системообразующей идеи и становится всего лишь частным случаем, следствием куда более общей теории индуктивного вывода.

Все-таки правильно говорят, что кризисы - это двигатели прогресса. Не случись кризис с БМП
(пусть и весьма неприятный и болезненный, прибавивший немало седых волос, чего уж там) - и "Подход" не был бы модернизирован и усовершенствован столь радикальным образом. Не стал бы на порядок лучше, совершеннее, универсальнее и перспективнее.

Одним из следствий этой модернизации является то, что теперь агент приобретает возможность оперировать как вероятностными так и детерминированными знаниями. Причем, как индуктивными так и априорными.

PS Нужно сказать, что когда я писал о ошибочности БМП меня все же грыз червячок сомнения - как же так, метод же подтвердил свою работоспособность на практике, полностью соответствовал реальным экспериментам и как он при этом мог вдруг стать полностью неправильным?
----------------------------------------------------------
Траян
Сообщений: 629
Добавлено: 15 авг 18 2:11
Изменено: 15 авг 18 2:29
Цитата

Автор: Андрей
Да, действует, что даёт мне основания подозревать, что в коде запрограммирован переход от вероятностной оценки моделей поведения, к выбору некоторой модели поведения как абсолютной.

Нет. В программе СПИ - работа которой полностью базируется на биполярном методе прогнозирования (БМП) - нет никакого перехода к абсолютным моделям. Да в этом и нет никакой необходимости, поскольку при ее работе производится прогнозирование последствий от предполагаемых действий всего лишь на один шаг.

Вот в новой программе (СПАИ?) такой переход будет. Там будет совместное использование и вероятностных и детерминированных знаний.

Цитата

Автор: Андрей
Как правило, человек в чём-то уверен абсолютно. Он может при этом на 100% ошибаться, но любая ситуация представляется в уме как чёткая связная система взаимоотношений. Например. "Ветер дует, потому что деревья шатаются". Здесь чёткая система буквально механических связей - деревья по своей внутренней воле шатаются и толкают воздух, так возникает ветер. Модель эта абсолютно ошибочна, но она работает в голове безо всяких вероятностей.


Согласен. ЕИ действительно зачастую действует так, как будто играет в некоторую ролевую игру. Он как будто говорит: "Я вот знаю, что данная модель верна лишь с некоторой вероятностью, но вот предположим, что я буду действовать так, как будто в ней абсолютно уверен".
Такой подход дает кучу преимуществ. Резкое сокращение вычислительных расходов открывает возможность строить сверх-сложные и изощренные модели, и исследовать их развитие на много-много этапов.
Цитата

Автор: Андрей
Но ведь жизненный опыт говорит нам о том, что человек не оперирует вероятностями.

Человек, конечно, оперирует вероятностями. Есть у него в подсознании соответствующие механизмы. Тут нет противопоставления: вероятностные знания vs детерминированные. Типа или то или другое. Они не исключают, а дополняют друг друга.
(Более того, при определенных условиях они могут превращаться друг друга: вероятностные знания могут становиться детерминированными и наоборот. Задание условий, при которых такой метаморфоз становится возможен, формализация этого процесса - является пусть и непростой, но все же решаемой задачей.)

В тех случаях, когда неопределенность слишком велика удобнее использовать вероятности, а когда удается вскрыть и обнаружить, сделать очевидными причинно-следственные связи - используются детерминированные.

Цитата

Автор: Андрей
Вероятности удобно использовать, когда явных связей между событиями не видно вообще, но, во-первых, это не так часто случается в тех задачах, с которыми постоянно сталкивается человек, а во-вторых, это может приводить к суевериям и совершенно ложным связям и отношениям.


Вот это куда точнее, .только я предпочитаю говорить о причинно-следственных отношениях, а не о "закономерностях обусловленных взаимодействиями".
----------------------------------------------------------
Андрей
Сообщений: 3410
Добавлено: 15 авг 18 3:38
Цитата

Автор: Траян
данная модель верна лишь с некоторой вероятностью, но вот предположим, что я буду действовать так, как будто в ней абсолютно уверен".
Такой подход дает кучу преимуществ. Резкое сокращение вычислительных расходов открывает возможность строить сверх-сложные и изощренные модели, и исследовать их развитие на много-много этапов.

Совершенно верно. Я рад, что мои скромные замечания оказались для Вас полезны.

Тут же следует отметить, что все тексты представляют собой фиксацию на некотором носителе таких детерминированных моделей. Писатели-фантасты используют это для наворачивая целых томов выдуманных моделей, с целью развлечения читателя. А политики - для введения людей в заблуждение и формирования поведения электоральных масс. Я, например, чаще использую тексты как внешнюю память.
----------------------------------------------------------
гость
188.170.82.*
Добавлено: 15 авг 18 4:56

Т.> раньше концепция причинности рассматривалось лишь как следствие из БМП (из тенденции к нахождению максимальных вероятностей), то теперь причинность - это отдельная, совершенно самостоятельная базовая категория.

вообще-то это первоначальное положение могло выглядеть натянутым и сразу - тенденция к реализации наиболее вероятного состояния как соедствие того что причиной является менее вероятное состояние это как бы классическое статобоснование термодинамики закрытой системы - сразу же понятно что это идеализация и что реальность это реальность открытых систем, когда реализуются и поддерживаются стационарные, метастабильные, неравновесные состояния, которые не особо 'вероятны'.

> агент приобретает возможность оперировать как вероятностными так и детерминированными знаниями

тут тоже не понятно отчего потребовалась столь драматичная 'революция' - из самых общих соображений понятно же, что детерминированное это асимптотика вероятного, предел, вырожденный случай, cлучай 'cингулярного' распределения. Можно как размывать распределения, так и 'cтягивать' их к особым точкам.

еще раз хочется отметить, что А. cмешивает две разные вещи - степень уверенности в модели и характер модели - можно быть совершенно уверенным (тогда модель в разуме будет функционировать детерминированно) в недетерминированной (вероятностной) модели явления, а можно быть неуверенным (тогда модель будет функционировать в разуме менее детерминированно) в детерминированной модели явления.

> Такой подход дает кучу преимуществ.

тут не нужно забывать что преимущества всегда сопряжены со слабостями. Это как нечеткие процессоры были (как аналог 'вероятностного процессора') - аппаратно избыточны, но позволяли эффективно реализовывать динамику через задание системы нечетких правил, которую детерминированно (аналитически четко) задать было бы проблематично. И в отношении сложности концептуальных структур - четкость склонна продуцировать 'тонкую ажурность', настолько тонкую, что теряющую связь с реальностью (как сильно абстракные математические или метафизические построения), а подмешивание здоровой дозы нечеткости порождает эффект самоограничения неограниченного транзитивного переноса формальной истинности и заземления умствования на реальность (содержательность), которая НИ детерминированна, ни индетерминирована, ни сингулярна, ни полностью размыта.

А.> тексты

тут нельзя не заметить что самый детерминированный (означенный) текст имеет недетерминированную интерпретацию - причем во всех смыслах - и что его содержание не полностью (и даже иногда полностью не) определяется формальным значением слов, и что интерпретация рецепиентом не детерминирована полностью (не полностью детерминирована) относительно источника текста (с т.зр. авторской интерпретации), и что интерпретация внутри интерпретатора не детерминирована полностью его интерпретирующими моделями - интерпретация будет зависеть от (помимо навыков их применения) их взаимодействия, которое чувствительно к обстоятельствам интерпретации. Даже свои собственные тексты перечитываются каждый раз хотя бы чуть иначе.
----------------------------------------------------------

Траян
Сообщений: 629
Добавлено: 15 авг 18 10:05
Изменено: 15 авг 18 10:16
Цитата

Автор: Андрей
Совершенно верно. Я рад, что мои скромные замечания оказались для Вас полезны.


Справедливости ради следует сказать, что подобного рода соображения о особенностях двух форм представления знаний давно и хорошо всем известны.
Если попросить Хмура, то он сходу приведет фамилии, как минимум, десятка авторов отписавшихся на данную тему (мне сразу же вспоминаются Карнап, Поппер и Рейхенбах).

Вообще говоря, общих, отвлеченных - столь же правильных как и абстрактных - рассуждений на эту тему сделано немало. Проблема в их имплементации, во внедрении в реально работающую материальную конструкцию.

Хорошо известная сложность создания СИИ - в переводе отвлеченных, зачастую абсолютно правильных идей, соображений и деклараций в практическую плоскость, уточнение и формализация их до степени допускающей их полную алгоритмизацию, что необходимо для изучения этих идей в машинных экспериментах.

Цитата

Автор: гость
> агент приобретает возможность оперировать как вероятностными так и детерминированными знаниями
тут тоже не понятно отчего потребовалась столь драматичная 'революция' - из самых общих соображений понятно же, что детерминированное это асимптотика вероятного, предел, вырожденный случай, cлучай 'cингулярного' распределения. Можно как размывать распределения, так и 'cтягивать' их к особым точкам.ая НИ детерминированна, ни индетерминирована, ни сингулярна, ни полностью размыта.


Да не, все не так просто. Все намного сложнее и интереснее, кажется.
Рассмотрение детерминированности как предельный случай вероятностного - абсолютно правильно, но малопродуктивно.
Дополнение вероятностного подхода (БМП) идеей причинно-следственной связи дает выход на качественно новый уровень.

Надо будет как-нибудь все это подробно расписать, но боюсь объем материала будет уж очень большим. Помнится, я Вам обещал написать про свою концепцию сознания, так вот надо будет это сделать в связке с разрабатываемым мной сейчас казуальным методом прогнозирования (дополняющим и развивающим БМП). Но это потом. После того как попробую обкатать все на компе. Где бы только сил на все взять. И мозгов.
----------------------------------------------------------
Стр.69 (2)
 
Форум » Общие вопросы СИИ: Интеллект, Прогнозирование и Вероятность » Интересные материалы из интернета » Копия моих сообщений на форуме gotai.net в теме "Об одном.." (Копия моих сообщений на форуме gotai.net в теме "Об одном..")
Поиск:

Контакты
AI.MOY.SU
e-mail:
strongAI@bk.ru
strongai.gig@gmail.com
3139 Brownton Road
Long Community, MS 38915



Расположение