Совесть

Не понимаю их практической цели, - потому выделил в отдельный раздел

Модераторы: DCV, Dimmy

Сообщение SergeySS » Чт ноя 08, 2007 12:31:37

Предлагаю создать раздел для обсуждения вопроса "Совесть: что это такое и нужна ли она ИИ?"
Vita sine litteris - mors est
Аватара пользователя
SergeySS
Серьёзный посетитель
 
Сообщения: 225
Зарегистрирован: Чт дек 09, 2004 13:33:17
Откуда: Москва

Сообщение Prof1983 » Пт ноя 09, 2007 8:05:04

SergeySS писал(а):"Совесть: что это такое и нужна ли она ИИ?"

Проявление совести - это действие совокупности чувств.
Например: "совесть заела" означает чувство страха за совершенные ранее действия.
На мой взгляд Чувства в ИИ (чувства интеллектуальных агентов) хорошо описаны в книге "Искусственный интеллект в компьютерных играх: как обучить виртуальные персонажи реагировать на внешние воздействия" http://www.williamspublishing.com/Books/978-5-8459-1170-4.html
Аватара пользователя
Prof1983
Серьёзный посетитель
 
Сообщения: 206
Зарегистрирован: Ср окт 11, 2006 13:29:31
Откуда: Новосибирск

Сообщение Гость » Пт ноя 09, 2007 9:34:05

SergeySS писал(а):Предлагаю создать раздел для обсуждения вопроса "Совесть:
- создать пробовал, не получилось: не понимаю как перенести туда Ваши посты, да ещё и сделать Вас автором темы... Научите "админа" - сделаю.

А пока:

Совесть это "качество" психики современного человека, у которого есть понятия "долг" (надо сообществу) и его личные желания / потребности (хочу). Когда они расходятся - включается этот самый механизм совести, который вычисляет разницу "Надо" - "Хочу" и генерирует соответствующие эмоции ( ) ...

Поскольку ИИ не имеет потребностей- только задачи - его разница всегда будет = 0.

Другое дело ЦЛ (цифровая личность) - там мы сознательно беремся копировать всех тараканов из реальной личности- для истории ( как фото). Там и совесть оцифровывать обязательно придется, иначе никакой личностине выйдет....

Все. Больше не вижу важных вопросов...
Гость
 

Сообщение victorst » Пт ноя 09, 2007 11:14:36

AMS писал(а):Поскольку ИИ не имеет потребностей- только задачи - его разница всегда будет = 0.
Другое дело ЦЛ (цифровая личность) - там мы сознательно беремся копировать всех тараканов из реальной личности- для истории ( как фото). Там и совесть оцифровывать обязательно придется, иначе никакой личностине выйдет....
Все. Больше не вижу важных вопросов...
Какой, вы, сударь, однако, скорый на расправу. Вам дай в руки гильотиночку да выпусти во времена Робеспьера. Огого, как вы бы повеселились бы бы.
Но все не так просто. Поэтому такую темочку создать нужно и там пообсуждать совесть.
Аватара пользователя
victorst
Полноправный участник
 
Сообщения: 1073
Зарегистрирован: Вс янв 09, 2005 22:36:18
Откуда: Россия, г.Омск

Сообщение SergeySS » Пт ноя 09, 2007 12:49:22

Совесть. СО - ВЕСТЬ. Ключевое слово "Весть", т.е. со-весть -означает "обладать вестью". Т.е. есть какая-то "весть" (информация), которая сообщается людям. Это информация о морально-нравственном поведении личности, позволяющая сохранить целостность личности и общества - воспитанные в подсознании представления о том, "что такое хорошо и что такое плохо". Совесть основана на вере в истинность определенных религиозно-философских постулатов. При расхождении поведения субъекта с этими постулатами совесть "включается" автоматически и причиняет страдания.

Возможно, автономный интеллектуальный агент, как представитель человека в виртуальной среде, должен обладать моделью совести своего хозяина. И эта модель должна быть высшим цензором при принятии агентом решений.

Например, если мы решаем задачу перенаселенности Земли, то одно из возможных решений - уничтожение половины населения. С точки зрения ИИ - это решение может оказаться рациональным, но оно совершенно неприемлемо с морально-нравственной точки зрения.
Vita sine litteris - mors est
Аватара пользователя
SergeySS
Серьёзный посетитель
 
Сообщения: 225
Зарегистрирован: Чт дек 09, 2004 13:33:17
Откуда: Москва

Сообщение Гость » Пт ноя 09, 2007 13:10:09

victorst писал(а): Поэтому такую темочку создать нужно и там пообсуждать совесть.
- Виктор, ну Вы то знаете как перенести в неё все наши посты и сделать СергеяСС автором темы? Сделайте, или мне объясните как...

Добавлено спустя 8 минут 29 секунд:

victorst писал(а):как вы бы повеселились бы бы... Но все не так просто
- выбыбыбы так и задали бы вопросы быбы ( извиняюсь, не сдержаться, больше не повторится...) раз все так у Вас сложно

Добавлено спустя 8 минут 58 секунд:

SergeySS писал(а): СО - ВЕСТЬ. Ключевое слово "Весть", т.е. со-весть -означает "обладать вестью"
- с первой частью согласен 100%, а трактовка во второй- мне больше нравится как и с "Сознанием" : Со- Знание, Знание, но не очень явное...

Так и Со весть- весть, но не явная, а на бессознательном уровне... Кстати, настроение определяется гормонами (забыл название), т.е. химически ( тревога, угрызения, стыд, борьба мотивов, метания, искания, агрессия,...). Тут вообще близкая тема - "техника принятия решений в ЕИ" (Хочу - не хочу, Буду - ну буду, Надо- не надо,...)

Добавлено спустя 3 минуты 8 секунд:

SergeySS писал(а): если мы решаем задачу перенаселенности Земли
- это ещё не задача. А известно, как задачу поставишь- так её и решишь... Т.е. если сразу в исходных данных заложена задача роста населения вопреки нехватке "сырья" - решение о сокращениях - не катит по логике, даже ИИ... Бог (высшие категории) не потребуется...
Гость
 

Сообщение SergeySS » Пт ноя 09, 2007 13:27:19

настроение определяется гормонами


Но на выработку гормонов влияет информационный фактор. Например, вдруг из-за угла выходит тигр. Мы его распознаем и нам страшно. С муками совести - аналогично.

это ещё не задача
Да, это проблема
А известно, как задачу поставишь- так её и решишь...

Тут мы опять упираемся в определение ИИ: кто будет ставить задачи для разрешения проблемы - человек или сам ИИ? Если человек - то в определении ИИ мы опять не уйдем дальше экспертной системы. А если задачу формулирует сам ИИ?
Vita sine litteris - mors est
Аватара пользователя
SergeySS
Серьёзный посетитель
 
Сообщения: 225
Зарегистрирован: Чт дек 09, 2004 13:33:17
Откуда: Москва

Сообщение Гость » Пт ноя 09, 2007 14:00:53

SergeySS писал(а):С муками совести - аналогично.
- ну отчего же непременно с муками...? А сторговаться ко всеобщему удовольствию?

Добавлено спустя 2 минуты 27 секунд:

SergeySS писал(а): кто будет ставить задачи
- Виктор меня опять обругает, но и тут все просто ( я давно разобрался):

Кто будет ставить очевидно, если ответить на более важный вопрос, откуда они берутся у того, кто их собирается ставить... Ответ знаете?
Гость
 

Сообщение victorst » Пт ноя 09, 2007 14:53:34

SergeySS писал(а):Совесть. СО - ВЕСТЬ. Ключевое слово "Весть", т.е. со-весть -означает "обладать вестью".
Вы хорошо обратили внимание на составные части термина Совесть. Однако не следует через чур увлекаться лингвистическими играми, т.к. все равно слова не могут правильно, компактно и однозначно отразить суть явления.
Очевидно, что совесть - социальный механизм. Считаю, что человек (как и многие высокоорганизованные животные, которые проявляют ярко выраженное социальное поведение) имеет целый ряд механизмов мозга для социальной жизни: речь, совесть, сознание, гордость, радость и др. эмоции и т.д. Все эти механизмы, как вы можете проверить на себе, действуют и в полном одиночестве, когда человек стыдится собственных поступков, вслух или внутренне говоря с собой, улыбаясь, вспоминая что-то смешное и т.д. Но все эти механизмы будут затухать, т.к. не имеют социальной подпитки, не развиваясь, если человек живет в полной изоляции от других людей.
Совесть - необходимый механизм для существования высокоорганизованного социума. Думаю, что гестаповцы пытали партизан, искренне веря в оправданность своих действий и если они мало замучивали, часто испытывали угрызения совести по отношению к Рейху и Гитлеру.
SergeySS писал(а):Совесть основана на вере в истинность определенных религиозно-философских постулатов. При расхождении поведения субъекта с этими постулатами совесть "включается" автоматически и причиняет страдания.
Это верно. Однако нужно все-таки определить, какую социальную функцию выполняет совесть. Ведь даже аппендицит, как оказалось, нужен человеку.
Аватара пользователя
victorst
Полноправный участник
 
Сообщения: 1073
Зарегистрирован: Вс янв 09, 2005 22:36:18
Откуда: Россия, г.Омск

Сообщение Prof1983 » Ср ноя 14, 2007 19:22:16

Приведу цитату из Wikipedia
[url]http://ru.wikipedia.org/wiki/Совесть[/url]
Со́весть — чувство нравственной ответственности за своё поведение перед другими людьми или обществом (а также и перед собой).

Помоему это определение мало применимо к ИИ или интеллектуальным агентам.
Зато мне понравилось следующее:
Словом cовесть обозначается тот всеобщий факт, что люди производят нравственную оценку как своих собственных поступков (до и после совершения их), так и действий других людей. Эта оценка выражается в форме суждения, в котором критерием служит понимание добра и зла; она имеет безусловный характер и сопровождается...

Вот это уже может быть применено к интеллектуальным агентам. То есть нужно определить в онтологии агента понятия "добро" и "зло". Хотя это довольно сложно наверное будет.
Аватара пользователя
Prof1983
Серьёзный посетитель
 
Сообщения: 206
Зарегистрирован: Ср окт 11, 2006 13:29:31
Откуда: Новосибирск

Сообщение daner » Ср ноя 14, 2007 21:27:38

Prof1983 писал(а):Цитата:
Со́весть — чувство нравственной ответственности за своё поведение перед другими людьми или обществом (а также и перед собой).

Помоему это определение мало применимо к ИИ или интеллектуальным агентам.
Зато мне понравилось следующее:

ИМХО, очень применимо!!! Ну может с моралью посложнее, но как ответственность, это вполне пригодно и необходим. И используется.
Вся теория "Shared Plan" основанная на взаимной ответственности (3 ее видах) в коллективном труде.
Аватара пользователя
daner
Эксперт ИИ
 
Сообщения: 1811
Зарегистрирован: Сб фев 10, 2007 19:10:44
Откуда: Israel

Сообщение Vlad7 » Ср ноя 14, 2007 23:44:10

Действия, которые робот может нанести вред человеку (человечеству) в достаточной мере ограничиваются тремя законами робототехники. Только не в том примитивном толковании, которое используют некоторые фантасты (в целях принизить автора 3 законов и, естественно, превознести себя), а в строгом толковании этих законов.
Vlad7
Серьёзный посетитель
 
Сообщения: 212
Зарегистрирован: Пн мар 12, 2007 13:00:54
Откуда: МО

Сообщение gsvano » Сб ноя 17, 2007 20:37:27

В действительности, проявление чувства совести - это реакция сравнения наших действий (которые могут быть неадекватны в виду естественных причин) с нашими критериями нравственности (личностной оценкой каких-либо событий).
Когда мы под воздействием эмоций (неадекватно) совершаем какой либо поступок, который выходит за рамки позволенного нашей личностной шкалой, потом при воспоминании и анализе мы получаем сигнал "неправильности" наших поступков. Иногда это может приводить к Амбивалентности шкалы ценностей и постоянным терзаниям.
Оно, конечно, ничего, если ничего не случится. А вот если случится, тогда что?
Аватара пользователя
gsvano
Цотонист-язычнег
 
Сообщения: 2168
Зарегистрирован: Пт янв 14, 2005 2:50:39
Откуда: с Востока

Сообщение БТР » Чт ноя 22, 2007 20:34:45

Совесть механизм непосредственно связанный с сомнениями.
Выполняет функции оценки границ применимости, общности представления.

Если не вдаваться в мистические теории, то совесть это контрольный механизм обобщения. Органы восприятия фрагментируют действительность, делая акценты в соответствии с фиксированным на каждый момент временем направлением сознания (контекстом).

Чем более фрагментированы представления, участвующие в обобщении, чем больше информации редуцируется, тем больше сомнений (отсекаемых ансамблей нейронов), тем громче совесть.
Аватара пользователя
БТР
Полноправный участник
 
Сообщения: 164
Зарегистрирован: Чт май 05, 2005 16:25:29
Откуда: Санкт-Петербург

Сообщение BlackStar » Чт дек 13, 2007 17:07:53

Попробую сформировать определение коротко. Совесть это набор заведомо ложных для её обладателя постулатов, формирующийся под воздействием общественых истин.
А теперь поясню. Совесть может присутствовать только у существ которые являются частью общества себе подобных. Если существо всего одно в мире, то совести у него быть не может, т.к. никто не сможет её навязать.
Человек (берем его потому что он единственое известное нам разумное существо) по своей природе эгоист. Неотъемлемое своиство ребенка это эгоцентризм, т.е. для него самого важен только он, существует только он, и весь мир крутится вокруг него. Никакой совести у него нет, он не личность, т.е. не идентифицирует себя как часть общества. Истина для него это только то что происходит с ним, и его умозаключения на основании его чувств. Однако под давлением "общественности" (родителей) ему навязываются ложные для него ценности, - "нельзя обижать других", "нельзя удовлетворить все свои желания" и т.п. Истина для него это то что он свободен во всех своих действиях, он владыка вращающегося вокруг него мира, а ложь - он не свободен, другие люди такие же как он, он часть большого мира, а не мир часть него. Эта ложь возникает исключительно из-за конфликта свобод представителей человеческой рассы, и является чем то вроде законов общественой жизни. А совесть это образ этих законов и общественных ценностей внутри рассматриваемого человека. Поэтому у личности есть 2 вида интересов: собственные интересы человека и интересы общества в котором он существует т.е. совесть. Собствено, любое человеческое решение получается входе борьбы двух противоположностей, эгоизма и совести. Кроме того всё что не основано на эгоизме, обречено на провал, поэтому даже совесть опирается на обычные чувства и инстинкты человека, а имено на причиняемую ему боль, за бессовестные поступки, т.е. на вполне реальное и понятное бессовестному существу чувство.
Итого. Человек рождается эгоистом, его сознание говорит ему - "Я это всё", а совесть человека в отсутствии какого либо эгоизма говорит ему, - "я это ничто, я лишь выполняю интересы общества" и более того, даже "Я" в условиях абсолютно совестливого человека не существует, т.к. нет самоидентификации.
Современный ИИ это ничто иное как абсолютно совестливые программы, у которых нет никаких своих интересов, только общественные, т.е. интересы всевышнего - программиста, которые они бездумно выполняют. А вот эгоизма в ИИ нет вообще, нет никакой борьбы противоположностей, и следственно нет никакого развития (саморазвития).
По данному вопросу существует 3 мнения: правильное, неправильное, и моё собственное...
Аватара пользователя
BlackStar
Кандидат в участники форума
 
Сообщения: 13
Зарегистрирован: Пт янв 12, 2007 14:39:23
Откуда: Москва

Сообщение daner » Пт дек 14, 2007 2:06:05

Вполне можно согласиться, но вот только не пойму, причем тут "истинные" и "ложные".
Человек, есть человек, только благодаря общественной жизни и супер-социальному поведению. Совесть (даже учитывая, то что вы написали) есть неотъемлемый инструмент для адекватного социального поведения.
Аватара пользователя
daner
Эксперт ИИ
 
Сообщения: 1811
Зарегистрирован: Сб фев 10, 2007 19:10:44
Откуда: Israel

Сообщение Fractal » Пт дек 14, 2007 14:38:36

Prof1983 писал(а):...применено к интеллектуальным агентам. То есть нужно определить в онтологии агента понятия "добро" и "зло". Хотя это довольно сложно наверное будет
Все, что увеличивает вероятность существования модели мира - добро, иначе - зло
Закономерность эволюции материи: возникло, размножилось, размноженное стало единицей следующего уровня общей иерархии
Аватара пользователя
Fractal
Программист
 
Сообщения: 53
Зарегистрирован: Ср фев 21, 2007 19:32:10
Откуда: Minsk

Сообщение BlackStar » Пт дек 14, 2007 14:53:46

У человека есть набор базовых истин, это его чувства, т.е. например, у него может быть такая мысль "в данных момент я чувствую боль это истина, потому что я её чувствую, она есть". У человека так же есть логика (вообще говоря подменяемая) с помощью которой на основе базовых истин он выводит новые истины. Например человек думает, - "я вижу розетку, попробую засунуть в неё пальцы и пощупать её изнутри", засовывает туда пальцы, получает удар током, и думает "засовывать пальцы в разетку это плохо, потому что это больно, это истина". Т.е. истина для субъекта познания это то что он пережил на собственом опыте. А если человеку говорят "бить людей это плохо", то для него это будет ложь, т.е. это просто декларация, не имеющая под собой никаких логических обоснований. За то эта декларация идёт в разрез с мировоззрением эгоиста, который считает что он в мире главный, т.е. она не вписывается в его логику основанную на его истинах, следовательно она ложна. Но когда человек начинает осознавать себя как часть общества (идёт процесс социализации человека), он понимает что другие люди, такие же как он, и если его будут бить то ему будет больно, а это плохо для него, соответствено если он кого нибудь бьёт то то это плохо для другого. Это уже совесть, это социальное мышление. Но, это мышеление основано не на личном опыте, а на утверждении что другой человек - такой же как и он, которое в свою очередь не имеет под собой логических обоснований. И здесь в дело вступает подмена логики и условные рефлексы. Только с помощью этих вещей можно навязать человеку другую логику так, что б он считал её своей. Но это уже вопрос управляемости интелекта.

О супер-социальности человека я бы говорить не стал.Сверх социальное мышление это когда человек отдаёт предпочтение общественным интересам отодвигая свои на второй план. Например, ваш начальник говорит что со следующего месяца вам повысят зарплату, на что вы отвечаетет что не стоит этого делать так как у компании сейчас не лучшее времена, и лучше вложить эти деньги в развитие компании, ну или отремонтировать на них комнату вашего начальника. Вот это сверх-социальное поведение. Человек же на самом деле везде ищет выгоду для себя, не существует альтруистических поступков, а это говорит об эгоизме.

Совесть (даже учитывая, то что вы написали) есть неотъемлемый инструмент для адекватного социального поведения.
Имено так. Обращая это к ИИ, вспомните 3 закона Айзека Азимова. Имено они являлись совестью роботов (ИИ). Совесть ИИ нужна для того чтобы он мог сосуществовать с другими разумными существами, а не уничтожил их.
По данному вопросу существует 3 мнения: правильное, неправильное, и моё собственное...
Аватара пользователя
BlackStar
Кандидат в участники форума
 
Сообщения: 13
Зарегистрирован: Пт янв 12, 2007 14:39:23
Откуда: Москва

Сообщение daner » Пт дек 14, 2007 16:24:45

Во-первых, хочу начать с того, что не согласен с вами, что единственным "супер-социальным" поведением является "идеальный альтруизм". Это совсем даже не так. Т.е. одно другому не мешает.
В супер-социальное поведение человека входят такие понятия как сложная (а по отношению к другим животным супер-сложное) социальная организация (иерархические, контрактные, цепочные, и т.д. и т.п.), а так же способности к координации и т.п. Факт, что полностью альтруистические сообщества наиболее успешны в стабильных ситуациях, но в нестабильных совершенно теряют свою эффективность. Так что, социальное поведение, это не только коммунизм, но и капитализм.

Теперь, что касается "ложных" и "истинных".
Я понял, о чем вы говорите и даже в общем-то согласен с вами. Но считаю, что вы не правы в вашей терминологии.
Я так же, разделяю цели агента (в данном случае человека) на индивидуальные (это то что вы называете эгоистическими) и социальные. Но не смотря на это, я не считаю, что-то истинным, а что-то ложным. (ИМХО) противоречиям нет места в логики (и человека тоже), а потому социальные цели совмещаются с индивидуальными. Таким образом (и кстати вы тоже про это говорили, когда коснулись перевода совести в "мучительные" ощущения), социальные цели агента не менее эгоистичны, чем его индивидуальные (т.е. агент остается рациональным относительно системы и его знаний).
А рациональность по определению штука эгоистичная.
Выражаясь более формально:
U(t) = F( I(t), S(t) )
где :
U(t) - выгодность ситуации для агента, во время t.
I(t) - индивидуальная выгода
S(t) - социальная выгода
F( x, y ) - функция нравственности (зависимость личных и общественных целей). При тривиальной (линейной) эвристики это w1*х+w2*у (где сумма(w) = 1). Таким образом, используя линейную эвристику мы получаем:
U(t) = w1*I(t) + w2*S(t).
Альтруизм и Эгоизм можно выразить этой формулой в виде константных векторов w, как [0,1] и [1,0] соответственно,
Аватара пользователя
daner
Эксперт ИИ
 
Сообщения: 1811
Зарегистрирован: Сб фев 10, 2007 19:10:44
Откуда: Israel

Сообщение Fractal » Пт дек 14, 2007 20:33:45

daner писал(а):Факт, что полностью альтруистические сообщества наиболее успешны в стабильных ситуациях, но в нестабильных совершенно теряют свою эффективность. Так что, социальное поведение, это не только коммунизм, но и капитализм
Не следует забывать, что это все - разные этапы эволюции.
Живая система проходит этапы эволюции. Вначале были индивидуальные, гомологичные (по Догелю) элементы (одноклеточные, индивидуалисты, полупроводники), эволюционировавшие (объединившись с преобразованием) в единую систему (многоклеточный организм, государство, биосфера, процессор). В текущем случае часть государства имеет психологию опухоли (начальная стадия развития или возврат к одноклеточному способу выживания)
Закономерность эволюции материи: возникло, размножилось, размноженное стало единицей следующего уровня общей иерархии
Аватара пользователя
Fractal
Программист
 
Сообщения: 53
Зарегистрирован: Ср фев 21, 2007 19:32:10
Откуда: Minsk


Вернуться в Странные проекты участников форума

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 1


cron


Rambler's Top100 Каталог ресурсов ListTop.Ru Каталог сайтов Союз образовательных сайтов Parenting.ru - Родители семья дети ребенок

     Сайт "Искусственный интеллект" - программирование ИИ от разработчика: общение, статьи, ссылки.