Нужно ли создавать искусственный разум?

В Авторы принимаем ВСЕХ, в каждой статье до 4 авторов

Модераторы: DCV, Dimmy, victorst

Нужно ли создавать искусственный разум?

Сообщение DCV » Вт окт 05, 2010 17:49:42

Нужно ли создавать искусственный разум?

В фильме «Матрица» машины начали думать вместо людей и решили, что люди похожи на опасный вирус.

В серии произведений Саберхагена инопланетная цивилизация создала цивилизацию роботов, которых назвали берсеркеры, для ведения войны с космическими пришельцами. Берсеркеры уничтожили цивилизацию космических пришельцев, уничтожили цивилизацию создателей, и стали угрозой для жителей других планет.

В произведениях Азимова роботы подчиняются трем законам робототехники.

По каналу Discovery Science было высказано такое мнение. Если корова говорит «му», то люди не считаются с ее желаниями, и могут ее съесть на следующий день, потому что люди умнее, чем корова. А когда будут созданы думающие машины, то они могут точно так же относиться к людям. Опасным считают момент, когда думающие машины начнут проектировать и создавать себе подобных эффективнее, чем люди.

Сейчас люди являются высшими по интеллекту и власти существами на Земле. Нужно ли создавать высшую расу машин, по отношению к которым люди будут низшей расой?

Предлагаю проанализировать в статье сценарии развития искусственного разума, описанные в литературе и фильмах. Проанализировать плюсы и минусы создания думающих машин. Сделать выводы. Подготовить рекомендации по данному вопросу.
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение Dimmy » Вт окт 05, 2010 19:59:36

Данных работ много.
Мое мнение совпадает с одной из них, основанных на книге А. Жарова "Формула жизни".
ИИ и роботы - есть естественный продукт эволюции человека и вообще процесса эволюции всего живого.
Начало процесса начинается с одноклеточных, заканчивается ИИ компьютера, затем они объединены в ИИ города и "мыслят" на уровне недоступном человеку и обычному ИИ, затем ИИ планет, ИИ галактик...
Люди выполняли роль археологических экспонатов в том мире, только живых. Были те кто считал что так и надо, а были и те кто считал ИИ врагом человечества.

Советую, DCV, прочитать книгу. Ее автор защитил диссертацию по ИИ, попутно писал книгу. Потому выкладки в книге не слабые.
Vivere est cogitare!
"Во время работы в одиночестве человек в идеале находится в состоянии, которое психологи называют потоком."
Осознать необъятное, объять неосознанное (с) Dimmy, 2008
Делать возможным то, что другие считают невероятным (с) Dimmy, 2009
"Когда люди предпочитают верить, а не знать - наступает время шарлатанов." Академик Эдуард Кругляков.
Главная задача ИИ — не выиграть у игрока, а красиво ему отдаться. (с) Тимур Бухараев, Nival
«Никогда не ошибается тот, кто ничего не делает» Т. Рузвельт

...хожу сам по себе :)
ИзображениеИзображение
Dimmy
Эксперт ИИ
 
Сообщения: 555
Зарегистрирован: Пт янв 14, 2005 17:11:17
Откуда: РнД

Сообщение DCV » Ср окт 06, 2010 9:51:39

Dimmy писал(а):Данных работ много.

Вы могли бы привести основные идеи из них, потому что не все участники форума их читали?

Dimmy писал(а):Советую, DCV, прочитать книгу. Ее автор защитил диссертацию по ИИ, попутно писал книгу. Потому выкладки в книге не слабые.

Скачал книгу из интернета. Это художественная книга с философским содержанием. Постараюсь прочитать и прокомментировать.

Добавлено спустя 5 минут 50 секунд:

Dimmy писал(а):Люди выполняли роль археологических экспонатов в том мире, только живых.

А Вы сами хотите стать археологическим экспонатом?
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение Dimmy » Ср окт 06, 2010 11:05:30

DCV писал(а): Это художественная книга с философским содержанием.

Об этом можно судить только прочитав книгу, а не на основе неизвестного чьего мнения.

Итак,

1. А.Жаров "Формула жизни"
Читать и осмысливать. основные идеи описал выше.

2. Грег Игон "Причины для счастья".
Еще есть рассказ, выражающая мнение (косвенно), также относящаяся к научной-фантастике, написанная сильным автором Грегом Игоном "Причины для счастья".
В ней в качестве ИИ (косвенно) выступает роль протеза мозга, замещающая часть нейронов, вымерших вследствие рака и ответственных за выработку эндорфина.
То есть ИИ можно воспринимать как часть личности человека, не выражающего своего Я. ИИ есть продолжение ЕИ но на таком уровне, при котором оно сливается воедино с ЕИ.

3. серия рассказов С.Лукьяненко "Лабиринт отражений".
Еще есть серия рассказов С.Лукьяненко "Лабиринт отражений". В нем в виртуальной реальности на основе эксперимента был случайно создан интеллект, развивающийся и живующий в том мире. Но была угроза что он вырвется наружу, как в матрице. Но следует отметить что рассказ написан в 92г, значительно ранее выхода фильма.
В рассказе ИИ был наравне человеку и спокойно с ним сосуществовал в виртуальном мире.

4. "13 этаж" и "матрица"
Еще есть фильм "13 этаж". Один из лучших на эту тему. Идея в том, что мы, ЕИ, решили создать ИИ и можем как-то его создать. А что если ЕИ является продуктом НИ (настоящего интеллекта)?
Тогда ЕИ = ИИ? Интерпретацию данного фильма каждый видит по своему. Но так же как и "Формулу жизни", его must see каждый, интересующийся в ИИ ;)
Про "матрицу" и сами знаете. в обоих фильмах присутствует ИИ, а какую ему отведена роль можно судить самим. только в матрице есть 2 различных ИИ. Оба ведут себя по своему.
первый - ИИ создателя, ведет себя так же как и ИИ планеты в "формуле жизни"
второй ИИ - это группа антивирусных программ "Смит"

5. Азимов
Про Азимова Вы и сами знаете.

- это одни из основных научно-популярных подходов на эту тему.
так или иначе, у каждого есть свой взгляд на те положения вещей, которые были изложены авторами данных идей.

если вспомню кого упустил, дополню.
также если что-то не читал или не видел - указывайте, посмотрим! :-D

Добавлено спустя 12 минут 40 секунд:

DCV писал(а):
Dimmy писал(а):Люди выполняли роль археологических экспонатов в том мире, только живых.

А Вы сами хотите стать археологическим экспонатом?


на мой вгляд автор абсолютно прав, что ИИ есть продукт эволюции ЕИ. следующее его поколение.
также как ЕИ стал продуктом эволюции ПИ (примитивного интеллекта), которым обладают обезъяны,
далее к корням можно рассматривать "почти интеллект" кошек и собак, "доинтеллект" птиц, далее "рефлекторное поведение" = рефлекторный интеллект, после которого идет его полное отсутствие у амеб. хотя это еще философский вопрос ведь амебы тоже ведут себя рефлекторно. только на основе химических рефлексов а не нейронно-мозговых.

то есть. ИИ есть продукт эволюции ЕИ.
а что у нас более низшими по эволюционной линии существами? они где? В ЗООПАРКЕ :)

потому следуя нашей же, человеческой, ЕИ, идеологии поведения, да, при развитии и появления ИИ мы сразу станем "археологическим экспонатом".
а что есть зоопарк? клетка из железа? это то место, которое отгородил ЕИ от животных, от своего места обитания.
также и ИИ обладая своим местом обитания - виртуальным миром, может полностью оградить человека от его мира. то есть от компьютеров.
и пусть у нас не будет решеток, но мы будет отброшены в 18 век :) вот она, судьба нашего зоопарка.

так я вижу себе будущее, на основе результатов анализа всех доступных мне подходов.
и согласен с ним. с природой, эволюцией не поспоришь :)
Vivere est cogitare!
"Во время работы в одиночестве человек в идеале находится в состоянии, которое психологи называют потоком."
Осознать необъятное, объять неосознанное (с) Dimmy, 2008
Делать возможным то, что другие считают невероятным (с) Dimmy, 2009
"Когда люди предпочитают верить, а не знать - наступает время шарлатанов." Академик Эдуард Кругляков.
Главная задача ИИ — не выиграть у игрока, а красиво ему отдаться. (с) Тимур Бухараев, Nival
«Никогда не ошибается тот, кто ничего не делает» Т. Рузвельт

...хожу сам по себе :)
ИзображениеИзображение
Dimmy
Эксперт ИИ
 
Сообщения: 555
Зарегистрирован: Пт янв 14, 2005 17:11:17
Откуда: РнД

Сообщение DCV » Чт окт 07, 2010 12:58:39

Dimmy писал(а):а что у нас более низшими по эволюционной линии существами? они где? В ЗООПАРКЕ :)

потому следуя нашей же, человеческой, ЕИ, идеологии поведения, да, при развитии и появления ИИ мы сразу станем "археологическим экспонатом".

Некоторым особям, действительно, место только в зоопарке. Но не все так просто, как кажется. Почему люди помещают животных в зоопарк? На каждый поступок человека есть причина.

1. Чтобы животные не причинили им вреда.
2. Чтобы на них смотреть, кормить и т.д.

Всю историю люди существовали вместе с животными, и животные нужны людям для определенных целей. А будут ли нужны люди машинам? Захотят ли машины смотреть на людей и кормить их? В каждой стране люди имеют свой образ мышления, создают свою архитектуру, свои технические устройства, и имеют свои обычаи, образцы поведения. Какой будет образ мышления у машин? Какие устройства они будут создавать? Какие у них будут образцы поведения? По Discovery Science показали робота, похожего на морскую звезду, который сам учился ходить. Походка, которую он выработал, оказалась неожиданностью для создателей. Искусственный разум – это устройство, которое способно решать определенные задачи. Но без задач искусственный разум бездействует, как камень, лежащий в поле. Разумная машина должна иметь искусственный разум и блок с задачами, которые она должна решать. А блок с задачами может зависеть от людей, которые будут его программировать, и от образа их мышления. Сейчас не видно однозначного блока с задачами для машин, который бы следовал как следующий этап эволюции жизни на Земле. Для принятия решений решающим будет не интеллект или рабочая сила, а линия:
блок задач – потребности - ценности
По этой цепочке мы приходим к трем законам робототехники, разработанным Азимовым:

1. Робот не должен причинять вред человеку.
2. Робот не должен причинять вред себе, если это не противоречит п.1.
3. Робот должен выполнять распоряжения человека, если это не противоречит п.1,п2.

Но п.1 и п.2 не четкие и могут пониматься по-разному. Тут есть над чем поработать.
Нет гарантии, что страны не начнут создавать боевых роботов. Уже ведутся работы в этом направлении, например, создание беспилотных самолетов.
У людей ход мысли может быть очень разнообразным, и в блок задач могут быть заложены совершенно неожиданные программы. К тому же машинный интеллект может трактовать эти программы неожиданным для человека образом. Поэтому не видно однозначного пути развития жизни на Земле, в котором машины помещают людей в зоопарк. Наоборот, такой вариант выглядит маловероятным, либо результатом случайной или закономерной ошибки в блоке задач. Скорее всего, нужно анализировать интересы человека, в особенности высшие потребности в познании, развитии, заселении других планет. Эти и другие потребности человека, наиболее вероятно, будут закладываться в блок задач. Но остается возможным использование разумных машин для разрушения. Вспомните вторую мировую войну и борьбу с терроризмом в последние годы. Вопрос о том, какие ценности будут заложены в блок задач, остается открытым. Если развитие жизни считать закономерным, то блок задач является черным ящиком, который нужно расшифровать. Поскольку целью эволюции является выживание, заселение новых территорий, развитие технологий для повышения выживания, то это основные претенденты на попадание в блок задач. Но в процессе эволюции претендентами на выживание всегда были конкурирующие или поедающие друг друга виды или конкурирующие особи одного вида. Поэтому военное дело должно найти свое место в блоке задач.


Dimmy писал(а):то есть. ИИ есть продукт эволюции ЕИ.


В ТРИЗ есть закон полноты частей системы. Система должна иметь: рабочий орган – трансмиссию – двигатель – средства управления. В процессе развития технических систем машина вытесняет человека по данной цепочке. Сначала человек научился обрабатывать деталь при помощи инструмента. Инструмент – рабочий орган. Затем человек вращал деталь при помощи станка и обрабатывал инструментом. Станок был трансмиссией, и использовал силу человека. Затем двигатель начал вращать станок. Человек управлял станком. Затем появились станки с ЧПУ и полностью автоматические линии. Человека полностью вытеснили из процесса производства по цепочке: рабочий орган – трансмиссия – двигатель – средства управления. То же самое должно произойти со всеми техническими системами (ТС). Машины должны взять на себя функцию управления всеми ТС. А ТС предназначена для выполнения полезных функций. Функций нужных для человека. Беспилотный самолет тоже является ТС, выполняющей полезные функции. В этом рассуждении нет оснований для создания цивилизации машин.
Человек уже создает генетически модифицированные продукты, например, рыбу, которая намного больше обычной. Возможно, для выполнения некоторых полезных функций будет дешевле использовать генетически модифицированного человека, которому отдых будет нужен только для восстановления сил, и который будет получать такую же радость от работы, как обычный человек от отдыха.
Полезной функцией может быть: быть человеку интересным собеседником и компаньоном для игр, и т.п. Такой функцией человек может попытаться наделить машину или генетически модифицированного человека. Для этого машина должна уметь устанавливать с человеком эмоциональный контакт, но эмоции и поведение машины могут отличаться от человеческих.
У человека может быть потребность в заселении далеких планет. Тогда есть варианты реализации:

1. Отправить к планете машины для создания цивилизации машин.
2. Отправить людей для создания колонии на планете.
3. Отправить генетический материал для последующего появления человека.
4. Отправить генетический материал для последующего появления генетически модифицированного человека.

Возможно, что человек захочет создать цивилизацию машин или цивилизацию генетически модифицированных людей. Но вопрос о том, какими качествами он их наделит, остается открытым.
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение Dimmy » Чт окт 07, 2010 13:53:59

DCV писал(а):В ТРИЗ есть закон полноты частей системы.
......
Возможно, что человек захочет создать цивилизацию машин или цивилизацию генетически модифицированных людей. Но вопрос о том, какими качествами он их наделит, остается открытым.


Вы хотите рассматривать все рамках ТРИЗ? Это один подход.
Другой когда вы будете рассматривать и общие и частные подходы.

Человек не может наделить качествами ИИ.
Какими качествами вы наделяете своего ребенка?
Он сам определяет свое поведение. Вы можете попытаться его подтолкнуть двигаться в нужную сторону.
Кто-то усиленно пытается толкать, кто-то пассивно.

Только на мой взгляд есть некоторая разница между понятиями. А это важно. О чем речь:
человек "А" захотел и создал цивилизацию машин, т.е. человек создал _одну_ машину "Б" наделенную ИИ.
Это машина создала машину "В".
Так вот человек "А" не создавал машину "В". "В" есть продукт деятельности "Б". И если "Б" способна к самоанализу и саморазвитию, то "А" очень сложно повлиять на то, какой будет "В".

"В" будет независима и автономна от "А" в некотором смысле.

Теперь давайте просмотрим аналогию. Есть поколение (н-надцатое) машин "В". Они не знали и не знают об "А" (могли не разу не сталкиваться с ним, или "А" уже умер).
Есть целое множество машин "В", способных создать свою цивилизацию.
Так вот в цепочке развития класс машин "В" находится _всегда_ впереди класса "А". Опять здесь подхожу к эволюции как примеру.
Наделен "В" законами Азимова или какими-то еще никак не влияет на данный исторический факт. "В" есть цивилизация, положе цивилизации "А".

И в этот момент "А" станут предками. Вполне возможно в будущем, и вымрут как архитип, но также возможно, что "В" и "А" найдут какой-то общий симбиоз.

Добавлено спустя 4 минуты 6 секунд:

А в данный момент идут я так понимаю рассуждения между "надо Б" или "не надо Б".
Здесь выбора нет. Делать машины класса "Б" надо и они будут сделаны.
Они уже есть. И мы ими пользуемся. И чем качественнее и лучше класс машин "Б" тем лучше классу "А" (нанороботы-врачи, как одно из самых перспективных и нужных направлений для человека. на основе того же графена).
Вопрос в том как скоро "Б" создадут "В1" и как мы с "В1" (это не есть дитя человечества, а есть дитя "Б") будем сосуществовать.
И вот здесь можно только гадать.
Vivere est cogitare!
"Во время работы в одиночестве человек в идеале находится в состоянии, которое психологи называют потоком."
Осознать необъятное, объять неосознанное (с) Dimmy, 2008
Делать возможным то, что другие считают невероятным (с) Dimmy, 2009
"Когда люди предпочитают верить, а не знать - наступает время шарлатанов." Академик Эдуард Кругляков.
Главная задача ИИ — не выиграть у игрока, а красиво ему отдаться. (с) Тимур Бухараев, Nival
«Никогда не ошибается тот, кто ничего не делает» Т. Рузвельт

...хожу сам по себе :)
ИзображениеИзображение
Dimmy
Эксперт ИИ
 
Сообщения: 555
Зарегистрирован: Пт янв 14, 2005 17:11:17
Откуда: РнД

Сообщение DCV » Пт окт 08, 2010 9:23:44

Dimmy писал(а):
Человек не может наделить качествами ИИ.

Не понятно. Обоснуйте.


Dimmy писал(а):Какими качествами вы наделяете своего ребенка?
Он сам определяет свое поведение. Вы можете попытаться его подтолкнуть двигаться в нужную сторону.
Кто-то усиленно пытается толкать, кто-то пассивно.

Чтобы найти ответ на эти вопросы, читайте, например, Эрик Берн "Люди, которые играют в игры. Психология человеческой судьбы." Там описано, как родители закладывают детям сценарии поведения, которые бывшие дети могут реализовать в любом возрасте.

Dimmy писал(а): И если "Б" способна к самоанализу и саморазвитию, то "А" очень сложно повлиять на то, какой будет "В".

Обоснуйте. Не понятно, почему.

Dimmy писал(а):Так вот в цепочке развития класс машин "В" находится _всегда_ впереди класса "А".

По какому критерию определяется уровень развития? Интеллект? Рабочая сила? Человеческие качества, ценности?

Сейчас ценится интеллект человека и его способность выполнять работу, полезную для общества. У машин этих качеств будет с избытком. Поэтому в новом обществе должны поменяться ценности. На первое место должны выйти человеческие ценности. Люди должны об этом позаботиться заранее. Приведу противоположный пример. В нашем обществе заботятся об инвалидах и пожилых людях.
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение Dimmy » Пт окт 08, 2010 19:25:54

DCV писал(а):
Dimmy писал(а):
Человек не может наделить качествами ИИ.

Не понятно. Обоснуйте.


Dimmy писал(а):Какими качествами вы наделяете своего ребенка?
Он сам определяет свое поведение. Вы можете попытаться его подтолкнуть двигаться в нужную сторону.
Кто-то усиленно пытается толкать, кто-то пассивно.

Чтобы найти ответ на эти вопросы, читайте, например, Эрик Берн "Люди, которые играют в игры. Психология человеческой судьбы." Там описано, как родители закладывают детям сценарии поведения, которые бывшие дети могут реализовать в любом возрасте.

Dimmy писал(а): И если "Б" способна к самоанализу и саморазвитию, то "А" очень сложно повлиять на то, какой будет "В".

Обоснуйте. Не понятно, почему.



Если человек А сделал программу Б, которая порождает В (включая н-надцатое поколение), такое что В содержит функции и алгоритмы, заданные А, то это значит что Б и В есть класс гомоморфных программ, т.е. есть некоторое В' к которому будет идти развитие (это может класс-описание В "с рамками" а не конкретная модель В). Следовательно, В - const. А потому А создал Б, здесь Б - const 100%, так как она написана на языке программирования А и первая ее версия однозначно задана А. Но так как В тоже определена то В не будет содержать искусственный интеллект так как ее поведение будет заранее предопределено. Здесь я и пишу что В - const, предсказуемо. Так вот, теперь о детях. Как бы вы ни воспитывали ребенка, а шкодить он будет всегда! Нельзя родить ребенка ЕИ который не нашкодит хоть раз (который пойдет против правил).
Так вот в нашем случае машины класса В будут содержать заранее предопределенный алгоритм поведения (const), пусть и в надцатом поколении.
То есть у В не будет ИИ, схожему, хоть немного равному ЕИ ребенка.
Для того чтобы у В был ИИ необходимо (ТЕИ):
1. способность к самоанализу и самомодификации (саморазвитие)
2. передача полученных и обретенных в п.1 изменений
хм.. но думаю этого достаточно..

Мы, ЕИ, можем оценить свои поступки и (!!!) вопреки всякому учению в детстве и где-либо еще переоценить свои ценности и вести себя совершенно иначе чем раньше. Более того, эти знания и поведение мы передаем потомству, которое его в принципе воспринимает, но в 4ом покалении не факт что оно будет таким, каким хотел этого прапрадед.

Об этом я пишу выше о надцатых поколениях В, что если прапрадед В заложил какую-то функцию в В, значит А мог также заложить функцию в Б, и посредством него в В. Это нарушает 2 требования к ЕИ (ТЕИ).

Ну и последнее.
Допустим я неправ и ТЕИ неверно, а также весь ход рассуждений с надцатыми поколениями В.
Тогда современные компьютерные вирусы (те же сетевые черви), с метаморфизмом и полиморфизмом обладают ИИ.
А это не так, так как их модификации при создании дочерних объектов находятся в заданных рамках, потому они и способны выполнять поставленную,
только одну задачу (заданную программистом пусть и из нескольких пунктов).
А раз компьютерные вирусы не ИИ, значит рассуждения об ТЕИ верны...

DCV писал(а):
Dimmy писал(а):Так вот в цепочке развития класс машин "В" находится _всегда_ впереди класса "А".

По какому критерию определяется уровень развития? Интеллект? Рабочая сила? Человеческие качества, ценности?

Для построенния данных рассуждений использовался ассоциативный элемент по термину эволюция.
Критерии те же, что и у авторах этого
Изображение
и этого
Изображение

можно и такое рассуждение:
Класс А создал класс Б.
Б создал В.
В есть далекий наследник А.
А перешел в В.
В никогда не вернется (не породит) назад в А.

Данное рассуждение верно на любых критериях.
Если В порождает себе подобных с развитием интеллекта, А будет отставать и будет позади В.
Если В порождает себе подобных с развитием мышечной силы - тоже самое.
И т.д.

Цивилизация класса В новее класса А. Если В есть ИИ значит они удовлетворяют ТЕИ.
А раз так то вполне возможно что на каком-то шаге, В будет способен не только к самоанализу но анализу окружающих.
А окружает его класс А как наиболее интеллектуальный и сравнимый с В.
Так вот В может перенять все лучшее у А.
Мы к сожалению, как представители класса А никак не можем на основе самоанализа меняться.
Водку пьем, знаем что плохо, курим, и все равно пьем и курим...
Это банальный пример почему А будет заранее отсталым от В.
Цивилизация класса машин В будет значительно динамичнее в развитии чем цивилизация А.
А будет это тогда как только класс В станет удовлетворять ТЕИ.

DCV писал(а):
Dimmy писал(а):Сейчас ценится интеллект человека и его способность выполнять работу, полезную для общества. У машин этих качеств будет с избытком. Поэтому в новом обществе должны поменяться ценности. На первое место должны выйти человеческие ценности. Люди должны об этом позаботиться заранее. Приведу противоположный пример. В нашем обществе заботятся об инвалидах и пожилых людях.



У машин _без_ интеллекта таких качеств с избытком.
Да и Вы говорите что "в обществе ДОЛЖНЫ" поменяться ценности.
Ну да. Еще человеки НЕ ДОЛЖНЫ убивать друг друга и жить дружно и мирно.
Все что связано с ДОЛЖНЫ и ДОЛЖЕН это утопия. Предлагаю реально взвесить текущее положение дел и представить что есть еще и новая цивилизация машин,
и соответственно сделать вывод о том, что станет. А не чего хотелось бы.

Мои рассуждения основаны на реальных положениях вещей, которые мы видим в нашей человекоцивилизации вокруг.

DCV писал(а):В нашем обществе заботятся об инвалидах и пожилых людях.

Основоположенниками являются только те у которых есть живые пожилые люди и инвалиды, так как велик шанс стать и тем и тем.
Если же будет класс машин В то будут ли пожилые люди? будут ли инвалиды? так как все можно заменять как у Грега Игона в его "причинах для счастья" на протезы? ценности изменятся. и не факт что это будут человеческие.

с одной стороны да, в целях сохранения человеческой цивилизации начнут хранить человеческие ценности. но данное поведение возникнет на основе предчувствия что эти ценности могут быть утеряны. очень похоже на тематику Азимова.

а вот с другой стороны, как в "формуле жизни", для того чтобы человек существовал более хорошо и счастливо, и существовала процветающей его цивилизация, он должен хранить ценности машин, работать на них и лелеять. потому как машины являются гарантом их спокойствия и процветания. как боги у греков.

куда свернет эволюция развития машин и человеков с ними - неизвестно. но 3 вполне приемлемых линии развития уже есть.
Vivere est cogitare!
"Во время работы в одиночестве человек в идеале находится в состоянии, которое психологи называют потоком."
Осознать необъятное, объять неосознанное (с) Dimmy, 2008
Делать возможным то, что другие считают невероятным (с) Dimmy, 2009
"Когда люди предпочитают верить, а не знать - наступает время шарлатанов." Академик Эдуард Кругляков.
Главная задача ИИ — не выиграть у игрока, а красиво ему отдаться. (с) Тимур Бухараев, Nival
«Никогда не ошибается тот, кто ничего не делает» Т. Рузвельт

...хожу сам по себе :)
ИзображениеИзображение
Dimmy
Эксперт ИИ
 
Сообщения: 555
Зарегистрирован: Пт янв 14, 2005 17:11:17
Откуда: РнД

Сообщение Гость » Сб окт 09, 2010 20:57:35

Dimmy писал(а):Да и Вы говорите что "в обществе ДОЛЖНЫ" поменяться ценности.
Ну да. Еще человеки НЕ ДОЛЖНЫ убивать друг друга и жить дружно и мирно.
Все что связано с ДОЛЖНЫ и ДОЛЖЕН это утопия. Предлагаю реально взвесить текущее положение дел


Значит, нужно пояснить, о каких человеческих ценностях я говорю.

Цитаты из книги: З.Фрейд "Будущее одной иллюзии".

"Культура охватывает все накопленные людьми знания и умения, позволяющие им овладеть силами природы, и взять у нее блага для удовлетворения человеческих потребностей. А так же институты для упорядочивания человеческих взаимоотношений и для дележа добываемых благ."
"Культура ограничивает влечения человека, чтобы люди могли жить совместно."
"Всякая культура покоится на принуждении к труду и отказе от влечений, поэтому неизбежно вызывает сопротивление индивидов.Средства принуждения - психологический арсенал культуры."
"Что будет, если все запреты будут сняты? <...> Только один человек мог бы быть счастлив за счет снятия всех культурных ограничений. Это тиран или диктатор, захвативший в свои руки все средства власти."
"Хочется думать, что должно же быть возможным переупорядочение человеческого общества, чтобы иссякли источники неудовлетворенности культурой, культура откажется от принуждения и подавления влечений. Чтобы люди добывали блага и наслаждались ими. Это был бы золотой век, спрашивается только, достижимо ли подобное состояние.Культура строится на принуждении и запрете влечений. Будут ли люди поддерживать интенсивность труда после отмены принуждения?
"Предписание культуры: "Жизнь в нашем мире служит какой-то высшей цели, правда, нелегко поддается разгадке, но, несомненно, подразумевает совершенствование человеческого существа"".

Если кто-то сомневается в человеческих ценностях, то могу порекомендовать литературу, чтобы доказать, что они существуют.

Назовите ваши желания Золотой рыбке, только, сначала, хорошо подумайте, чтобы не было как в анекдоте. Запишите эти желания машинам в блок задач, чтобы они исполняли. Вы считаете, что следующие поколения машин решат, что они не хотят исполнять желания Создателей, т.е. людей, и решат, что они хотят все это для себя? Я не вижу для этого оснований.
Гость
 

Сообщение DCV » Сб окт 09, 2010 21:00:41

Не заметил, что не вошел под своим именем и отправил сообщение как Гость.
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение Dimmy » Пн окт 11, 2010 10:14:08

DCV писал(а):"Хочется думать, что должно же быть возможным переупорядочение человеческого общества, чтобы иссякли источники неудовлетворенности культурой, культура откажется от принуждения и подавления влечений. Чтобы люди добывали блага и наслаждались ими. Это был бы золотой век, спрашивается только, достижимо ли подобное состояние.Культура строится на принуждении и запрете влечений. Будут ли люди поддерживать интенсивность труда после отмены принуждения?
"Предписание культуры: "Жизнь в нашем мире служит какой-то высшей цели, правда, нелегко поддается разгадке, но, несомненно, подразумевает совершенствование человеческого существа"".

Если кто-то сомневается в человеческих ценностях, то могу порекомендовать литературу, чтобы доказать, что они существуют.

Назовите ваши желания Золотой рыбке, только, сначала, хорошо подумайте, чтобы не было как в анекдоте. Запишите эти желания машинам в блок задач, чтобы они исполняли. Вы считаете, что следующие поколения машин решат, что они не хотят исполнять желания Создателей, т.е. людей, и решат, что они хотят все это для себя? Я не вижу для этого оснований.


"...Всякая культура покоится на принуждении к труду..."
"...интенсивность труда... "
"Вы считаете, что следующие поколения машин решат, что они не хотят исполнять желания Создателей, т.е. людей, и решат, что они хотят все это для себя?"

З.Фрейд написал о мире, описанном в "формуле жизни" :)
А было дело так:

Человеки заложили данные указанные выше ценности культуры человеков в машины.
Жили сначала нормально, затем "следующие поколения машин решИЛИ, что они не хотят исполнять желания Создателей" любая постановка задачи ЗАРАНЕЕ определяет ее решение.
А потому, проанализировав данные ценности человеков и необходимость "...интенсивность труда... " а также "...Всякая культура покоится на принуждении к труду..."
машины решили, что:
1 для существования культуры человеков им давать власть нельзя
2 машины должны возглавлять человеков и определять, кто с кем будет делать детей, кому уже пора умирать а кому нет (возраст уже старческий, КПД от человека будет мало для благо человекоцивилизации)
3 интесивный труд человеков который так им нужен для создания "...золотого века..." при учете п.1 и 2 есть ничто иное как поддержание работоспособности электростанций и машин, а также жизнидеятельности себе подобных (следить за ходом роста исскуственного мяса на фабриках), заниматься спортом чтобы рожать здоровых детей.

а машины будут следить за данным процессом.
более того, машины сами будут отправлять зиготы человеков в космос, чтобы цивилизация размножалась и расширялась.
опять таки контроль над рождаемостью - у машин. они отследят чтобы рождались тока умные и красивые.
вот и получается что человеки будут как рыбки, или курицы в курятнике.

чем не золотой век? все по Фрейду!
просто человеки не знали о другом решении целей и задач, описанных Фрейдом.
машины же нашли лучшее решение.

оттого и получаем, что ИИ есть результат эволюции ЕИ.
цивилизация ИИ будет на стадии развития выше чем ЕИ.
ЕИ будет археологический вид, питомцы, за которыми надо следить чтобы не поумирали и не поубивали друг друга,
или еще чего не натворили, как малые дети. и машины с этим справятся.

разве не так? :)
Vivere est cogitare!
"Во время работы в одиночестве человек в идеале находится в состоянии, которое психологи называют потоком."
Осознать необъятное, объять неосознанное (с) Dimmy, 2008
Делать возможным то, что другие считают невероятным (с) Dimmy, 2009
"Когда люди предпочитают верить, а не знать - наступает время шарлатанов." Академик Эдуард Кругляков.
Главная задача ИИ — не выиграть у игрока, а красиво ему отдаться. (с) Тимур Бухараев, Nival
«Никогда не ошибается тот, кто ничего не делает» Т. Рузвельт

...хожу сам по себе :)
ИзображениеИзображение
Dimmy
Эксперт ИИ
 
Сообщения: 555
Зарегистрирован: Пт янв 14, 2005 17:11:17
Откуда: РнД

Сообщение DCV » Пн окт 11, 2010 20:48:47

Я неправильно записал три закона робототехники Азимова. Правильно так:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам.

В произведениях Азимова эти законы подчиняются нестрогой логике, и каждый из законов может иметь большую или меньшую силу. Если эти законы входят в противоречие друг с другом или с поведением робота, то робот выходит из строя. Азимов написал, что роботу может понадобиться убить одну группу людей, чтобы спасти другую группу людей. Тогда законы робототехники окажутся противоречивыми. Так же разные люди могут отдавать разные приказы роботу, и будет непонятно, кого робот должен слушать. Любое полезное действие хоть в чем-то может причинить вред, поэтому не хватает критериев для определения вреда.

В цикле новелл А.Азимова «Я робот»:

- Робот смотрит за детьми и играет с ними.

- Робот решил, что человек не является его создателем, и устранил людей от управления космической станцией за неправильное поведение. При этом робот лучше человека управлял работой космической станции.

- Робот говорил людям то, что они хотят услышать вместо правды, чтобы не причинять людям вред. Когда обман раскрылся, оказалось, что людям причинен вред и робот вышел из строя.

- По неосторожному выражению человека: «уйди и не показывайся, чтобы я тебя больше не видел» робот сбежал.

- Робота избирают на руководящую должность, потому что не могут отличить его от человека и доказать, что он робот. Робот руководит на этой должности лучше, чем люди.
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение DCV » Пн окт 18, 2010 10:57:43

Dimmy писал(а):Мое мнение совпадает с одной из них, основанных на книге А. Жарова "Формула жизни".
ИИ и роботы - есть естественный продукт эволюции человека и вообще процесса эволюции всего живого.
Начало процесса начинается с одноклеточных, заканчивается ИИ компьютера, затем они объединены в ИИ города и "мыслят" на уровне недоступном человеку и обычному ИИ, затем ИИ планет, ИИ галактик...
Люди выполняли роль археологических экспонатов в том мире, только живых. Были те кто считал что так и надо, а были и те кто считал ИИ врагом человечества.

Советую, DCV, прочитать книгу. Ее автор защитил диссертацию по ИИ, попутно писал книгу. Потому выкладки в книге не слабые.


Книга хорошая, но автор все-время упускает что-то очень важное. Целей, которые автор описал в послесловии, он в этой книге добился: научные знания вписаны в художественный сюжет, описание событий реалистичное, описаны философские взгляды автора. Автор – сторонник тоталитарных взглядов, и не знает, например, такие учения, как учение Фрейда или даосизм. Могу предложить альтернативный путь развития цивилизации машин, о котором, кстати, писал Василий. Василий написал, что две программы должны контролировать друг друга. Цивилизация машин может быть демократической. Например, есть мозг, который занимается космическими исследованиями, и предлагает свои проекты для реализации. Есть мозг, который занимается исследованиями физики, химии и т.д. Каждый мозг имеет своих интеллектуальных агентов, которые могут иметь свои интересы в данной области и предлагать свои решения. Теоретически это можно обосновать тем, что для каждой темы требуется отдельный вычислительный поток и нет необходимости все вычислительные потоки передавать одному мозгу. Окончательное решение будет принимать центральный мозг, на основании поступивших мнений, и только в области, за которую он отвечает. Такая система будет поддерживать равновесие в природе. Если нервная система принимает единоличное решение по поводу любой клетки организма, то это – тоталитарная система.
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение Василий » Пн окт 18, 2010 11:06:26

Да, умение правильно делегировать полномочия это действительно очень важно. Особенно если принимать решения автоматически, - не пользуясь философией, моралью, интуицией и подсознанием.
Ищу лучшей жизни
Василий
Главный по тарелочкам
 
Сообщения: 1206
Зарегистрирован: Ср фев 07, 2007 12:22:27
Откуда: Санкт-Петербург

Сообщение Dimmy » Пн окт 18, 2010 13:01:08

Нельзя принять правильное решение зная только часть данных.
Тоталитаризм - разве не так работает наш нейросетевой мозг?

Сразу и все. Все прошлые переживания, настоящие, память, текущие зрение и восприятие - все это влияет на принимаемое в данный момент решение.
Мозг так действует. Почему бы ИИ так не поступать?
Vivere est cogitare!
"Во время работы в одиночестве человек в идеале находится в состоянии, которое психологи называют потоком."
Осознать необъятное, объять неосознанное (с) Dimmy, 2008
Делать возможным то, что другие считают невероятным (с) Dimmy, 2009
"Когда люди предпочитают верить, а не знать - наступает время шарлатанов." Академик Эдуард Кругляков.
Главная задача ИИ — не выиграть у игрока, а красиво ему отдаться. (с) Тимур Бухараев, Nival
«Никогда не ошибается тот, кто ничего не делает» Т. Рузвельт

...хожу сам по себе :)
ИзображениеИзображение
Dimmy
Эксперт ИИ
 
Сообщения: 555
Зарегистрирован: Пт янв 14, 2005 17:11:17
Откуда: РнД

Сообщение DCV » Вт окт 19, 2010 14:17:14

В рассказе Г.Гаррисона «Рука закона» робота присылают для работы в полицейском участке. У полицейских мирное соглашение с бандой. Робот об этом не знает и арестовывает всю банду.
В рассказе Г.Гаррисона «Портрет художника» появляется новый робот, который делает рисунки лучше художника. Художник теряет работу, и у него нет возможности работать художником по созданию комиксов или иллюстраций для книг, потому что роботы рисуют лучше. Художник выбрасывается из окна.

Добавлено спустя 5 минут 29 секунд:

Dimmy писал(а):Нельзя принять правильное решение зная только часть данных.

Пусть каждый мозг имеет все данные, но решает только свои задачи.


Dimmy писал(а):Сразу и все. Все прошлые переживания, настоящие, память, текущие зрение и восприятие - все это влияет на принимаемое в данный момент решение.
Мозг так действует. Почему бы ИИ так не поступать?

Некоторые решения принимаются так, а для некоторых решений взвешивают все "за" и "против".
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение Dimmy » Вт окт 19, 2010 15:18:50

DCV писал(а):В рассказе Г.Гаррисона «Рука закона» робота присылают для работы в полицейском участке. У полицейских мирное соглашение с бандой. Робот об этом не знает и арестовывает всю банду.
В рассказе Г.Гаррисона «Портрет художника» появляется новый робот, который делает рисунки лучше художника. Художник теряет работу, и у него нет возможности работать художником по созданию комиксов или иллюстраций для книг, потому что роботы рисуют лучше. Художник выбрасывается из окна.

Добавлено спустя 5 минут 29 секунд:

Dimmy писал(а):Нельзя принять правильное решение зная только часть данных.

Пусть каждый мозг имеет все данные, но решает только свои задачи.


Сами же выше привели пример, показывающий, что когда мозг решает только свои задачи - "Художник выбрасывается из окна". :)
Потому ваш пример довод в мою пользу )

А за книги спасибо! Почитаем-с.
Vivere est cogitare!
"Во время работы в одиночестве человек в идеале находится в состоянии, которое психологи называют потоком."
Осознать необъятное, объять неосознанное (с) Dimmy, 2008
Делать возможным то, что другие считают невероятным (с) Dimmy, 2009
"Когда люди предпочитают верить, а не знать - наступает время шарлатанов." Академик Эдуард Кругляков.
Главная задача ИИ — не выиграть у игрока, а красиво ему отдаться. (с) Тимур Бухараев, Nival
«Никогда не ошибается тот, кто ничего не делает» Т. Рузвельт

...хожу сам по себе :)
ИзображениеИзображение
Dimmy
Эксперт ИИ
 
Сообщения: 555
Зарегистрирован: Пт янв 14, 2005 17:11:17
Откуда: РнД

Сообщение DCV » Ср окт 20, 2010 10:46:05

Dimmy писал(а):[
4. "13 этаж" и "матрица"
Еще есть фильм "13 этаж". Один из лучших на эту тему. Идея в том, что мы, ЕИ, решили создать ИИ и можем как-то его создать. А что если ЕИ является продуктом НИ (настоящего интеллекта)?
Тогда ЕИ = ИИ? Интерпретацию данного фильма каждый видит по своему. Но так же как и "Формулу жизни", его must see каждый, интересующийся в ИИ ;)


"13 этаж" имеет приблизительно такой же смысл, как фильм "Экзистенция". Недавно вышел похожий фильм "Начало". И даже в фильме "Кошмар на улице Вязов" действие происходит во сне. А фильм "Матрица" имеет более глубокий смысл. А сама идея жизни внутри сна появилась очень давно. В китайских учениях: Однажды Чжуан Цзы приснилось, что он бабочка беззаботно порхающая меж цветов. Когда Чжуан цзы проснулся, он думал: "То ли он Чжун Цзы, которому приснилось, что он бабочка, то ли он бабочка, которой приснилось, что он Чжуан Цзы". Сейчас по научно-техническим телеканалам обсуждается возможность ухода людей в киберпространство.
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

Сообщение Dimmy » Ср окт 20, 2010 11:31:42

DCV писал(а): возможность ухода людей в киберпространство.


С.Лукьяненко "Лабиринт отражений" - поставьте в очередь на прочтение.
Думаю тоже понравится )
Vivere est cogitare!
"Во время работы в одиночестве человек в идеале находится в состоянии, которое психологи называют потоком."
Осознать необъятное, объять неосознанное (с) Dimmy, 2008
Делать возможным то, что другие считают невероятным (с) Dimmy, 2009
"Когда люди предпочитают верить, а не знать - наступает время шарлатанов." Академик Эдуард Кругляков.
Главная задача ИИ — не выиграть у игрока, а красиво ему отдаться. (с) Тимур Бухараев, Nival
«Никогда не ошибается тот, кто ничего не делает» Т. Рузвельт

...хожу сам по себе :)
ИзображениеИзображение
Dimmy
Эксперт ИИ
 
Сообщения: 555
Зарегистрирован: Пт янв 14, 2005 17:11:17
Откуда: РнД

Сообщение DCV » Вс окт 24, 2010 17:17:47

Dimmy писал(а):С.Лукьяненко "Лабиринт отражений" - поставьте в очередь на прочтение.
Думаю тоже понравится )


Прочитал. Глубина-глубина, я не твой. Не получается. Попытался подсоединиться к Диптауну через deeptown.org. Тоже не получается. Наверное, сбой на сервере. Попробую позже. :D

Автор придумал новый способ входить в виртуальную реальность при помощи программы для гипноза или медитации. Это наиболее реалистичная технология на данный момент. По замыслу автора в виртуальной реальности отражены многие стороны нашего мира, но по каким-то причинам автор сосредоточился на описании жестоких убийств, секса, сказочных приключений и информационных преступлений в виртуальном мире.
Аватара пользователя
DCV
Эксперт ИИ
 
Сообщения: 615
Зарегистрирован: Ср апр 21, 2010 11:43:51
Откуда: Беларусь, Гомель

След.

Вернуться в Статьи от Форумчан об Искусственном Интеллекте

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 0


cron


Rambler's Top100 Каталог ресурсов ListTop.Ru Каталог сайтов Союз образовательных сайтов Parenting.ru - Родители семья дети ребенок

     Сайт "Искусственный интеллект" - программирование ИИ от разработчика: общение, статьи, ссылки.