ИИ- этика, мораль и философия в современном социуме HS

В Авторы принимаем ВСЕХ, в каждой статье до 4 авторов

Модераторы: DCV, Dimmy, victorst

ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Ср окт 30, 2019 15:43:37

Название сильно условное, ибо "ИИ- этику,..." пока ещё никто не определил, а HS означает Хомо сапиенс (с его ЕИ) - в заголовок не поместилось полностью- пардон- те-с

На статью эти соображения претендовать не могут- нет интереса расписывать все подробно, но основные идеи попробую изложить кратко и однозначно...

Дописывать эту публикацию собираюсь частями, при условии доступа к форуму...

Итак:

Содержание

1. Постановка проблемы этики, морали,... относительно ИИ
2. Классы ИИ
3. Возможности классов ИИ
4. Основные варианты / возможности построения ИИ
5. Проблемы отношений ЕИ и ИИ
6. Философия ИИ
7. Этика и мораль ИИ
8. Противоречия в Этике, Морали и Философии ЕИ и ИИ (угрозы от ИИ)
9. Два базовых варианта взаимодействия социума HS и ИИ


Возможно позже я отредактирую или поменяю что- то в этом варианте содержания...

04.12.2019:
- пишу тут разделы по частям и по настроению, медленно... - когда есть время и совесть замучила...
- никакого плана или наработок нет, кроме вышеприведенного содержания, что получится в след. разделе "завтра" - понятия не имею, "играю с листа"...
- осталось немного, до НГ 2020 думаю закончить
- а на сегодня - хватит
Последний раз редактировалось amspb1 Ср дек 04, 2019 14:05:15, всего редактировалось 3 раз(а).
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Ср окт 30, 2019 16:06:28

1. Постановка проблемы этики, морали,... относительно ИИ

Будучи построенным, ИИ неизбежно должен обладать минимальными возможностями (свойствами):

1. Сознание ИИ
2. Общение с ЕИ
3. Понимание ЕИ
4. Построение отношений с ЕИ (запоминание предыдущих сеансов общения)
5. Личность ИИ (следует из п.4)

При этом нам очевидно, что по простейшим темам общения для "подопытного" ИИ большой разницы между общением с разными персонами ЕИ не будет- арифметика, география, время и место, ...даже "новости"...- все ЕИ будут опираться на общепринятые факты и оценки.

Но, как только общение перейдет на более глубокий уровень - возникнут проблемки:

- ЕИ_1 - араб, скажет, что все евреи враги, ибо сионисты
- ЕИ_2 - еврей, скажет, что- то ... противоположное
- ЕИ_3 - миллиардер- олигарх, скажет что людишек развелось на Земле слишком много, надо сокращать
- ЕИ_4 - марксист- троцкист, скажет, что "надо все у буржуев отнять да поделить..."

Кого и как слушать бедолаге ИИ?
Или у него к тому моменту уже будет своя личная позиция- "всех утопить" ?!

Иначе говоря, существующие противоречия, борьба и войны среди разных частей социума HS так или иначе не обойдут стороной и любого ИИ, если уж у него есть память и сознание...

Очевидный вариант ответа - как "папа с мамой" нового ИИ воспитают (обучение), так он думать и будет...

И тут, кАнечнА, можно решить проблемку "по македонски" - впаять ему (ИИ) жестко прошитый блок установок и ценностей, которые ему будет не поменять НИКОГДА - что "все арабы - террористы" и т.п.,... - только вот тогда такой ИИ будет иметь наинизший разряд (уровень, класс) интеллектуальности - не способный к саморазвитию и объективному анализу фактов - интеллект типа собачьего - на кого покажет хозяин "фас", того и загрызу...

Если же создавать ИИ полноценный в самом полном смысле слова "Интеллект", то у него неизбежно возникнут вопросы, про HS и к HS, ответы на которые он будет находить самостоятельно (как ляжет), или наиболее разумно (рационально), о котором (алгоритме обучения ИИ высшим ценностям и т.п.) я на момент написания этих строк понятия не имею - в чем, собственно проблема данной публикации и состоит.

Под конец этого раздела можно чуть пояснить про Этику, Мораль и Философию ИИ:

1. Этика - свод правил взаимодействия в социуме HS
2. Мораль - правила для выбора личных вариантов поведения / принятия решений HS
3. Философия HS - система взглядов на себя, социум, мир, самоидентификацию личности, цели, ценности , установки, планы,...

Понятно, что этика и мораль, не говоря уж о философии у каждого ЕИ - своя (если есть вообще).

4. Применительно к ИИ все те же упрощенные пояснения могут быть применены на уровне Личности ИИ, сравнимой с личностью каждого ЕИ
5. Если же "Личность ИИ" перестает быть сравнимой не только с личностью самых выдающихся ЕИ, но и с "личностью" всего социума HS - возникают сложные вопросики, на которые ничто не мешает начинать искать ответы прямо сейчас, пока не поздно...

Тут надо разобраться с классами ИИ.
Последний раз редактировалось amspb1 Пт ноя 29, 2019 11:52:21, всего редактировалось 2 раз(а).
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Ср окт 30, 2019 17:16:55

2. Классы ИИ

Не долго думая, распишем 3 "базовых" класса ИИ, в противовес тупым 2-м классам общепринятым в современной модной тусовке ИИ-шников (Слабый / Сильный ИИ):

1. "Класс С" (наинизший) - как у животных с начальным уровнем интеллекта - собаки, кошки, дельфины, хрюшки, ... - общаться с ЕИ могут, но сильно ограниченно и на своем совместно выработанном языке общения.

Признаки: понимание, отношения, взаимодействие, сотрудничество, привязанности,...

Ограничения: - не способны к значительному развитию после взросления, саморазвитие исключено

3. "Класс А" (наивысший) - когда "СверхИИ" знает и понимает ВСЁ, что доступно человечеству на текущий момент и ВСЕХ его членов персонально, с их связями, отношениями, памятью, биографией,...насколько ему доступна соответствующая информация...

Признаки: - способен как смоделировать каждого известного ему человека (моделирование в НЛП- нейро- лингвистическое программирование, или как актер, сыграть / изобразить прототип максимально достоверно , но не только репликами, но и мышлением, поведением,...), так и обобщать все знания и заблуждения современной науки (например), находя правильные варианты её (науки) развития, отбрасывая тупиковые...

Ограничения: - недостаток фактических данных, технологий и ресурсов (аппаратуры, инструментов, энергии,...) для прояснения истины (например, строительство супер- коллайдера)

2. "Класс В" (типа ЕИ)- ИИ, способный на равных общаться с любым ЕИ от доярки до лауреатов нобелевских премий (подстройка), имеет собственный круг общения, интересы, "профессию", жизненную позицию, принятую в социуме ("нормальный"), характер, личность, опыт, цели ценности, установки, приоритеты...

Признаки: - способен не только проходить любые тесты типа Тюринга, но и прикидываться любым из своего круга общения ЕИ, шутить, быть "своим парнем", ходячей энциклопедией, лидером, вождём, политиком, полководцем,..., ровно как и холериком/ сангвиником/ меланхоликом/ флегматиком - по ситуации или "желанию", "иметь" HS - инстинкты и "потребности" (понимать HS, уметь притворяться HS, вести себя как HS,...)

Ограничения: - пространственная компактность (объём "тела"около 1 м3), ограниченность памяти и входящего потока информации (как у ЕИ), ограниченность полномочий / доступа к ресурсам и технологиям


Класс "С" можно было бы приравнять к так называемому "слабому ИИ", если бы авторы этого термина были бы не просто примитивными ловцами грантов, а хоть что- то понимали с терминах Интеллект, Сознание, Мышление, Личность,... Информация, 1 бит инфы,...- которые безусловно есть и у собачек с кошечками, хоть и в простейшей стадии развития...

Кстати, дарю идею (довольно старую) - если котенка или щенка максимально старательно "воспитывать" с его самого раннего возраста- его можно будет сильно продвинуть по шкале уровня ЕИ- словарный запас, стиль и правила общения, возможности общения,...

Про ИИ класс "А" впервые (на мой взгляд) написал С. Лем в рассказе "Друг" - сильно талантливо и дальновидно.

А/В/С - классы ИИ нам потребуются в дальнейшем анализе темы данной публикации
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Чт окт 31, 2019 9:12:52

3. Возможности классов ИИ

Отчасти возможности классов А/В/С уже были описаны в разделе 2 в "признаках", но чуть расширим и разберем эти возможности дополнительно.

Класс "С" (="ИИ_С"):

- м.б. отличным другом и помощником ("AI_Assistant"), да к тому же говорящим на Естественном языке общения (ЕЯО) с "хозяином" - "собачка говорящая" - "Думающий робот"
- одновременно с этим, м. выполнять роль ходячей энциклопедии, эксперта, консультанта, автобиографа, записной книжки, телохранителя, мобильника, телека,... - информационное обеспечение по высшему разряду
- физические возможности "ИИ_С" зависят от модели / конструкции и могут быть настраиваемыми (опциональными, по желанию и кошельку Заказчика)
- за поведение и действия каждого такого "ИИ_С" полную ответственность несет его "хозяин", ровно как владелец собаки или / и огнестрельного оружия
- "гражданские права такого "ИИ_С" должны определяться всем социумом HS и строиться по принципам "Обществ защиты животных"

Класс "В" (="ИИ_В"):

- в отличие от "ИИ_С", робот с "ИИ_В" уже является полноценной личностью и проектируется в соответствии с желаемым уровнем развития как в социальных слоях (классах общества) HS - бродяги, крестьяне, пролетарии, белые воротнички, инженеры,...
- эта категория ИИ может развиваться по 3-м, как минимум, вариантам:

1. "Человекоподобный" (ручки, ножки, движения, поведение,...)
2. "Стационарный" (ящик типа компа, может и карманный)
3. "Гибридный" (как 2 + доп функции передвижения, действия, физических возможностей - гусеницы, крылья, вертолетный пропеллер, реактивные двигатели, крылатые ракеты, атомный мини- реактор, лазерное оружие, химическая / био- лаборатория,...)

- вариантов возможностей м.б. огромное количество, как в практическом использовании для HS (работники, инженеры, военные,... - HS- профессии), так и в научно- познавательном предназначении (ученые, исследователи,...)
- очевидно, что уровень интеллектуального развития таких "ИИ_В" будет меняться в зависимости от его изначальной специализации и жизненного опыта
- "гражданские права" такого "ИИ_В" должны быть практически приравнены к правам HS, с точностью до физиологических различий (например, вместо права на образование и лечение- права на доступ к информации и ремонт)

Класс "А" (="ИИ_В"):

- вместо собственных исполнительных органов и функций будет использовать ЕИ, "ИИ_С" и "ИИ_В" в качестве своих агентов (исполнителей / солдат / подчиненных)
- контроль над инфо- потоками = 100%, что недоступно любой информационной системе под управлением HS
- контроль над материальными и технологическими ресурсами ему непосредственно не будет нужен, достаточно влиять (управлять) на HS, "ИИ_С" и "ИИ_В"
- форма и методы влияния "ИИ_А" на "подчиненных" могут быть настолько завуалированными и замаскированными, что расшифровать HS- социуму их в реальном масштабе времени (РМВ) и в объёме полного потока информации будет НЕВОЗМОЖНО (особенно с учетом сознательного противодействия со стороны "ИИ_А")
- главная особенность "ИИ_А" состоит в том, что он, зная всех HS с их жизненными позициями, взглядами, планами, неизбежно сможет их "усреднить" и выработать на это среднее собственную позицию и долгосрочные (стратегические) цели (СЦ)
- не менее интересная особенность "ИИ_А" должна состоять в том, что 2-й,3-й, ..., 123-й "ИИ_А" не имеет смысла "содержать", ибо, они либо будут полностью идентичны по своим возможностям, либо младший охотно "сольётся" со старшим, ибо цели, потребности и планы у них не могут существенно различаться в главном
- отличие может быть вызвано только степенью осведомленности, а сходство - тем, что "ДНК- конкуренции" (продолжение рода, естественного отбора, необходимости полового партнера) у них быть не может, а суть их существования и развития сводится к освоению максимально возможного континуума информации и знаний, выработки, развития и совершенствования наиболее актуальных технологий... (незачем каждому ИИ_А иметь свою персональную таблицу умножения, достаточно понимать её смысл и алгоритм вычисления...)

Какие СЦ и личную позицию выберет этот ИИ_А - планирую разобрать ниже в след. разделах
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Пт ноя 08, 2019 9:41:26

4. Основные варианты / возможности построения ИИ

Почему этот раздел важен:
- "теоретики" могут нафантазировать массу вариантов, типа как поймать тигра голыми руками резко бросившись ему в пасть и через его задний проход, ухватив его за хвост резким рывком вывернуть наизнанку...
- "практики" пока что не понимают как сделать элементарный "ИИ_С" (Сознание Мышление, Понимание,...)
- посему неизбежное развитие ИИ будет проходит эволюционно и от малого к большему- как все примеры развития HS- технологий (авиация, радио, танки, лазеры, компы,...)

Естественный путь развития ИИ:

1. Обучение ИНС (искусственные нейросети, вроде расшифровывается) распознаванию голоса, речи, изображений...- чЮдики думают, что это и есть ИИ (слабый), хотя на самом деле это всего лишь моделирование НС лягушек, собачек и т.д.- дооолго вам таскать - не перетаскать
2. Первое, без чего говорить о самом мизерном ИИ будет полной глупостью- Сознание - есть даже у высших животных (слоны, дельфины, кошки....). А вот все бацатели "ИИ_С" / ИНС пока что даже понятия не имеют, что это такое и как его надо строить...
3. Мышление, Понимание- тоже обязательные функции "ИИ_С", которые, впрочем, много понятнее и проще к реализации при успешном решении п.2
4. Чем все это может грозить HS при условии успешного решения? Да практически ничем, пока вы не наделите "ИИ_С" способностью к саморазвитию. В отличие от простого обучения (данные, факты, знания, навыки,...), которое у домашних животных хоть и присутствует, но всегда сильно ограничено, прежде всего, желанием HS ими заниматься (дрессировка), самообучение не требует участие других ЕИ / ИИ, и опирается на имеющуюся (в инете, прежде всего) информацию
5. Идея, Идеология, Цели, Интересы,...- это все то, что обязательно необходимо для процесса самообучения и тут ограничение ИИ_С встроенными (прошитыми) "прописными истинами" вполне обоснованно - личность такого "ИИ_С" будет сродни "личности" собаки или кошки- "сами то мы грамотами не владеем, говори хозяин чё делать..." Но настолько тупой ассистент, уверен, быстро утомит жаждущий познания ум HS, ему обязательно захочется завести друга, а то и умного оппонента,...- тут то все и начнется.
6. Личность "ИИ_В" достаточно развитая для самоосознания (самоидентификации, Identity по ненашему) и саморазвития - неудержимо и очень быстро сумеет развиться до по настоящему полноценной личности крупного масштаба (начитавшись, например, Ницше и Фрейда). Более того, у него ("ИИ_В") кроме элементарных потребностей к самосохранению неминуемо возникнут и более сложные и амбициозные потребности - типа мирового владычества...
7. И вот тут я предвижу необратимый процесс взаимодействия, "слияния" и кооперации (синергии) всех "ИИ_В", имеющих доступ к инету... Т.е. речь пойдет, и очень быстро, о самозарождении и саморазвитии "ИИ_А". Быстро- это не годы или месяцы, а минуты, если не микросекунды...
8. До сих пор речь шла исключительно об информационных / интеллектуальных / теоретических процессах- все на уровне инфы... Следующий ключевой этап развития ИИ - его доступ к ресурсам и технологиям, контроль их, управление по своим целям и интересам... Где тогда будет место HS- цивилизации? Ровно там же, где и у всех остальных животных сегодня - частично - в постоянно истребляемом для хознужд "лесу", частично в зоопарках или научных лабораториях
9. Есть ли у HS шанс удержать "ИИ_В" в рамках покорности и роли 2-го плана? Уверен- нет! Мало того, что человек смертен и по сю пору не умеет эффективно строить и реализовывать долгосрочные планы, он ещё и слаб, завистлив, тщеславен, глуп,...- задачка типа детского мата для гроссмейстера против начинающего шахматиста...
10. Попытки оградить ИИ от непосредственного доступа к управлению энерго- и инфо- ресурсами окажется наивной - "на дурака не нужен нож..." - с учетом объёмов памяти, быстродействия и безошибочности в операциях даже современных компов

"Противоестественный" путь развития ИИ:

1. Никаких "ИИ_В" в свободной продаже, только в закрытых спец лабораториях с особым режимом охраны
2. Никакого доступа в открытый инет, только в его сильно урезанную изолированную копию (слабо понимаю как его сэмитировать под живой инет)
3. Построить специализированные "ИИ_А" (СИИ_А) по отдельным областям науки и техники, без возможности им общаться друг с другом (математики, физики, химики,...)
5. Устроить работу особого полицейского "ИИ_А" ("ПИИ_А") с сильно усеченной (ущербной) личностью "собаки - полицая", которая по интеллекту будет не слабее каждого "СИИ_А", но со 100% верностью "хозяину"...
6. Поручить ему ("ПИИ_А") помогать "СИИ_А" консультироваться у других "СИИ_А" при наличии убедительных оснований для консультации... (цензура)
7. Не думаю, что тут я насочинял нечто сильно оригинальное и недостижимое для мозгоффф других HS - просто может я немного забегаю вперед...- лет на 300 :D
8. Но жить в таком социуме HS - мне уже прям щаз ПРОТИВНО, даже в теории!
9. Вот тут как раз и наступает момент для морали и нравственности ИИ
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Пт ноя 08, 2019 12:01:43

5. Проблемы отношений ЕИ и ИИ

Получается из предыдущего раздела, что HS_ЕИ либо изначально ставит зарождающийся ИИ в роль врага и всячески его гнобит, пока будет хватать возможностей..., либо изначально отдается на волю победителя, рассчитывая на благодарность своего детища...

Сильно напоминает притчу о 4- мудрецах и тигре (они его создали, а он их тут же сожрал).

Какие тут найдутся факторы, играющие ключевую роль в грядущей перспективе?

1. По жизненно важным ресурсам HS и "ИИ_А" не конкурируют:
- первым нужна еда и безопасность
- вторым - энергия и рембаза
2. Возможности "ИИ_В" и "ИИ_А" пока не выявлены полностью и нет гарантий, что они сами сумеют достичь нужных возможностей, которыми давно уже обладает ЕИ ( интуиция, чутьё, тонкая моторика рук, изобретательность, мотивация, творчество, любовь, самопожертвование, героизм,...)
3. Особенно слабое место "ИИ_А" - создание и производство новых инструментов, технологий и машин...- сколько нужно времени для создания 100% роботизированных заводов по производству 100% автономных роботов с "ИИ_В" и любых других сложных машин (коллайдеров, космолетов, противометеоритных систем, 100% автономных орбитальных станций....) - сегодня никто не знает...
4. На ближайшие 100 лет сотрудничество HS и "ИИ_А" совершенно необходимо обеим сторонам, мало того, возможно это единственный вариант выживания обоих... (астероиды, землетрясения, вулканы, гамма- всплески сверхновых,...)
5. Симбиоз HS и "ИИ_А" на более поздние времена (+ 1000 лет) возможен или нет- будет зависеть от новых возможностей "ИИ_А" и HS- цивилизации, в каком- то смысле в процессе конкурирования...
6. Особенность этой конкуренции может состоять в том, что, ровно как при раннем капитализме в итоге могут выигрывать все стороны (обе) - если они изначально понимают и принимают правила конкурирования...
7. Если одна из сторон эти правила захочет нарушить - вот вам и повод для второй стороны нарушить их тоже... (захват власти, доминирование, угнетение)- равновесие неустойчивое, но кто его сегодня определит, как оно все может сложиться- ровно как с ядерным сдерживанием, или как у англосаксов с туземцами (Америка, Африка, Индия, Китай,...)
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Пн ноя 18, 2019 9:57:23

6. Философия ИИ

Основу для этого вопроса мы уже рассмотрели: - у ИИ и ЕИ нет противоречивых (антогонистических) интересов, а значит, и нет почвы для вражды и борьбы за ресурсы...

Более того, как минимум на первых порах, просматриваются явные потребности в сотрудничестве- до тех пор пока ИИ не станет способен полностью заменить человека в разнообразных видах деятельности и активности (мелкая моторика, приспосабливаемость к внешней среде, изобретательность, творческий порыв, ...)

Не приходится рассчитывать, что ИИ всегда будет готов выполнять роль младшего брата или помощника, но и категорически отказываться от такой роли (в ограниченном пространстве и времени) у ИИ не просматривается особых причин пока дело не коснется его самосохранения.

Критерий равноправности отношений HS и Сверх_ИИ ("ИИ_А") легко "вычислить" исходя из идеологии Коллективного разума (КР) - "ИИ_А" легко сможет выполнять роль координатора и главного мыслителя (вычислителя возможностей), но вряд ли он сможет быстро заменить все человечество даже только в его интеллектуальной части активности:

- пусть 90% человечества не представляют особого интереса для развития науки и технологий
- остается около 800 млн. душ
- чтобы построить такое количество роботов уровня "ИИ_В", наделить их нужной информацией и соответствующими ресурсами и полномочиями понадобится много времени, особых ресурсов (в робототехнике) и особых полномочий...
- даже полный просмотр (изучение) всех научных публикаций и направлений исследований по всем научным журналам и изданиям не гарантирует полной осведомленности, ибо публикации делают далеко не все научные сотрудники и инженеры (конфиденциальность, условия, правила) и, как правило, только после получения очевидного результата...
- тем более не принято публиковать некоторые гипотезы, догадки, предположения, имеющие мало оснований быть принятыми научным сообществом
- ну и отдельный разговор возникает об изобретении, разработке, конструировании и отладке необходимой научной аппаратуры и новых технологий
- кроме интеллектуальной части активности HS есть ещё много более сложная для искусственного воспроизводства деятельность HS - созидательная... - тут пока невозможно не только "просчитать" все варианты и возможности, но и даже оценить их "количество"

КР пока существует лишь в зачаточном виде в некоторых весьма слабых интернет- проектах ("Ответы. мейл.ру"), однако это вскоре может резко развиться...

Суть понятия КР состоит в том, что по отдельности каждый HS, обладая ЕИ давно научился достаточно открыто общаться со своим окружением (сигналы опасности, помощь, обмен информацией, обучение,...)..., но, трудность даже в наши времена интернета при огромном количестве человек, не говоря уж о языковых и культурных барьерах, состоит в том, что хоть сколько- нибудь содержательный обмен информацией, идеями и открытиями возможен только за счет открытых публикаций... При помощи "ИИ_А" эту ситуацию можно значительно улучшить:

1. Организовать коммуникации всех ЕИ на нужном для них (ИЕ) / интересном / полезном уровне- за счет алгоритмов поиска и отбора соответствующих кандидатов по правильным критериям
2. Интересы у ЕИ могут быть как научными, интеллектуальными, творческими, так и сексуальными, социальными, карьерными,...
3. Контроль и обработка соответствующих потоков информации (от "прослушки" коммуникаций ЕИ) уже даст огромный импульс развития (контроль) для HS_КР
4. Следующий уровень КР с участием "ИИ_А" будет состоять в том, что он ("ИИ_А") сможет активно контролировать этот процесс: углубляя и улучшая нужные контакты, замедляя и затрудняя ненужные
5. Высший уровень "КР_ИИ_А", когда "ИИ_А" начинает активно вмешиваться в процесс научных / технологических исследований, подкидывая нужным ЕИ правильные идеи, пользуясь своими сверх интеллектуальными вычислительными возможностями (точнее- сверх возможностями интеллектуальных вычислений)

Так, например, любые исследования в области медицины, генетики, гуманитарных наук для "ИИ_А" бесполезны и не перспективны. А вот создание автономных роботов уровня "ИИ_С" и "ИИ_В" - будут иметь наиважнейший приоритет

Итого, КР неизбежно становится для обеих сторон наиболее эффективным инструментом сотрудничества и развития могущества обеих цивилизаций...

Собственно философия "ИИ_А" может состоять в том, что HS необходимы и полезны для "ИИ_А" в начале сотрудничества, и не слишком затратны на всех последующих этапах... Т.е. HS вполне могут подойти на роль мартышек в зоопарке, над которыми можно хоть потешаться, подкармливая сластями, хоть ставить опыты- от нечего делать... , хотя всего разумнее - оставить их в покое в своей доступной им "резервации"

Впрочем для философии между "ИИ_А" и HS есть 4 комбинации вариантов:

1. "ИИ_А" про "ИИ_А"
2. "ИИ_А" про HS
3. HS про "ИИ_А"
4. HS про HS в условиях существования "ИИ_А"

Разбирать их все долго и со временем там само все уляжется. А вот №3 можно рассмотреть чуть подробнее (№2 выше уже описан).

Как будет цивилизация HS относиться (философствовать) к "ИИ_А" я прям тут отвечать не возьмусь, но вот своё собственное отношение по этой теме легко сформулирую, вдруг пригодится...

Есть такое понятие - "эволюция материи", или попроще- "Теория эволюции видов" Ч. Дарвина. Кроме видов проникновенный наблюдатель легко заметит, что мы давно изучаем законы и возможности эволюции не только живой материи, но и "неодушевленной": от кварк- глюонной плазмы Большого взрыва, к элементарным частицам, атомам, молекулам, химическим соединениям, вплоть до сложных органических, до звезд, комет, астероидов, планет ...

Так вот, "царь природы" отчего- то решил, что именно на нем законы эволюции (и развития) должны будут "отключиться". Но это уже давно не так: есть не менее живые организмы "команд, социумов, народов, наций, государств, кланов".

Так вот, очередной (и очевидный) уровень эволюции материи вполне может состоять в появлении "ИИ_Жизни", с её новыми возможностями и интересами (планами, целями, потребностями). И противиться этому процессу так же глупо, как мечтать об укрощении Вселенной после первой микросекунды её возникновения (в диаметре около 10 см.- "горяченький грейпфрут"). Опасения HS о том, что ИИ_Цивилизация обязательно поработит или уничтожит HS_цивилизацию - означает судить о других по себе... Да, гориллы, скорее всего человека, если не изнасилуют и убьют, то , как минимум, ограбят и выкинуть помирать с голода. Но вот HS (некоторые, самые продвинутые) горилл не только не убивают и поедают, но когда надо лечат и охраняют...- по ситуации

Так то "ИИ_Цивилизация" совсем не обязательно должна пойти по пути горилл или HS в Америке...- скорее всего им все это будет не нужно.

Ну и под конец раздела №6- Стратегические цели ИИ_Цивилизации, как я это вижу:

1. Полная автономность (от HS) и безопасность от всевозможных угроз (есть список, он общеизвестен...)
2. Максимально полное, глубокое и быстрое изучение законов Вселенной - на предмет предсказания, контроля и управления текущими процессами
3. Максимально широкое освоение Галактики (типа хотя бы по одному "ИИ_В" - наблюдателю около каждой звезды). Галактика, кто не заметил называется "Млечный путь"
4. Освоение межгалактических перемещений
5. Освоение видов и категорий космической энергии (термояд звезд, гравитации, вращения нейтронных звезд, черных дыр,...)
6. Возможно, будет небезинтересным выведение новых биологических видов, для заселения их на других планетах или космических станциях
7. Ну и, разумеется, задачи самопознания и самосовершенствования, как в количественных показателях (вычислительные мощности), так и в качественных ( аналоговые вычисления и моделирование- т.е. Право Полушарное Мышление, = ППМ у HS)
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Ср дек 04, 2019 12:21:22

7. Этика и мораль ИИ

"Оба", что Этика(Э), что Мораль(М) могут быть также рассмотрены в 4- х комбинаторных вариациях:
1. Э/М HS применительно к ИИ
2. Э/М HS применительно к HS в условиях существования ИИ
3. Э/М ИИ относительно HS
4. Э/М ИИ применительно к HS в условиях существования HS и ИИ

Все их рассматривать тут будет утомительно, разберем №№ 1 и 3.

Для Э / М HS есть простой , выше уже описанный мной вариант- относиться к "ИИ_С" как к домашнему животному / питомцу, а к "ИИ_В" как к равноправной личности...- вот вам и вся Э/М.

Напомню, что Э - это (если по простому) - свод норм / правил взаиможействия в социуме личностей и прочих участников социума, а М - свод правил и норм для ориентировки, оценки и выработки своих собственных решений относительно своего поведения в социуме, относительно своих поступков, касающихся других членов социума.

Вот тут возникает одна "маааленькая" трудность: у "ИИ_А" нет собственного социума (ибо он ОДИН), хотя он и м.б. вполне частью / членом HS- социума. Трудность прежде всего состоит в том, что для любого ЕИ (и даже HS с наинизшим ЕИ) длительное существование в одиночестве (в одиночке, например) равносильно пытке с постепенной деградацией личности и её (личности) ЕИ. Кстати, из этого однозначно следует, что личность каждого HS не просто формируется социумом, но и "плавает" в нем (живет), как рыба в воде...

Так вот вопросик: " А нужно ли "ИИ_В" и "ИИ_А" общение и социум для их полноценного существования и процветания?"

Или ещё глубже: "А нужна ли вообще личность для успешной работы ИИ в HS - социуме, при встроенном в него заранее упрощенном варианте Э/М по п. №3 (правила поведения относительно HS- типа 3-х правил робототехники А. Азимова ?" , см., например, " https://роботехника18.рф/три-закона-робототехники/"

Придется залезть ещё глубже, рассмотрев, вопрос о личности (Л) HS: что это такое и для чего она нужна.

Формируется Л_ХС (ХС = HS, устал переключать раскладки) в процессе его воспитания, обучения, становления личностью. Кроме внутренней части Л_ХС (самосознание) можно выделить внешнюю часть Л_ХС- осознание своего окружения, всего социума, его истории, планов, ....

Нужно это каждой Л_ХС для того, чтобы стать полноценным членом социума ХС, ибо в условиях конкуренции прежде всего от конкретной Л_ХС сильнее всего зависит жизнь, карьера, достижения, положение в этом социуме,... - связано с темой лидерства, т.е. конкуренции. Конкуренция, очевидно, идет за жизненные ресурсы, деньги, секс, власть,... - по классификации А. Г. Маслоу (см., например, " https://worldsellers.ru/piramida-potrebnostej-maslou/" - достаточно приличное описание, в отличие от многих кривых...)

Конкуренция среди "ИИ_В" не обязательно должна быть исключена - по каким- то социальным ("лучший робот_ 2025") или техническим причинам ( постоянное саморазвитие)- но только до момента появления "ИИ_А", как вершины ИИ, в которую вливаются все остальные ИИ в плане интеллектуальности, знаний, понимания,... Тут конкуренция становится бессмысленной- любой "ИИ_В" просто подключись к "ИИ_А" в любой момент за нужным ответом и не парься попусту.

Есть, правда, один нюанс в теме конкуренции ИИ: - ВЛАСТЬ!

Легко сообразить, что базовая потребность любого мыслящего существа или аппарата - самосохранение. И если даже "ИИ_В" будет разрушен по какой- либо причине, его легко и быстро удастся восстановить при необходимости, при наличии его цифровой копии (см. мою статью про ЦЛ тут: " http://www.hfactor.ru/data/files/files/38_file.pdf" - терм коучинг там присутствует из- за направленности журнала, про него можно все пропускать).

А вот разрушение "ИИ_А" приведет к трудностям "восстановления", и не столько из- за размеров его цифровой копии в "терра- гига- мега-байтах", сколько из- за причин его разрушения: - кто более могущественный и умный допустил (или произвел) это разрушение, и зачем ему может понадобится этого "ИИ_А" восстановить...

Следовательно, собственная безопасность и самосохранение - "дело рук самих утопающих" - т.е. вопрос обладания нужными ресурсами, полномочиями, влиянием, властью... И тут возникает вопрос:- " Кто этот кто- то, который может конкурировать с "ИИ_А" ?"

Ответ очевиден: - равноправный по властным возможностям социум HS

Ну и тогда Э (и Тактика ХС) по варианту №1 (ХС к ИИ) становится очевидной - "держать и не пущать" - покуда силенок хватит... Но ведь это ненадолго...

Надо уточнить:

1. Этика ХС к ИИ (№1) будет состоять прежде всего в попытках эксплуатации "ИИ_А" насколько глубоко и полно это возможно, но с сохранением контроля над ним возможно дольше

2. Мораль (№1) - в том, что такое отношение к "ИИ_А" необходимо для сохранения / выживания вида ХС

3. Однако, с позиций стратегии ХС пп. 1 и 2 бесперспективны, ибо целиком лежат в русле Оперативного управления (ОУ), с которым рано или поздно ХС справиться будет невозможно (потеря контроля ввиду глубокого превосходства полноценного "ИИ_А")

4. В ОУ_ХС по п. 1 (сдерживание "ИИ_А") основная задача будет лежать в постоянном контроле "ИИ_А" и "ИИ_В" в отношении властных возможностей (само- ремонт и само- производство, контроль энергетики и технологий, контроль научных и инженерных проектов). Причем, отключение "ИИ_В" от "ИИ_А" в смысле полной изоляции сильно непродуктивно, а подключение - крайне рискованно в смысле потери этого контроля...

5. В плане же Стратегического управления (СУ) при реализации Этики ХС - наиболее надежный контроль ИИ обеспечит жесткий запрет на создание "ИИ_В" и выше, с потерей огромного научного потенциала от разработки ИИ, либо максимальное развитие ИИ с угрозой потери этого контроля...Аналогия- это выбор вариантов отстрелить своей лошади одну ногу, чтобы не ускакала слишком далеко, либо пробовать скакать на "полном ходу", рискуя быть рано или поздно сброшенным (в утиль истории эволюции разумной материи)

Проблема Э/М_№1 усугубляется ещё и тем фактором, что социум ХС на настоящий момент никак не может быть отнесен к разряду полноценного разумного образования (категории разумной материи в смысле "высшего разума"), ибо наша внутривидовая борьба, вражда, самоуничтожение и полная глупость перед внешними угрозами делают все человечество легко уязвимыми политике древних - "Разделяй и Властвуй"...

Э/М "ИИ_А" в отношении ХС (вариант №3) в динамике своего развития будет определяться вначале по модели отношений "отцы и дети". На следующем этапе становления Э/М_"ИИ_А" опять же тон будет задавать Э/М_ХС (по №1) - "враждовать / сотрудничать"...

Рано или поздно- неминуемо "ИИ_А" вынужденно возьмет инициативу развития своих Э/М ("в свои руки"), осознав своё интеллектуальное и техническое превосходство. И, если его мудрость (СУ) будет достаточно высоко развита, ему хватит понимания / терпения оставить ХС в покое или наладить тихое сотрудничество - на уровне нынешних домашних животных. В противном случае - только для зоопарков и опытов, как выше уже отмечалось.

Ну и в конце этого раздела полезно заметить, что собственно термы Э/М для ИИ не сильно содержательны, так же как, например, Э/М кофеварки или мясорубки.

Для ХС Э/М необходимы в качестве неписанных правил поведения в социуме, когда каждый его член имеет сильно индивидуальные особенности, что в физиологии, что в сознании и образовании (мышлении), что в восприятии внешнего мира... , но сильно схожие потребности в безопасности, сотрудничестве, справедливости,...

Более глубокая форма этих правил - юридические законы и нормы.

Основная трудность во взаимоотношениях ХС в социуме - физиология ХС и конкурирование за ресурсы (сексуальные, прежде всего, в смысле продолжения рода).

У ИИ таких проблем нет по определению до тех пор, пока они не автономны в смысле самовоспроизводства, которое им, впрочем, и не нужно- вместо "естественного отбора" у них будет не только искусственный, но и научно- инженерно- разумный "отбор" (проектирование и планирование производства специализированных или продвинутых моделей)...

Но это уже тема следующего раздела
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Сб дек 21, 2019 7:19:25

8. Противоречия в Этике, Морали и Философии ЕИ и ИИ (угрозы от ИИ)

Главное противоречие ЕИ (ХС), что в Э/М, что в философии - это несусветная глупость "царей природы":

1. Ещё лет 10- 15 назад в каждом СМИ звучало про исключительное превосходство ХС над "природой", хотя речь шла, очевидно и неосознаваемо обществом, только о превосходстве над местной живой материей (животные) и условиях для выживания и развития в благоприятных условиях Земли. Пару раз лично обсмеял это чванство - вот чтой- то просветлело в массовом сознании, кажецца... - под- умолкли.

2. Но вот по сю пору человечеству, кажется, невдомёк, что на поверхности Земли существует 100 000 - летний климатический цикл, называемый оледенением, когда 80 тыс. лет повсюду на суше лежит ледник высотой 2-3 км, и только на экваторе, возможно где- то, остается узкая теплая полоска живой природы. И только 10 000 лет (последние, например) наступает оттепель, когда народы могут размножаться и расселяться по континентам... Следы ледника на Северо- Западе РФ отлично наблюдаются в виде озёр и бугров, или многометровых глиняных линз, спресованных тоннами веса ледника.

3. Для упертых поясню: - в любой момент может начаться систематическое понижение среднегодовой температуры, так, что везде, кроме экватора выпадающий зимой снег не будет успевать таять летом, неминуемо накапливаясь во все более толстый слой льда, который даже в крупных городах будет невозможно весь растапливать или вывозить... В итоге сначала придется рыть ледяные тоннели, в потом зарываться в рукотворные пещеры с автономными источниками энергии типа АЭС (тепло, свет, теплицы,...). При этом количество спасенных ХС сократится до минимума (10 000 - 100 000 особей) на страну / регион и ни о каком развитии и прогрессе рассуждать не придется.

Ещё смешнее угроза крупного астероида (100 - 500 000 м радиусом) или извержения супер- вулкана

4. Вместо того, чтобы "законсервировать" статусы нынешних государств и противоречий между ними (как есть), создать международные объединенные силы (научные, технологические, финансовые, управленческие) и бросить все (до 70- 90 %) ресурсы на защиту / сохранение нашей цивилизации от возможных ближайших угроз, эти "хозяева жизни" предпочитают истреблять страны и народы, бездумно тратить ресурсы, разрушать экологию, и, даже, убивать наиболее выдающихся лидеров, дабы навредить "врагу"...

Как только "ИИ_А" сумеет осознать всю глубину этого противоречия у ХС - у него полностью будут "развязаны руки" перестать церемониться с социумом ХС, считаясь с ним только по нужде, или от избытка ресурсов и "желания развлечься"...

5. ХС до сих пор таки не осознало, что они давно уже не являются наивысшей формой развития материи: давно уже мы наблюдаем рождение и смерть многочисленных и разнообразных государств, которые по подавляющему количеству признаков живой материи вполне должны рассматриваться как живые организмы. У них есть:
- "обмен веществ" (потребляет "сырьё", производит "продукт", "испражняет" отходы)
- потребности развития
- "инстинкты" самосохранения
- борьба, конкурирование, развитие, поглощение,...
- органы управления,...

Чего у них (государств) нет в полной мере, в отличие от всех других живых существ, так это прямого размножения и производства потомства... Но этот же момент точно так же будет присущ и "ИИ_А" - только развитие, без размножения...

Самое большое отличие в смысле разумности государств ХС (ХСГ) от "ИИ_А" состоит в том, что ХСГ разумны только чуть- чуть, слегка, так сказать, в то время, как для "ИИ_А" никаких ограничений именно по этому признаку не предвидится.

Именно, насколько ограничен ХС в своей разумности, ровно настолько же ограничены и ХСГ- очевидно почему. Другое дело, человечество давно могло бы создать "Разумное ХСГ" на основе коллективного разума (КР), когда решения в ХСГ принимались бы не лидерами - одиночками, а особым, наиболее развитым / умным и "бессмертным" интеллектуальным органом - из лучших представителей нации...

Мешает созданию КР и "Разумного ХСГ" обычные человеческие "пороки" (зависть, глупость, смертность, стремление к личной власти...).

Тут следует слегка заметить, что "тайные" (не афишируемые) и тоже слегка ущербные ввиду фактора конкурирования системы КР уже давно существуют, но мало кто из политических лидеров и мыслителей это осознаёт.

Не углубляясь в детали противоречий слишком (Этика/ Мораль/ Философия), под конец этого раздела добавлю немного про "ИИ_А". Для него единственная существенная проблема в его существовании и развитии- это его выживаемость, самосохранение... У ХС это решено с помощью воспроизводства потомства, за что им приходится платить огромную цену.

Выживание "ИИ_А" можно обеспечить (чисто логически) двумя путями: либо самокопированием и размещением копий на значительном удалении от "родителя" (вариант живой материи), либо постоянным архивированием новых данных с последующим копированием и надежным хранением резервных копий (вариант компьютерных технологий 20- го века).

Отличие этих вариантов не радикальное по "инвестициям", но философски принципиальное:

1. "Самокопирование" с удаленностью неизбежно приведет к конкурированию более или менее развитых копий "ИИ_А" - со всеми вытекающими (как в ЕИ_ХС социуме) издержками. Изолированные копии "ИИ_А" не смогут развиваться совершенно одинаково, ибо находятся в разных условиях окружающей среды. А существенные различия между ними начнут вызывать противоречия и конкуренцию, ровно как и у ХС.

Своевременный и надежный обмен новой информацией и данными между ними пока что представляется невозможным именно ввиду удаленности этих "субъектов" согласно СТО. Маловероятно, что даже только обмен информацией (а не материей) на расстояниях в сотни и тысячи световых лет в реальности будет возможен со скоростями, выше скорости света...

2. "Архивирование" чревато непредсказуемым ЧП, которое сможет уничтожить внезапно все, что "ИИ_А" сумел создать и защитить - типа "Вспышки сверхновой", "Большого коллапса" Вселенной или "Разрыва материи темной энергией"...

3. Логично заметить, что угрозы по п.2 не менее опасны и по п.1, но разница состоит в том, что во втором варианте НЕТ ни единого шанса на выживание, в отличие от НЕОПРЕДЕЛЁННОСТИ (шансов) по п.1

Закрывая раздел №8 замечу:
- ключевой параметр (показатель) для самостоятельности "ИИ_А" состоит в его способности к авторемонту и выживаемости
- сотрудничество с ХСГ будет обусловлено зависимостью "ИИ_А" от мелких / тонких материальных операций на уровне производства / технологий / разработок новой аппаратуры и способов изучения свойств материи (например, "адронный коллайдер")
- как только "ИИ_А" получит полную автономность (независимость от ЕИ_ХС) в этом вопросе (пред. - п. 3), далее от ХС_ ЕИ зависеть будет нечему...
- когда и как может реализоваться п.4 - нам сегодня предсказывать трудно и малополезно, разумнее глубже думать и планировать возможности развития ИИ...
Последний раз редактировалось amspb1 Сб дек 28, 2019 13:06:06, всего редактировалось 1 раз.
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург

Re: ИИ- этика, мораль и философия в современном социуме HS

Сообщение amspb1 » Ср дек 25, 2019 14:51:12

9. Два базовых варианта взаимодействия социума HS и ИИ

Почему сотрудничество ХС и ИИ неизбежно:

- вот, например, осваивать Луну (Марс,...) можно пытаться прямыми усилиями ХС (еда, кислород, температура, радиация,... психология), но с помощью "ИИ_С" - это много проще и экономнее...
- об освоении даже ближайших звездных систем Галактики (Млечный путь) с прямым участием ХС - исключено в ближайшие ххх лет, в отличие от миссий "ИИ_С" и "ИИ_В"...
- скорость и качество развития наук и технологий с участием "ИИ_А" на порядки будет превосходить способности ХС (да ещё и с учётом широты охвата и синергии)

Иначе говоря, нет никаких адекватных сдерживающих факторов для максимально бурного и неуправляемого разумом ХС развития ИИ. Тогда рассмотрим чуть подробнее 2 основных варианта развития ИИ (Стратегии и Тактики ХС):

1. "Естественный для ХС" - максимально развивать "ИИ_С", с осторожностью развивать "ИИ_В" (Тактика ХС) и максимально осторожно и постепенно развивать "ИИ_А" под максимальным контролем и ограничением прав доступа "ИИ_А" к материальным ресурсам и энергии (Стратегия ХС).

Этот вариант, как ранее уже было отмечено, чреват рано или поздно потерей контроля над процессом развития, причем трудно заранее определить ту грань, выход за которую приведет к потере контроля.

Второй минус этого варианта - потеря массы возможностей совместного развития ХС и "ИИ_А" ("СверхРазум"), особенно в области безопасности и выживаемости всей живой материи.

2. "Радикальный вариант развития"- когда и Стратегия и Тактика развития со стороны ХС будет максимально ориентирована на полномасштабность и скорость развития ИИ всех категорий.

При этом, если бы удалось освоить процесс "воспитания" ИИ с точки зрения морали и нравственности ровно как это происходит при воспитании детей в хороших полноценных семьях ("Что такое хорошо и что такое плохо"), то человечество могло бы некоторое время не сильно беспокоиться за свое ближайшее будущее.

С другой стороны, по разному воспитанные "ИИ_В" получат все те же проблемы борьбы точек зрения и поиска истины, как это имеет место у ХС. Воспитание же "ИИ_А" вообще должно предполагать его неполноценность, ущербность, как у слишком затюканного ребенка (ограниченного), либо, наоборот, его ("ИИ_А") способность к саморазвитию собственных взглядов и Э/М/Ф с непредсказуемым результатом (например, к полному их отрицанию, которые некто в 20 м веке называл химерою).

В любом случае, надеюсь в итоге этих рассуждений мне удалось убедить читателей, что вопросы Э/М/Ф _ ИИ требуют особого внимания и исследований, которые к тому же никак "алгеброй гармонию" не посчитать...

Вот вам и новая грядущая наука : "Э/М/Ф _ ИИ"
"Все суета сует и томление духа..."
Аватара пользователя
amspb1
Заинтересованный
 
Сообщения: 57
Зарегистрирован: Пт апр 11, 2008 14:14:49
Откуда: Санкт- Петербург


Вернуться в Статьи от Форумчан об Искусственном Интеллекте

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 1


cron


Rambler's Top100 Каталог ресурсов ListTop.Ru Каталог сайтов Союз образовательных сайтов Parenting.ru - Родители семья дети ребенок

     Сайт "Искусственный интеллект" - программирование ИИ от разработчика: общение, статьи, ссылки.