Искусственный интеллект: Ваши идеи

**victorst** » Ср май 17, 2006 11:17:58

Андрей писал(а):Желаю Вам всяческих удач, но, имхо, это утопия. Знания настолько взаимосвязанны, взаимоналожены, что создать искусственный контекст вручную - это всё-равно что... даже не знаю с чем сравнить. Спаять вручную процессор Пентиум 4 под микроскопом и то задача более реальная...

Процессоры я разрабатывал включая системы команд, диспетчеры памяти и подсистемы виртуализации. А еще я паял процессоры, составленные из микросхем логики типа "И-НЕ". Вот с процессорами на транзисторно- импульсной логике было посложнее. Минск-32 был, действительно, на отдельных транзисторах и ферритовых трансформаторчиках. Так что паять ИИ мне будет не в тягость.

**tumick** » Ср май 17, 2006 12:20:09

Разброд и шатание! Так мы ИИ не построим... :lol:

**victorst** » Ср май 17, 2006 12:58:10

tumick писал(а):Разброд и шатание! Так мы ИИ не построим...

А что, вы желаете с кем -то совместно построить ИИ? Если нет, то и разброда нет, т.к. сначала нужно сделать сброд(это глагол), а потом уже можно делать разброд.
А если серьезно, то пока никакой "могучей кучки" у нас на форуме не просматривается. М.б. тема чрезывычайно трудная, м.б. наш менталитет не позволяет. Не знаю. Жаль, конечно, что пока обсуждаем то, что давно бы уже нужно пройти и двинуться дальше. Все время застреваем на терминологии и кто что под термином понимает. Но это лишь часть проблем.

**Гость** » Ср май 17, 2006 14:11:13

tumick писал(а):Разброд и шатание! Так мы ИИ не построим...

А как построим? Я думаю не стоит лукавить, каждый из активных участников уверен в том, что в одиночку сможет сделать хотя бы примитивный ИИ. Из форума не получился инкубатор идей, зато атмосфера содержит постоянно некий конфликт (дисбаланс), который позволяет развиваться. Тут нет авторитетов, как на Аикоме, и нету (уже) граждан типа Левича

Остальное - дело рук каждого участника.
Если бы форумы проходили где-то на природе или в хорошем помещении, то многие вопросы уже давно были бы решены, а так, текстовое общение похоже на детсую игру в испорченный телефон... Было бы неплохо, если бы мысли, всё-таки подкреплялись исходными кодами программ. Так было бы меньше разночтений.

**tumick** » Ср май 17, 2006 14:34:44

Андрей писал(а):Я думаю не стоит лукавить, каждый из активных участников уверен в том, что в одиночку сможет сделать хотя бы примитивный ИИ.

"Примитивный ИИ" - Вы имеете в виду адаптивную систему обработки данных? Такие системы давно построены и широко используются.

Если же говорить о чём-то более сложном, то определение "примитивный" ИМХО несколько не к месту, и далеко не каждый из активных участников в этом уверен. К примеру, я уверен в обратном. Правда, я не настаиваю, чтобы меня относили к активным участникам

**Гость** » Ср май 17, 2006 14:48:29

tumick писал(а):"Примитивный ИИ" - Вы имеете в виду адаптивную систему обработки данных?

Мда, неудачно выразился. Я имел в виду минимальный ИИ. Но у каждого своё мнение о том, что считать минимальным интеллектом. Для кого-то это копия взрослого человека, для кого-то - модель человеческого младенца, кому-то хватит модели таракана. Для меня важно, чтобы прототип обучался и проявлял целенаправленное поведение.

**ystgenik** » Чт май 18, 2006 19:49:30

Андрей писал(а):Чтобы обсуждать механизмы творчества нужно определиться в общем, что такое творчество. Я ободнозначиваю это как создание своей формальной системы описания мира (Тумик говорит: "появление семантики"). Т.е. создание ясных, выделенных самостоятельных абстракций…

Если человек описывает свои внутренние модели - получаются конструкторы, инженеры, изобретатели. Таким образом, начальным этапом творчества есть создание субъективной абстрактной семантики для создания описаний. Именно об этом данная тема
.

Коль скоро есть такое продвинутое представление, предлагаю внести свою лепту в обсуждение роли абстракции в творчестве.

**ystgenik** » Чт май 18, 2006 20:03:35

Об абстракции

Абстракция — результат:
а) отвлечения от содержания, содержательной стороны;
б) восхождение от непосредственной предметности к предметности другого рода, более высокого уровня;
в) рассмотрения предметного содержания любого уровня в теоретическом плане;
г) построение модели.

Можно сказать, что "предметом" абстракции являются отвлечение от конкретности текущего содержания, т.е. в известной мере любой из этих пунктов. Таким образом, в частности, в соответствии с п. б) абстракция может быть многоуровневой.

**tumick** » Чт май 18, 2006 20:14:57

ystgenik писал(а):абстракция может быть многоуровневой

есть ли ограничение на глубину рекурсии?

**ystgenik** » Чт май 18, 2006 21:09:48

tumick писал(а):
ystgenik писал(а):абстракция может быть многоуровневой

есть ли ограничение на глубину рекурсии?

Для случая когда мы думаем о том, о чем мы думаем, представление о рекурсивности "думания" как такового допустимо. Но под абстракциями разных уровней подразумевается абстракция разных качественных категорий (это относится к материалу статей, которые я выложил выше), поэтому, на мой взгляд, представление о рекурсии в отношении уровней абстракции не может быть правомерным .
Например, феномен "целого", как известно, не есть сумма свойств "частей"; его оригинальное свойство оригинально, хотя косвенно производно от составных частей.

Единственный случай "рекурсивности" уровней абстракции: когда предметом абстракции может быть рассмотрение самих: абстрагирования и его результата -- абстракции (т.е. в определении что есть абстракция). Тогда может возникнуть некое частичное "самоописание" или "самоопределение" (рекурсивность). (К сожалению, для абстракции не удается составить такое "самоопределение" (в одной фразе), хотя в принципе они возможны: например, определение цикла "Повторение:см. "Повторение"").

**Гость** » Вс май 21, 2006 0:04:54

ystgenik писал(а):предлагаю внести свою лепту в обсуждение роли абстракции в творчестве.

В ответ на эту статью хочу привести цитату из статьи Прудкова на Аикоме "Парадоксы ИИ": "принцип разделения целей и средств неприменим для понимания человеческого мышления. В ответ на требования ситуации мозг всегда одновременно формирует цель и средство (- ва) для ее достижения. Это происходит в процессе самоорганизации в определенных структурах мозга, причем процесс самоорганизации протекает таким образом, чтобы минимизировать затраты на формирование цели и средств. Под целью, в данном случае, не обязательно понимается, как это делается обычно, какой-то осознаваемый результат, а любой состояние, которое должно быть достигнуто. Средство- это любая активность, необходимая для достижения цели: такая активность может остаться неосознанной, а может вылиться в диссертацию или в меморандум по подготовке к войне. Самоорганизация - процесс совершенно автоматический и не поддается сознательному контролю". Не со всем я согласен из этой цитаты, но основная мысль верная - мышление не проводит границы между целями и средствами, поэтому такое явное противопоставление: алгоритм - данные, уже не может быть принятым за рабочую гипотезу. Мышление - это рекурсивный поток балансировки множества абстракций, который не может быть разоравн в каком-то месте. Точнее кусок этого цикла можно назвать "целью", но от этого цикл не разорвётся.
Кроме того авторы остаются в рамках математической парадигмы, которая заставляет их всё сводить к числм. Это, имхо, уже не актуально. Будущее за аналоговыми машинами.

ystgenik писал(а):Единственный случай "рекурсивности" уровней абстракции: когда предметом абстракции может быть рассмотрение самих: абстрагирования и его результата -- абстракции (т.е. в определении что есть абстракция). Тогда может возникнуть некое частичное "самоописание" или "самоопределение" (рекурсивность).

Тут Важно не привнести в систему то, чего в ней нет. Слово "информация" или "абстракция" и являются самыми абстрактными абстракциями, дальше абстрагировать просто некуда. Рекурсивность, зацикленность мышления - это путь к шизофрении и имеет смысл только для усовершенстования самого мышления на определённом этапе, но никак не для решения реальных задач. Всё хорошо в меру.

**Львович** » Сб май 27, 2006 7:28:41

ystgenik писал(а):Единственный случай "рекурсивности" уровней абстракции: когда предметом абстракции может быть рассмотрение самих: абстрагирования и его результата -- абстракции (т.е. в определении что есть абстракция).

Я встречал, что это называется "рефлексия".

Андрей писал(а):Определив диапазоны, мы тем самым априори устанавливаем критерий близости состояний этих рецепторов, т.к. чувствительность всех рецепторов приблизительно одинакова. От такой априорности никуда не уйти.

Да, такой критерий близости тоже можно применять. Но он никак не связан со "смыслом" и контекстом объекта и ничего не говорит о логической близости, которая имеет смысл только в конкретном контексте. Например "П" и "Л" визуально отличаются маленьким загибом на левой палочке. В то же время все другие загибы непринципиальны. Или вопрос "Далеко ли до магазина?" может предполагать либо прямое Евклидово расстояние, либо путь (по улицам), либо время, за которое можно добраться

Андрей писал(а):Единственное что можно сделать для унификации - это преобразовать активность рецептора в активность промежуточного элемента. Именно так устроена нервная система - первичное возбуждение рецептора преобразуется в активность нейронов. Таким образом близкие значения интенсивности торможения или активности нейронов задают априорные критерии похожести.

Но реальное распознавание не ограничивается только этим. Если изображения отличаются одним битом - это не повод считать их "похожими" или "непохожими" во всех контекстах. Реальное распознавание (не в нейронных сетях) происходит примерно так: если вот тут закорючка, то посмотреть нет ли вот там палочки, если есть, то сравнить вот эти линии, если одинаковой длины, то это объект Х. Это происходит на подсоснательном уровне, хотя для "непонятных" объектов "подключается" и сознание.

Андрей писал(а):2. Непонятно, что Вы понимаете под обучением методам? Метод один - сравнение. Всё познаётся в сравнении. Важно только понять что с чем сравнивается. Можете описать хотя бы 2 разных метода распознавания?

Например метод Монте-Карло - считать количество одинаковых случайно выбранных бит. Кстати, этот метод даст налучший ответ на вопрос "Это день или ночь?"

"Сравнение" - еще не метод, после сравнения следует действие, например другое сравнение. Именно тем, "что с чем сравнивается" и какие из этого делаются выводы (то есть действия) и различаются разные методы.
Иначе получается: "Предлагаю новый алгоритм (т.е. метод) распознавания, но, знаете, существует всего один метод, поэтому все что было до этого - вообще не методы:)" Где логика? Наверное, Вы что-то не то имели ввиду.
Алгоритм(1), решающий интеллектуальную задачу (например распознавния), должен выработать другой алгоритм(2), который и будет формировать реакции устройства. Это как решение дифференциального уравнения: решением является функция, а не число, как в обычном уравнении. При этом неизменный алгоритм(1) является базовым "движком" ИИ, который на входе использует раннее выработанные им же алгоритмы(2) и данные с рецепторов и, безусловно, целевую функцию, как критерий для корректировки алгоритма(2).
На мой взгляд, нужно ориентирваться на "логическую" близость, то есть на близость образов в последовательной цепочке , возникающей "в мозгу" ИИ. (Не исключено, конечно, что порядок иерархии алгоритмов в мозгу больше 2-х.)
Это, кстати, непосредственно связано с абстрактным мышлением, при котором И. использует не сигналы с рецепторов, а данные из внутренней памяти, как бы замещая реальные объекты его представлениями о них. А делает он это по одной простой причине: это гораздо энергетически экономней, хотя и не всегда точно.

Надеюсь, что сейчас попал в правильный топик.

**Гость** » Сб май 27, 2006 13:18:14

Львович писал(а):"П" и "Л" визуально отличаются маленьким загибом на левой палочке. В то же время все другие загибы непринципиальны. Или вопрос "Далеко ли до магазина?" может предполагать либо прямое Евклидово расстояние, либо путь (по улицам), либо время, за которое можно добраться

В этих примерах всё сводится к разности, отличии поэтому я полагаю, что не следует плодить сущностей сверх меры. В конечном счёте разница по цвету, времени, расстоянию и всему остальному есть разницей между внутренними абстрактными представлениями.

Львович писал(а):Иначе получается: "Предлагаю новый алгоритм (т.е. метод) распознавания, но, знаете, существует всего один метод, поэтому все что было до этого - вообще не методы" Где логика? Наверное, Вы что-то не то имели ввиду.

Наверное Вы всё-таки опять неправильно меня поняли. Слишком оппозитно... Я не отрицаю ни один из методов, просто хочу увидеть то общее, что между ними есть, а потом оптиммизировать это. И общее это - понятие отличия, разницы, дисбаланса.

Львович писал(а):На мой взгляд, нужно ориентирваться на "логическую" близость, то есть на близость образов в последовательной цепочке , возникающей "в мозгу" ИИ

Привязка к опыту предыдущих перцепций безусловно должна быть и оцениваться, опять же, должна разница между ними и текущей "картинкой", но насколько правомерно считать эти знания логическими, последовательностыми? Какая последовательность в символе "А"? Это не последовательность - это паттерн, система связей.

**Львович** » Сб май 27, 2006 19:04:06

Андрей писал(а): не следует плодить сущностей сверх меры. В конечном счёте разница по цвету, времени, расстоянию и всему остальному есть разницей между внутренними абстрактными представлениями.

Эх знать бы, где она это мера...Предполагаю, что эти внутренние абстрактными представления сильно влияют на результат, в том числе и, распознавания.

Андрей писал(а): Слишком оппозитно... Я не отрицаю ни один из методов, просто хочу увидеть то общее, что между ними есть, а потом оптиммизировать это. И общее это - понятие отличия, разницы, дисбаланса.

Согласен, слишком... Обобщение и оптимизация - это тоже методы интеллекта

. Оптимизирует обычно по какому-то одному параметру: размеру кода, времени, отношению цена/качество. Причем оптимизируют уже работающий алгоритм (или программу) вполне выполняющий свою функцию, но не оптимально. На мой взгляд, проблема распознавания как интеллектуальной деятельности сейчас нуждается в принципиальном решении, а не в оптимизации традиционных подходов. Но, честно говоря я не очень вникал в суть Вашей идей, возможно она радикальна. Машина Тьюринга была ужастно неоптимальна, но это была уже вычислительная машина...

Андрей писал(а):
Львович писал(а):На мой взгляд, нужно ориентирваться на "логическую" близость, то есть на близость образов в последовательной цепочке , возникающей "в мозгу" ИИ

Привязка к опыту предыдущих перцепций безусловно должна быть и оцениваться, опять же, должна разница между ними и текущей "картинкой", но насколько правомерно считать эти знания логическими, последовательностыми? Какая последовательность в символе "А"? Это не последовательность - это паттерн, система связей.

Наверное, я трактую "со своей колокольни": линейной одномерной модели цепочки ассоциаций, в виде которой я пробую моделировать деятельность ИИ. Я специально слово "логическую" заключил в кавычки, потому что формальная логика здесь не при чем. Но в любой сколь-нибудь серьезной модели вид буквы "А" должен активизировать в ИИ некоторые образы, те, в свою очередь - другие образы и т.д. и все эти образы вместе с образами, возникшими на ранее предъявленные символы приводят к распознаванию буквы "А". А к вторичным, третичным и т.д. образам традиционные критерии похожести применены быть не могут. Поэтому я и говорю о некоторой "логической" близости, одним из универсальных критериев которой (учитывая их разнообразную сущность) может быть, например, время между их активизацией. Конкретика будет зависеть от реализации.
И кто сказал, что буква "А" - это единый, законченый образ? А не два образа или не часть образа? Вспомните китайские иероглифы - они часто еще не слово, но уже не буква...
Ну никак без контекста не получится ни толкового распознавания, ни толкового перевода, ни толкового ИИ. Хотя статистические методы почему-то считаются "методами ИИ" :roll:

**Гость** » Сб май 27, 2006 20:13:22

Львович писал(а):я и говорю о некоторой "логической" близости, одним из универсальных критериев которой (учитывая их разнообразную сущность) может быть, например, время между их активизацией. Конкретика будет зависеть от реализации.

Это интересная мысль. Т.е. разница между образами может быть заключена не в пространстве, а во времени? Т.е. если, например, букву "А" я распознаю дольше чем букву "Л", то и вывод делаю о том, что это "А"?
В связи с этим вспомнилась интересная иллюзия (см. картинку внизу). Буквы на изображении написаны разными цветами и создаётся устойчивая иллюзия того, что синий текст на пару миллиметров выше (раньше?) чем красный

Львович писал(а):И кто сказал, что буква "А" - это единый, законченый образ? А не два образа или не часть образа?

Это ключевой принципиальный вопрос! Образ потому и образ, потому что обладает целостностью. Именно в определении критерия целостности - половина задачи распознавания. Я для себя определил целостность как наличие равновесия связей. Т.е. статический образ (например буква) - это некий замкнутый, циклический "трубопровод". Если в него залить воду, то вода никуда не будет течь, образно говоря.

Львович писал(а):Ну никак без контекста не получится ни толкового распознавания, ни толкового перевода, ни толкового ИИ. Хотя статистические методы почему-то считаются "методами ИИ"

1. Контекст - это такие же абстракции как и всё остальное, просто они находятся на другом пороге активности. Слабее чем абстракция, на которую направлено внимание, но сильнее, чем пассивная память. Если допустить, что Вы правы, тогда распознавание контекста в каком контексте производить?... Эти процессы связаны.
2. Статистика - это основа опыта. На данном этапе я предлагаю уйти от статистики в ущерб точности. Поэтому я пока мучаюсь над одноитерационным рекурсивным алгоритмом обучения и распознавания. Если паттерн связей совпадёт с определённой точностью, значит "это" программа уже видела. От статистики будет зависеть только адекватность и точность узнавания.

**Львович** » Вс май 28, 2006 17:31:48

Андрей писал(а):Т.е. если, например, букву "А" я распознаю дольше чем букву "Л", то и вывод делаю о том, что это "А"?

Это - тоже интересная мысль, но я не совсем это имел ввиду. Пусть буква "А" вызывает в памяти цепочку образов образов O1->O2->O3->...
Тогда, если если объект X вызывает хоть один образ из этой же цепочки, то можно считать его похожим на "A". А так как цепочка образов будет зависеть от контекста (что было перед "А" и перед X), то такой механизм должен обеспечивать контекстную зависимость результатов распознавания.

Андрей писал(а):1. Контекст - это такие же абстракции как и всё остальное, просто они находятся на другом пороге активности. Слабее чем абстракция, на которую направлено внимание, но сильнее, чем пассивная память. Если допустить, что Вы правы, тогда распознавание контекста в каком контексте производить?... Эти процессы связаны.

Контекст будет определяться целью (мы как-то про нее забыли

). В данном случае целью распознавания. Если ИИ должен "удовлетворить" экспериментатора, то он должен использовать "контекст экспериментатора" (мы это часто делаем, когда говорим собеседнику то, что он хочет услышать:)). Если ИИ хочет прочитать текст, то - контекст текста (хотя бы словарь) и т.д. Использование словаря резко повышает эффективность распознавания текстов, хотя словарь- это далеко не весь контекст...
Конечно, реально ИИ ничего не "должен" и не "хочет", он лишь стремиться к цели используя имеющиеся средства, в том числе и контекст.

Андрей писал(а):2. Статистика - это основа опыта.

Совершенно верно! А опыт подразумевает обучение - обязательное условие ИИ. Но когда на основании того, что если, например, в тексте слово "интернет" встретилось 10 раз делают вывод, что тест "про интернет" и называют это "применением методов искуственного интеллекта" - дискредитируется сама идея.
Накопление статистических данных - это еще не опыт, опыт - это когда "знаю что делать и как (на самом деле "как" это разновидность "что", но человек считает это разными понятиями)"
А сколь-нибудь "очеловеченный" интеллект можно ожидать только когда ИИ будет работать с абстракциями, в том числе и контекстными.
В связи с чем считаю реализацию этого механизма в ИИ принципиальным и поднятую Вами тему очень важной. Вот только сколь-нибудь конкретных предложений я пока не встретил. Что-ж будем "пробиваться" самостоятельно!

**Гость** » Вс май 28, 2006 20:38:07

Львович писал(а):механизм должен обеспечивать контекстную зависимость результатов распознавания.

Спору нет.

Львович писал(а):Контекст будет определяться целью. В данном случае целью распознавания.

Не со всем согласен. Распознавание не может быть целью. Интеллект не может решать распозавать ему что-то или не распознавать. Очень простой тест: водите глазами по строкам текста и попробуйте НЕ понимать что написано. Или другой тест: смотрите на конкретный предмет, но видьте при этом другой. Контекст определяется неизвестно чем, он просто возникает в определённой ситуации как результат распознавания и вспоминания (активации ассоциированных абстракций). Материалисты приписывают причину этого феномена внешнему стабильному объективному миру. Я полагаю, что можно ограничиться простым правилом - контекст определяется миром. Точка.

Львович писал(а):Использование словаря резко повышает эффективность распознавания текстов, хотя словарь- это далеко не весь контекст...

Самое интересное - это найти минимальный алфавит любого контекста. В таком алфавите можно сформулировать любую абстракцию и любой контекст. Исследования показывают, что на звание такого алфавита претендует, вероятноее всего, активация/пассивация нейронов. А различие определяется, видимо, местом нейрона в сети и частотой испускаемых им сигналов.

Львович писал(а):Накопление статистических данных - это еще не опыт, опыт - это когда "знаю что делать и как (на самом деле "как" это разновидность "что", но человек считает это разными понятиями)"

Я всё-таки предлагаю разделять 2 процесса обучения: обучение воспринимать (видеть, слышать, чувствовать) и обучение действовать (сокращать, расслаблять мышцы). Именно в таком контексте имеет смысл разделение "что" и "как". И "что" и "как" представляют собой, вероятно, паттерны возбуждения торможения в структурах мозга, но одни структуры ответственны за создание "картинки" ситуации, а другие за создание соответствующей "картинки" действия мышц тела, в целевом контексте, в одном и том же алфавите.

P.S. в контексте обсуждения.
Я столкнулся с проблемой позиционирования абстракций друг по отношению к другу. Простого набора (ряда) абстракций, очевидно, мало для того, чтобы идентифицировать ту или иную ситуацию, предмет. В контексте должны существовать пространственные ассоциированные абстракции типа: "левее", "выше" и временнЫе: "раньше", "позже". Если у кого есть бесплатные идеи насчёт достаточного набора таких абстракций, разрешающей способности такого относительного позиционирования, замешивания сюда хаоса и порядка, альтернатив позиционированию и прочее - прошу аргументированно поделиться.

**Гость** » Вс май 28, 2006 22:12:16

Андрей писал(а):Если у кого есть бесплатные идеи насчёт достаточного набора таких абстракций, разрешающей способности такого относительного позиционирования, замешивания сюда хаоса и порядка, альтернатив позиционированию и прочее - прошу аргументированно поделиться.

Я готов проспонсировать тему, если есть конкретная инфа.

**Михайло** » Пн май 29, 2006 4:25:33

Андрей писал(а):Я столкнулся с проблемой позиционирования абстракций друг по отношению к другу. Простого набора (ряда) абстракций, очевидно, мало для того, чтобы идентифицировать ту или иную ситуацию, предмет. В контексте должны существовать пространственные ассоциированные абстракции типа: "левее", "выше" и временнЫе: "раньше", "позже". Если у кого есть бесплатные идеи насчёт достаточного набора таких абстракций, разрешающей способности такого относительного позиционирования, замешивания сюда хаоса и порядка, альтернатив позиционированию и прочее - прошу аргументированно поделиться.

Что? Где? Когда? - вот эти три вопроса, на которые нужно ответить, чтобы "идентифицировать" что-либо. Что - объект. Где - пространство. Когда - время.

**victorst** » Пн май 29, 2006 6:09:46

basil999 писал(а):
Андрей писал(а):Если у кого есть бесплатные идеи насчёт достаточного набора таких абстракций, разрешающей способности такого относительного позиционирования, замешивания сюда хаоса и порядка, альтернатив позиционированию и прочее - прошу аргументированно поделиться.
Я готов проспонсировать тему, если есть конкретная инфа.

Конкретная инфа- онтология в языке AIGL. Сейчас она дорабатывается и перерабатывается. Тут есть или будут и абстракции типа: "левее", "выше" и временнЫе: "раньше", "позже".
http://www.aigl.org/ru/dict.aspx
А что означает "проспонсировать"?
Вот если бы мне кто-то как-то где-то помог в ее доделке, тестировании, была бы общая польза от ее применения в ваших проектах вне зависимости от самого языка, т.к. эта онтология - иерархия абстракций.

Искусственный интеллект: Ваши идеи

Конкретно об абстракции

Кто сейчас на конференции