Министерство образования Российской Федерации
Саратовский государственный университет имени Н.Г. Чернышевского
Курсовая работа
на тему “Экспертные системы”
Научный руководитель: ст. преподаватель Иванов А.С.
Выполнил: студент группы 112 ф-та КНиИТ Мазаев Д.А.
Саратов
2002 год
План
Введение. 2
Глава I. Экспертные системы, их особенности. Применение экспертных систем. 3
ГлаваII. Структура экспертной системы.. 7
Глава III. Модели представления знаний. 8
3.1 Логическая модель представления знаний.. 9
3.2 Продукционная модель представления знаний.. 10
3.3 Представление знаний фреймами.. 12
3.4 Представление знаний семантическими сетями.. 14
Список использованной литературы.. 17
Введение
Экспертные системы (ЭС)- это набор программ, выполняющий функции эксперта при решении задач из некоторой предметной области. Они возникли как значительный практический результат в применении и развитии методов искусственного интеллекта (ИИ)- совокупности научных дисциплин, изучающих методы решения задач интеллектуального (творческого) характера с использованием ЭВМ. ЭС выдают советы, проводят анализ, дают консультации, ставят диагноз. Практическое применение ЭС на предприятиях способствует эффективности работы и повышению квалификации специалистов.
Область ИИ имеет более чем сорокалетнюю историю развития. С самого начала в ней рассматривался ряд весьма сложных задач, которые, наряду с другими, и до сих пор являются предметом исследований: автоматические доказательства теорем, машинный перевод (автоматический перевод с одного естественного языка на другой), распознавание изображений и анализ сцен, планирование действий роботов, алгоритмы и стратегии игр.
ЭС выдают советы, проводят анализ, дают консультации, ставят диагноз. Практическое применение ЭС на предприятиях способствует эффективности работы и повышению квалификации специалистов.
Главным достоинством экспертных систем является возможность накопления знаний – формализованной информации, на которую ссылаются или используют в процессе логического вывода, и сохранение их длительное время. В отличие от человека к любой информации экспертные системы подходят объективно, что улучшает качество проводимой экспертизы. При решении задач, требующих обработки большого объема знаний, возможность возникновения ошибки при переборе очень мала.
Экспертная система состоит из базы знаний (части системы, в которой содержатся факты), подсистемы вывода (множества правил, по которым осуществляется решение задачи), подсистемы объяснения, подсистемы приобретения знаний и диалогового процессора.
При построении подсистем вывода используют методы решения задач искусственного интеллекта.
Глава
I. Экспертные системы, их особенности. Применение экспертных систем.
Экспертная система – это интеллектуальная программа, способная делать логические выводы на основании знаний в конкретной предметной области и обеспечивающая решение специфических задач. Для этого ее необходимо наделить функциями, позволяющими решать задачи, которые в отсутствие эксперта (специалиста в данной конкретной предметной области) невозможно правильно решить. Поэтому необходимым этапом в ее разработке является приобретение соответствующих знаний от эксперта. К экспертным системам предъявляются следующие требования:
1) Использование знаний, связанных с конкретной предметной областью;
2) Приобретение знаний от эксперта;
3) Определение реальной и достаточно сложной задачи;
4) Наделение системы способностями эксперта.
Знания о предметной области, необходимые для работы ЭС, определенным образом формализованы и представлены в памяти ЭВМ в виде базы знаний, которая может изменяться и дополняться в процессе развития системы. Главное достоинство ЭС - возможность накапливать знания, сохранять их длительное время, обновлять и тем самым обеспечивать относительную независимость конкретной организации от наличия в ней квалифицированных специалистов. Накопление знаний позволяет повышать квалификацию специалистов, работающих на предприятии, используя наилучшие, проверенные решения.
Области применения систем, основанных на знаниях, могут быть сгруппированы в несколько основных классов: медицинская диагностика, контроль и управление, диагностика неисправностей в механических и электрических устройствах, обучение.
а) Медицинская диагностика
.
Диагностические системы используются для установления связи между нарушениями деятельности организма и их возможными причинами. Наиболее известна диагностическая система MYCIN, которая предназначена для диагностики и наблюдения за состоянием больного при менингите и бактериальных инфекциях. Ее первая версия была разработана в Стенфордском университете в середине 70-х годов. В настоящее время эта система ставит диагноз на уровне врача-специалиста. Она имеет расширенную базу знаний, благодаря чему может применяться и в других областях медицины.
б) Прогнозирование
.
Прогнозирующие системы предсказывают возможные результаты или события на основе данных о текущем состоянии объекта. Программная система “Завоевание Уолл-стрита” может проанализировать конъюнктуру рынка и с помощью статистических методов алгоритмов разработать для вас план капиталовложений на перспективу. Она не относится к числу систем, основанных на знаниях, поскольку использует процедуры и алгоритмы традиционного программирования. Хотя пока еще отсутствуют ЭС, которые способны за счет своей информации о конъюнктуре рынка помочь вам увеличить капитал, прогнозирующие системы уже сегодня могут предсказывать погоду, урожайность и поток пассажиров. Даже на персональном компьютере, установив простую систему, основанную на знаниях, вы можете получить местный прогноз погоды.
в) Планирование
.
Планирующие системы предназначены для достижения конкретных целей при решении задач с большим числом переменных. Дамасская фирма Informat впервые в торговой практике предоставляет в распоряжении покупателей 13 рабочих станций, установленных в холле своего офиса, на которых проводятся бесплатные 15-минутные консультации с целью помочь покупателям выбрать компьютер, в наибольшей степени отвечающий их потребностям и бюджету. Кроме того, компания Boeing применяет ЭС для проектирования космических станций, а также для выявления причин отказов самолетных двигателей и ремонта вертолетов. Экспертная система XCON, созданная фирмой DEC, служит для определения или изменения конфигурации компьютерных систем типа VAX и в соответствии с требованиями покупателя. Фирма DEC разрабатывает более мощную систему XSEL, включающую базу знаний системы XCON, с целью оказания помощи покупателям при выборе вычислительных систем с нужной конфигурацией. В отличие от XCON система XSEL является интерактивной.
г) Интерпретация
.
Интерпретирующие системы обладают способностью получать определенные заключения на основе результатов наблюдения. Система PROSPECTOR, одна из наиболее известных систем интерпретирующего типа, объединяет знания девяти экспертов. Используя сочетания девяти методов экспертизы, системе удалось обнаружить залежи руды стоимостью в миллион долларов, причем наличие этих залежей не предполагал ни один из девяти экспертов. Другая интерпретирующая система- HASP/SIAP. Она определяет местоположение и типы судов в тихом океане по данным акустических систем слежения.
д) Контроль и управление
.
Системы, основанные на знаниях, могут применяться в качестве интеллектуальных систем контроля и принимать решения, анализируя данные, поступающие от нескольких источников. Такие системы уже работают на атомных электростанциях, управляют воздушным движением и осуществляют медицинский контроль. Они могут быть также полезны при регулировании финансовой деятельности предприятия и оказывать помощь при выработке решений в критических ситуациях.
е) Диагностика неисправностей в механических и электрических устройствах.
В этой сфере системы, основанные на знаниях, незаменимы как при ремонте механических и электрических машин (автомобилей, дизельных локомотивов и т.д.), так и при устранении неисправностей и ошибок в аппаратном и программном обеспечении компьютеров.
ж) Обучение.
Системы, основанные на знаниях, могут входить составной частью в компьютерные системы обучения. Система получает информацию о деятельности некоторого объекта (например, студента) и анализирует его поведение. База знаний изменяется в соответствии с поведением объекта. Примером этого обучения может служить компьютерная игра, сложность которой увеличивается по мере возрастания степени квалификации играющего. Одной из наиболее интересных обучающих ЭС является разработанная Д.Ленатом система EURISCO, которая использует простые эвристики. Эта система была опробована в игре Т.Тревевеллера, имитирующая боевые действия. Суть игры состоит в том, чтобы определить состав флотилии, способной нанести поражение в условиях неизменяемого множества правил. Система EURISCO включила в состав флотилии небольшие, способные провести быструю атаку корабли и одно очень маленькое скоростное судно и постоянно выигрывала в течение трех лет, несмотря на то, что в стремлении воспрепятствовать этому правила игры меняли каждый год.
Большинство ЭС включают знания, по содержанию которых их можно отнести одновременно к нескольким типам. Например, обучающая система может также обладать знаниями, позволяющими выполнять диагностику и планирование. Она определяет способности обучаемого по основным направлениям курса, а затем с учетом полученных данных составляет учебный план. Управляющая система может применяться для целей контроля, диагностики, прогнозирования и планирования. Система, обеспечивающая сохранность жилища, может следить за окружающей обстановкой, распознавать происходящие события (например, открылось окно), выдавать прогноз (вор-взломщик намеревается проникнуть в дом) и составлять план действий (вызвать полицию).
Глава
II. Структура экспертной системы
Структура экспертной системы представлена следующими структурными элементами:
1) База знаний – механизм представления знаний в конкретной предметной области и управления ими;
2) Механизм логических выводов – делает логические выводы на основании знаний, имеющихся в базе знаний;
3) Пользовательский интерфейс – используется для правильной передачи ответов пользователю;
4) Модуль приобретения знаний – служит для получения знаний от эксперта, поддержки базы знаний и дополнения ее при необходимости;
5) Модуль советов и объяснений – механизм, способный не только давать заключение, но и представлять различные комментарии, прилагаемые к этому заключению, и объяснять его мотивы. В противном случае пользователю будет трудно понять заключение. Такое понимание необходимо, если заключение используется для консультации или оказании помощи при решении каких-либо вопросов. Кроме того, с его помощью эксперт определяет, как работает система, и позволяет точно выяснить, как используются знания, предоставленные им.
Схема1
Структура экспертной системы
|
Пользовательский интерфейс
Глава
III. Модели представления знаний
Одной из наиболее важных проблем, характерных для систем, основанных на знаниях, является проблема представления знаний. Это объясняется тем, что форма представления знаний оказывает существенное влияние на характеристики и свойства системы. Для того чтобы манипулировать всевозможными знаниями из реального мира с помощью компьютера, необходимо осуществлять их моделирование. В таких случаях необходимо отличать знания, предназначенные для обработки компьютером, от знаний, используемых человеком. Кроме того, при большом объеме знаний желательно упростить последовательное управление отдельными элементами знаний.
При проектировании модели представления знаний следует учитывать такие факторы, как однородность представления и простота понимания. Однородное представление приводит к упрощению механизма управления логическим выводом и упрощению управления знаниями. Представление знаний должно быть понятным экспертам и пользователям системы. В противном случае затрудняются приобретение знаний и их оценка. Однако выполнить это требование в равной степени, как для простых, так и для сложных задач довольно трудно. Обычно для несложных задач останавливаются на некотором среднем (компромиссном) представлении, но для решения сложных и больших задач необходимы структурирование и модульное представление.
Типичными моделями представления знаний являются:
1) Логическая модель;
2) Модель, основанная на использовании правил (продукционная модель);
3) Модель, основанная на использовании фреймов;
4) Модель семантической сети.
Однако во всех разработанных в прошлом системах с базами знаний помимо этих моделей использовались специальные для конкретного случая средства, поэтому представление знаний получалось сложным. Тем не менее классификация моделей оставалась неизменной. Язык, используемый для разработки систем, спроектированных на основе этих моделей, называется языком представления знаний.
3.1 Логическая модель представления знаний
Логическая модель используется для представления знаний в системе логики предикатов первого порядка и выведения заключений с помощью силлогизма. Основное преимущество использования логики предикатов для представления знаний заключается в том, что обладающий хорошо понятными математическими свойствами мощный механизм вывода может быть непосредственно запрограммирован. С помощью этих программ из известных ранее знаний могут быть получены новые знания.
Приведенные ниже примеры являются логическими моделями представления фактов с помощью предикатов и носят название атомарной формулы.
ЛЮБОВЬ (Виктор, Ирина): Виктор любит Ирину
СТОЛИЦА (Москва): Москва – столица
Следующие примеры являются правильно построенными логическими формулами, включающими кванторы существования () и общности ().
: некий дельфин наделен умственными способностями
: все слоны имеют серую окраску
Отличительными чертами логических моделей, в частности приведенных выше моделей представления знаний, являются единственность теоретического обоснования и возможность реализации системы формально точных определений и выводов. По этим причинам немало исследователей в области искусственного интеллекта выбрали для себя предметом изучения именно логические модели. Однако для логических моделей характерен ряд сомнительных моментов, а поскольку большинство исследователей в области искусственного интеллекта – люди с неформальным мышлением, то большая часть достижений в области систем с базами знаний до недавнего времени принадлежала так называемой группе исследователей нелогического направления. В отличие от исследователей логического направления, которые выбирают предметом своих исследований сравнительно простые задачи, для решения которых используются теоретические подходы, исследователи нелогического направления выбирают сложные задачи и пытаются сконцентрировать все внимание на развитии способностей. Кр
3.2 Продукционная модель представления знаний
В модели правил знания представлены совокупностью правил вида “ЕСЛИ – ТО”. Системы с базами знаний, основанные на этой модели, называются продукционными системами. Эти системы бывают двух диаметрально противоположных типов – с прямыми и обратными выводами. Типичным представителем первого типа является система MYCIN, используемая для решения задач диагностического характера, а типичным представителем систем второго типа – OPS, используемая для решения проектирования задач.
В системе продукций с обратными выводами с помощью правил строится дерево И/ИЛИ, связывающее в единое целое факты и заключения; оценка этого дерева на основании фактов, имеющихся в базе данных, и есть логический вывод. Логические выводы бывают прямыми, обратными и двунаправленными. При прямом выводе отправной точкой служат предоставленные данные, процесс оценки приостанавливается в узлах с отрицанием, причем в качестве заключения (если не все дерево пройдено) используется гипотеза, соответствующая самому верхнему уровню дерева (корню). Однако для такого вывода характерно большое количество данных, а также оценок дерева, не имеющих прямого отношения к заключению, что излишне. Преимущество обратных выводов в том, что оцениваются только те части дерева, которые имеют отношение к заключению, однако если отрицание или утверждение невозможны, то порождение дерева лишено смысла. В двунаправленных выводах сначала оценивается небольшой объем полученных данных и выбирается гипотеза (по примеру прямых выводов), а затем запрашиваются данные, необходимые для принятия решения о пригодности данной гипотезы. На основе этих выводов можно реализовать более мощную и гибкую систему.
Системы продукций с прямыми выводами среди систем, основанных на использовании знаний, имеют наиболее давнюю историю, поэтому они являются в некотором смысле основополагающими. Эти системы включают три компонента: базу правил, состоящую из набора продукций (правил вывода), базу данных, содержащую множество фактов, и интерпретатор для получения логического вывода на основании этих знаний. База правил и база данных образуют базу знаний, а интерпретатор соответствует механизму логического вывода. Вывод выполняется в виде цикла “понимание – выполнение”, причем в каждом цикле выполняемая часть выбранного правила обновляет базу данных. В результате содержимое базы данных преобразуется от первоначального к целевому, т.е. целевая система синтезируется в базе данных. Иначе говоря, для системы продукций характерен простой цикл выбора и выполнения (или оценки) правил, однако из-за необходимости периодического сопоставления с образцом в базе правил (отождествлением) с увеличением числа последних (правил) существенно замедляется скорость вывода. Следовательно, такие системы не годятся для решения крупномасштабных задач. Упорядочим слабые и сильные стороны хорошо известных систем продукций. Сильные стороны:
1) Простота создания и понимания отдельных правил;
2) Простота пополнения, модификации и аннулирования;
3) Простота механизма логического вывода.
Слабые стороны:
1) Неясность взаимных отношений правил;
2) Сложность оценки целостного образа знаний;
3) Крайне низкая эффективность обработки;
4) Отличие от человеческой структуры знаний;
5) Отсутствие гибкости в логическом выводе.
Таким образом, если объектом является небольшая задача, выявляются только сильные стороны системы продукций. В случаях увеличения объема знаний, необходимости решения сложных задач, выполнения гибких выводов или повышения скорости вывода требуется структурирование базы данных. Первое, что приходит в голову в таких случаях, - это группировка знаний и структурирование базы данных. Другими словами, путем предварительной группировки соответствующих правил в некотором состоянии процесса вывода можно ограничить диапазон выбора правил. В тех случаях, когда объекты, для которых используются правила, также имеют иерархическую структуру, эффективным является структурирование базы данных. Этот подход был реализован в системах EMICIN и MECS-AI, разработанных на базе системы MYCIN с применением универсального языка представления знаний.
Расширенным вариантом модели правил является модель доски объявлений (blackboard), которая была предложена в системе распознавания разговорной речи HEARSAY-II как модель представления знаний.
3.3 Представление знаний фреймами
Фреймовая модель, или модель представления знаний, основанная на фреймовой теории М. Минского, представляет собой систематизированную модель памяти человека и его сознания.
Теория фреймов - это парадигма для представления знаний с целью использования этих знаний компьютером. Впервые была представлена Минским в 1975 году, как попытка построить фреймовую сеть, или парадигму с целью достижения большего эффекта понимания. С одной стороны он пытался сконструировать базу данных, содержащую энциклопедические знания, но с другой стороны, хотел создать наиболее описывающую базу, содержащую информацию в структурированной и упорядоченной форме. Эта структура позволила бы компьютеру вводить информацию в более гибкой форме, имея доступ к тому разделу, который требуется в данный момент. Минский разработал такую схему, в которой информация содержится в специальных ячейках, называемых фреймами, объединенными в сеть, называемую системой фреймов. Новый фрейм активизируется с наступлением новой ситуации. Отличительной его чертой является то, что он одновременно содержит большой объем знаний и в то же время является достаточно гибким для того, чтобы быть использованным как отдельный элемент базы данных. Термин «фрейм» был наиболее популярен в середине семидесятых годов, когда существовало много его толкований, отличных от интерпретации Минского.
Итак, как было сказано выше фреймы – это фрагменты знания, предназначенные для представления стандартных ситуаций. Термин «фрейм» (Frame – рамка) был предложен Минским. Фреймы имеют вид структурированных компонентов ситуаций, называемых слотами. Слот может указывать на другой фрейм, устанавливая, таким образом, связь между двумя фреймами. Могут устанавливаться общие связи типа связи по общению. С каждым фреймом ассоциируется разнообразная информация (в том числе и процедуры), например ожидаемые процедуры ситуации, способы получения информации о слотах, значение принимаемые по умолчанию, правила вывода.
Формальная структура фрейма имеет вид:
f[<N1, V1>, <N2, V2>, …, <Nk,Vk>],
где f – имя фрейма; пара <Ni, Vi> - i-ый слот, Ni – имя слота и Vi – его значение.
Значение слота может быть представлено последовательностью
<K1><Li>;...; <Kn><Ln>; <R1>; …; <Rm>,
где Ki – имена атрибутов, характерных для данного слота; Li – значение этих атрибутов, характерных для данного слота; Rj – различные ссылки на другие слоты.
Каждый фрейм, как структура хранит знания о предметной области (фрейм–прототип), а при заполнении слотов знаниями превращается в конкретный фрейм события или явления.
Фреймы можно разделить на две группы: фреймы-описания; ролевые фреймы.
Рассмотрим пример.
Фрейм описание: [<программное обеспечение>, <программа 1С бухгалтерия, версия 7.7>, <программа 1С торговля, версия 7.7>, <правовая программа «Консультант +» проф.>].
Ролевой фрейм: [<заявка на продажу>, <что, установка и покупка программы 1С торговля, версия 7.7>, <откуда, фирма ВМИ>, <куда, фирма «Лукойл»>, <кто, курьер Иванова>, <когда, 27 октября 1998г.>].
Во фрейме-описании в качестве имен слотов задан вид программного обеспечения, а значение слота характеризует массу и производителя конкретного вида продукции. В ролевом фрейме в качестве имен слотов выступают вопросительные слова, ответы на которые являются значениями слотов. Для данного примера представлены уже описания конкретных фреймов, которые могут называться либо фреймами – примерами, либо фреймами – экземплярами. Если в приведенном примере убрать значения слотов, оставив только имена, то получим так называемый фрейм – прототип.
Достоинство фрейма – представления во многом основываются на включении в него предположений и ожиданий. Это достигается за счет присвоения по умолчанию слотам фрейма стандартных ситуаций. В процессе поиска решений эти значения могут быть заменены более достоверными. Некоторые переменные выделены таким образом, что об их значениях система должна спросить пользователя. Часть переменных определяется посредством встроенных процедур, называемых внутренними. По мере присвоения переменным определенных значений осуществляется вызов других процедур. Этот тип представления комбинирует декларативные и процедурные знания.
Фреймовые модели обеспечивают требования структурированности и связанности. Это достигается за счет свойств наследования и вложенности, которыми обладают фреймы, т.е. в качестве слотов может выступать система имен слотов более низкого уровня, а также слоты могут быть использованы как вызовы каких-либо процедур для выполнения.
Для многих предметных областей фреймовые модели являются основным способом формализации знаний.
3.4 Представление знаний семантическими сетями
Одним из способов представления знаний является семантическая сеть. Изначально семантическая сеть была задумана как модель представления структуры долговременной памяти в психологии, но впоследствии стала одним из основных способов представления знаний в инженерии знаний.
Моррис дал точное определение семантическим и прагматическим отношениям в семиотике и определил их как проблемы различных функциональных уровней. Другими словами, семантика означает определенные (общие) отношения между символами и объектами, представленными этими символами, а прагматика – выразительные (охватывающие) отношения между символами и создателями (или пользователями) этих символов.
Первоначально в психологии изучались объекты, именуемые семантическими с точки зрения известных ассоциативных свойств, накапливаемых в системе обучения и поведения человека. Однако с развитием психологии познания стали изучаться семантические структуры, включающие некоторые объекты. Затем были изучены принцип действия человеческой памяти (способы хранения информации и знаний), в частности предположительные (гипотетические) структурные модели долговременной памяти, и созданы моделирующие программы, понимающие смысл слов.
Одной из структурных моделей долговременной памяти является предложенная Куиллианом модель понимания смысла слов, получившая название TLC- модели (Teachable Language Comprehender: доступный механизм понимания языка). В данной модели для описания структуры долговременной памяти была использована сетевая структура как способ представления семантических отношений между концептами (словами). Данная модель имитирует естественное понимание и использования языка человеком. Поэтому основной ее идеей было описание значений класса, к которому принадлежит объект, его прототипа и установление связи со словами, отображающими свойства объекта. В качестве примера на схеме 2 показана весьма простая семантическая сеть для представления концептуального объекта “чайник”. В этой сети определены операторы отношений, называемые классом, свойством и примером, для которых описаны значения.
Схема 2
В модели Куиллиана концептуальные объекты представлены ассоциативными сетями, состоящими из вершин, показывающих концепты, и дуг, показывающих отношения между концептами. Например, в сети, показанной на схеме 2, с отношением “класс” ассоциируется значение “ёмкость”, со свойством – “металлический”, “фарфоровый”, “наличие носика”, с примером – “металлический чайник”. Подобная ассоциативная структура называется плоскостью, описываемые концепты объекта называются вершинами типа, а связанные с ними соответствующие отдельные слова – вершинами лексем. В любой плоскости существует одна вершина типа и только необходимое для определения концептов, описывающих его, число вершин лексем.
Вершины лексем определяют всевозможные сущности, имеющие место в реальном мире, например, классы, свойства, примеры, время, место, средство, объекты и т. п. Преимущество лексем по сравнению с типами заключается в экономии пространства памяти ЭВМ. Это означает и факт предотвращения дублирования определения концептов.
Итак, исходя из приведенных выше соображений, можно сделать вывод, что в TLC-модели используется представление знаний в форме “элемент” и ”свойства”. Другими словами, можно попытаться структурировать знания, заменив вершину типа на элемент, а вершину лексемы на свойство. Благодаря этому данные, основанные на фактах, в долговременной памяти можно представить с помощью структур трех типов: элементы, свойства и указатели. Элемент представлен заключением, называемым фактом, например объектом, событием, понятием и т. п., обычно за элемент принимается отдельное слово, имя существительное, предложение или контекст. Свойство – это структура, описывающая элемент, оно соответствует таким частям речи как имя прилагательное, наречие, глагол и т.д. указатели связывают элементы и свойства.
Важность модели семантической сети Куиллиана с точки зрения многочисленных приложений определяется следующими моментами:
1) В отличие от традиционных методов семантической обработки с анализом структуры предложения были предложены новые парадигмы в качестве модели представления структуры долговременной памяти, в которой придается значение объему языковой активности.
2) Был предложен способ описания структуры отношений между фактами и понятиями с помощью средства, называемого семантической сетью, отличающейся несложным представлением понятий, а также способ семантической обработки в мире понятий на основе смысловой связи (смыслового обмена) между прототипами.
3) Была создана реальная система TLC, осуществлено моделирование человеческой памяти и разработана технолгическая сторона концепции понимания смысла.
Список использованной литературы
1. Представление и использование знаний: Пер. с япон./Под ред. Х. Уэно, М. Исидзука.- М.: Мир, 1989.
2. Долин Г. Что такое ЭС// Компьютер Пресс. – 1992. – №2
3. Сафонов В.О. Экспертные системы - интеллектуальные помощники специалистов.- С.-Пб: Санкт-Петербургская организация общества “Знание” России, 1992.
4. Шалютин С.М. “Искусственный интеллект”. – М.: Мысль, 1985.
5. В. Н. Убейко. Экспертные системы.- М.: МАИ, 1992.
Д. Элти, М. Кумбс. Экспертные системы: концепции и примеры.- М.: Финансы и статистика, 1987.
6. Экспертные системы: концепции и примеры/ Д. Элти, М. Кумбс.-М.: Финансы и статистика, 1987.