Інженерія знань

МІНІСТЕРСТВО КУЛЬТУРИ УКРАЇНИ КИЇВСЬКИЙ НАЦІОНАЛЬНИЙ УНІВЕРСИТЕТ КУЛЬТУРИ І МИСТЕЦТВ

ІНЖЕНЕРІЯ ЗНАНЬ ТА ІНТЕЛЕКТУАЛЬНІ СИСТЕМИ Робоча навчальна програма для студентів напряму підготовки 6.050101 «Комп’ютерні науки»

КИЇВ – 2012

Укладач: Терейковський І. А., кандидат технічних наук, доцент Затверджено на засіданні кафедри комп’ютерних наук Протокол № 1 від 29 серпня 2011 р. Рекомендовано до видання Головною вченою радою університету Протокол № 1 від 15 вересня 2011 р.

2

ВСТУП Опис дисципліни та її предмета. «Інженерія знань та інтелектуальні системи» належить до циклу дисциплін самостійного вибору вищим навчальним закладом напряму підготовки «Комп’ютерні науки» освітньокваліфікаційного рівня «бакалавр». Викладається на третьому курсі в обсязі 180 год. (5 кредитів), підсумковим контролем знань є іспит. Метою навчальної дисципліни «Інженерія знань та інтелектуальні системи» є ознайомлення студентів із теоретичними основами галузі інженерії знань і практикою розробки, настройки та використання інтелектуальних систем. Завданням навчальної дисципліни «Інженерія знань та інтелектуальні системи» є набуття навичок практичної роботи з різними видами програмного забезпечення та розробки власних програмних додатків призначених для інтелектуального аналізу даних. Об'єктом навчальної дисципліни «Інженерія знань та інтелектуальні системи» є процеси інтелектуального аналізу даних. Предметом навчальної дисципліни «Інженерія знань та інтелектуальні системи» є принципи, способи і методи розробки інтелектуальних систем. Закінчуючи вивчення дисципліни, студент повинен знати: - основні терміни та визначення в галузі інженерії знань; - призначення, структуру, склад та характеристики інтелектуальної системи; - принципи інтелектуального аналізу даних; - типові задачі інтелектуального аналізу даних; - особливості візуального аналізу даних; - особливості інтелектуального аналізу текстової інформації; - принципи функціонування штучних нейронних мереж; - особливості архітектури основних типів штучних нейронних мереж; - передумови використання нейромережевих інтелектуальних систем. Студент повинен уміти: - проводити очистку та фільтрацію даних за допомогою програмного комплексу Deductor; - проводити трансформацію даних за допомогою програмного комплексу Deductor; - проводити автокореляційний аналізу даних за допомогою програмного комплексу Deductor; - визначати асоціативні залежності даних за допомогою програмного комплексу Deductor; - класифікувати дані методом побудови дерев рішень за допомогою програмного комплексу Deductor; - проводити візуальний аналіз даних за допомогою програмного комплексу Deductor; - проводити аналіз текстової інформації за допомогою програмного комплексу TextAnalyst; 3

- проводити класифікацію даних багатошаровим перспетроном за допомогою програмних комплексів Deductor та NeuroPro; - створювати програмне забезпечення для реалізації моделі багатошарового перспетрону; - проводити кластеризацію даних картою Кохонена за допомогою програмного комплексу Deductor; - застовосувати багатошаровий перспетрон та карту Кохонена в галузі захисту інформації. Нормативна навчальна дисципліна «Інженерія знань та інтелектуальні системи» є складовою циклу професійної підготовки фахівців освітньокваліфікаційного рівня «бакалавр». Для засвоєння матеріалу даної дисципліни необхідне знання теоретичних основ дисциплін: «Інформатика і комп'ютерна техніка», «Системний аналіз», «Організація баз даних та знань», «Кросплатформне програмне забезпечення», «Основи програмування та алгоритмічні мови», «Математичні методи дослідження операцій» у поєднанні з відповідними практичними навичками. СИСТЕМА ОЦІНЮВАННЯ ЗНАНЬ СТУДЕНТІВ Навчальна дисципліна «Інженерія знань та інтелектуальні систем» оцінюється за модульно-рейтинговою системою. Вона складається з двох модулів. Результати навчальної діяльності студентів оцінюються за 100-бальною шкалою за накопичувальною системою. Форми поточного контролю: - виконання завдання лабораторної роботи; - письмові відповіді. Модульний контроль: результат вивчення кожного модуля складає підсумок всіх форм поточного контролю та виконання модульної контрольної роботи. Підсумковий контроль знань: іспит – проводиться у формі усної відповіді на питання та виконання практичного завдання на комп’ютері. Умови допуску студента до іспиту: - відсутність заборгованостей з лабораторних занять; - відсутність заборгованостей з модульних контрольних робіт; - позитивні рейтингові бали за кожний модуль. Підсумкова оцінка За результатами вивчення курсу студент отримує підсумкову оцінку за 100бальною системою, яка розраховується як сума оцінок з двох модулів (стартовий рейтинг) та оцінки за іспит за такою шкалою оцінювання: Змістовий модуль 1 (ЗМ1)

Змістовий модуль 2 (ЗМ2 )

Іспит (КІ)

Разом (підсумкова оцінка ПО) 4

Максимальна оцінка в балах

35

35

30

100

Максимальна кількість балів за 1–2 модулі (стартовий рейтинг) – 70 балів. Розрахунок підсумкової оцінки: ПО = ЗМ1 + ЗМ2 + КІ Студент має можливість накопичити максимальну кількість балів у межах кожного модуля, використовуючи різні способи набуття знань. Бальна система оцінювання різних форм навчання студента в межах кожного модуля № з/п 1.

2.

3.

4.

Назви виду роботи, способи набуття знань

Бали за 1 заняття

Лекційні заняття: - відвідування, конспектування Лабораторні заняття: - виконання лабораторного завдання Самостійна робота: - письмові відповіді Модульна контрольна робота Всього за модуль Іспит Разом з дисципліни

Бали за всі заняття (максимальні) Модуль 1 Модуль 2

до 1

1х7=7

1х7=7

до 2

2х7=14

2х7=14

до 1

1х4=4

1х4=4

до 10

10х1=10 35

10х1=10 35

до 30

30 35 + 35 + 30 = 100 балів

Трансформація рейтингової оцінки Сума набраних рейтингових балів при семестровому контролі переводиться в оцінки системи оцінювання ECTS. Система передбачає семибальну шкалу (A, B, C, D, E, FX, F) та подвійне (описове та статистичне) визначення цих оцінок. Підсумковий рейтинговий бал 91 – 100 84 – 90 76 – 83 66 – 75 61 – 65 21 – 60 0 – 20

Підсумкова оцінка за шкалою ECTS A – відмінно B – дуже добре C – добре D – задовільно E – достатньо (задовольняє мінімальні критерії) FХ – незадовільно F – незадовільно (потрібна додаткова робота)

Традиційна екзаменаційна оцінка відмінно

Традиційна залікова оцінка

добре зараховано задовільно незадовільно

не зараховано

не допущено

не допущено

5

ТЕМАТИЧНИЙ ПЛАН для студентів денної форми навчання Види занять і розподіл годин № з/п

Назви тем

Всього Лабор. Самост. годин Лекції занят. робота

Мод. конт.

Форми контролю

МОДУЛЬ 1. ЗАГАЛЬНА ХАРАКТЕРИСТИКА ГАЛУЗІ ІНЖЕНЕРІЇ ЗНАНЬ ТА ІНТЕЛЕКТУАЛЬНИХ СИСТЕМ Конспект Вступ. Терміни та Письмові 1.1.

12 2 10 визначення відповіді Принципи 1.2. інтелектуального аналізу даних Типові задачі 1.3. інтелектуального аналізу даних Візуальний аналіз даних та особливості 1.4. інтелектуального аналізу текстової інформації Модульна контрольна робота № 1

18

4

4

10

24

6

6

12

16

2

4

Конспект Лабораторні завдання Письмові відповіді Конспект Лабораторні завдання Письмові відповіді Конспект Лабораторні завдання Письмові відповіді

10

2

2

МКР

Модульний контроль МОДУЛЬ 2. НЕЙРОМЕРЕЖЕВІ ІНТЕЛЕКТУАЛЬНІ СИСТЕМИ Принципи Конспект Письмові 2.1. функціонування штучних 12 2 10 відповіді нейронних мереж Всього

72

14

14

42

Нейронні мережі з прямим 2.2. розповсюдженням сигналу

40

4

8

28

2.3.

Нейронні мережі, що самонавчаються

14

2

2

10

2.4.

Рекурентні нейронні мережі

14

2

26

4

Практичне використання 2.5. нейромережевих інтелектуальних систем Модульна контрольна робота № 2

2

Конспект Лабораторні завдання Письмові відповіді Конспект Лабораторні завдання Письмові відповіді Конспект Письмові відповіді Конспект Лабораторні завдання Письмові відповіді

12 4

18

2

2

Всього

108

14

14

78

2

Разом з дисципліни

180

28

28

120

4

МКР Модульний контроль ІСПИТ

6

ЗМІСТ ДИСЦИПЛІНИ ЗА МОДУЛЯМИ МОДУЛЬ 1. ЗАГАЛЬНА ХАРАКТЕРИСТИКА ГАЛУЗІ ІНЖЕНЕРІЇ ЗНАНЬ ТА ІНТЕЛЕКТУАЛЬНИХ СИСТЕМ ТЕМА 1.1. ВСТУП. ТЕРМІНИ ТА ВИЗНАЧЕННЯ Лекція Поняття штучного інтелекту. Тест Тьюринга і фатичний діалог. Приклади інтелектуальних задач. Основні терміни та визначення в галузі інженерії знань. Поняття кібернетичної та інтелектуальної системи. Керування складними системами. Задачі інтелектуального аналізу даних. Системи підтримки прийняття рішень. Експертні системи. Використання баз даних в інтелектуальних системах. Класифікація інтелектуальних систем. Структура та склад інтелектуальної системи. Типова схема функціонування інтелектуальної системи. Проблема збереження, підготовки, представлення та видобутку даних. Завдання для самостійної роботи 1. Розглянути та порівняти алгоритмічний і декларативний підхід до керування складними системами.

2. Класифікувати основні напрямки досліджень в галузі штучного інтелекту. Запитання для самоперевірки 1. Що входить в поняття «штучного інтелекту»?

2. Визначення кібернетичної системи.

3. Визначення інтелектуальної системи.

4. Який склад сучасної інтелектуальної системи?

5. Основні характеристики сучасної інтелектуальної системи.

6. В чому полягає суть тесту Тьюринга?

7. Що таке фатичний діалог?

8. Визначення системи.

9. Визначення підсистеми.

10.Що входить в поняття керування складними системами? Література: 1, 2, 5, 6. ТЕМА 1.2. ПРИНЦИПИ ІНТЕЛЕКТУАЛЬНОГО АНАЛІЗУ ДАНИХ Лекція 1

7

Концепція та визначення сховища даних. Основні властивості сховищ даних. Організація та структура сховищ даних. Характеристика складових частин сховищ даних. Інформаційні потоки в сховищах даних. Постановка задачі попередньої очистки даних для інтелектуальної системи. Технологія попередньої очистки даних. Концепція багатовимірної моделі даних. Представлення даних у вигляді гіперкубу. Операції над гіперкубом. Визначення OLAP-системи. Основні та додаткові правила Кодда. Тест FASMI. Архітектура OLAP-систем. Таблиця фактів та таблиця вимірів. Поняття MOLAP, ROLAP та HOLAP-систем. Лекція 2 Визначення технології добутку даних (Data Mining). Класифікація та характеристика задач Data Mining. Приклади практичного використання технології Data Mining. Характеристика моделей, які використовуються в технології Data Mining. Моделі для формування прогнозованих даних. Моделі для опису процесу. Характеристика методів добутку даних. Базові методи. Методи, що базуються на теорії нечіткої логіки, теорії генетичних алгоритмів та теорії нейронних мереж. Характеристика та основні етапи процесу знаходження знань. Засоби Data Mining. Лабораторне заняття 1 Використання програмного комплексу Deductor для інтелектуального аналізу даних Мета: оволодіти навиками використання програмного комплексу Deductor для інтелектуального аналізу даних. Завдання 1. Встановити програмний комплекс Deductor.

2. Підготувати вхідні дані для їх використання в Deductor.

3. Імпортувати дані в Deductor.

4. Освоїти основні прийоми роботи з Deductor. Лабораторне заняття 2 Попередня очистка даних за допомогою програмного комплексу Deductor Мета: оволодіти навиками очистки та фільтрації даних за допомогою програмного комплексу Deductor. Завдання 1. Провести відновлення, редагування та згладження вхідних даних.

2. Реалізувати пониження розмірності вхідних даних.

3. Нівелювати незначущі фактори присутні у вхідних даних.

4. Виявити та знищити дублікати та протиріччя присутні у вхідних даних.

5. Провести фільтрацію даних по заданій умові. Трансформація даних за допомогою програмного комплексу Deductor Мета: оволодіти навиками трансформації даних за допомогою програмного комплексу Deductor. Завдання 1. Перетворити початковий формат вхідних даних до необхідного.

8

2. Провести агрегацію даних. Завдання для самостійної роботи 1. Опрацювати та засвоїти розглянуті на аудиторному практичному занятті методи роботи з програмним комплексом Deductor.

2. Розглянути засоби Data Mining вбудовані в СУБД MS SQL Server. Запитання для самоперевірки 1. В чому полягає підготовка вхідних даних для їх використання в Deductor?

2. Як реалізувати імпорт даних в Deductor?

3. Що таке технологія добутку даних?

4. Основні правила Кодда.

5. Додаткові правила Кодда.

6. Суть тесту FASMI. 7. Що таке таблиця фактів?

8. Що таке таблиця вимірів?

9. Суть MOLAP-системи, ROLAP –системи, HOLAP –системи.

10.Які моделі використовуються для формування прогнозу? Література: 1, 2, 3. ТЕМА 1.3. ТИПОВІ ЗАДАЧІ ІНТЕЛЕКТУАЛЬНОГО АНАЛІЗУ ДАНИХ Лекція 1 Постановка та характеристика задач класифікації і регресії даних. Способи представлення функціональних залежностей. Підходи до класифікації. Використання класифікаційних правил, дерев рішень та аналітичних виразів. Методика побудови класифікаційних правил. Алгоритм побудови 1-правил. Метод Naive Bayes. Поняття дерев рішень. Створення дерева рішень методом «поділяй та володарюй». Використання алгоритмів ID3 та C4.5 при створенні дерев рішень. Розробка дерева рішень за допомогою алгоритму покриття. Методи побудови аналітичних виразів призначених для класифікації даних. Лінійні та нелінійні методи. Метод SVM. Методи прогнозування рядів динаміки. Лекція 2 Постановка та характеристика задачі пошуку асоціативних правил у вхідних даних. Особливості практичного аспекту задачі. Аналітичне формулювання пошуку асоціативних правил. Підходи до реалізації секвенціального аналізу. Використання секвенціального аналізу для вирішення практичних задач. Різновиди задачі пошуку асоціативних правил. Представлення результатів пошуку. Алгоритми пошуку асоціативних правил. Характеристика базового алгоритму Apriori та його модифікацій. Лекція 3 Постановка та характеристика задачі кластеризації вхідних даних. Особливості практичного аспекту задачі. Особливості формальної постановки 9

задачі кластеризації. Міри близькості в алгоритмах кластеризації. Евклідова відстань. Відстань по Хемінгу. Відстані Чебишова та Махаланобіса. Пікова відстань. Представлення результатів кластеризації. Базові алгоритми кластеризації. Ієрархічні алгоритми кластеризації. Дивізійні алгоритми кластеризації. Неієрархічні алгоритми кластеризації. Адаптивні методи кластеризації. Вибір найкращого рішення і якість кластеризації. Показники чіткості кластеризації. Ентропійні критерії. Адаптивна кластеризація. Лабораторне заняття 1 Автокореляційний аналіз за допомогою програмного комплексу Deductor Мета: оволодіти навиками автокореляційного аналізу даних за допомогою програмного комплексу Deductor. Завдання 1. Провести автокореляційний аналіз вхідних даних.

2. Визначити коефіцієнт автокореляції та лаг для заданих вхідних даних. Лабораторне заняття 2 Пошук асоціативних залежностей даних за допомогою програмного комплексу Deductor Мета: оволодіти навиками визначення асоціативних залежностей даних за допомогою програмного комплексу Deductor. Завдання Визначити асоціативні залежності у заданих вхідних даних. Лабораторне заняття 3 Класифікація даних методом побудови дерев рішень за допомогою програмного комплексу Deductor Мета: оволодіти навиками класифікації даних методом побудови дерев рішень за допомогою програмного комплексу Deductor. Завдання Провести класифікацію вхідних даних методом побудови дерев рішень. Завдання для самостійної роботи 1. Опрацювати математичний апарат алгоритму визначення асоціативних правил AprioriTid. 2. За допомогою програмного комплексу Deductor побудувати лінійну модель вхідних даних.

1.

2.

3.

4.

5.

6.

7.

8.

Запитання для самоперевірки Що таке лаг в сенсі автокореляційного аналізу даних? Поняття автокореляції. Суть пошуку асоціативних правил. Суть класифікації за допомогою дерев рішень. В чому полягає суть задачі класифікації? В чому полягає суть задачі регресії? Характеристика алгоритму AprioriTid. Що таке секвенціальний аналіз?

10

9. Характеристика алгоритму ID3, C4.5.

10.Характеристика методу Naive Bayes, SVM. Література: 4, 5, 6. ТЕМА 1.4. ВІЗУАЛЬНИЙ АНАЛІЗ ДАНИХ ТА ОСОБЛИВОСТІ ІНТЕЛЕКТУАЛЬНОГО АНАЛІЗУ ТЕКСТОВОЇ ІНФОРМАЦІЇ Лекція Постановка та характеристика задачі візуального аналізу даних. Вимоги до засобів візуалізації даних. Методики візуалізації даних. Методи геометричних перетворень. Методи відображення іконок. Ієрархічні образи. Загальна постановка та характеристика задачі аналізу текстової інформації. Етапи аналізу тексту. Попередня обробка тексту. Задача TextMining. Визначення ключових понять в тексті. Загальна характеристика процесу визначення ключових понять. Стадія локального аналізу. Стадія інтеграції та виводу понять. Постановка та характеристика задачі класифікації текстів. Методи кластеризації текстових документів. Підходи до вирішення задачі реферування текстів. Лабораторне заняття 1 Візуальний аналіз даних за допомогою програмного комплексу Deductor Мета: оволодіти навиками візуального аналізу даних за допомогою програмного комплексу Deductor. Завдання 1. Провести візуальний аналіз вхідних даних.

2. Класифікувати невідомі вхідні дані за допомогою візуального аналізу. Лабораторне заняття 2 Аналіз текстової інформації за допомогою програмного комплексу TextAnalyst Мета: оволодіти навиками аналізу текстової інформації за допомогою програмного комплексу TextAnalyst. Завдання 1. Освоїти основні прийоми роботи з програмним комплексом TextAnalyst.

2. За допомогою програмного комплексу TextAnalyst провести реферування тексту.

3. За допомогою програмного комплексу TextAnalyst визначити ключові слова тексту. Завдання для самостійної роботи 1. Освоїти методи візуалізації даних, орієнтовані на пікселі.

2. Охарактеризувати бінарні методи кластеризації текстів. Запитання для самоперевірки 1. Яка постановка задачі візуального аналізу даних?

2. Які методики візуального аналізу даних?

11

3. В чому полягає суть методу геометричних перетворень при візуальному аналізі даних?

4. В чому полягає суть методу відображення іконок при візуальному аналізі даних?

5. В чому полягає суть ієрархічних образів при візуальному аналізі даних?

6. В чому полягає попередня обробка тексту?

7. Характеристика задачі TextMining.

8. В чому полягає суть стадії локального аналізу тексту?

9. В чому полягає суть стадії інтеграції та виводу понять?

10.Методи кластеризації текстів.

11.Які ієрархічні методи кластеризації текстів?

12.Методи визначення текстових фрагментів для анотації. Література: 4, 6. МОДУЛЬНА КОНТРОЛЬНА РОБОТА № 1 Дати розгорнуті письмові відповіді на питання Варіант 1 1. Суть поняття «штучного інтелекту».

2. Навести приклади інтелектуальних задач.

3. Що таке інтелектуальна система?

4. Що таке інтелектуальний аналіз даних?

5. Що таке експертна система?

6. В чому полягає проблема видобутку знань із даних?

7. Визначення «сховища даних».

8. Суть концепції багатовимірної моделі даних.

9. Що таке таблиця фактів в OLAP-системах?

10.В чому полягає суть технології Data Mining? Варіант 2 1. Суть поняття «тесту Тьюринга».

2. Суть поняття «інженерії знань».

3. Що таке кібернетична система?

4. Визначення «системи підтримки прийняття рішення».

5. Типова схема функціонування інтелектуальної системи.

6. Характеристика складових частин сховища даних.

7. В чому полягає суть попередньої очистки даних для інтелектуальної системи?

8. Що таке таблиця вимірів в OLAP-системах?

9. Постановка та характеристика задачі класифікації і регресії даних.

10.Суть поняття «дерева рішень». МОДУЛЬ 2. НЕЙРОМЕРЕЖЕВІ ІНТЕЛЕКТУАЛЬНІ СИСТЕМИ

12

ТЕМА 2.1. ПРИНЦИПИ ФУНКЦІОНУВАННЯ ШТУЧНИХ НЕЙРОННИХ МЕРЕЖ Лекція Біологічні нейронні мережі. Поняття штучної нейронної мережі. Модель штучного нейрону. Синаптичні зв'язки. Поняття структури та архітектури нейронної мережі. Поняття нейронного шару. Функція активації. Типові функції активації. Навчання нейронної мережі. Моделі навчання «з вчителем», «без вчителя» та «з підкріпленням». Підготовка вхідних даних для навчання. Основні конструктивні параметри нейронних мереж. Класифікація нейронних мереж. Поняття помилки класифікації (узагальнення) та її складових. Типові шляхи зменшення помилки узагальнення. Типові галузі використання нейроних мереж. Приклади використання нейронних мереж в інтелектуальних системах. Завдання для самостійної роботи Опрацювати математичну модель нейронної мережі. Запитання для самоперевірки 1. Характеристика моделі біологічної нейронної мережі.

2. Характеристика моделі штучного нейрону.

3. Що таке функція активації?

4. Які типові функції активації?

5. Які типові функції активації використовуються у вхідному нейронному шарі?

6. Які типові функції активації використовуються у вихідному нейронному шарі?

7. Які типові функції активації використовуються у схованому нейронному шарі?

8. Типові задачі вхідного нейронного шару.

9. Типові задачі схованого нейронного шару.

10.Типові задачі вихідного нейронного шару.

11.Які класифікаційні критерії нейронних мереж?

12.Що таке помилка узагальнення? Література: 4, 5. ТЕМА 2.2 НЕЙРОННІ МЕРЕЖІ З ПРЯМИМ РОЗПОВСЮДЖЕННЯМ СИГНАЛУ Лекція 1 Класифікація нейронних мереж з прямим розповсюдженням сигналу. Їх особливості, переваги та недоліки. Визначення нейронної мережі типу багатошарового перспетрону (БШП). Структура БШП. Види активаційних функцій. Розрахунок основних параметрів схованих нейронів. Методика навчання БШП. Алгоритми навчання. Навчання БШП методом «оберненого розповсюдження помилок». Особливості підготовки начальної вибірки. Передумови пошуку оптимальних величин корекцій вагових коефіцієнтів.

13

Використання методу градієнтного спуску для оптимальної корекції вагових коефіцієнтів. Модифіковані методи навчання БШП. Розрахунок помилки апроксимації БШП. Явище «перенавчання» БШП. Розрахунок помилки опису моделі БШП. Розрахунок оптимальної кількості синаптичних зв’язків БШП, виходячи з позицій мінімізації помилки узагальнення. Розрахунок оптимальної конфігурації БШП. Залежність обсягу пам’яті БШП від розмірності вхідного сигналу та кількості синаптичних зв’язків. Механізм контрольної кросперевірки. Оптимізація структури БШП. Методи розрідження та поетапного нарощення зв’язків. Поняття вербалізації БШП. Алгоритм вербалізації. Сучасні модифікації БШП. Приклади використання БШП. Лекція 2 Нейронна мережа з радіальними базисними функціями (РБФ). Структура мережі РБФ. Передумови та методика функціонування мережі РБФ. Використання радіально-симетричної функції активації. Розрахунок параметрів мережі РБФ. Навчання мережі РБФ. Недоліки та переваги РБФ відносно БШП. Традиційні сфери застосування РБФ. Ймовірнісна нейронна мережі (PNN). Структура мережі PNN. Передумови та методика функціонування мережі PNN. Особливості функції активації. Розрахунок параметрів мережі PNN. Навчання мережі PNN. Недоліки та переваги PNN відносно БШП. Традиційні сфери застосування PNN. Приклади використання мереж РБФ та PNN. Лабораторне заняття 1 Класифікація даних багатошаровим перспетроном за допомогою програмних комплексів Deductor та NeuroPro Мета: оволодіти навиками класифікації даних за допомогою багатошарового перспетрону. Завдання 1. Базуючись на умовах прикладної задачі, розрахувати оптимальну структуру БШП.

2. За допомогою програмних комплексів Deductor та NeuroPro реалізувати модель БШП та провести її навчання.

3. Провести класифікацію невідомих вхідних даних. Лабораторне заняття 2 Розробка програмного забезпечення для моделювання структури багатошарового перспетрону Мета: оволодіти навиками розробки програмного забезпечення для моделювання структури нейронної мережі типу БШП. Завдання 1. Сформувати об’єктно-орієнтовану модель програмного забезпечення БШП.

2. Розробити програмне забезпечення сформованої моделі. Лабораторне заняття 3 Розробка програмного забезпечення для навчання багатошарового перспетрону 14

Мета: оволодіти навиками розробки програмного забезпечення для навчання нейронної мережі типу БШП. Завдання 1. Сформувати алгоритм навчання БШП.

2. Розробити програмне забезпечення сформованого алгоритму навчання. Лабораторне заняття 4 Розробка програмного забезпечення для функціонування багатошарового перспетрону в режимі розпізнавання Мета: оволодіти навиками розробки програмного забезпечення для функціонування БШП в режимі розпізнавання. Завдання 1. Сформувати алгоритм функціонування БШП в режимі розпізнавання.

2. Розробити програмне забезпечення сформованого алгоритму розпізнавання. Завдання для самостійної роботи 1. Опрацювати нейронну мережу типу АРТ.

2. Опрацювати критерії оптимізації структури мереж розповсюдженням сигналу.

з

прямим

Запитання для самоперевірки 1. Як розраховується помилка апроксимації БШП?

2. Як розраховується помилка моделі БШП?

3. Як розраховується помилка узагальнення БШП?

4. Як навчається БШП?

5. Як навчається РБФ?

6. Як навчається PNN? 7. Що таке вербалізація БШП?

8. В чому полягає суть поетапного методу навчання БПШ?

9. Яка структура мережі PNN? 10.Яка структура мережі РБФ?

11.Яка структура БШП?

12.Як розрахувати оптимальну кількість схованих нейронів в БШПя? Література: 4, 5. ТЕМА 2.3. НЕЙРОННІ МЕРЕЖІ, ЩО САМОНАВЧАЮТЬСЯ Лекція Принципи функціонування нейрони мереж, що самонавчаються. Модель Ліпмана-Хеммінга. Розрахунок відстані між невідомими образами. Методика навчання моделі Ліпмана-Хеммінга. Топографічна карта Кохонена. Структура карти Кохонена. Види сітки зв’язків між нейронами. Розрахунок параметрів моделі карти Кохонена. Особливості методики навчання карти Кохонена. Формування навчальної вибірки. Механізм навчання «переможець забирає все». Модифікації механізму. Параметр «совісті». Зміна швидкості та радіусу 15

навчання. Перспективні методики навчання карти Кохонена. Візуалізація отриманих результатів у вигляді топографічної карти. Лабораторне заняття 1 Кластеризація даних картою Кохонена за допомогою програмного комплексу Deductor Мета: оволодіти навиками кластеризації даних за допомогою нейронної мережі типу карти Кохонена. Завдання 1. Базуючись на умовах прикладної задачі, розрахувати оптимальну структуру карти Кохонена.

2. За допомогою програмного комплексу Deductor реалізувати модель карти Кохонена.

3. Провести кластеризацію невідомих вхідних даних. Завдання для самостійної роботи 1. Опрацювати особливості нейронної мережі типу пружної карти.

2. Опрацювати особливості нейронної мережі типу зірки Гросберга. Запитання для самоперевірки 1. Типи зв’язків між нейронами у карті Кохонена.

2. Суть моделі Ліпмана-Хеммінга.

3. В чому полягають відмінності між моделлю Ліпмана-Хеммінга та картою Кохонена?

4. Як розрахувати кількість нейронів в карті Кохонена?

5. Що таке радіус навчання в карті Кохонена?

6. Як розраховується відстань до кластерного елемента в карті Кохонена?

7. В чому полягає механізм навчання «переможець забирає все»?

8. Як при навчанні карти Кохонена змінюються вагові коефіцієнти нейронупереможця?

9. Як при навчанні карти Кохонена змінюються вагові коефіцієнти нейронів сусідніх з нейроном-переможцем?

10.Які фази навчання розрізняють при навчанні карти Кохонена?

11.В чому суть перспективних методів навчання карти Кохонена?

12.Що таке бібліотечний образ? Література: 4, 5. ТЕМА 2.4. РЕКУРЕНТНІ НЕЙРОННІ МЕРЕЖІ Лекція Особливості рекурентних нейронних мереж. Види рекурентних нейронних мереж. Класичні асоціативні нейронні мережі. Класи асоціативної пам’яті. Характеристика, структура та особливості функціонування нейронної мережі Хопфілда. Розрахунок енергії мережі Хопфілда. Методика навчання мережі Хопфілда. Правило Хебба. Вимоги до навчальних даних. Розрахункові вирази параметрів мережі Хопфілда. Модифікації правила Хебба, спрямовані на 16

підвищення ефективності навчання. Характеристика, структура та особливості функціонування нейронної мережі Хеммінга. Характеристика, структура та особливості функціонування нейронної мережі Коско. Порівняння асоціативних мереж з багатошаровим перспетроном. Приклад використання асоціативних нейронних мереж. Завдання для самостійної роботи 1. Опрацювати модель нейронної мережі Джордано.

2. Опрацювати модель нейронної мережі простої рекурентної мережі. Запитання для самоперевірки 1. Структура нейронної мережі Хопфілда.

2. Структура нейронної мережі Хеммінга.

3. Структура нейронної мережі Коско.

4. Методика навчання нейронної мережі Хопфілда.

5. Методика навчання нейронної мережі Хеммінга.

6. Методика навчання нейронної мережі Коско.

7. Методика розпізнавання нейронної мережі Хопфілда.

8. Методика розпізнавання нейронної мережі Хеммінга.

9. Методика розпізнавання нейронної мережі Коско.

10.Гетероасоціативна пам’ять.

11.Автоасоціативна пам’ять.

12.Інтерполятивна пам’ять. Література: 4, 5. ТЕМА 2.5. ПРАКТИЧНЕ ВИКОРИСТАННЯ НЕЙРОМЕРЕЖЕВИХ ІНТЕЛЕКТУАЛЬНИХ СИСТЕМ Лекція 1 Використання БШП для розв’язання задач захисту інформації. Методика використання БШП для розпізнавання комп’ютерних вірусів. Визначення та підготовка вхідних даних, що характеризують комп’ютерні віруси. Формування навчальних прикладів, що відповідають безпечним програмам та вірусам. Особливості розпізнавання скриптових комп’ютерних вірусів. Методика використання БШП в системах біометричної ідентифікації користувачів. Особливості розробки архітектури БШП призначеного для розпізнавання відбитків пальців. Формування навчальної вибірки та розрахунок оптимальних параметрів моделі БШП. Лекція 2 Використання нейронної мережі типу карти Кохонена для кластеризації листів електронної пошти та розпізнавання спаму. Постановка задачі кластеризації листів електронної пошти. Визначення номенклатури та виду вхідних параметрів карти Кохонена. Формування навчальних прикладів. Розрахунок параметрів моделі карти Кохонена. Методика навчання нейронної мережі та методика використання. Особливості відображення результатів 17

кластеризації. Обмеження програмних комплексів, призначених моделювання карти Кохонена при вирішенні практичних задач.

для

Лабораторне заняття 1 Ідентифікація відбитків пальців за допомогою багатошарового перспетрону Мета: оволодіти навиками використання багатошарового перспетрону в системах біометричної ідентифікації користувачів. Завдання 1. Підготувати навчальну та тестову вибірку.

2. Базуючись на умовах поставленої задачі, розрахувати оптимальну структуру БШП.

3. За допомогою програмних комплексів Deductor та NeuroPro реалізувати модель БШП та провести її навчання.

4. Провести класифікацію невідомих вхідних даних. Лабораторне заняття 2 Розпізнавання спаму за допомогою карти Кохонена Мета: оволодіти навиками використання карти Кохонена в системах захисту від спаму. Завдання 1. Підготувати навчальну та тестову вибірку.

2. Базуючись на умовах поставленої задачі, розрахувати оптимальну структуру карти Кохонена.

3. За допомогою програмного комплексу Deductor реалізувати модель карти Кохонена.

4. Провести кластеризацію невідомих вхідних даних. Завдання для самостійної роботи 1. Опрацювати методику використання нейронних мереж для розпізнавання кольорових зображень.

2. Опрацювати методику використання нейронних мереж для визначення прогнозу погоди.

1.

2.

3.

4.

5.

6.

Запитання для самоперевірки Як розраховується кількість вхідних параметрів БШП при розпізнаванні візуальних образів? Що представляють собою вхідні параметри БШП при розпізнаванні візуальних образів? Як розраховується кількість вхідних параметрів карти Кохонена при кластеризації текстової інформації? Що представляють собою вхідні параметри карти Кохонена при кластеризації текстової інформації? Як розраховуються оптимальні параметри моделі БШП при розпізнаванні візуальних образів? Як розраховуються оптимальні параметри моделі карти Кохонена при розпізнаванні спаму?

18

7. З позицій використання нейромережевих технологій охарактеризуйте задачу кластеризації листів електронної пошти.

8. З позицій використання нейромережевих технологій охарактеризуйте задачу класифікації користувачів по відбиткам пальців.

9. З позицій використання нейромережевих технологій охарактеризуйте задачу розпізнавання комп’ютерних вірусів.

10.З позицій використання нейромережевих технологій охарактеризуйте задачу розпізнавання спаму.

11.Як підготувати вхідні дані для карти Кохонена, призначеної для розпізнавання спаму?

12.Як підготувати навчальну вибірку для БШП, призначеного для розпізнавання вірусів? Література: 4, 5. МОДУЛЬНА КОНТРОЛЬНА РОБОТА № 2 Дати розгорнуті письмові відповіді на питання з наведенням програмного коду та поясненнями до них Варіант 1 1. Класифікація нейронних мереж з прямим розповсюдженням сигналу.

2. Визначення нейронної мережі типу багатошарового перспетрону.

3. Структура мережі РБФ.

4. Поняття вербалізації БШП.

5. Оптимізація структури БШП.

6. Принципи функціонування нейрони мереж, що самонавчаються.

7. Розрахунок помилки апроксимації БШП.

8. Розрахунок параметрів моделі карти Кохонена.

9. Види активаційних функцій БШП.

10.Механізм навчання «переможець забирає все». Варіант 2 недоліки нейронних

1. Особливості, переваги та мереж з прямим розповсюдженням сигналу.

2. Структура БШ.

3. Розрахунок параметрів мережі РБФ.

4. Види сітки зв’язків між нейронами в карті Кохонена.

5. Особливості рекурентних нейронних мереж.

6. Явище «перенавчання» БШП.

7. Правило Хебба.

8. Характеристика, структура та особливості функціонування нейронної мережі Хеммінга.

9. Оптимізація структури БШП.

10.Навчання БШП методом «оберненого розповсюдження помилок». ПИТАННЯ ДО ІСПИТУ 19

1.

2.

3.

4.

5.

6.

7.

Суть методу відображення іконок при візуальному аналізі даних. Суть ієрархічних образів при візуальному аналізі даних. Технологія добутку даних. Основні правила Кодда. Суть MOLAP-системи. Суть ROLAP-системи. Типові функції активації, які використовуються у схованому нейронному шарі.

8. Класифікаційні критерії нейронних мереж.

9. Суть поняття «помилка узагальнення нейронної мережі».

10.Суть HOLAP-системи.

11.Моделі, які використовуються для формування прогнозу.

12.Постановка задачі візуального аналізу даних.

13.Розрахунок помилки узагальнення БШП.

14.Як навчається БШП?

15.Як навчається РБФ?

16.Як навчається PNN? 17.Вербалізація БШП.

18.Задача кластеризації листів електронної пошти.

19.Задача класифікації користувачів по відбиткам пальців.

20.Задача розпізнавання комп’ютерних вірусів.

21.Задача розпізнавання спаму.

22.Суть методу геометричних перетворень при візуальному аналізі даних.

23.Додаткові правила Кодда.

24.Суть тесту FASMI. 25.Характеристика задачі TextMining.

26.Структура мережі PNN. 27.Структура мережі РБФ.

28.Структура БШП.

29.Розрахунок оптимальної кількості схованих нейронів в БШПя.

30.Методи кластеризації текстів.

31.Ієрархічні методи кластеризації текстів.

32.Методи визначення текстових фрагментів для анотації.

33.Поняття «штучного інтелекту».

34.Методика навчання нейронної мережі Хопфілда.

35.Методика навчання нейронної мережі Хеммінга.

36.Методика навчання нейронної мережі Коско.

37.Модель біологічної нейронної мережі.

38.Модель штучного нейрону.

39.Функція активації.

40.Суть моделі Ліпмана-Хеммінга.

41.Основні характеристики сучасної інтелектуальної системи.

42.Суть тесту Тьюринга.

43.Структура нейронної мережі Хопфілда.

44.Структура нейронної мережі Хеммінга.

45.Структура нейронної мережі Коско.

20

46.Поняття «керування складними системами» 47.Суть поняття «автокореляції».

48.Суть пошуку асоціативних правил.

49.Суть класифікації за допомогою дерев рішень.

50.Суть задачі класифікації.

51.Суть задачі регресії.

52.Характеристика алгоритму AprioriTid. 53.Суть поняття «секвенціальний аналіз».

54.Характеристика алгоритму ID3.

55.Характеристика алгоритму C4.5.

56.Характеристика методу Naive Bayes.

57.Характеристика методу SVM. 58. Гетероасоціативна пам’ять.

59.Автоасоціативна пам’ять.

60.Інтерполятивна пам’ять. МЕТОДИЧНІ РЕКОМЕНДАЦІЇ ДО ПРОВЕДЕННЯ ЛЕКЦІЙНОГО ЗАНЯТТЯ Під час вивчення дисципліни «Інженерія знань та інтелектуальні системи» використовуються різні форми навчання, однією з яких є лекція. Метою лекції є сприйняття, розуміння і засвоєння студентом тематичної інформації. Для того, щоб точно сприймати навчальний матеріал, необхідно зосередитися на суті лекції, зрозуміти її основні положення і запам'ятати їх. Конспектування – це своєрідний процес, який містить ряд складових: - слухання (аудіювання) інформації; - відбір та скорочення інформації (виділення головної думки); - переформулювання відібраної інформації; - записування переформульованої інформації. Результатом цього процесу є конспект, який дозволяє його автору відтворити в подальшому одержану інформацію з необхідною точністю. У будь-якому навчальному матеріалі міститься інформація трьох основних різновидів: головна, другорядна і допоміжна. Головною є та інформація, яка має найістотніше значення для засвоєння навчального матеріалу, виражає сутність теми. До неї належать означення наукових понять, формулювання законів, теоретичних принципів тощо. В тексті така інформація виділяється певним чином, на лекції ж задиктовується. Другорядна інформація може мати подвійне значення: або її засвоєння необхідне для більш глибокого й цілісного розуміння головної інформації, або ж вона відображає конкретні наслідки та практичні рекомендації, що випливають з цієї інформації. До цього різновиду інформації належать різного роду коментарі, пояснювальні зауваження, тлумачення. Призначення допоміжної інформації – допомогти студентові краще засвоїти певний матеріал. Це різного роду методичні поради, нагадування про раніше викладений матеріал, запитання для самоперевірки та ін.

21

В процесі конспектування кожен з вищеназваних різновидів інформації вимагає і різних способів опрацювання. Головну інформацію необхідно записати якнайповніше, без істотних переробок і скорочень, майже дослівно. Допоміжну інформацію, навпаки, повністю пропускаємо. Основна ж робота при конспектуванні полягатиме в переробці другорядної інформації. При цьому інформацію треба узагальнити й скоротити, подати у вигляді плану, тез, висновків, схем, викладення основних результатів тощо. Необхідно звернути увагу на важливості правильного і зрозумілого скорочення інформації при конспектуванні, акуратності та чіткості оформлення конспекту, виділення основних положень, означень, термінів кольором, графічними оздобленнями (можливо, не в процесі конспектування під час лекції, а в подальшому доопрацюванні) та інше. Якщо з відповідних причин лекція пропущена, її необхідно законспектувати і опрацювати самостійно, а всі незрозумілі питання щодо загальної структури лекції з’ясувати на консультації. МЕТОДИЧНІ РЕКОМЕНДАЦІЇ ДО ПІДГОТОВКИ ЛАБОРАТОРНОГО ЗАНЯТТЯ Лабораторне заняття, як одна із форм навчальних занять, розрахована на виконання студентами в електронному вигляді певної задачі з використанням ПК. На лабораторному заняття вони глибше опановують складні питання, беруть участь в їх колективному творчому обговоренні, оволодівають науковими методами аналізу певних явищ і проблем. Під час виконання лабораторної роботи створюються умови для перевірки та виявлення інтелектуального рівня студентів. Навчальні програми з переліком тем та питань дисципліни «Інженерія знань та інтелектуальні системи» студенти отримують на першому практичному занятті. Для самостійного опанування тем предмета студенти можуть використовувати не тільки зазначений список основної літератури, а також інші джерела інформації, можливості Internet та додаткову літературу. На першому лабораторному занятті викладач вказує на основні теми предмета для практичного засвоєння, роз’яснює загальні положення, надає рекомендації по вивченню та опануванню всіх розділів, загострює увагу на найбільш важливих «вузлових» питаннях. На заключній лабораторній роботі розглядаються теми, які стали найбільш важкими для самостійного опанування. МЕТОДИЧНІ РЕКОМЕНДАЦІЇ ДО ВИКОНАННЯ САМОСТІЙНОЇ РОБОТИ Самостійна робота є однією із складових навчального процесу, на яку припадає значний обсяг навчального часу. При цьому студент є активним учасником навчального процесу, набуває навичок самоорганізації, самостійного пошуку інформації, прийняття рішень і т.ін. Правильна організація самостійної роботи дозволяє максимально індивідуалізувати навчання, підвищити ефективність навчального процесу в цілому.

22

Самостійна робота студентів складається з роботи з літературою (доповнення конспектів лекцій, написання рефератів, ознайомлення з додатковою інформацією в мережі Інтернет) та роботи на персональному комп’ютері з певними програмними продуктами. Кожен студент повинен написати реферат або виконати індивідуальне завдання за погодженням із викладачем. Теми для самостійної роботи студентів (у тому числі, рефератів) та їх обсяг визначаються даною робочою програмою. Одним із видів самостійної роботи є опрацювання лекційного матеріалу, визначення головного у змісті лекції, засвоєння її основних моментів. Щоб зрозуміти і добре засвоїти лекційний матеріал, до кожної наступної теми слід ретельно готуватись: систематично опрацьовувати матеріал попередньої лекції, і, якщо це необхідно, опрацювати рекомендовану літературу, повторювати пройдений матеріал, на який лектор посилається при викладанні нового, якщо з певних причин лекція пропущена, її необхідно законспектувати і опрацювати самостійно, незрозумілі питання з’ясувати на консультації. Для ґрунтовного засвоєння першоджерел необхідно вдумливо конспектувати їх, вдаючись до різних видів запису (витяги, тези, цитати і т.ін.). Готуючись до відповіді, важливо, в першу чергу, визначити напрями наукових досліджень з певної проблеми та впровадження їх результатів у практику. Доцільно підготувати власні спостереження та висновки, обґрунтовуючи їх теоретичними положеннями та рекомендаціями. Особлива увага під час самостійної роботи повинна приділятись набуттю навичок практичної роботи на комп’ютерах з тими програмними продуктами, що вивчаються. Потрібно ознайомитись із основними теоретичними відомостями про програмний продукт за допомогою спеціальної літератури, лекційного та методичного матеріалу або довідкової системи програми. Після цього можна виконувати конкретні практичні завдання. Викладач систематично контролює самостійну роботу студентів: перевіряє конспекти першоджерел, виконання завдань практичних завдань, надає необхідну допомогу для активізації навчальної діяльності студентів. При вивченні дисципліни студенти можуть застосовувати наступні форми самостійної роботи: - самостійне поглиблене вивчення матеріалу на основі конспекту лекцій, їхніх презентацій, рекомендованої й учбово-методичної літератури, періодичних видань по темах лекцій; - написання рефератів за переліком тем, запропонованих викладачем; - самостійна підготовка до практичних занять з використанням навчальних комп’ютерних програм; - підготовка до виконання тестів; - самостійна підготовка до іспиту, у тому числі з використанням навчальних комп’ютерних програм. Методи контролю: - тестування студентів перед виконанням практичних і лабораторних робіт; - опитування студентів під час захисту звітів по лабораторних роботах і на консультаціях; - проведення атестаційного контролю знань студентів під час іспиту.

23

Необхідним елементом для самостійної роботи студентів є користування електронною бібліотекою університету на сайті КНУКіМ www.knukim.edu.ua. МЕТОДИЧНІ РЕКОМЕНДАЦІЇ ДО ВИКОНАННЯ МОДУЛЬНОЇ КОНТРОЛЬНОЇ РОБОТИ Організація проміжного контролю знань По завершенні вивчення кожного модуля студент виконує модульну контрольну роботу (далі МКР). Метою МКР є перевірка рівня засвоєння студентом теоретичного і практичного матеріалу модуля. Оцінка за МКР є однією із складових оцінки модуля. Умови допуску до виконання МКР. До проведення МКР допускаються студенти, які виконали всі види робіт, що є обов’язковими складовими модуля. У випадку пропуску занять з поважних причин студент може відпрацювати матеріал теми на додатковому занятті згідно з встановленим графіком. Студент, який не з’явився на МКР, у відомості зазначається «не з’явився» та йому виставляється 0 балів за МКР. Студент, який з поважної причини пропустив МКР, зобов’язаний надати відповідний документ та виконати МКР згідно з встановленим кафедрою графіком. Порядок виконання МКР. Комплексна контрольна робота проводиться письмово на останньому практичному занятті у модулі відповідно до встановленого графіка занять. Студент, який навчається за індивідуальним графіком, зобов’язаний скласти МКР у визначений деканатом час. Під час складання МКР студент не може користуватися додатковими матеріалами без дозволу викладача, у протилежному випадку, – він усувається від складання МКР, на роботі робиться відповідний запис, у заліково-екзаменаційну відомість виставляється 0 балів за виконання МКР відповідного модуля. Результати МКР та оцінка за модуль заносяться у відомість рубіжного контролю у визначеній шкалі протягом трьох робочих днів після складання МКР. Результати МКР доводяться до відома студентів не пізніше трьох днів після складання. Студент, який не погоджується з оцінкою, має право звернутися до викладача та отримати обґрунтоване пояснення. У випадку незгоди з рішенням викладача студент може звернутись з письмовою апеляцією до завідувача кафедри в день оголошення результатів. Завідувач кафедри та викладач мають розглянути апеляцію у присутності студента протягом двох днів з дня її подання та прийняти остаточне рішення щодо оцінки студента. У результаті апеляції оцінка не може бути зменшена. Якщо студент не звернувся з апеляцією у встановлений термін, то оцінка, виставлена викладачем, є остаточною. Умови перескладання МКР. Модульний контроль проводиться лише один раз. Студент має право один раз перескласти модуль, оцінений «незадовільно» у термін, визначений деканатом, як виняток, у випадку, коли був не допущений до написання МКР. Загальні вимоги: - завдання для контрольних робіт розроблено згідно з робочою програмою; 24

- завдання до контрольної роботи видається та керується викладачем; - зарахування контрольної роботи вважається виконаним, коли студент подає викладачу для перевірки письмову відповідь разом з виконаною практичною роботою. Питання, що включені до модульної контрольної роботи, оцінюються в діапазоні визначеному робочою програмою дисципліни. Структура кожного комплексу завдань для модульного контролю має ідентичну побудову і може включати такі види завдань: тестові завдання, теоретичне питання, що потребує розгорнутої відповіді, практичне завдання. Система нарахування балів визначена робочою програмою. ЛІТЕРАТУРА Основна 1. Вороновский Г. К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности / Г. К. Вороновский, К. В. Махотило, С. А. Сергеев. − Харьков: Основа, 1997. − 112 с.

2. Глибовець М. М. Штучний інтелект / М. М. Глибовець, О. В. Олецький. − К.: Києво-Могилян. акад., 2002. − 366 с.

3. Головко В. А. Нейронные сети: обучение, организация и применение / В. А. Головко. – М.: ИПРЖР, 2001. – 256 с.

4. Горбань А. Н. Обучение нейронных сетей / А. Н. Горбань. − М.: ParaGraph, 1990. − 160 с.

5. Ежов А. А. Нейрокомпьютинг и его применения в экономике и бизнесе / А. А. Ежов, С. А. Шумский. − М.: МИФИ, 1998. − 224 с.

6. Люгер Ф. Искусственный интеллект: стратегии и методы решения сложных проблем / Ф. Люгер. – 4-е изд. − М.: Вильямс, 2003. − 864 с.

7. Терейковський І. Нейронні мережі в засобах захисту комп’ютерної інформації / І. Терейковський. − К.: ПоліграфКонсалтинг, 2007. – 209 с. Додаткова 8. Заенцев И. В. Нейронные сети: основные модели / И. В. Заенцев. − Воронеж: Воронежский гос. ун-т, 1999. − 76 с.

9. Зиновьев А. Ю. Визуализация многомерных даннях / А. Ю. Зиновьев. − М.: СК Пресс, 2005. − 180 с.

10.Каллан Р. Основные концепции нейронных сетей / Р. Каллан. − М.: Вильямс, 2003. − 288 с.

11.Касперский Е. В. Компьютерные вирусы: что это такое и как с ними бороться / Е. В. Касперский. − М.: СК Пресс, 1998. − 288 с.

12.Круглов В. В. Искусственные нейронные сети / В. В. Круглов, В. В. Борисов. − М.: Горячая линия-Телеком, 2002. − 382 с.

13.Нейлон К. Как построить свою экспертную систему / К. Нейлон. − М.: Энергоатомиздат, 1991. − 286 с.

14.Тихонов Э. Е. Методы и алгоритмы прогнозирования экономических показателей на базе нейронных сетей и модулярной арифметики / Э. Е. Тихонов, В. А. Кузьмищев. − Невинномысск: НИЭУП, 2004. − 166 с.

25

15.Тэрано Т. Прикладные нечеткие системы / Т. Тэрано, К. Асаи, М. Сугэно.

– М.: Мир, 1993. − 364 с.

16.Хайкин С. Нейронные сети: полный курс / С. Хайкин. – 2-е изд., испр. − М.: Вильямс, 2006. − 1104 с.

17.Шуклин Д. E. Модели семантических нейронных сетей и их применение в системах искусственного интеллекта: дис. кан. техн. наук: 05.13.23 / Д. Е. Шуклин. − Х., 2003. − 196 с.

26