Перейти до основного вмісту

Про методику оцінки ефективності систем підтримки інформаційно-аналітичної роботи

Дана публікація є частиною статті "Методика оцінки ефективності автоматизованої системи підтримки інформаційно-аналітичної роботи" (Герасимов Б.М., Перегуда О.М., Круковський І.А., 2008р.) де оприлюднено актуальний до цього часу опис методики, яка дозволяє на основі експертної інформації: 1) сформувати модель оцінки ефективності (корисності) автоматизованої системи підтримки інформаційно-аналітичної роботи (АСПІАР); 2) на основі сформованої методики здійснити порівняльну оцінку альтернативних варіантів АСПІАР відповідно до потреб користувачів, згідно вимог перспективних керівних документів до функцій системи електронних інформаційних ресурсів. 

Постановка проблеми. 

Важливим завданням підвищення ефективності інформаційно-аналітичної роботи корпоративного інформаційно-аналітичного центру (КІАЦ) є впровадження автоматизованої системи підтримки інформаційно-аналітичної роботи (АС ПІАР) із зареєстрованими інформаційними ресурсами (ЗІР). Виходячи з цього, важливим практичним частковим завданням розробки і впровадження АС ПІАР КІАЦ є оцінка її ефективності (корисності) для користувачів – за допомогою обґрунтованої формалізованої методики. 

Необхідність розробки такої методики визначила актуальність цього дослідження. Огляд останніх досліджень і публікацій. Перспективним підходом до побудови АС ПІАР КІАЦ є забезпечення синергетичної інтеграції елементів сучасних технологій обробки інформації: сховища та (або) вітрин й кіосків знань або даних (Data Warehouse, Data Mart); засобів багатовимірного OLAP моделювання; Mining засобів на основі єдиної моделі опису інформаційних ресурсів, реалізованій на обраній моделі подання знань штучного інтелекту. 

Існуючі методики і системи критеріїв для оцінювання ефективності програмного забезпечення та автоматизованих інформаційних систем розроблені, насамперед, на основі: узагальнених підходів інженерії програмного забезпечення (Software Engineering) для оцінки якості й надійності програм, які закріплені, для прикладу: 
в метриках Боема, Джилба, Холстеда, ін., в стандартах ISO/I ЕС 9126 [8, 9], ін.; в оцінках  інформаційно-пошукових систем на основі систем якісних та кількісних показників (технікоекономічних, семантичних, прагматичних); в аналізі відмінностей вимог до аналітичних систем від вимог до OLTP систем; в аналізі відповідності систем підтримки аналітичної діяльності вимогам до OLAP систем згідно правил Кодда (12+6 правил) або згідно розробленого на їх основі Пендсом та Крітом тесту FASMI. 

Системи показників ефективності для різних проблемних областей можливо звести, як правило, до „головного показника”, до „результуючого показника” (адитивного, мультиплікативного, мінімаксного, згортки), до показників, що визначаються за допомогою лексикографічних методів (методів послідовних поступок). 

Проте, існуючі показники та методики не забезпечують цілісну оцінку корисності системи часткових функцій АС ПІАР КІАЦ відповідно до структури проблемної області інформаційно-аналітичної роботи фахівців аналітиків

Найбільш близькими можливо вважати вимоги до загальнодержавної та галузевих систем електронних інформаційних ресурсів, які визначають їх узагальнені функції. На основі цих вимог можливо розробити узагальнені критерійні показники оцінки ефективності АС ІПАР, проте вони також потребують розділення на часткові, відповідно до даної проблемної області, з урахуванням рівня реалізації в них елементів перерахованих сучасних інформаційних технологій. 

Наявність вказаних недоліків приводить до того, що розробники програмного забезпечення не мають достатньої мотивації до впровадження у даній проблемній області найбільш сучасних технологій систем управління знаннями. У результаті користувачі недостатньо інформовані про їх високу ефективність, не мають hi-tech аналітичних функцій і тому не використовують їх у повній мірі у повсякденній аналітичній роботі. 

Формулювання завдання дослідження.

Завданням дослідження є розробка методики оцінки ефективності АСПІАР відповідно до її корисності для фахівців аналітиків КІАЦ, згідно перспективних вимог до узагальнених функцій системи електронних інформаційних ресурсів, а також відповідно до рівня реалізації елементів сучасних інформаційних технологій. 

Виклад основного матеріалу. 

У цьому дослідженні ефективність (корисність) АСПІАР КІАЦ визначена як міра відповідності функцій автоматизованої системи потребам користувачів, які визначаються, насамперед, структурою проблемної області інформаційноаналітичної роботи із ЗІР, які є носіями знань. Тому, для розробки часткових критерійних показників ефективності необхідно врахувати особливості даної проблемної області. 

Проблемна область інформаційно-аналітичної роботи КІАЦ містить: 
- предметну область; 
-цілі і завдання аналізу предметної області;
- стратегії, формалізовані методи і прийоми, а також евристики аналітиків для досягнення визначених цілей і завдань. 

Предметна область містить комплекс понять і знань про структуру й функціонування її елементів. 

Евристики аналітиків – це знання та немонотонні умовиводи, які не мають формального обґрунтування, а базуються на досвіді, здоровому глузді та інтуїтивних припущеннях. Важливість відображення в критеріях оцінки ефективності АСПІАР рівня підтримки евристик витікає зі специфіки даної проблемної області, у якій здійснюється аналіз й агрегатування знань, що можуть бути не повністю визначеними (не повністю відомими, достовірними, однозначними). Тому, у даній проблемній області, лише у рідких випадках можливе застосування монотонного формального математичного виведення, заснованого на умовиводах класичної логіки, коли кожен наступний висновок витікає з попереднього. 

Виходячи з перерахованого, витікає необхідність відображення в критеріях оцінки ефективності АСПІАР КІАЦ ступеню реалізації парадигм „ЗНАННЯ+АРГУМЕНТАЦІЯ”, ЗНАННЯ+ВИПРАВДАННЯ”, які вважаються більш перспективними для побудови систем управління знаннями подібних типів, ніж парадигми „ЗНАННЯ+ЛОГІЧНЕ (ДОСТОВІРНЕ ЧИ ПРАВДОПОДІБНЕ) ВИВЕДЕННЯ”. 

Також, ефективність АСПІАР визначається у значній мірі можливостями вилучення всіх наявних знань з успадкованих інформаційних систем до єдиного сховища чи кіоску (вітрини) знань та послідуючого багатовимірного моделювання за допомогою OLAP засобів. Така система повинна мати розвинені засоби автоматичного оповіщення про актуальні зміни у базі експертних знань, що може бути досягнуто шляхом реалізації єдиної числолінгвістичної моделі опису інформаційних ресурсів на раціональній моделі подання знань штучного інтелекту, а також забезпечувати поглиблений аналіз наявних елементів знань і добування з них нових нетривіальних знань за допомогою інтелектуальних методів „розкопки” даних Data Mining. Основою для створення системи критеріїв оцінки ефективності функціонування АСПІАР КІАЦ обрані вимоги до узагальнених функцій системи електронних інформаційних ресурсів, викладені у відповідних керівних документах. Детальна формалізація вимог, визначення взаємозв’язку показників ефективності і їх важливості проведено шляхом експертного оцінювання. 

Для розробки методики формалізована постановка задачі. 

Дано: 

– неформалізований перелік критеріїв оцінки ефективності АСПІАР у вигляді керівних документів, інструкцій і слабоформалізованих експертних суджень; 
– альтернативні варіанти автоматизованих інформаційних систем, які можливо використовувати для автоматизації інформаційно-аналітичної роботи на КІАЦ. 

Потрібно (необхідно)

– сформувати модель оцінювання ефективності, як формалізовану систему логічно зв’язаних показників ефективності АСПІАР; 
– оцінити ефективність альтернативних варіантів АСПІАР. 

Обмеження й допущення: 

 – існує група експертів, компетентна й повноважна у визначенні критеріїв ефективності АСПІАР; 
– існує перелік керівних документів, який регламентує інформаційно-аналітичну роботу КІАЦ, у тому числі роботу АСПІАР; 
– існує група експертів, компетентна і повноважна у визначенні ефективності реалізації окремих функцій в АСПІАР; 
– експерти не дають, заздалегідь, хибної або неправдивої інформації; 
– економічна складова ефективності не оцінюється у зв’язку значною із залежністю від маркетингових заходів; при необхідності, її можливо здійснити після застосування цієї методики і обчислити як відношення отриманої кількісної оцінки ефективності (корисності) до витрат на створення і функціонування АСПІАР КІАЦ. 

Розроблена загальна методика оцінки ефективності (корисності) АСПІАР складається із двох часткових методик: 

1. За допомогою першої часткової методики формується модель оцінювання ефективності. 
2. За допомогою другої часткової методики проводиться безпосереднє оцінювання ефективності альтернативних АСПІАР з використанням отриманої моделі. 
Фрагмент таблиці з критерійними показниками оцінки ефективності автоматизованих систем підтримки інформаційно-аналітичної роботи. До основних узагальнених показників віднесені: обліково-реєстраційні функції (F1.1); класифікаційні функції (F1.2); інформаційно-пошукові функції (F1.3); інформаційно-аналітичні функції (F1.4); адміністративні функції (F1.5),

Фрагмент спрощеного графу з показниками оцінки ефективності автоматизованих систем підтримки інформаційно-аналітичної роботи. На графі не показані блоки, які визначають вагу  показників.  

Текст статті має складне форматування, тому з її більш повним описом і використаною літературою можна ознайомитися у публікації (розміщення статті може бути іншим, ніж встановлене у гіперпосиланні):

Висновки і перспективи подальших досліджень. 

За результатами проведеного дослідження розроблена методика оцінювання ефективності (корисності) АСПІАР КІАЦ. У рамках методики розроблена модель оцінювання ефективності у вигляді зваженого деревоподібного графа узагальнених і часткових критерійних показників ефективності.


Система показників розроблена на основі вимог керівних і методичних документів до перспективної загальнодержавної і галузевої систем електронних інформаційних ресурсів, відповідно до корисності часткових функцій АСПІАР для узагальнених потреб користувачів аналітиків та з урахуванням рівня реалізації в ній елементів перспективних інформаційних технологій. Забезпечено врахування різної важливості показників ефективності та рівня авторитетності експертів. Даний підхід уперше використаний для оцінки ефективності систем підтримки інформаційно-аналітичної роботи.


Використання методики дозволяє порівняти ефективність автоматизованих систем, які можуть використовуватися для автоматизації інформаційно-аналітичної роботи на КІАЦ та вибрати найбільш ефективну (корисну) для узагальнених потреб фахівців аналітиків.


Перспективою подальших досліджень є адаптація розробленої методики для оцінювання ефективності в інших проблемних областях автоматизації інформаційно-аналітичної роботи, а також інтеграція методики до початкових етапів загальної методики розробки автоматизованих інформаційних систем з метою удосконалення існуючого методичного апарату для обґрунтованого формування вимог до цих систем на етапі їх замовлення і початкового проектування.

Коментарі

Популярні дописи з цього блогу

Недоліки статей Вікіпедії, які варто подолати для підвищення довіри до неї (21.05.23 виправлена дезінформація хакера)

Часто вікі-статті пишуть "всі кому не лінь" під чудернадськими нікнеймами ("легендами прикриття"), а потім правлять також "всі кому не лінь", через який завгодно час. Досвідчені вікі-ігромани у Вікіпедії є авторами кількох сотень чи тисяч вікі-статей та авторами кількох десятків тисяч вікі-правок чужих статей (це не описка), див. ст. Вікіпедія - це "енциклопедія" без довіри?  (гіперпосилання виправлено 20.05.2023 р. після заміни хакером) Найчастіше доповнення вікі-статей здійснюють кластери вікі- ігроманів  з числа вікі-патрульних та вікі-адміністраторів Вікіпедії, які для самореклами і вікі-рейтингу намагаються "відмітися" у максимальній кількості вікі-статей, ін., див. для прикладу:   Вікіпедія: патрульні  (patroller), Вікіпедія: рейтинг .  Є випадки, коли кластери вікі-ігроманів редагували тексти і посилання у статтях більше ніж 8 років, проте жоден з них не помічав елементарні принципові семантичні помилки першого ...

OSINT (Розвідка відкритих джерел) в екосистемі зв`язаних термінів

OSINT - Open Sourse Intelligence Цей ескіз статті, за винятком інформації про "російсько-українську війну" (гібридну воєнну агресію РФ проти України з 2013 року) початково написаний як фрагмент повної статті про OSINT у січні 2019 року у зв`язку із тим, що раніше створена сторінка про OSINT у Вікіпедії базувалася на джерелах російського походження, хоча сам термін і технологія мають англомовне походження. Ймовірно, даний текст і  джерела у Вікіпедії буде змінено і викривлено,  як і по багатьом іншим інформаційним hi-tech.  Далі визначення OSINT, синтезоване на основі англомовних джерел і власних досліджень:  Розвідка відкритих джерел (англ. Open source intelligence, OSINT) — концепція,  методологія і  технологія   добування з відкритих джерел  військової, політичної, економічної та іншої безпекової інформації  і використання її  для підтримки прийняття рішень у сфері національної оборони і безпеки. Добування інформації здійсню...

Виключна економічна зона України - використання безпілотників згідно міжнародного права

Карта напрямків російської агресії у Чорному морі і у Азовському морі на фоні виключних (морських) економічних зон Виключна економічна зона (Exlusive Economic Zone) це морська зона (maritime zones), до 200 морських миль, де прибережна держава має суверенне право на використання природних ресурсів і ведення економічної діяльності - з гідно з Конвенцією ООН з морського права [1-6] .  Визначені також Територіальне море ( Territorial sea ), Прилегла зона ( Contiguous zone ), Міжнародні води ( International waters ) та континентальний шельф ( Continental shelf ) - див. схему нижче. Schematic map of maritime zones, Wiki. Якщо між узбережжями держав менше 400 морських миль, то межі ВЕЗ встановлюються як «серединна  лінія» -  у Чорному морі це  приблизно 84 морських милі (~140 км) від узбережжя України до Туреччини. Чорноморський флот ЗС РФ нахабно влаштовує військові морські навчання у ВЕЗ Туреччини, не кажучи про окуповані морські зони України і Грузії. Між Росією і Т...