Završni rad- Ekspertni sistemi ( Zlatana Kurt)

59
KOLEDŽ ZA INFORMATIKU I MENADŽMENT „JANJOŠ“ PRIJEDOR Odsjek - Javna uprava Ekspertni sistemi Završni rad iz predmeta Teorija sistema

Transcript of Završni rad- Ekspertni sistemi ( Zlatana Kurt)

KOLED ZA INFORMATIKU I MENADMENT JANJO PRIJEDOR Odsjek - Javna uprava

Ekspertni sistemiZavrni rad iz predmeta Teorija sistema

Mentor: Doc.dr Sanel Jakupovi

Student: Zlatana Kurt 519/06

Zlatana Kurt Ekspertni sistemi

SADRAJOPTE O PRIRODNOJ I VJETAKOJ INTELIGENCIJI..................................................................................4 POJAM INTELIGENCIJE..........................................................................................................................................4 KARAKTERISTIKE INTELIGENCIJE.....................................................................................................................5 POJAM I DEFINICIJE VJETAKE INTELIGENCIJE..........................................................................................8 KARAKTERISTIKE VJETAKE INTELIGENCIJE.............................................................................................9 ARHITEKTURA EKSPERTNIH SISTEMA...........................................................................................................11 POJAM EKSPERTNIH SISTEMA...........................................................................................................................11 ARHITEKTURA EKSPERTNIH SISTEMA...........................................................................................................16 Opte o arhitekturi ekspertnih sistema.................................................................................................................16 Jezgro ekspertnih sistema.....................................................................................................................................18 Vezni modul...........................................................................................................................................................19 AGENTI, MULTIAGENTNI I INTELIGENTNI AGENTI....................................................................................20 OPTE O AGENTIMA.............................................................................................................................................20 Vrste sistema baziranih na agentima....................................................................................................................21 MULTIAGENTI........................................................................................................................................................23 Razlike izmeu objektno orijentisane i agentne metodologije izrade programa..................................................24 Primjena multiagenata.........................................................................................................................................25 INTELIGENTNI AGENTI........................................................................................................................................26 Pojam inteligentnih agenata.................................................................................................................................27 Osobine inteligentnih agenata..............................................................................................................................28 Struktura inteligentnih agenata............................................................................................................................28 SAVREMENI INTELIGENTNI SISTEMI...............................................................................................................29 OPTE O INTELIGENTNIM SISTEMIMA............................................................................................................29 HIBRIDNI INFORMACIONI SISTEMI..................................................................................................................31 Opte o hibridnim inteligentnim sistemima..........................................................................................................31 Neuro - fazi sistemi...............................................................................................................................................32 IZGRADNJA EKSPERTNIH SISTEMA..................................................................................................................33 STICANJE ZNANJA ZA EKSPERTNE SISTEME.................................................................................................33 Opte o sticanju znanja.........................................................................................................................................33 Ispitivanje eksperta...............................................................................................................................................34 METODOLOGIJA RAZVOJA EKSPERTNOG SISTEMA....................................................................................37 PRELIMINARNA ANALIZA..................................................................................................................................................37 ANALIZA I DIZAJN..........................................................................................................................................................38 SREDSTVA ZA IZGRADNJU EKSPERTNIH SISTEMA.....................................................................................40 Opte o sredstvima za izgradnju ES.....................................................................................................................40 RAZVOJ EKSPERTNOG SISTEMA.......................................................................................................................40 Mehanizam logikog zakljuivanja.......................................................................................................................40 ZAKLJUAK...............................................................................................................................................................41 LITERATURA.............................................................................................................................................................42

2

Zlatana Kurt Ekspertni sistemi

UVODEkspertni sistemi su jedno od podruja primjene umjetne inteligencije (Artificial Intelligence). Osnovna ideja se sastoji u nastojanju da se skup znanja (ekspertiza) koje posjeduju eksperti za odreeno problemsko podruje na odreen nain transferira od ovjeka eksperta na raunar. To znanje se u odreenom obliku pohranjuje na raunaru sa ciljem da ga koriste neki drugi korisnici u rjeavanju problema ili pruanju odreenih sugestija. Cilj primjene ekspertnih sistema nije u zamjeni ljudskih eksperata ve jednostavno u prikupljanju njihovog znanja i stavljanja tog znanja u oblik koji je raspoloiv irem krugu korisnika. Pored znanja, sljedea bitna osobina ES-a je mogunost rezoniranja i zakljuivanja, ali opet na osnovu odreenih pravila koje definiraju njegovi kreatori. Veina komercijalnih ES-a su tzv. "rule-based systems", odnosno sistemi zasnovani na pravilima. To znai da je znanje pohranjeno u formi "ako onda" (if - then) pravila tako da slijede logiku rjeavanja problema. Osnovni ciljevi koritenja ekspertnih sistema (ES) su: prikupiti i staviti na raspolaganje znanje u rjeavanju odreenih problemskih situacija kako bi moglo biti koriteno od strane drugih korisnika, uz minimalnu obuku. Standardizirati zakljuke za date problemske situacije. Naime, esto se deava da vie ljudi odgovarajui na ista pitanja daje razliite odgovore. Stoga je bitno osigurati konzistentnost u odgovorima na postavljene upite. Naprimjer, postupak odobravanja kredita u banci moe biti formaliziran na nain da se koristi ekspertni sistem i da se na taj nain izbjegnu problemi koji mogu nastati u razliitim tumaenjima pojedinih aspekata procedure rjeavanja kreditnog zahtjeva od strane razliitih bankarskih slubenika. Osloboditi ljude - eksperte od rutinskog i repetitivnog rada i na taj nain im dati vie vremena za druge aktivnosti koje ekspertni sistemi ne mogu rijeiti. Dokumentirati tehnike rjeavanja odreenih problema za budue generacije. Mnoge firme imaju eksperte za pojedina problemska podruja ali nemaju dokumentaciju o tome kako ti eksperti rjeavaju probleme.

Primjer ES koji se koristi u poslovnom odluivanju.

3

Zlatana Kurt Ekspertni sistemi

OPTE O PRIRODNOJ I VJETAKOJ INTELIGENCIJIPOJAM INTELIGENCIJE

Cogito Ergo Sum U Aristotel-ovoj (384-322) knjizi "Logika" je ispitivano da li se za neku pretpostavku moe rei da je istinita, zato to se odnosi na druge stvari za koje se zna da su istinite. Ako se zna da su "svi ljudi smrtni" i da je "Sokrat ovjek", moe se zakljuiti da je "Sokrat smrtan". U Rene Dekart-ovoj (1596-1650) knjizi "Meditacije" se razdvaja proces miljenja od fizikog svijeta. ak je i za njegovo vlastito postojanje traio potvrdu preko miljenja: "Cogito ergo sum" ("Mislim, dakle postojim"). Vilhelm Lajbnic (1646-1716) uvodi sistem formalne logike i konstruie mainu za automatsko raunanje. Leonard Ojler (1707-1783) uvodi teoriju grafova koja predstavlja jedno od osnovnih orua u vjetakoj inteligenciji. La Mettrie (XVIII vijek) u knjizi "L'Homme Machine", posmatrajui mehanike naprave kao to su mehanika patka i svira flaute, iznosi pretpostavku da bi se jednog dana mogao napraviti mehaniki ovjek koji govori. U devetnaestom vijeku se susreu prva mehaniki programabilna raunarska maina Carsla Bebix-a (1792-1871), prvog programera Adu (Bajron) Lovelsi (1815-1837), Xorxa Bul-a i njegovu binarnu algerbu koja predstavlja osnovu dananjih digitalnih raunarskih maina. U dvadesetom vijeku jedan od prvih radova vezanih za mainsku (vjetaku) inteligenciju, prije svega u odnosu na dananje digitalne raunare, je rad Alana Tjuringa (Alan Turing) "Raunarske maine i inteligencija", odnosno test za "mjerenje inteligencije". Maina predstavlja jedini do sada priznati standard u ovom domenu. Izraz "vjetacka inteligencija" se koristi od

4

Zlatana Kurt Ekspertni sistemi sredine pedesetih godina. Za uvoenje ovog izraza smatra se da je najzasluniji John Mac Carty. Prvi put izraz vjetaka inteligencija se uo u ljeto 1956. godine na sastanku tadanjih pet vodeih naunika iz oblasti raunarskih nauka. Sasatanak je odran na Dartmouth Collegu, u Hanoveru, Novi Hemir. Sastanku su prisustovali: Klod enon, Marvin Minski, Xon Mekarti, Alen Novel i Herbert Sajmon. Sam izraz je uveden da bi se to vie naglasile i to lake objasnile, mogunosti buduih raunara i raunarskih programa. Intelekt je oduvijek bio vezan za ovjeka, jedino ivo bie na naoj planeti koje posjeduje to svojstvo. Za pojam intelekta u literaturi se mogu nai slijedea tumaenja: "Intelekt je sposobnost shvatanja znaenja, pravilno razumjevanje i bistrina uma, sposobnost miljenja, otroumnost, pamet, itd". Vrhunac pojma inteligencije je kad se navede rjeavanje problema, jer vrhunsko rjeavanje problema neminovno zahtjeva inteligenciju, to ovom pojmu daje empirijsku notu. Jednu od relativno prihvatljivih definicija pojma inteligencije dao je professor Christopher Evans u svojoj uvenoj knjizi "Moni mikro" ("The Mighty Micro") (1979): Inteligencija je sposobnost sistema da se prilagodi promjenama u svijetu i to je ta sposobnost vea, odnosno profinjenija snaga prilagoavanja, sistem je inteligentniji. U navedenoj definiciji se spominje sistem, to daje dosta iroko znaenje, mada se u podsvjesti misli na ovjeka. Otuda je potreban poseban napor da se sve to premjesti i sve te karakteristike pripiu neivoj tvorevini - maini. Da bi se ovaj problem donekle shvatio, potrebno je barem pokuati dati osnovne karakteristike inteligencije. Ukoliko se karakteristike inteligencije pravilno definiu, utoliko e biti lake izlaganje osnova vjetacke inteligencije. .

KARAKTERISTIKE INTELIGENCIJEU narednom tekstu e se pokuati objasniti nekoliko osnovnih karakteristika inteligencije, koje su danas opte prihvaene, i to: imitacija dijaloga, rjeavanje svih varijanti problema, rjeavanje netrivijalnih zadataka, uenje, ekstrapolacija.

5

Zlatana Kurt Ekspertni sistemi Konaan broj karakteristika i njihove definicije jo su daleko od dananjih saznanja i one treba da budu predmet daljih istraivanja.

Imitacija dijalogaImitacija dijaloga je karakteristika koja potie od uvenog engleskog matematiara Tjuringa (Turing). On je predloio da se sistem, ovjek ili raunar, smatra inteligentnim ako se ne moe uoiti, u toku konverzacije, s kim se vodi dijalog, sa ovjekom ili sa raunarom. Tjuringov test je naziv ovog testa inteligencije, za koji su bili razvijeni posebni dijalogni programi. U toku provoenja testa sa bolesnicima, veinu sagovornika je bilo teko ubijediti da "razgovaraju" sa raunarom, odgovarali su "da ih on tako dobro razumije". Meutim, vrlo brzo se dolo do zakljuka da je ovakav test samo imitacija intelekta i da je jedan od potrebnih, ali ne i dovoljnih uslova za inteligenciju. Dalji razvoj dijalognih programa, kao i razvoj Tjuringovog testa prije tridesetak godina, vezivan je za rjeavanje odreenih logikih ili raunarskih problema. Posebno se isticala mogunost igranja aha, to je u ne tako davnoj prolosti zadiralo u domen naune fantastike. Dui niz godina postoji vei broj programa koji igraju veoma dobar ah ve i na kunom raunaru. Time se pokazalo da je podruje vjetake inteligencije vrlo udljivo podruje nauke, neki problemi za koje se smatralo da su nesavladivi postali su jednostavni i lagani, dok su drugi, za koje se mislilo da su jednostavni i lagani, postali praktino nesavladivi.

Rjeavanje svih varijanti problemaRjeavanje svih varijanti problema predstavlja slijedeu karakteristiku inteligencije. Ovdje se misli na rjeavanje svih varijanti nekog problema, ali ne loije od ovjeka. Ova karakteristika, nekada veoma popularna, danas se smatra nedovoljnom i nepotpunom. Postavlja se pitanje o kakvom problemu i kakvim varijantama se govori. Probleme ne treba traiti u podruju numerike, jer onda intelektu nema ni govora. Neki autori predlau da treba prei u mnogo "intelektualnije" podruje, muziku.

6

Zlatana Kurt Ekspertni sistemi

Rjeavanje netrivijalnih zadatakaOdmah na poetku se postavlja pitanje ta su trivijalni, a ta netrivijalni zadaci. Uobiajena matematika definicija kae da je trivijalni zadatak onaj kod koga je nain rjeavanja poznat. Pri tome nije vano da li rjeenje postoji ili ne, odnosno da postavke dovode do apsurda. Iz definicije trivijalnog zadatka proizilazi definicija netrivijalnog zadatka: to je zadatak kod koga se mora pronai nain rjeavanja. Ovdje se ne misli na klasu problema koji su rjeavani, odnosno nisu rjeavani, nego na onoga ko mora rjeiti zadatak, a ne poznaje algoritam rjeavanja. PRIMJER: Mnoenje dva broja. Za uenike starijih razreda mnoenje dva broja je trivijalni zadatak, poto su uili tablicu mnoenja, a za prvokolca ovo je netrivijalni zadatak, jer on ne poznaje nain rjeavanja zadatka. Klasini primjer inteligencije dat je u anegdoti iz akog ivota Karl Friedrich Gauss-a. Kao prvokolac je dobio "nerjeiv" zadatak da sabere brojeve od jedan do sto. Gauss je vrlo brzo i elegantno doao do rjeenja: uvidio je da je zbir prvog i zadnjeg broja 101, drugog i predzadnjeg takoe 101 i tako sve do zbira zadnjeg para brojeva 50 i 51. Budui da parova ima 50, proizvod 50 puta 101 daje rjeenje 5050.

EkstrapolacijaEkstrapolacija, odnosno aproksimativno odluivanje na osnovu niza faktora, je jedna od karakteristika koju je korisno objasniti i preko primjera. Neka je dan uzrok neke pojave i njegova posljedica: pritisak na prekida izaziva paljenje svjetla, guranje bureta izaziva njegovo kotrljanje, pojava problema zahtjeva njegovo otklanjanje, itd. Kod trivijalnih problema rjeenje je oigledno, to nije sluaj kod zdravstvenih tegoba relativno nedefinisanog oblika ili proizvodnje nekog dijela ili sklopa.

PRIMJER: Donoenje odluke o kupovini automobila. Moe se napraviti tabela konkurentnih karakteristika dva ili vie automobila razliitih proizvoaa u istoj klasi i sa priblino jednakom cijenom. U tabeli e se nai: potronja, komfor, snaga, servis, veliina putnog i prtljanog prostora, dizajn, itd. Moe se napraviti bodna lista, gdje svaka

7

Zlatana Kurt Ekspertni sistemi karakteristika ima svoju teinsku vrijednost, ime se dobija sistem jednaina u kojima je uporeivanje karakteristika poznato kao proces identifikacije. Nakon identifikacije treba dobiti rjeenje, ali rjeenje, praktino nikada, nije jednoznano i definitivno. Odluka je tada i sama niz odluka, odnosno proces koji nazivamo jednim imenom ekstrapolacija.

UenjeUenje je jedna od najvanijih i najteih karakteristika spoznaje, i samim tim, inteligencije uopte. Pri tome se ne misli da je uenje memorisanje injenica.To bi bilo isto kao kada bi se reklo da je vonja automobila pritiskanje papuice gasa. Dodue, bez gasa automobil se ne moe voziti, ali samo sa gasom to je jo besmislenije. Memorisanje injenica jeste nuna i neophodna karakteristika uenja, ali daleko od toga da bude i dovoljna. Aktiviranjem ula poinje uenje, odnosno uspostavljanje kontakta sa vanjskim svijetom. Kod ivih bia ovo je stalan, neprekidan proces, koji poinje sa raanjem i prestaje sa smrti. Sposobnost pamenja je sljedea karakteristika procesa uenja. Samo prosto memorisanje podataka nije karakteristika inteligencije, jer ukoliko bi to bilo tano onda i papir i crijep sa klinastim pismom i magnetni medij bi bili inteligentni.

POJAM I DEFINICIJE VJETAKE INTELIGENCIJETeorija i praksa vjetake inteligencije (VI) su jo u svom pionirskom dobu i vrijeme pravih otkria tek treba da doe. Potrebno je bilo dugo vremena da se pojam vjetake inteligecije [Artifical Intelligence (AI)] probije i odomai. Primjena metoda VI e, vjerovatno, igrati znaajnu ulogu u organizacijama budunosti, u prvom redu u cilju pripremanja odluka u procesu upravljanja.

Definicije vjetake inteligencije1. 2. Vjetaka inteligencija je nauka koja ini da maine obavljaju stvari koje bi zahtjevale inteligenciju kada bi ih obavljao ovjek (M. Minsky, 1968.); Vjetaka inteligencija je dio nauke o raunarima usmjeren na stvaranje i prouavanje raunarskih programa koji ispoljavaju svojstva koja se identifikuju kao

8

Zlatana Kurt Ekspertni sistemi inteligentna u ljudskom ponaanju: znanje, zakljuivanje, uenje, rjeavanje problema, razumjevanje jezika i dr. (A. Barr, 1983.); 3. Vjetaka inteligencija je disciplina kreiranja maina koje podraavaju ljudsko ponaanje ili inteligenciju; maine koje su senzitivne i misle (M. Carrico, J. Girard, J. Jones, 1989.); 4. Vetaka inteligencija je disciplina koja izuava mehanizme inteligentnog ponaanja kroz analizu, razvoj i evaluaciju vjetakih tvorevina u koje se ugrauju ti mehanizmi (V. Devedi, 2002.).

KARAKTERISTIKE VJETAKE INTELIGENCIJERaunari predstavljaju jedinu tvorevinu ljudske ruke koji su u stanju da pretenduju na mogunost sticanja elemenata i karakteristika inteligencije. Pri tome treba zanemariti socioloka, kulturoloka, psiholoka i druga razmatranja i sagledavati tehnike pretpostavke za ostvarenje navedenog cilja. Prema Evansovim definicijama karakteristike VI, koje bi raunar morao da ima pa da, barem rudimentarno, bude inteligentan, su: prijem podataka, spremanje podataka, brzina obrade podataka, efikasnost raunarskih programa, promjenljivost raunarskih programa, mogunost uenja, ekstrapolacija i rjeavanje netrivijalnih zadataka.

Prijem podatakaPrijem podataka je prva karakteristika u ovom navoenju. Razvoj VI je uslovljen i ovjekovom tenjom da uspostavi maksimalno moguu i lagodnu komunikaciju sa mainom. Idealno bi bilo da se raunaru kae glasom ta se eli i da on dalje posao obavlja sam. Naalost, danas u najveem broju sluajeva se mora na vrlo dugotrajan i mukotrpan nain, preko tastature, rei kako se neto radi, pa tek onda traiti rezultate.

9

Zlatana Kurt Ekspertni sistemi

Spremanje podatakaSpremanje podataka je jedna od karakteristika VI, jer prijem podataka iz vanjskog svijeta i njihova obrada nemaju nikakvog smisla ako se ne mogu memorisati. Iz tog razloga raunar mora imati odgovarajue veliki prostor za njihovo spremanje. Prije spremanja podataka neophodna je odgovarajua obrada, filtriranje i analiza, jer podatak se ne moe uzimati "sirov".

Brzina obrade podatakaBrzina obrade podataka je karakteristika VI, bez obzira da li se radi o samom spremanju, klasifikaciji, sortiranju ili nekoj drugoj operaciji na podacima. Pri tome treba rei da raunar mora imati odgovarajuu arhitekturu.

Efikasnost raunarskih programaPod programiranjem se podrazumjeva niz upravljakih naredbi potrebnih za rad sistema, pri emu se misli na kodirane algoritme obrade podataka. Efikasnost raunarskih programa podrazumijeva optimalno rjeenje postavljenog problema, odnosno najbri i najpouzdaniji nain sa najmanjim utrokom prostora u memoriji raunara. Efikasnost programa biolokih sistema je vrhunska, jer je priroda imala dovoljno vremena za eksperimentisanje i odbacivanje neuspjenih rjeenja. Pored toga, u prirodi se vodi bespotedna borba za opstanak u neprijateljskoj okolini, gdje su kazne za neefikasno djelovanje veoma rigorozne.

Promjenljivost raunarskih programaPromjenljivost raunarskih programa je neophodna, jer se programi moraju oblikovati prema zahtjevima sredine. Da bi program mogao izdrati visoke zahtjeve koje pretpostavljena inteligencija ima, on mora posjedovati minimalno dva svojstva: samoispravljanje greaka, mogunost promjene vlastite strukture.

Mogunost uenjaMogunost uenja je veoma bitna karakteristika raunara. Dananji raunari rade tano ono to je programom predvieno. Bez obzira na vanjsku manifestaciju, rad raunara se svodi, uglavnom, na koritenje memorije i dovoljno mnogo pitanja - skretnica tipa "AKO ... TADA". Odstupanje od programiranog ponaanja znai greku ili sistema ili programa. Meutim, ako se

10

Zlatana Kurt Ekspertni sistemi raunaru omogui da ui, u bilo kojem obliku, tada se mogu oekivati optimalni programi, primjereni danom problemu.

Ekstrapolacija i rjeavanje netrivijalnih zadatakaEkstrapolacija i rjeavanje netrivijalnih zadataka je danas u samom sreditu svih istraivanja. Za ova istraivanja su angaovana ogromna materijalna sredstva i na njima rade vrhunski specijalistiki timovi. Cilj je dobijanje inteligentnog raunara, koji bi obraivao probleme samostalno, metodom ekstrapolacije i time stvorio sve pretpostavke za rjeavanje netrivijalnih zadataka.

ARHITEKTURA EKSPERTNIH SISTEMAPOJAM EKSPERTNIH SISTEMAU praksi se esto javlja potreba za nizom specifinih znanja datih u cjelini, brzo sigurno i povezano. Drugim rijeima, eli se da u problematinim situacijama i kod donoenja sloenih odluka pomogne dobar strunjak, vrhunski specijalista ili, kako se drugaije kae, ekspert. Pomo eksperta je dobro dola u sloenim situacijama bilo koje oblasti ljudskog rada: medicini, pravu, graevinarstvu, industriji, marketingu, itd.

Osnovna svojstva ekspertaOsnovna svojstva eksperta su da: primjeni, na optimalni nain, svoja znanja u rjeavanju problema. Pri tome se podrazumijeva uzimanje u obzir injenica i predvianje relevantnih posljedica; objasni i obrazloi svoje odluke i prijedloge; komunicira sa drugim ekspertima i proiruje svoja znanja, prestruktuira i reorganizuje shvatanja i znanja; formira i naputa odreene zakljuke, to dokazuje da je pronikao u sutinu odreenih pojava i naao nove zakonitosti koje meu njima vladaju; odreuje najbri nain dolaska do rjeenja i njegove praktine primjene;

11

Zlatana Kurt Ekspertni sistemi u specifinim situacijama intuitivno (heuristiki), na osnovu svih dosadanjih iskustava i dogaaja ocijeni gdje se nalazi rjeenje problema. Imati pored sebe eksperta nije ni najmanje jednostavno, eksperata nema previe, nisu na raspolaganju u svakom trenutku i nisu ni jeftini. Osim toga ni jedan ekspert ne moe da posjeduje sva znanja.

Ekspertni sistemiDananji stepen razvoja moderne informatike nauke sve vie omoguava da se stalno moe raspolagati ekspertnim uslugama. Pri tome se misli na ekspertne sisteme (ES).

Model ES

Pod ES se podrazumijeva takva vrsta programske podrke ili softvera na raunaru, koja u veoj ili manjoj mjeri zamjenjuje ovjeka - eksperta. ES je u stanju da, na osnovu unesenih podataka i ugraenih logikih algoritama (pravila zakljuivanja) i tako nastale baze znanja, efikasno pomogne korisniku u rjeavanju specifine problematike.

12

Zlatana Kurt Ekspertni sistemi Dodatne definicije ES U literaturi se moe nai vei broj slinih definicija pojma ES. Tako, jedna definicija opisuje ES kao: "Raunarski sistem koji ukljuuje organizovano znanje, koje se tie nekog specifinog podruja ljudske ekspertize (medicinska dijagnostika, identifikacija hemijskih jedinjenja, finansijsko planiranje, geoloke prospekcije, itd.), u dovoljnom stepenu da moe da vri ulogu iskusnog i ekonomski racionalnog konsultanta u tom podruju". Za ES se moe rei da predstavljaju: "Program opte namjene za rjeavanje problema, koji imitira ljudsku inteligenciju" ili "Intelektualnu podrku visokog nivoa, koja slui isto kao i ljudski ekspert". U slijedeoj definiciji, osim cilja, se objanjava i struktura ES: "Ekspertni sistemi koriste formalne naine predstavljanja znanja koje ovjek ekspert posjeduje i metode logikog zakljuivanja, da putem odgovarajuih raunarskih programa obezbjede ekspertni savjet ili miljenje o problemu za koji je korisnik zainteresovan".

Podruje primjene ESEkspertni sistemi imaju za cilj da obezbijede odgovor na probleme koji zahtjevaju rasuivanje, prepoznavanje i poreenje oblika, akviziciju novih koncepata, zakljuivanje, ukratko, oni daju odgovor na pitanja koja zahtjevaju inteligenciju. ES se mogu efikasno primjenjivati u podrujima gdje se miljenje o problemu svodi na logiko rasuivanje, a ne na izraunavanje, i gdje svaki korak u rjeavanju problema ima vei broj alternativnih mogunosti.

Tipovi znanja ESKljuni faktor za dobre performanse ES je kvalitet znanja koje je u njega ugraeno. Znanje se uva u bazi znanja ES i generalno se razlikuju dva tipa znanja: prvi tip znanja je ono znanje koje se zove injenicama danog domena, odnosno znanje koje je iroko poznato i nalazi se napisano u udbenicima, asopisima i slino; drugi tip znanja je heuristiko znanje, ono znanje koje ovjek ekspert gradi na osnovu iskustva i koje kombinovano sa prvim tipom znanja ini ovjeka ekspertom. Osim znanja, ES zahtjeva i postupak zakljuivanja - metod rasuivanja, koriten da napravi spregu izmeu znanja koje se uva u raunaru i problema koji postavlja korisnik. On, takoe, zahtjeva nain za predstavljanje znanja u raunaru, znanja koje ES treba da posjeduje, i to, prije svega, u obliku

13

Zlatana Kurt Ekspertni sistemi logikih struktura sa kojima raunar moe lako da manipulie, kao i skup odgovarajuih struktura podataka. Pitanja vezana za razvoj ES Kod razvoja ES se javlja niz veoma krupnih pitanja, na koje treba dati odgovor. Prvi problem, koji se susree kod ES, je nain predstavljanja znanja. Kako predstaviti znanje iz datog domena u obliku pogodnih struktura podataka, tako da se efikasno moe iskoristiti u rjeavanju problema? Drugo, postavlja se pitanje kako koristiti znanje, kako projektovati mehanizam zakljuivanja da bi se znanje efikasno koristilo u rjeavanju problema? Tree, postavlja se pitanje akvizicije znanja, to jest, kako izvui znanje iz glava eksperata i staviti ga u raunar? Da li je mogue automatizovati korak akvizicije znanja i obezbijediti neposrednu komunikaciju eksperta i raunara i nesmetan prenos znanja od eksperta ka raunaru? U ovom trenutku, akvizicija znanja predstavlja kljuno pitanje u razvoju metoda vjetake inteligencije.

Podjela ES prema vrsti korisnikaEkspertni sistemi se razlikuju prema vrsti korisnika. Neki ES, kao to su sistemi medicinske dijagnostike, ukljuuju znanje grupe eksperata u cilju koritenja od strane jednog eksperta iz iste grupe. Drugim rijeima, ljekari kreiraju sistem za ljekare. Neki ES prenose znanje jedne grupe eksperata grupi ili pojedincu koji to nisu. U ovu grupu spadaju sistemi finansijskog planiranja. Upotreba ove grupe ES se danas smatra najkontraverznijom.

Naini koritenja ESPostoje tri osnovna naina koritenja ES: prvi nain, gdje korisnik trai odgovor na zadani problem, drugi nain, gdje je korisnik instruktor koji dodaje znanje u postojei ES, trei nain, gdje je korisnik uenik koji ui od ES, na taj nain poveavajui svoje znanje. Pri tome se ES razmatra kao dio vjetake inteligencije i koristi sve tehnike primijenjene u tom podruju nauke.

14

Zlatana Kurt Ekspertni sistemi

Optimalnost baze znanjaTreba naglasiti da ES nije prosta BP ili neka vrsta automatizovanog prirunika. Osim primjene niza podataka i logikih pravila (na primjer, poznati tip zakljuaka "AKO ... TADA"), ES takoe koriste: dostignua iz podruja tzv. dijalognih i prirodnih jezikih sistema, dostignua raunarske animacije i robotike, razne naine interpretacije problema i donoenja odluka, itd. Stvorena baza znanja ES mora postii optimum izmeu niza potpuno kontradiktornih zahtjeva da bi, barem minimalno, zadovoljila korisnika. S jedne strane broj podataka, injenica i logikih odluka mora biti to je mogue vei, a nasuprot tome vrijeme dobijanja odreenog rjeenja ili prijedloga mora biti to je mogue manje. Pri tome je potrebno odabrati najvjerovatnije rjeenje, ali predloiti i mogue alternative.

Sposobnost prihvatanja novih znanjaTreba znati da ES nije predvien da daje konana i neopoziva rjeenja, ve samo da pomae u njihovom nalaenju. Takoe se podrazumijeva da ES mora biti sposoban da "ui" i "prihvata" nova znanja, shodno sa razvojem podruja u kome je "specijalista". Ponekad ne postoji mogunost davanja konkretnog rjeenja, pa je potrebno koristiti statistiku i tzv. heuristiku, odnosno intuitivno znanje. Pri svemu ovome treba imati u vidu i vrlo teak zahtjev to jednostavnijeg, breg i lakeg odnosa ovjek - raunar, sa maksimalnim izbjegavanjem nedoumica ili nejasnih zakljuaka. ES, po potrebi, mora da "pita" korisnika za dodatne podatke. Ukratko, ES mora posjedovati ako ne sve karakteristike i znanja eksperta, ono barem dobar dio njih.

15

Zlatana Kurt Ekspertni sistemi

ARHITEKTURA EKSPERTNIH SISTEMA

Klijent/Server Arhitektura

Opte o arhitekturi ekspertnih sistemaEkspertni sistemi zadiru u vei broj podruja nauke i tehnike, bilo direktno, bilo preko vjetake inteligencije.

Osnovna arhitektura ekspertnih sistemaEkspertni sistem je veoma sloen programski paket, koji se sastoji od niza manjih programskih cjelina ili modula. Dva osnovna dijela su:

16

Zlatana Kurt Ekspertni sistemi vezni modul ili interfejs (interface), jezgro ekspertnog sistema. Jezgro ES se sastoji od dva dijela i to: baze znanja, relacionog modula ili modula za zakljuivanje. Vezni modul spaja eksperta i tehnologa znanja, sa jedne strane, i korisnika, sa druge strane, sa bazom znanja i relacionim modulom. Iz tog razloga vezni modul se sastoji od dva manja modula (komunikaciona kanala) i to: modula za zahvatanje znanja, modula za interpretaciju znanja.

Komunikacija sa ESKada je postavljena cjelokupna struktura ES, onda ni ekspert, ni tehnolog znanja, ni korisnik ne pristupaju direktno jezgru ES. Ekspertni sistem sa spoljnim svijetom komunicira iskljuivo preko veznog modula i to tako da je za komunikaciju sa ekspertom i tehnologom znanja zaduen modul za zahvatanje znanja, dok je za vezu sa korisnikom zaduen modul za interpretaciju znanja. Znanja koja sistem dobije preko modula za zahvatanje znanja, rasporeuju se i sreuju u bazi znanja i relacionom modulu. Tek nakon toga jezgro ES je spremno da prui usluge korisniku sistema preko modula za interpretaciju znanja.

17

Zlatana Kurt Ekspertni sistemi

Jezgro ekspertnih sistemaKvalitetno razumijevanje ES podrazumjeva dobro upoznavanje sa njegovim jezgrom. Iz tog razloga, u najoptijim crtama, e biti prikazano jezgro ES, odnosno princip rada baze znanja i relacionog modula ili modula za zakljuivanje.

Baze znanja i procesiranje znanjaPojavom vjetake inteligencije, a posebno razvojem ES, javljaju se kao svojevrstan razvoj baza podataka i obrade podataka pojmovi baze znanja i procesiranje znanja. Ne moe se rei da baze znanja, u uem smislu, nisu takoe neka vrsta baza podataka, a modul za zakljuivanje odreeni oblik algoritamske obrade.

18

Zlatana Kurt Ekspertni sistemi

Metode za izgradnju jezgra ESProblem procesiranja znanja i njegovo prikazivanje su osnova na kojoj se zasniva kompletna teorija vjetake inteligencije, pa tako i teorije izgradnje ES. Ova problematika je posebno istraivana sredinom 70-tih godina, tako da se do danas razvio itav niz metoda i programskih alata, gdje je sve bazirano na matematikim disciplinama, i to: statistici i teoriji vjerovatnoe, matricama i teoriji grafova, obinoj, viedimenzionalnoj i tzv. "razmazanoj" (fuzzy) logici, predikatskom raunu, itd. Vremenom su se izdvojile itav niz metoda, koje danas dominiraju u izgradnji jezgra ekspertnih sistema, a to su: automatsko dokazivanje teorema, produkcioni sistemi, razvoj ES zasnovan na matematikoj logici, semantike mree, ramovi znanja (frames), metode fazi ES, metode za izgradnju ES zasnovane na neuronskim mreama, genetiki algoritmi i ES, agenti, multi agenti i inteligentni agenti, inteligentne BP i inteligentni IS. Iako ove metode imaju niz dodirnih taaka i odreena preklapanja, one predstavljaju zaokruene cjeline.

Vezni modulPristup do jezgra u izgraenom ES je mogu iskljuivo preko veznog modula. Vezni modul je cjelina od dva svojevrsna komunikaciona kanala i to: modula za interpretaciju znanja, predvienog za korisnika, i modula za zahvatanje znanja, koga koriste ekspert i tehnolog znanja.

19

Zlatana Kurt Ekspertni sistemi

AGENTI, MULTIAGENTNI I INTELIGENTNI AGENTIOPTE O AGENTIMAAgenti predstavljaju softver koji ima sposobnosti da samostalno, bez intervencije korisnika, izvrava postavljeni zadatak i izvjetava korisnika o zavretku zadatka ili pojavi oekivanog dogaaja. Agent se moe definisati na sljedei nain: Agent je raunarski softver, koji u interakciji sa okruenjem, ima sposobnost da fleksibilno i samostalno reaguje u skladu sa ciljevima koji su mu postavljeni. U ovoj definiciji se istiu tri kljuna zahtjeva: interakcija sa okruenjem, autonomnost, i fleksibilnost. Interakcija sa okruenjem, u ovom kontekstu, znai da su agenti sposobni da reaguju na ulaze dobijene od senzora iz okruenja i da moge da izvodi akcije koje mijenjaju okruenje u kome agenti djeluju. Okruenje u kome agenti djeluju moe biti fiziko (realan svijet) ili softversko (raunar na kome su instalirani ili Internet), za razliku od klasinih ES, koji informacije o okruenju dobijaju preko posrednika (korisnika) koji unosi parametre sistema. Klasini ES nisu bili u mogunosti da djeluju na okruenje (bar ne neposredno) ili su to, takoe, inili preko posrednika (korisnika), koji je u zavisnosti od dobijenog odgovora reagovao na okruenje. Autonomnost znai da je sistem u stanju da reaguje bez intervencije korisnika (ili drugih agenata) i da ima kontrolu nad sopstvenim akcijama i unutranjim stanjem. Takav sistem treba, takoe, da bude sposoban da ui iz iskustva. Mogunost interakcije sa okruenjem i autonomnost raunarskih istema nije nova ideja. Postoje ve mnogi takvi sistemi, kao to su programi za kontrolu realnih sistema koji nadgledaju okruenje realnog svijeta i izvode akcije kao odgovor na promjene sistema u realnom vremenu. Tu se mogu ubrojiti i programi koji nadgledaju softversko okruenje i izvode akcije kojima djeluju na okruenje u sluaju promjene radnih uslova (antivirus programi). Navedeni primjeri imaju odlike interakcije sa okruenjem i autonomnosti, ali se ovi sistemi ne mogu smatrati agentima 20

Zlatana Kurt Ekspertni sistemi sve dok nemaju mogunost fleksibilnog ponaanja kada se nau u situacijama koje nisu planirane prilikom dizajniranja. Da bi se softverski sistem smatrao fleksibilnim mora da ispunjava sljedee uslove: agent treba da primijeti promjene u okruenju i da donese odluku o moguim akcijama dovoljnom brzinom da bi takva akcija bila od znaaja za sistem u kome djeluje, agenti ne treba samo jednostavno da reaguju kao odgovor na signale iz okruenja, oni treba da budu sposobni da uoavaju povoljne prilike i u tim situacijama preuzimaju inicijativu u skladu sa svojim ciljevima, agenti treba, po potrebi, da su sposobni da stupe u komunikaciju sa drugim agentima i/ili ljudima da bi rijeili sopstveni problem ili pomogli jedni drugima u njihovim aktivnostima.

Vrste sistema baziranih na agentimaAgenti se meusobno razlikuju u zavisnosti od domena primjene, meutim oni se ipak mogu klasifikovati u nekoliko karakteristinih klasa kao to su: 1. Kooperativni agenti (Collaborative Agents); 2. Interfejs agenti (Interface Agents); 3. Mobilni agenti (Mobile Agents); 4. Informacioni / Internet agenti (Information / Internet Agents); 5. Reaktivni agenti (Reactive Agents); 6. Inteligenti agenti (Smart Agents); 7. Hibridni agenti (Hybrid Agents).

Kooperativni agentiKooperativni agenti omoguavaju meusobno povezivanje i obradu postojeih viestrukih sistema (npr. ekspertni sistemi ili sistemi za podrku odluivanju). Najee se upotrebljavaju za rjeavanje problema koji su po prirodi decentralizovani ili za rjeavanje problema koji su suvie kompleksni da bi se rjeavali jednim centralizovanim agentom. Primjenom kooperativnih agenata moe se prevazii problem ogranienih resursa i smanjiti rizik otkazivanja sistema, koji je prisutan u centralizovanim sistemima. Ovakvi agenti poboljavaju modularnost sistema, brzinu, pouzdanost, fleksibilnost i ponovno iskorienje (re-usability) sistema.

21

Zlatana Kurt Ekspertni sistemi

Interfejs agentiUloga interfejs agenata je da krajnjem korisniku olakaju upravljanje sistemom na kome radi. Ovi agenti se mogu upotrijebiti za izradu adaptivnog korisnikog interfejsa (Adaptive user interfaces). Ulaga agenata u ovakvom sistemu je da tokom vremena prate navike korisnika i pretpostavljaju njegove budue akcije. Interfejs agenti imaju zadatak da prikazuju informacije za koje pretpostavljaju da u datom trenutku interesuju korisnika.

Mobilni agentiZa ovu vrstu agenata je karakteristino da imaju sposobnost da se fiziki kreu od jednog prema drugom serveru (hostu) agenata preko raunarske mree Internet / Intranet. Mobilni agenti su se pokazali posebno korisnim u situacijama kada je potrebno smanjiti obim (trokove) komunikacije izmeu povezanih raunara. Umjesto obimne razmjene informacija izmeu raunara, alje se agent na izvor informacija i tamo vri obradu podataka. Nakon zavrene obrade, agent alje rezultate serveru. Ovi agenti se, takoe, mogu upotrebljavati da bi se prevaziao problem ogranienih lokalnih resursa. Ukoliko su resursi jednog raunara zauzeti, agent moe da potrai raunar sa slobodnim resursima i tamo obraditi podatke. ivotni ciklus mobilnih agenata se sastoji od: stanja pokretanja, stanja izvravanja, i stanja ispunjenja postavljenog zadatka, nakon ega se agent unitava (oslobaaju se zauzeti resursi). U trenutku kada se agenti kreu od jednog raunarskog sistema ka drugom, stanje izvravanja se zaustavlja i memorie se trenutno stanje obrade. Kada se agent prenese na drugi raunar, obrada se nastavlja sve dok se ne izvri postavljeni zadatak. U sistemima gdje se primijenjuju mobilni agenti, posebna panja se mora posvetiti bezbjedonosnim problemima kao to su: sprijeavanje neovlatenih osoba / agenta da prikupljaju podatake, sprijeavanje neovlatenih osoba / agenata da mijenjaju podatake na sistemima, sprijeavanje neovlatenih osoba / agenata da upotrebljavaju resurse sistema, sprijeavanje pokretanja agenata sa nejasnim ili zlonamjernim ciljevima.

22

Zlatana Kurt Ekspertni sistemi

Informacioni / Internet agentiZadatak informacionih agenata je da se suoe sa savremenim kompleksnim informacionim okruenjem. Zadatak takvih agenata se sastoji od pronalaenja informacija na lokalnom hard disku, preko niza sistema za pretraivanje viestrukih baza na udaljenim serverima ili pronalaenje informacija na Intranetu ili Internetu. Glavni zadatak informacionih agenata je da aktivno tragaju za informacijama u zavisnosti od interesovanja korisnika u svom informacionom okruenju, obavjetavajui korisnike o novim sadrajima koji zadovoljavaju postavljene kriterijume. Informacioni agenti pronalaze, analiziraju, obrauju i objedinjavaju informacije sa vie nezavisnih izvora. Sistemi informacionih agenata aktivno tragaju za podacima za koje oni vjeruju da su interesantni korisniku, umjesto da informacije dobijaju jednostavnim proputanjem kroz pasivni filter. Istraivanje oblasti informacionih agenata predstavlja izazov za razvoj naredne generacije informacionih okruenja.

Reaktivni agentiReaktivni agenti ne planiraju svoje akcije, njihove akcije zavise iskljuivo od trenutnih dogaanja u sistemu. U ovakvim agentima se najee primenjuju tradicionalne tehnike vjetake inteligencije, kao to je monotono zakljuivanje. Do sada su se reaktivni agenti najee primenjivali u raunarskim igrama.

Hibridni agentiOva vrsta agenata je bazirana na jednoj ili vie vrsta agenata sa prethodne liste.

MULTIAGENTISistemi u kojima se upotrebljava vie agenata radi rjeavanja zajednikog problema se nazivaju multiagentni sistemi. U ovakvim sistemima neophodno je da agenti imaju mogunost meusobne komunikacije u cilju razmjene iskustva ili pregovaranja, da bi se nalo optimalno rjeenje. Agenti koji se upotrebljavaju u multiagentnim sistemima mogu biti jednaki po karakteristikama ili se mogu razlikovati prema specijalnostima. Multiagentni sistemi su idealni za predstavljanje problema koji imaju vie razliitih metoda za rjeavanje problema i/ili viestruke perspektive. Omoguavaju izradu paralelnih raunarskih sistema, pomau pri radu sa vremenski ogranienim zakljuivanjem i robusnim sistemima, ako su odgovornosti podjeljene. U 23

Zlatana Kurt Ekspertni sistemi sistemima izraenim na ovaj nain, umjesto da procesom upravlja jedan kompleksan agent, upravljanje se dijeli na vie agenata koji prema svojim specijalnostima preuzimaju nadlenost nad kontrolom sloenog procesa. Upotrebom multiagentnih sistema se poveava bezbjednost sistema u situacijama otkazivanja jednog od agenata, itav sistem moe biti automatski rekonstruisan ili zaustavljen na kontrolisan nain. Prilikom dizajniranja multiagentnih sistema potrebno je definisati broj agenata, kritinu koliinu vremena za obavljanje zadataka, dinamiku pristizanja ciljeva, trokove komunikacije, cijenu neuspjeha, uticaj korisnika, neodreenost okruenja. Na nivou svakog agenta potrebno je definisati: poetna stanja u domenu, mogue akcije drugih agenata, izlazne akcije agenta. Sa poveanjem broja agenata, koji sarauju na rjeavanju zajednikog problema, javljaju se problemi kao to su: kooperativnost (dizajnirati agente tako da zajedniki rade na zajednikim ciljevima), koordinacija (upravljati agentima tako da izbjegnu tetne interakcije, a korisne interakcije iskoriste), pregovaranje (dolaenje do dogovora koji su prihvatljivi svim objektima / agentima koji uestvuju u rjeavanju problema). Kod razvoja multiagentnih sistemima javlja se potreba da se standardizuje komunikacija izmeu agenata, to obezbjeuje komunikaciju izmeu agenata koji su razvijeni nezavisno jedan od drugoga (razliiti programeri). Time se omoguava planiranje akcija i upravljanje resursima cjelokupnog sistema.

Razlike izmeu objektno orijentisane i agentne metodologije izrade programaU objektno orijentisanim programskim jezicima, objekti se definiu kao entiteti koji enkapsuliraju neka stanja, imaju mogunost da izvode akcije ili metode i meusobno razmjenjuju informacije. Pod principom enkapsulacije se, u objektno orijentisanim programskim jezicima, smatra da se entitetu (objektu) pristupa kao cjelini, ne uzimajui u obzir unutranju strukturu i ne utiui direktno na nju. Objektu se pristupa iskljuivo preko javnih metoda i funkcija, i na taj nain se

24

Zlatana Kurt Ekspertni sistemi izbjegavaju konfliktne situacije u kojima bi korisnik, ili drugi objekat, grekom poremetio unutranju strukturu objekta. Kada se na ovaj nain pravi poreenje izmeu objekata i agenata moe se uoiti dosta slinosti. Pored slinosti postoje i brojne razlike. Jedna od znaajnih razlika izmeu agenta i objekta predstavlja stepen autonomije prilikom izvravanja metode. Objekti predstavljaju pasivne entitete, koji slijede naredbe programa u kome su primjenjeni, dok su agenti samostalni entiteti koji slijede sopstvenu logiku u skladu sa sopstvenim ciljevima. U multiagentnom sistemu bi se prije moglo rei da agenti meusobno upuuju zahtjeve za izvrenjem metoda, umjesto da direktno pozivaju metode kao to je sluaj sa objektima u objektno orijentisanim programskim jezicima. Postoji jo jedna kljuna razlika izmeu ove dvije tehnologije. U objektno orijentisanom programiranju se svi objekti izvravaju u jednom tread-u (koraku) aplikacije, u kojem su upotrijebljeni, dok u multiagentnom sistemu svaki agent predstavlja poseban tread. Naravno, agenti se mogu implementirati objektno orijentisanim programskim jezicima.

Primjena multiagenataOblast autonomnih agenata i multiagentnih sistema je veoma raznolika i predstavlja oblast koja se ubrzano iri. Metodologija izrade programa, bazirana na agentima, prua niz efikasnih alata i tehnika koje imaju potencijal da znaajno unaprijede tehniku izrade softvera, poevi od idejnog rjeenja pa sve do konkretne implementacije. Predstavlja spoj vie naunih oblasti kao to su: distribuirana obrada podataka, objektno orijentisani sistemi, softverski inenjering, vjetaka inteligencija, ekonomija, sociologija, i organizacione nauke. Tehnologija agenata dobija sve vie na znaaju i oni se sve vie upotrebljavaju za rjeavanje realnih problema i komercijalnim aplikacijama. Agenti imaju veoma irok spektar primjena, od veoma jednostavnih sistema kao to su filteri za elektronsku potu, programa za presretanje i uklanjanje raunarskih virusa pa sve do veoma kompleksnih, kao to je softver za kontrolu avio saobraaja. Oblasti u kojima se trenutno najee primjenjuju aplikacije na bazi agenata se 25

Zlatana Kurt Ekspertni sistemi mogu svrstati u sljedee: proizvodnja, kontrola procesa, telekomunikacioni sistemi, kontrola avio saobraaja, upravljanje transportom, meteorologija, filtriranje i sakupljanje informacija, upravljanje tokovima informacija, elektronska trgovina, upravljanje poslovnim procesima, medicina, industrija zabave, kompjuterske igre, i drugim oblastima. U toku protekle dvije decenije je otkriven znaajan broj poboljanja u dizajnu i implementaciji autonomnih agenata, kao i nainu na koji oni stupaju u interakciju. Tehnologija na bazi agenata sve vie nalazi primjenu u komercijalnim proizvodima, softveru koji se primjenjuje u realnom okruenju. Trenutno je veoma vano rijeiti dva problema: nedostatak jasno definisane sistemske metodologije za razvoj agenata u multiagentnim okruenjima, i nedostatak iroko rasprostranjenih, dostupnih i standardizovanih razvojnih aplikacija za izradu multiagentnih sistema. Veina dosadanjih aplikacija su dizajnirane na bazi metodologije pozajmljene iz objektno orijentisanih programskih jezika. Trenutno ne postoji metodologija koja definie kako najbolje struktuirati multiagentni sistem, kako uskladiti individualne i/ili kolektivne ciljeve agenata u meusobnoj komunikaciji ili koja je najbolja struktura individualnog agenta u takvom sistemu.

INTELIGENTNI AGENTI

26

Zlatana Kurt Ekspertni sistemi

Pojam inteligentnih agenataInteligentni agenti predstavljaju softver koji automatski moe da izvri zadatak koji mu postavi osoba ili drugi softver (agent). Kada se jednom podese oni izvravaju svoje zadatke, automatski, bez dalje intervencije korisnika. Najee se upotrebljavaju za: automatsko traganje za informacijama, pruaju odgovore na postavljena pitanja u domenu svog znanja, informiu korisnike o interesantnim dogaajima (o pojavi novog lanka na Internetu, prikazuje informacije o eventualnoj pojavi problema na putu izmeu poetne i krajnje destinacije, da li se zadani pojam pojavljuje negdje na web-u i slino), obezbjeuju trenutne i personalizovane vijesti, omoguavaju inteligentno obuavanje korisnika, pronalaze robu po najpovoljnijim cijenama, obezbjeuju automatske servise, kao to je provjera promjena na web stranicama ili pojava

prekinutih linkova. Inteligentni agenti (IA) dobijaju informacije iz svog okruenja. Opaaju okruenje, odluuju o svojim akcijama i izvravaju ih. IA su implementirani kao programi (funkcije), koji preslikavaju opaanja u akcije. Prisutna je nedovoljna usaglaenost oko definicije pojma IA. Termini koji su u upotrebi: inteligentni agenti, adaptivni interfejsi, personalni agenti, autonomni agenti, mreni agenti, i drugi. Osnovna ideja u razvoju IA je: da inteligentni sistemi pomau svim kategorijama krajnjih korisnika, poreenje sa ostalim tehnologijama proisteklim iz vjetake inteligencije, neto izmeu krajnjeg korisnika i drugih programa drugih agenata i drugih programa. Inteligentni agenti pomau korisnicima na razne naine: prikrivaju sloenost tekih zadataka, obavljaju zadatke u ime korisnika, poduavaju korisnika, nadziru dogaaje i procedure,

27

Zlatana Kurt Ekspertni sistemi pomau u meusobnoj saradnji korisnika Potreba za IA: informacije je sve tee locirati, prikupljati, filtrirati, ocjenjivati i integrisati, sve je tee koordinirati dobijanje informacija iz heterogenih izvora.

Osobine inteligentnih agenataOsobine IA su: autonomnost, sposobnost komuniciranja, sposobnost uenja, inicijativa i blagovremeni odziv, fleksibilnost, i prilagodljivost. Autonomnost IA nije obian interfejs izmeu korisnika i aplikacije. To je mogunost rada u heterogenim okruenjima, mogunost da se IA pusti da radi preko noi (da bude dugo nenadgledan). IA je tipino dugotrajni (a ne jednokratni), kontinualan proces. Sposobnost komuniciranja agenta je preduslov agentovog postojanja, odnosno njegovo postojanje je uslovljeno njegovom mogunosti da komunicira sa drugim agentima. Jezik komunikacije mora da bude poznat, agent mora da ita poruke napisane tim jezikom, kao i da prihvata ogranienja koja namee semantika poruka. Sposobnost uenja, mogunost prikupljanja novog znanja tokom rada, je uslovljeno posjedovanjem minimalnog poetnog znanja. Uslovi za prikupljanje novog znanja su: repetitivnost razliita

zadataka koje IA rjeava,

repetitivnost za razliite korisnike.

Struktura inteligentnih agenata

28

Zlatana Kurt Ekspertni sistemi Strukturu inteligentnih agenata sainjavaju hardver, koji se sastoji od raunarskog sistema i specijalnog hardvera (npr. kamera ili audio ulaza) i raunarskih programa, koji sadre i softver za razdvajanje IA od hardvera. Zadatak ovakve arhitekture je izvravanje IA i komunikacija sa okruenjem. Raunarski program je ustvari funkcija kojom je implementirano preslikavanje sekvenca opaaja akcija i moe se prikazati PAGE deskripcijom IA:P A G E

ercepts (opaaji), ctions (akcije), oals (ciljevi-mjere performansi), nvironment (okruenje).

PRIMJER PAGE deskripcije: tip

IA - medicinski dijagnostiki sistem, - simptomi, laboratorijski nalazi, , - pitanja, testovi, terapije, , - ozdravljenje, minimizacija trokova, , - pacijent, bolnica, laboratorija, ... .

opaaji akcije ciljevi

okruenje

SAVREMENI INTELIGENTNI SISTEMI

OPTE O INTELIGENTNIM SISTEMIMAPostoji veliki broj definicija inteligentnih sistema. Nijedna od definicija nije u potpunosti prihvatljiva. Razlog je u injenici da pojam inteligencije jo uvijek nije u potpunosti objanjen. Inteligencijom se bavi niz naunih disciplina, u prvom redu psihologija, filozofija, neurologija i druge (o emu je ve bilo govora), a u posljednjim decenijama inteligencijom, tanije reeno vjetakom inteligencijom, se sve vie bave i raunarske nauke. Raunarske nauke prouavaju mogunost da se pomou raunara ostvari opaanje, rasuivanje i ponaanje, odnosno da se automatizuju inteligentne akcije. Raunarskim programima je svojstveno simboliko predstavljanje znanja o nekom podruju realnog sistema, odnosno stvaranje uprotene vizije realnog sistema. Raunarski programi manipuliu preteno nenumerikim simbolima i to je jedno od osnovnih svojstava tih programa. Pri tome esto koriste heuristiku, to im omoguava da

29

Zlatana Kurt Ekspertni sistemi rjeavaju probleme za ije rjeenje ne postoje algoritmi (poznati niz koraka koji vodi rjeenju problema). Heuristika je skup pravila domiljatog nagaanja, koja usmjeravaju i ograniavaju podruja traganja za rjeenjem. Grki glagol heuriskein znai otkriti. U bazi znanja se nalazi kodirano znanje sistema, predstavljeno pomou jedne ili vie tehnika za predstavljanje znanja. Tu se nalazi logiki integrisana kolekcija meusobno povezanih elemenata znanja, koji se koriste u procesu rjeavanja problema. Radna memorija sadri podatke i injenice unijete spolja u sistem, kao i one do kojih je sistem doao tokom rjeavanja problema. Ulaz i izlaz sistema slue za unoenje neophodnih podataka u radnu memoriju, izvjetavanje o djeliminim i konanim rjeenjima problema, pokretanje i zaustavljanje procesa rjeavanja problema, i sl. Proces rjeavanja problema poinje unoenjem u radnu memoriju podataka za definisanje poetnog stanja sistema, a zavrava se kada sistem doe u ciljno stanje. Komunikacija moe biti sa korisnikom ili sa drugim sistemima u okruenju: sistemima za upravljanje bazama podataka (SUBP), senzorima, relacijama, raznim serverima, i slino. Proces rjeavanja problema se opisuje kao rasuivanje ili zakljuivanje. Inteligentni sistemi se mogu podijeliti u tri grupe: autonomni sistemi, koji samostalno planiraju i izvode akcije u realnom okruenju, sistemi za podrku, koji uestvuju u pripremi, ali samostalno ne moraju da djeluju,

savjetodavni sistemi, koji posreduju u prikupljanju informacija, uz pomo kojih je uspjenije odluivanje.Pogodnosti inteligentnih sistema su: komunikacija sa njima mora biti jednostavna i prirodna, moraju biti prilagoeni radu sa optim i problemski usmjerenim znanjem,

moraju biti u stanju da objasne svoje akcije, moraju biti adaptivni, uiti i poboljavati svoje sposobnosti. Ostale pogodnosti inteligentnih raunarskih sistema su: da posjeduju adaptivno ciljno ponaanje, da ue na osnovu iskustva, koriste veliki obim znanja, posjeduju sposobnost samostalnog zakljuivanja, komuniciraju na to prirodniji nain, toleriu greke pri komunikaciji,

30

Zlatana Kurt Ekspertni sistemi odgovaraju u realnom vremenu.

HIBRIDNI INFORMACIONI SISTEMIOpte o hibridnim inteligentnim sistemimaVeina tradicionalnih informacionih sistema, koji se baziraju na znanju, razvijaju se kao samostalni sistemi, sa minimalnom meusobnom povezanosti. Narastanje koliine informacija, zahtjeva razvoj kompleksnijih sistema, koji integriu znanje i tradicionalno procesiranje. Jedna generacija inteligentnih IS, koji prevazilaze navedene probleme, se razvija uz pomo hibridne metodologije. Svaka inteligentna tehnika ima svoje pogodnosti (sposobnost uenja, analizu odluka, itd.), koje ih ine pogodnim za dotino rjeavanje problema ili kao pomo za druge tehnike.PRIMJER: Neuronske mree su pogodne za prepoznavanje uzoraka, ali pogodne za analizu kako se dolo do rjeenja. Fazi logiki sistemi su dobri za analizu njihovih rjeenja, mada ne mogu automatski iskazati pravila koja su upotrebljena pri dobijanju tih rjeenja.

31

Zlatana Kurt Ekspertni sistemi Navedena ogranienja su bili osnovni razlog za kreiranje hibridnih inteligentnih sistema, kombinujui dvije ili vie tehnika u namjeri da prevaziu ogranienja pojedinanih tehnika. Prema tome, hibridni sistemi su pogodni za rjeavanje razliitih aplikacionih domena. Mnogi kompleksni domeni imaju razliite komponente problema, zahtijevaju razliitu vrstu procesiranja. Iz tog razloga upotreba hibridnih aplikacije, kao to su: procesna kontrola, industrijsko projektovanje, marketing, medicina, razne vrste simulacija, i dr.

U hibridnim inteligentnim sistemima se koriste razliite tehnologije: fazi logika, neuronske mree, genetiki algoritmi, stabla odluivanja, itd.

Neuro - fazi sistemiFazi (fuzzy-eng.razmazan) logika se upotrebljava u mnogim podrujima, a pristupi se temelje na konvencionalnim metodama. Uinkovitost ovih sistema nije adekvatna utroenim sredstvima. Poveanjem kompleksnosti sistema oteano je definisanje fazi pravila i osnovnih funkcija, koje se upotrebljavaju za opisivanje ponaanja sistema. Prednost fazi logike se uoava u ekonomskom i finansijskom modeliranju, gdje se pravila upotrebljavaju bez detaljnog i eksplicitnog znanja o izvravanom procesu. Kod neuronskih mrea, ogranieni ili nestruktuirani podaci lako dovode do nekonzistentnih izlaza, to prouzrokuje velike probleme. Imajui u vidu komplementarnost ovih dvajutehnologija, mogue ih je integrisati na razliite naine. Time se umanjuju njihovi pojedinani nedostaci. Budui da se fazi sistemi, uglavnom, upotrebljavaju u industrijskim aplikacijama, oito je da razvoj dobrih fazi sistema nije ni malo jednostavan. Obuka neuronskih mrea je glavni

32

Zlatana Kurt Ekspertni sistemi razlog zato se one upotrebljavaju u kombinaciji sa fazi sistemima. Cilj je automatizacija ili podrka procesa razvoja fazi sistema za odreenu namjenu. Prvi razvijani neuro - fazi sistemi su bili u domenu (neuro-) fazi kontrole, dok je kasnije pristup razvoju znatno proiren. Neuro-fazi sistemi se upotrebljavaju u razliitim domenima:

industrijskoj kontroli, analizi podataka, podrci odluivanju, itd.

IZGRADNJA EKSPERTNIH SISTEMA

STICANJE ZNANJA ZA EKSPERTNE SISTEME

Opte o sticanju znanjaEkspertni sistemi (ES) se projektuju i izgrauju po nekoj od vaeih i u praksi koritenih metodologija. Mogua metodologija razvoja ES sadri sljedee korake. Analiza - identifikacija potencijalne aplikacije, ocjenjivanje podesnosti inenjeringa znanja za datu aplikaciju; Specifikacija - upoznavanje ta e ekspertni sistem raditi, rad sa ekspertom, uenje o zadatku u cilju planiranja razvoja sistema; Razvoj - konceptualni dizajn: spoznaja kako ekspert izvrava zadatak, razvoj konceptualnog modela, implementacioni dizajn: spoznaja kako formalizmi zakljuivanja, prezentacije i kontrole mogu biti

33

Zlatana Kurt Ekspertni sistemi upotrebljeni u implementaciji konceptualnog modela, implementacija: slijediti implementacioni dizajn u izgradnji baze znanja, evaluacija: test sistema u cilju verifikacije da li sistem izvrava zadatke korektno;

Razvoj u primjeni primjena: instalisanje sistema za rutinsku upotrebu, odravanje: pronalaenje greaka, auriranje i poboljanje vrijednosti sistema.

Ispitivanje ekspertaPostoje dva osnovna pristupa u crpljenju znanja od eksperta: ispitivanje eksperta poznatim metodama i tehnikama, posmatranje eksperta na djelu. Crpljenje znanja ispitivanjem eksperta uvijek ima oblik interakcije ovjeka eksperta i inenjera znanja. Koriste se sljedei oblici interakcije: deskripcija, introspekcija. Deskripcijom se predstavljaju "idealni sluajevi", kao to se to ini u udbenicima, dok informacije o strategijama rjeavanja specifinih problema ostaju neobuhvaene. Introspekcija je ispitivanje eksperta u cilju razrjeavanja sopstvenih nedoumica iz posmatranog domena.

Metode i tehnike ispitivanja eksperta su sljedee: intervju, repertoarske reetke, skale procjenjivanja, 34

Zlatana Kurt Ekspertni sistemi tehnika kritinih dogaaja, tehnika uparivanja karakteristika i odluka, razlikovanje ciljeva, reklasifikacija, analiza odluivanja.

IntervjuLini razgovor je najprirodniji i najei, a ujedno i najefikasniji oblik kontaktiranja meu ljudima. Za primjenu intervjua moraju biti ispunjeni sljedei uslovi: lini kontakt intervjuiste i intervjuisanog, plansko i svrsishodno voenje intervjua, usmjerenost intervjua, iskrena saradnja izmeu intervjuiste i intervjuisanog, neometanost razgovora.

Repertoarske reetkePri koritenju repertoarskih reetki polazi se od toga da svaka osoba ima svoj lini teorijski obrazac svijeta, da predvia i nadzire procese i dogaaje, izgraujui teorije, provjeravajui svoje hipoteze i vrednujui iskustveno svjedoanstvo. Repertoarske reetke su sainjene od elemenata i konstrukata. Elementi su kljuni primjeri koje daje ekspert, a konstrukti su bipolarne karakteristike koje svaki element ima u veoj ili manjoj mjeri.

Skale procjenjivanjaElementi se ocjenjuju, opisuju i uporeuju s obzirom na stepen u kojem posjeduju svaki konstrukt. U tom procjenjivanju se esto upotrebljavaju skale procjenjivanja. 35

Zlatana Kurt Ekspertni sistemi

Tehnike kritinih dogaajaSutina ove metode je da ekspert potanko opisuje teke, znaajne i zanimljive sluajeve iz svog iskustva, svoje ponaanje, doivljaje i osjeanja. Naroitu panju u evociranim mislima i ponaanju eksperta zavreuje ono to je presudno vodilo do uspjenog ili neuspjenog rjeavanja datog problema. Tehnika kritinih dogaaja je podesna za sticanje znanja u obliku injenica i heuristika.

Tehnika uparivanja karakteristika i odlukaOva tehnika od eksperta trai da navede skup moguih znaajnih karakteristika problema i skup moguih odluka, a potom da upari podskupove karakteristika sa odgovarajuim odlukama.

Razlikovanje ciljevaKada se za crpljenje znanja od eksperta primjenjuje metoda razlikovanja ciljeva, od eksperta se zahtijeva da za neki identifikovani cilj navede skupove nunih i dovoljnih razloga za razlikovanje tog cilja od ostalih.

ReklasifikacijaU reklasifikaciji je smjer obrnut, polazi se od ciljeva unatrag ka injenicama, karakteristikama, simptomima. Zadatak je eksperta da svaki pojedinaan cilj ralani na podciljeve i reklasifikuje na razloge, svjedoanstvo za te ciljeve.

Analiza odluivanja

36

Zlatana Kurt Ekspertni sistemi Analiza odluivanja se sprovodi kada se ele dokuiti znanja potrebna za uspjeno odluivanje i procedure odluivanja u datoj problemskoj situaciji. Kao sredstvo za sprovoenje ove tehnike se koriste pomona sredstva, kao to su tabele, stabla odluivanja i slino.

METODOLOGIJA RAZVOJA EKSPERTNOG SISTEMARazvoj ekspertnog sistema (ES) se moe podijeliti u est faza: preliminarna analiza, analiza i dizajn ekspertnog sistema, razvoj prototipa ekspertnog sistema, razvoj ekspertnog sistema, testiranje i implementacija, odravanje ES.

Preliminarna analizaPreliminarna analiza sadri sljedee radnje: definisanje potencijalnih projekata, dobijanje saglasnosti rukovodstva organizacije za potencijalne projekte, formiranje projektantskog tima za razvoj ekspertnog sistema. Projektantski tim, za svaki projekat ekspertnog sistema, mora obavezno sadravati sljedee grupe ljudi: rukovodilac projekta, glavni projektant (inenjer znanja), projektanti (inenjeri znanja), eksperti, korisnici. Zadaci projektantskog tima u ovoj fazi razvoja su:

37

Zlatana Kurt Ekspertni sistemi identifikacija potencijalnih projekata, analiza i ocjena svakog potencijalnog projekta, formiranje i organizovanje tima projekta, afirmacija inenjeringa znanja i projekta kod rukovodstva organizacije, eksperata i korisnika, izbor projekta za razvoj. Svaka grupa ljudi, koja sainjava projektantski tim, ima tano definisane zadatke, koji na ovom mjestu nee biti opisivani.

Analiza i dizajnU drugoj fazi razvoja ekspertnog sistema rukovodilac projekta i projektantski tim moraju izabrani projekat za razvoj svestrano analizirati i procijeniti sa razliitih aspekata, istiui sve korisne detalje. Rukovodilac projekta je direktno angaovan u fazi analize i njegovi glavni zadaci su planerske i organizacione prirode: izrada detaljnog plana analize, definisanje domena i njegova dublja analiza, razvoj detaljnog plana projekta, organizovanje projektantskog tima, organizovanje vie uzastopnih sastanaka sa ekspertom i korisnicima, sa posebnim naglaskom na interakciji ekspert - korisnik. Rukovodilac projekta mora odgovarajuu panju posvetiti problemu softvera I hardvera, koji su potrebni za razvoj sistema. Komunikacija izmeu lanova projektantskog tima je vana i u mnogome presudna za dalje faze rada. Zadaci projektantskog tima u ovoj fazi razvoja ekspertnog sistema su: doprinos preciznom definisanju domena, upoznavanje sa konkretnim zadacima i analiza tih zadataka, intervjuisanje eksperata,

38

Zlatana Kurt Ekspertni sistemi pronalaenje i sakupljanje knjiga, lanaka i drugih pisanih materijala, kako bi se to bolje spoznali kognitivni aspekti zadatka, analiza znanja i kognitivnih procesa koje eksperti koriste u rjeavanju problema, definisanje, zajedno sa ekspertima i korisnicima, kriterijuma za ocjenu uspjenosti ekspertnog sistema. Kognitivna analiza je sredstvo inenjeringa znanja i pored analize zadatka je primarni posao projektantskog tima u fazi analize i dizajna. Kognitivna analiza je proces sa kojim se produbljuju saznanja ta eksperti znaju i kako razmiljaju o specifinim zadacima. To nije savren proces i ee je vie vjetina nego inenjering. Postoje empirijske metode koje se mogu upotrijebiti za "preiavanje" znanja, koje se dobijaju za vrijeme kognitivne analize. Moe se kodirati znanje koje je predvieno za bazu znanja i razmatrati, zajedno sa ekspertom, sluajeve koje ekspertni sistem pokuava da rijei. Eksperti, u ovoj fazi razvoja ES, se moraju upoznati sa njihovom ulogom i zadacima, a nakon toga, analizirajui studije sluajeva i itajui literaturu iz podruja inenjeringa znanja, stei kritinu masu znanja o ES, domenu, metodama i tehnikama razvoja ES. Korisnici su dragocjen izvor informacija o tome kako oni sada koriste eksperte u svom poslu i ta oekuju od sistema. Na kraju, moe se rei da je faza analize i dizajna faza "uenja" o domenu, nainu rjeavanja problema, zadacima i svim metodolokim aspektima inenjeringa znanja. Faza je zavrena kada projektantski tim ima oformljen pisani izvjetaj za razvoj konkretnog ekspertnog sistema.

39

Zlatana Kurt Ekspertni sistemi

SREDSTVA ZA IZGRADNJU EKSPERTNIH SISTEMA

Opte o sredstvima za izgradnju ESSloenost i obim raunarskih programa ES moe da bude razliita: demonstracioni prototipovi sadre obino 50 do 100 pravila, dok pojedini komercijalni sistemi sadre i nekoliko hiljada pravila. Izgradnja ES nije nimalo lak posao i u pojedinim sluajevima ga je skoro nemogue obaviti ukoliko se ne raspolae inteligentnim alatima i posebnim sredstvima, koji e taj posao olakati i skratiti njegovo vremensko trajanje. Najire posmatrano, sredstva koja su u funkciji izgradnje ES, se mogu podijeliti u sljedee grupe: (1) Programski jezici za razvoj ES; (2) Jezici inenjeringa znanja; Programski jezici, bilo da su problemski orijentisani (FORTRAN, Pascal, C, itd.), objektno orijentisani (C++, Java, itd.) ili jezici za rad sa simbolima (LISP, PROLOG, itd.), pruaju najveu slobodu pri izgradnji ES, ali nisu pogodni za predstavljanje znanja ili pristup bazi znanja. Zbog odreenih svojstava, za izgradnju ES najee se primjenjuje jezik PROLOG.

RAZVOJ EKSPERTNOG SISTEMA

Mehanizam logikog zakljuivanjaU narednom izlaganju bie razmotren nain funkcionisanja mehanizma za zakljuivanje, koji obavlja proces logikog rasuivanja nad bazom znanja, predstavljenom u obliku produkcionih pravila, i bazom injenica koja opisuje stanje sistema. Da bi mehanizam za zakljuivanje mogao da zapone postupak logikog rasuivanja, potrebno je prvo postaviti cilj rasuivanja i inicijalizirati sve injenice potrebne za testiranje uslova, odnosno izvravanje odgovarajuih akcija. Inicijalizacija se vri uz pomo vrijednosti, koje se nalaze u bazi injenica, ili se moe raditi interaktivno, s tim to tada mehanizam zakljuivanja 40

Zlatana Kurt Ekspertni sistemi postavlja pitanja korisniku tokom postupka koritenja ekspertnog sistema. Za efikasnu realizaciju dijaloga sa korisnikom, potrebno je da mehanizam zakljuivanja ponudi korisniku i skup legalnih odgovora, koji su dozvoljeni za inicijalizaciju pojedinih injenica, i na taj nain vodi korisnika u pravcu da daje odgovore koje sistem razumije. Mehanizam zakljuivanja treba, takoer, da sadri i takozvana meta znanja, koja ustvari predstavljaju pravila, meta pravila, koja upravljaju postupkom logikog rasuivanja u smislu njegove optimizacije. Ova meta pravila se, prije svega, odnose na grupisanje, odnosno utvrivanje pravila i nain njihovog pretraivanja, da bi se obezbijedilo minimalno mogue vrijeme pretraivanja pravila. S obzirom na postavljeni cilj logikog rasuivanja, odnosno cilj konsultacije koja se oekuje od ekspertnog sistema, mogua su dva opta pristupa: direktno rasuivanje (sistem sa olanavanjem unaprijed), inverzno rasuivanje (sistem sa olanavanjem unazad).

ZAKLJUAKPosljednjih godina oblast vjetake inteligencije i unutar nje ES, doivljavaju nagli uspon, kako u istraivanju tako i u sferi komercijalne primjene. Spoj raunarske tehnike i pokuaja spoznaje ljudske inteligencije putem njene formalizacije stvorili su jednu multidisciplinarnu oblast odreene klase programa koja jo evoluira. Rije je o raunarskim programima za rjeavanje odreenih problema koji mogu da dostignu nivo neuporediv sa nivoom eksperata u nekoj specijalizovanoj oblasti. ES se prvenstveno koriste u multinacionalnim kompanijama (85%) u funkciji tehnolokih predvianja, u cilju anticipiranja razvoja novih tehnologija i procesa na osnovu strunih ekspertiza, tj.upotrebom heuristikog znanja. Pretpostavlja se da e ES u skorijoj budunosti biti upotrebljavani u MIS preduzeima a zatim i u svim ostalim oblicima privrednih subjekata.

41

Zlatana Kurt Ekspertni sistemi

LITERATURA1. http://www.research.ibm.com/iagents/paps/rc20835.pdf

2. Hotomski P. , Sistemi vjetake inteligencije, Tehniki fakultet M. Pupin, Zrenjanin 1995.

3. Devedi V. , Ekspertni sistemi za rad u realnom vremenu, Institut M. Pupin, Beograd 1994.

4. Poliuk J. , Ekspertni sistemi , ETF, Podgorica 2004.

5. Miki . , Sistemi- struktura i upravljanje, Prijedor 2007.

6. www.wikipedia.org

42