Koskon hermoverkko , Bidirectional Associative Memory ( BDA ) on Bart Koskon kehittämä hermoverkko . Tämä on palautehermoverkko, joka perustuu kahteen ajatukseen: Stefan Grosbergin adaptiiviseen resonanssiteoriaan ja autoassosiatiiviseen muistiin .
DAP on heteroassosiatiivinen : sisääntulovektori syötetään yhdelle neuronijoukolle ja vastaava lähtövektori tuotetaan toiselle neuronijoukolle. Kuten Hopfield-verkko, DAP kykenee yleistämään ja tuottaa oikeat vastaukset vääristyneistä tuloista huolimatta. Lisäksi DAP:sta voidaan toteuttaa adaptiivisia versioita, jotka poimivat referenssikuvan kohinaisista instansseista. Nämä ominaisuudet muistuttavat vahvasti ihmisen ajatteluprosessia ja mahdollistavat keinotekoisten hermoverkkojen ottaa askeleen kohti aivosimulaatiota.
Verkko koostuu kahdesta elementtikerroksesta, joiden välillä on kaksisuuntaiset linkit, jotka on yhdistetty elementteihin periaatteella kaikki kaikkien kanssa. Siksi painomatriisia voidaan käyttää kuvaamaan verkkoa. Siinä tapauksessa, että tämä matriisi on neliömäinen ja symmetrinen, DAP muuttuu autoassosiatiiviseksi Hopfield-verkoksi.
Kun verkkotuloon syötetään kohinaista signaalia, signaalien siirto DAP:n sisällä kestää niin kauan, kunnes verkko löytää lähimmän standardin (assosiaatio), johon verkko on aiemmin koulutettu. Tämä prosessi voidaan tulkita muistiksi ja muistin vakauttamiseksi.
Jatkuvat asynkroniset DAP:t torjuvat synkronisuuden ja epäjatkuvuuden, mutta toimivat pitkälti samalla tavalla kuin erilliset versiot.
Synkronisessa DAP:ssa muodolliset neuronit kerroksissa 1 ja 2 ovat synkronisia, eli jokaisella neuronilla on muisti ja kaikki neuronit vaihtavat tilaa samanaikaisesti. Asynkronisessa järjestelmässä mikä tahansa neuroni voi vapaasti muuttaa tilaa aina, kun sen syöte kehottaa sitä tekemään niin.
Hermosolun aktivaatiofunktiota määritettäessä käytettiin yksinkertaista kynnystä, mikä muodosti epäjatkuvuuden hermosolujen siirtofunktiossa. Tässä vaiheessa backpropagation menetelmä tulee tunnetuksi, joten on mahdollista luoda jatkuva DAP:n muunnos. Sigmoidin on osoitettu pystyvän vahvistamaan matalan tason signaaleja samalla, kun se pakkaa neuronien dynaamista aluetta. Jatkuvalla DAP:lla voi olla sigmoidifunktio, jonka arvo l on lähellä yhtä, jolloin muodostuu hermosoluja, joilla on tasainen ja jatkuva vaste.
Mukautuva DAP muuttaa painojaan käytön aikana. Tämä tarkoittaa, että syöttövektoreiden opetusjoukon syöttäminen verkkotuloon saa sen muuttamaan energiatilaa, kunnes saadaan resonanssi. Vähitellen lyhytaikainen muisti muuttuu pitkäkestoiseksi muistiksi, joka virittää verkkoa sen toiminnan seurauksena. Oppimisprosessin aikana vektorit syötetään kerrokseen A ja niihin liittyvät vektorit kerrokseen B. Toinen niistä tai molemmat vektorit voivat olla mallin meluisia versioita; verkko on koulutettu alkuperäisillä vektoreilla ilman kohinaa. Tässä tapauksessa se poimii assosiaatioiden olemuksen oppimalla standardeista, vaikka se "näki" vain meluisia approksimaatioita.
Monissa kilpailevissa hermosysteemeissä havaitaan jonkinlaista kilpailua hermosolujen välillä. Verkkokalvon signaaleja prosessoivissa neuroneissa lateraalinen esto johtaa aktiivisimpien hermosolujen tuotannon lisääntymiseen viereisten neuronien kustannuksella. Tällaiset järjestelmät lisäävät kontrastia nostamalla verkkokalvon kirkkaaseen alueeseen liittyvien hermosolujen aktiivisuustasoa ja samalla vaimentamalla entisestään tummiin alueisiin kytkettyjen neuronien ulostuloa.
DAP:ssa kilpailu toteutuu kunkin kerroksen hermosolujen keskinäisellä kytkennällä lisäyhteyksien kautta. Näiden linkkien painot muodostavat toisen painomatriisin, jossa on päädiagonaalien elementtien positiiviset arvot ja muiden elementtien negatiiviset arvot.
| Keinotekoisten neuroverkkojen tyypit | |
|---|---|
| |