Luokittelu ongelma

Kokeneet kirjoittajat eivät ole vielä tarkistaneet sivun nykyistä versiota, ja se voi poiketa merkittävästi 14. elokuuta 2019 tarkistetusta versiosta . tarkastukset vaativat 6 muokkausta .

Luokittelutehtävä on tehtävä, jossa on monia objekteja ( tilanteita ), jotka on jaettu jollain tavalla luokkiin . On annettu äärellinen joukko objekteja, joille tiedetään, mihin luokkiin ne kuuluvat. Tätä sarjaa kutsutaan näytteeksi . Muiden esineiden luokkakuuluvuus ei ole tiedossa. On rakennettava algoritmi , joka pystyy luokittelemaan (katso alla) mielivaltaisen objektin alkujoukosta .

Objektin luokittelu tarkoittaa sen luokan numeron (tai nimen) ilmoittamista, johon annettu objekti kuuluu.

Objektin luokitus - luokan numero tai nimi, jonka luokittelualgoritmi antaa sen soveltamisen seurauksena tähän tiettyyn objektiin.

Matemaattisessa tilastossa luokitusongelmia kutsutaan myös diskriminanttianalyysin ongelmiksi . Koneoppimisessa luokitusongelma ratkeaa erityisesti keinotekoisten hermoverkkojen menetelmillä , kun tehdään kokeilua opettajan kanssa harjoittelun muodossa .

Kokeilun ohjaamattoman oppimisen perustamiseen on myös muita tapoja , mutta niitä käytetään eri ongelman klusteroinnin tai taksonomian ratkaisemiseen . Näissä ongelmissa ei ole määritelty opetusnäyteobjektien jakoa luokkiin ja objektit on luokiteltava vain niiden samankaltaisuuden perusteella. Joillakin sovellettavilla aloilla ja jopa itse matemaattisessa tilastossa ongelmien läheisyyden vuoksi klusterointiongelmia ei useinkaan eroteta luokitteluongelmista.

Jotkut luokitteluongelmien ratkaisualgoritmit yhdistävät ohjatun oppimisen ohjaamattomaan oppimiseen , esimerkiksi Kohosen hermoverkkojen yksi versio on valvotut vektorikvantisointiverkot.

Matemaattinen esitys tehtävästä

Olkoon joukko objektien kuvauksia, olla joukko luokkien numeroita (tai nimiä). On olemassa tuntematon kohderiippuvuus - kartoitus , jonka arvot tunnetaan vain lopullisen harjoitusnäytteen kohteista . On rakennettava algoritmi , joka pystyy luokittelemaan mielivaltaisen kohteen . $X$ $Y$ $y^{{*}}\kaksoispiste X\Y:ksi$ $X^{m}=\{(x_{1},y_{1}),\dots ,(x_{m},y_{m})\}$ $a\kaksoispiste X\Y:ksi$ $x\in X$

Ongelman todennäköisyyskäsitys

Ongelman todennäköisyyskäsitys katsotaan yleisemmäksi. Oletetaan, että parien joukko "objekti, luokka" on todennäköisyysavaruus , jonka todennäköisyysmitta on tuntematon . On olemassa äärellinen harjoitusjoukko havaintoja , jotka on generoitu todennäköisyysmitan mukaan . On rakennettava algoritmi , joka pystyy luokittelemaan mielivaltaisen kohteen . $X \kertaa Y$ ${\mathsf P}$ $X^{m}=\{(x_{1},y_{1}),\dots ,(x_{m},y_{m})\}$ ${\mathsf P}$ $a\kaksoispiste X\Y:ksi$ $x\in X$

Ominaisuustila

Merkki on kartoitus , jossa on joukko merkin sallittuja arvoja. Jos piirteet on annettu , niin vektoria kutsutaan objektin piirrekuvaukseksi . Ohjeelliset kuvaukset voidaan tunnistaa itse esineistä. Tässä tapauksessa joukkoa kutsutaan ominaisuusavaruudeksi . ${\displaystyle f\colon X\to D_{f))$ $D_f$ ${\displaystyle f_{1},\dots ,f_{n))$ ${{\mathbf x}}=(f_{1}(x),\pisteet ,f_{n}(x))$ $x\in X$ $X=D_{{f_{1}}}\kertaa \pistettä \kertaa D_{{f_{n}}}$

Sarjasta riippuen kyltit jaetaan seuraaviin tyyppeihin: $D_f$

binäärimerkki : ; $D_{f}=\{0,1\}$
nimellinen attribuutti: - äärellinen joukko; $D_f$
järjestysmäärite : - äärellinen järjestysjoukko; $D_f$
määrällinen etumerkki: - joukko reaalilukuja . $D_f$

Usein on sovellettavia ongelmia erityyppisillä ominaisuuksilla, kaikki menetelmät eivät sovellu niiden ratkaisemiseen.

Luokitteluongelmien typologia

Syötetietotyypit

Ohjeellinen kuvaus on yleisin tapaus. Jokainen objekti kuvataan joukolla sen ominaisuuksia, joita kutsutaan ominaisuuksiksi . Ominaisuudet voivat olla numeerisia tai ei-numeerisia.
Objektien välinen etäisyysmatriisi . Jokainen kohde kuvataan etäisyyksillä kaikkiin muihin harjoitusnäytteen esineisiin. Harvat menetelmät toimivat tämäntyyppisten syötteiden kanssa, erityisesti lähin naapuri -menetelmä , Parzen-ikkunamenetelmä , potentiaalisten funktioiden menetelmä .
Aikasarja tai signaali on mittaussarja ajan kuluessa. Jokainen ulottuvuus voidaan esittää numerolla, vektorilla ja yleensä suuntaa-antavalla kuvauksella tutkittavasta kohteesta tiettynä ajankohtana.
Kuva- tai videosarja .
On myös monimutkaisempia tapauksia, joissa syötetiedot esitetään kaavioiden , tekstien, tietokantakyselyjen jne. muodossa . Yleensä ne pelkistetään ensimmäiseen tai toiseen tapaukseen esikäsittelemällä tiedot ja poimimalla ominaisuuksia .

Signaalien ja kuvien luokittelua kutsutaan myös kuviontunnistukseksi .

Luokkatyypit

Kahden luokan luokitus . Teknisesti yksinkertaisin tapaus, joka toimii perustana monimutkaisempien ongelmien ratkaisemiseen.
Moniluokkainen luokitus. Kun luokkien lukumäärä saavuttaa useita tuhansia (esimerkiksi hieroglyfien tai jatkuvan puheen tunnistamisessa), luokittelutehtävä muuttuu paljon vaikeammaksi.
luokat, jotka eivät ole päällekkäisiä.
päällekkäisiä luokkia. Objekti voi kuulua useaan luokkaan samanaikaisesti.
Sumeat luokat . On määritettävä objektin kuuluvuusaste kuhunkin luokkaan, yleensä se on reaaliluku välillä 0 - 1.

Katso myös

Linkit

www.MachineLearning.ru on ammattimainen wiki-resurssi, joka on omistettu koneoppimiseen ja tiedon louhintaan
Konstantin Vorontsov . Luentokurssi Matemaattiset opetuksen menetelmät ennakkotapausten mukaan , Moskovan fysiikan ja tekniikan instituutti , 2004-2008
Juri Lifshits . Automaattinen tekstin luokittelu (diat) - Luento #6 kurssilta "Algoritmit Internetille"
kNN ja potentiaalinen energia ( sovelma ), E.M. Mirkes ja Leicesterin yliopisto.

Kirjallisuus

Ayvazyan S. A., Buchstaber V. M., Enyukov I. S., Meshalkin L. D. Sovelletut tilastot : luokittelu ja ulottuvuuden vähentäminen . - M .: Talous ja tilastot, 1989.
Vapnik VN Riippuvuuksien rekonstruktio empiiristen tietojen perusteella. - M.: Nauka, 1979.
Zhuravlev Yu. I. , Ryazanov V. V., Senko O. V. "Tunnustus". Matemaattiset menetelmät. Ohjelmistojärjestelmä. Käytännön sovellukset. — M.: Fazis, 2006. ISBN 5-7036-0108-8 .
Zagoruiko NG Sovellettavat menetelmät datan ja tiedon analysointiin. - Novosibirsk : IM SO RAN, 1999. ISBN 5-86134-060-9 .
Shlesinger M., Glavach V. Kymmenen luentoa tilastollisesta ja rakenteellisesta tunnistamisesta. - Kiev : Naukova Dumka , 2004. ISBN 966-00-0341-2 .
Hastie, T., Tibshirani R., Friedman J. Tilastollisen oppimisen elementit: tiedon louhinta, päättely ja ennustaminen . – 2. painos - Springer-Verlag, 2009. - 746 s. - ISBN 978-0-387-84857-0 . .
Mitchell T. Koneoppiminen. — McGraw-Hill Science/Engineering/Math, 1997. ISBN 0-07-042807-7 .

Tekoäly
Tarina	Tekoälyn historia Tekoälyn talvi Dartmouthin seminaari
Filosofia	Turingin testi kiinalainen huone Vahva ja heikko tekoäly Ystävällinen tekoäly Tekoälyn etiikka Ohjausongelma
Ohjeet	Agentin lähestymistapa Mukautuva ohjaus Tietotekniikka Toimiva järjestelmämalli Koneoppiminen Neuroverkko sumea logiikka luonnollisen kielen käsittely Hahmontunnistus Parven älykkyys Symbolinen AI Evoluutioalgoritmit Asiantuntijajärjestelmä
Sovellus	Ääniohjaus Luokittelu ongelma Asiakirjojen luokittelu Asiakirjojen klusterointi ryhmäanalyysi Paikallinen haku Konekäännös Optinen hahmon tunnistus Puheentunnistus Käsialan tunnistus Peli AI
Tutkijat	Charles Babbage Vladimir Vapnik Joseph Weizenbaum Norbert Wiener Viktor Glushkov Vladimir Gorodetsky Jan LeCun Aleksei Ljapunov John McCarthy Marvin Minsky Allen Newell Seymour Papert Juudan helmi Germogen Pospelov Dmitri Pospelov Frank Rosenblatt Herbert Alexander Simon Alan Turing Patrick Winston Viktor Finn Sergei Fomin Demis Hassabis Geoffrey Hinton Noam Chomsky Claude Shannon Andrew Eun Eliezer Judkovski

Koneoppiminen ja tiedon louhinta
Tehtävät	Luokittelu ongelma Oppiminen ilman opettajaa Opettajan avustama oppiminen Taantumisanalyysi AutoML Yhdistyksen säännöt Ominaisuuksien erottaminen Ominaisuuksien koulutus Ranking koulutus Kieliopillinen johtaminen Verkko-oppiminen
Opettajan kanssa oppimista	k-lähimmän naapurin menetelmä Naiivi Bayesin luokitin päätöspuu Tuki vektorikonetta Lineaarinen regressio Logistinen regressio perceptron Mallien kokoonpanot Pussittaminen tehostaa satunnainen metsä Asiaankuuluva vektorimenetelmä
ryhmäanalyysi	k-keinomenetelmä Sumea klusterointimenetelmä Hierarkkinen klusterointi EM-algoritmi KOIVU PARANTAA DBSCAN OPTIIKKA Keskimääräinen siirto
Mittasuhteiden vähentäminen	Tekijäanalyysi Pääkomponenttimenetelmä CCA ICA LDA Ei-negatiivinen matriisin laajennus t-SNE
Rakenteellinen ennustaminen	Graafinen todennäköisyysmalli Bayesin verkko Piilotettu Markovin malli CRF
Anomalian havaitseminen	k-lähimmän naapurin menetelmä Paikallinen päästötaso
Piirrä todennäköisyysmallit	Bayesin verkko Markovin verkko Piilotettu Markovin malli
Neuroverkot	Rajoitettu Boltzmann-kone itseorganisoituva kartta Aktivointitoiminto Sigmoidi softmax Radiaalinen kantafunktio Takaisin lisäysmenetelmä Syväoppiminen Monikerroksinen perceptroni Toistuva neuroverkko pitkä lyhytaikainen muisti Hallittu toistuva esto Konvoluutiohermoverkko U-verkko Autoenkooderi
Vahvistusoppiminen	Markovin prosessi Bellmanin yhtälö Ahne algoritmi Q-oppiminen SARSA Aikaero (TD)
Teoria	Vapnik-Chervonenkis teoria Bias-dispersion dilemma Laskennallinen oppimisteoria Empiirinen riskin minimointi Occam oppii PAC-oppiminen Tilastollinen oppimisteoria
Lehdet ja konferenssit	NeurIPS ICML ML JMLR ArXiv:cs.LG