A tantárgyleírás hatályossága
Hatályosság kezdete:
—
Hatályosság vége:
—
| Tantárgy neve (magyarul, angolul) |
Bayes-tanulás
Bayesian Learning
|
||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Tantárgykód | BMEVIMM9052 | ||||||||||||
| Tantárgyjelleg | — | ||||||||||||
| Képzési szint | — | ||||||||||||
| Kurzustípusok és óraszámok (heti/féléves) |
|
||||||||||||
| Tanulmányi teljesítmény/értékelés típusa | vizsga | ||||||||||||
| Tantárgy kreditértéke | 5 | ||||||||||||
| Tantárgyfelelős |
Dr. Dobrowiecki Tadeusz Pawel
beosztás: egyetemi docens
elérhetőség:
dobrowiecki.tadeusz@vik.bme.hu
|
||||||||||||
| Tantárgyat gondozó oktatási szervezeti egység |
—
|
||||||||||||
| Kar | |||||||||||||
| Tantárgy weboldala | http://www.mit.bme.hu/oktatas/targyak/vimm9052/ | ||||||||||||
| Tantárgy elsődleges mintatantervi jellege | — | ||||||||||||
| Közvetlen előkövetelmények – Erős előkövetelmény | nincs | ||||||||||||
| Közvetlen előkövetelmények – Gyenge előkövetelmény | nincs | ||||||||||||
| Közvetlen előkövetelmények – Párhuzamos előkövetelmény | nincs | ||||||||||||
| Közvetlen előkövetelmények – Mérföldkő előkövetelmény | nincs | ||||||||||||
| Közvetlen előkövetelmények – Kizáró feltétel | nincs |
Célkitűzés
Tantárgyprogram
- Klasszikus és bayesi statisztika célkitűzései, metodológiája, a �bayesi� paradigma. Alapfogalmak bemutatása egy változós normális eloszlás esetén, parallel fogalmak összehasonlítása és komplex valószínűségi modellek esetén. A �kis�, �közepes� és �nagy� mintaszám fogalmának bemutatása (a statisztikai mintakomplexitás és az aszimptotikus kapcsolat). A bias/variancia dilemma ismertetése.
- Tárgyalt valószínűségi modellek áttekintése. Tárgyterületi modellek: Bayes hálók. Osztályozási modellek: naiv Bayes hálós modell, logisztikus regressziós modell, előrecsatolt többrétegű neuronhálós modellek. Alkalmazások: petefészekrák tárgyterületi modell és osztályozás, mobilhivásokkal kapcsolatos visszaélések detektálása.
- A bayesi következtetés és tanulás. Optimális döntés adott hasznosság/veszteség esetén: Bayes döntés és Bayes hiba. Egy �veszteség semleges� kiértékelés a Receiver Operating Characteristic görbe (ROC) alapján.
- Bayesi következtetés analitikus megoldással. A konjugált családok, exponenciális eloszlás család, elégséges statisztika. A Dirichlet eloszlás felhasználása diszkrét modellek esetén.
- Bayesi következtetés numerikus közelítő módszerekkel. Laplace közelítés. Sztochasztikus szimulációs eljárások. Gyakori eloszlások generálása. Mintavételi módszerek.
- Markov láncokon alapuló sztochasztikus szimulációs eljárások (Markov Chain Monte Carlo módszerek): Gibbs, Metropolis és hibrid MCMC.
- Modell kiértékelés és választás: Bayes faktor és a szekvenciális predikció (�prequential�) módszer.
- Az EM algoritmus család és alkalmazása.
- Adatok előfeldolgozása. Jegykiválasztás célja és módszerei: a szűrő, a �wrapper�, a Markov határon alapuló módszerek és a bayesi nézőpont (Automatic Relevance Determination). Diszkretizálás.
- Nem teljes adatok felhasználása. A �véletlen hiányzás� definíciói (missing-at-random (MAR,CMAR)). Hiányzó adatok kezelési módszerei heurisztikákkal (elhagyás, imputáció, tárgyterületi modell szerepe) és az EM felhasználásával.
- Bayes hálók klasszikus és bayesi alkalmazása (a priori ismeretek formalizálása).
- Logisztikus regressziós modellek klasszikus és bayesi alkalmazása.
A bizonytalanság normativ kezelésére a valószínűségi megközelítés vált dominánssá 1990-től a mesterséges intelligenca és a gépi tanulás esetében. Egy további trend a bayesi paradigma alkalmazása,ami egyrészt koherens, normatív módszert kínál statisztikai következtetések elvégzésére, az a priori ismeretek felhasználására, másrészt egy alternatív megoldást jelent a komplex modellek tanulásánál fellépő a statisztikai problémákra.
A tantárgy célja a bayesi gépi tanulási paradigma bemutatása, főként a gyakorlati alkalmazás szemszögéből. Ennek megfelelően ismerteti az alapfogalmakat és problémákat, majd végigköveti egy bayesi gépi tanulási algoritmus alkalmazásának lépéseit úgymint
terület felderítése, a priori ismeretek formalizálása bayesi következtetés (�tanulás�) analitikus és sztochasztikus szimuláción alapuló elvégzése modell kiértékelés és választás
A tárgy során főként két modellosztályt használunk a Bayes hálókat és a logisztikus regressziót, mint egy domináns tárgyterületi modellezési eszközt és mint egy gyakorlatban elterjedt osztályozási eszközt. Az ismertetett fogalmakat egy valós orvosi és egy üzleti/telekommunikációs probléma során szerzett tapasztalatokkal is bemutatjuk.
Tanulmányi eredmények
Ez a tantárgy a KKK rendeletben meghatározott, következő kompetenciák fejlesztését szolgálja:
Tudás
Nincsenek rögzített tanulási eredmények.
Képességek
Nincsenek rögzített tanulási eredmények.
Attitűd
Nincsenek rögzített tanulási eredmények.
Autonómia és felelősség
Nincsenek rögzített tanulási eredmények.
Oktatási módszertan
:
Előadás
Tanulástámogató anyagok
Online források
T.Hastie, R.Tibshirani, J.Friedman: The Elements of Statistical Learning; R. G. Cowel: Probabilistic Networks and Expert Systems; C.M. Bishop: Neural Networks for Pattern Recognition; R.M.Neal: Bayesian Learning for Neural Networks; J. M. Bernardo, A. F. M. Smith: Bayesian Theory; Andrew Gelman: Bayesian Data Analysis; Bayesian inference Using Gibbs Sampling: http://www.mrc-bsu.cam.ac.uk/bugs/;
A tantárgy teljesítéséhez ajánlott előzetes ismeretek
Tudás típusú kompetenciák
(azon előzetes ismeretek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
Valószínűségszámítás, Algoritmusok elmélete
Képesség típusú kompetenciák
(azon előzetes képességek és készségek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
nincs
Ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák
(azon ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák összessége, amelyek jelentősen hozzájárulnak a tantárgy eredményes teljesítéséhez)
Valószínűségszámítás, Algoritmusok elmélete
Általános szabályok
Követelmények:
a. A szorgalmi időszakban: Házi feladat, egy modell szimuláció elvégzése a BUGS rendszerben vagy egy tanszéki szimulációs rendszerben. A feladat átvétele 8. hét végéig lehetséges, leadása vagy bemutatása a 13.hét végéig kötelező. A félévi aláírás és a vizsgára bocsátás feltétele a házi feladat helyes megoldása.
b. A vizsgaidőszakban: Írásbeli és szóbeli vizsga.
Pontozás: a pontszám 1/3 része házi feladatból és 2/3 része az írásbeliből áll össze.
Elővizsga: Igény szerint.
Pótlási lehetőségek:
A házi feladatot a vizsgaidőszak első három hetében lehet pótolni.
Teljesítményértékelési módszerek
Szorgalmi időszakban végzett teljesítményértékelések részletes leírása
Nincs megadva részletes értékelés.
Szorgalmi időszakban végzett teljesítményértékelések részaránya
Nincs megadva részarány.
Vizsgaidőszakban végzett teljesítményértékelések részletes leírása
Nincs megadva részletes értékelés.
Vizsgarészek részaránya
Nincs megadva részarány.
Érdemjegy megállapítása
Nincs megadva érdemjegy határ.
Jelenléti és részvételi követelmények
Nincs megadva jelenléti követelmény.
Javítás, ismétlés és pótlás különös szabályai
Nincs megadva.
Rövid leírás
Nincs megadva.
Részletes leírás
Nincs megadva.
Ajánlott tantárgyak
Nincs megadva.
A tantárgy elvégzéséhez szükséges tanulmányi munka
Nincs megadva munkaidő bontás.
Tantárgykövetelmények hatályossága
Tantárgykövetelmények hatályosságának kezdete:
—
Tantárgykövetelmények hatályosságának vége:
—
Tantervi elhelyezés
Nincsenek rögzített tantervi elhelyezések ehhez a tárgyverzióhoz.