A tantárgyleírás hatályossága
Hatályosság kezdete:
—
Hatályosság vége:
—
| Subject name (Hungarian, English) |
Bayes-tanulás
Bayesian Learning
|
||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Subject code | BMEVIMM9052 | ||||||||||||
| Subject type | — | ||||||||||||
| Training Level | — | ||||||||||||
| Course types and hours (weekly/semester) |
|
||||||||||||
| Assessment type | vizsga | ||||||||||||
| Credits | 5 | ||||||||||||
| Subject coordinator |
Dr. Dobrowiecki Tadeusz Pawel
position: egyetemi docens
contact:
dobrowiecki.tadeusz@vik.bme.hu
|
||||||||||||
| Responsible department |
—
|
||||||||||||
| Faculty | |||||||||||||
| Subject website | http://www.mit.bme.hu/oktatas/targyak/vimm9052/ | ||||||||||||
| Primary curriculum type | — | ||||||||||||
| Direct prerequisites – Strong prerequisite | none | ||||||||||||
| Direct prerequisites – Weak prerequisite | none | ||||||||||||
| Direct prerequisites – Parallel prerequisite | none | ||||||||||||
| Direct prerequisites – Milestone prerequisite | none | ||||||||||||
| Direct prerequisites – Exclusion | none |
Objectives
Programme
- Klasszikus és bayesi statisztika célkitűzései, metodológiája, a �bayesi� paradigma. Alapfogalmak bemutatása egy változós normális eloszlás esetén, parallel fogalmak összehasonlítása és komplex valószínűségi modellek esetén. A �kis�, �közepes� és �nagy� mintaszám fogalmának bemutatása (a statisztikai mintakomplexitás és az aszimptotikus kapcsolat). A bias/variancia dilemma ismertetése.
- Tárgyalt valószínűségi modellek áttekintése. Tárgyterületi modellek: Bayes hálók. Osztályozási modellek: naiv Bayes hálós modell, logisztikus regressziós modell, előrecsatolt többrétegű neuronhálós modellek. Alkalmazások: petefészekrák tárgyterületi modell és osztályozás, mobilhivásokkal kapcsolatos visszaélések detektálása.
- A bayesi következtetés és tanulás. Optimális döntés adott hasznosság/veszteség esetén: Bayes döntés és Bayes hiba. Egy �veszteség semleges� kiértékelés a Receiver Operating Characteristic görbe (ROC) alapján.
- Bayesi következtetés analitikus megoldással. A konjugált családok, exponenciális eloszlás család, elégséges statisztika. A Dirichlet eloszlás felhasználása diszkrét modellek esetén.
- Bayesi következtetés numerikus közelítő módszerekkel. Laplace közelítés. Sztochasztikus szimulációs eljárások. Gyakori eloszlások generálása. Mintavételi módszerek.
- Markov láncokon alapuló sztochasztikus szimulációs eljárások (Markov Chain Monte Carlo módszerek): Gibbs, Metropolis és hibrid MCMC.
- Modell kiértékelés és választás: Bayes faktor és a szekvenciális predikció (�prequential�) módszer.
- Az EM algoritmus család és alkalmazása.
- Adatok előfeldolgozása. Jegykiválasztás célja és módszerei: a szűrő, a �wrapper�, a Markov határon alapuló módszerek és a bayesi nézőpont (Automatic Relevance Determination). Diszkretizálás.
- Nem teljes adatok felhasználása. A �véletlen hiányzás� definíciói (missing-at-random (MAR,CMAR)). Hiányzó adatok kezelési módszerei heurisztikákkal (elhagyás, imputáció, tárgyterületi modell szerepe) és az EM felhasználásával.
- Bayes hálók klasszikus és bayesi alkalmazása (a priori ismeretek formalizálása).
- Logisztikus regressziós modellek klasszikus és bayesi alkalmazása.
A bizonytalanság normativ kezelésére a valószínűségi megközelítés vált dominánssá 1990-től a mesterséges intelligenca és a gépi tanulás esetében. Egy további trend a bayesi paradigma alkalmazása,ami egyrészt koherens, normatív módszert kínál statisztikai következtetések elvégzésére, az a priori ismeretek felhasználására, másrészt egy alternatív megoldást jelent a komplex modellek tanulásánál fellépő a statisztikai problémákra.
A tantárgy célja a bayesi gépi tanulási paradigma bemutatása, főként a gyakorlati alkalmazás szemszögéből. Ennek megfelelően ismerteti az alapfogalmakat és problémákat, majd végigköveti egy bayesi gépi tanulási algoritmus alkalmazásának lépéseit úgymint
terület felderítése, a priori ismeretek formalizálása bayesi következtetés (�tanulás�) analitikus és sztochasztikus szimuláción alapuló elvégzése modell kiértékelés és választás
A tárgy során főként két modellosztályt használunk a Bayes hálókat és a logisztikus regressziót, mint egy domináns tárgyterületi modellezési eszközt és mint egy gyakorlatban elterjedt osztályozási eszközt. Az ismertetett fogalmakat egy valós orvosi és egy üzleti/telekommunikációs probléma során szerzett tapasztalatokkal is bemutatjuk.
Learning outcomes
Ez a tantárgy a KKK rendeletben meghatározott, következő kompetenciák fejlesztését szolgálja:
Knowledge
No learning outcomes recorded.
Skills
No learning outcomes recorded.
Attitudes
No learning outcomes recorded.
Autonomy and responsibility
No learning outcomes recorded.
Oktatási módszertan
:
Előadás
Tanulástámogató anyagok
Not provided.
Recommended preliminary knowledge for completing the subject
Knowledge type competencies
(azon előzetes ismeretek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
Valószínűségszámítás, Algoritmusok elmélete
Skill type competencies
(azon előzetes képességek és készségek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
nincs
Recommended (non-compulsory) preliminary competencies
(azon ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák összessége, amelyek jelentősen hozzájárulnak a tantárgy eredményes teljesítéséhez)
Valószínűségszámítás, Algoritmusok elmélete
General rules
Követelmények:
a. A szorgalmi időszakban: Házi feladat, egy modell szimuláció elvégzése a BUGS rendszerben vagy egy tanszéki szimulációs rendszerben. A feladat átvétele 8. hét végéig lehetséges, leadása vagy bemutatása a 13.hét végéig kötelező. A félévi aláírás és a vizsgára bocsátás feltétele a házi feladat helyes megoldása.
b. A vizsgaidőszakban: Írásbeli és szóbeli vizsga.
Pontozás: a pontszám 1/3 része házi feladatból és 2/3 része az írásbeliből áll össze.
Elővizsga: Igény szerint.
Pótlási lehetőségek:
A házi feladatot a vizsgaidőszak első három hetében lehet pótolni.
Assessment methods
In-term assessments
No detailed assessments provided.
Weight of in-term assessments
No weights provided.
Exam-period assessments
No detailed assessments provided.
Weight of exam elements
No weights provided.
Grade calculation
No grade thresholds provided.
Attendance requirements
No attendance requirements provided.
Rules for retake and resubmission
Not provided.
Short description
Not provided.
Detailed description
Not provided.
Recommended courses
Not provided.
Workload to complete the subject
No workload breakdown provided.
Validity of subject requirements
Requirements valid from:
—
Requirements valid until:
—
Curriculum placement
No curriculum placements recorded for this subject version.