Tantárgy » BMEVIMIAV02
'Big Data' elemzési módszerek
Big Data Analysis Techniques
A tantárgyleírás hatályossága
Hatályosság kezdete:
—
Hatályosság vége:
—
| Tantárgy neve (magyarul, angolul) |
'Big Data' elemzési módszerek
Big Data Analysis Techniques
|
||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Tantárgykód | BMEVIMIAV02 | ||||||||||||
| Tantárgyjelleg | — | ||||||||||||
| Képzési szint | — | ||||||||||||
| Kurzustípusok és óraszámok (heti/féléves) |
|
||||||||||||
| Tanulmányi teljesítmény/értékelés típusa | félévközi érdemjegy | ||||||||||||
| Tantárgy kreditértéke | 2 | ||||||||||||
| Tantárgyfelelős |
DR. Kocsis Imre
beosztás: egyetemi docens
elérhetőség:
kocsis.imre@vik.bme.hu
|
||||||||||||
| Tantárgyat gondozó oktatási szervezeti egység |
—
|
||||||||||||
| Kar | |||||||||||||
| Tantárgy weboldala | https://www.mit.bme.hu/oktatas/targyak/vimiav02 | ||||||||||||
| Tantárgy elsődleges mintatantervi jellege | — | ||||||||||||
| Közvetlen előkövetelmények – Erős előkövetelmény | nincs | ||||||||||||
| Közvetlen előkövetelmények – Gyenge előkövetelmény | nincs | ||||||||||||
| Közvetlen előkövetelmények – Párhuzamos előkövetelmény | nincs | ||||||||||||
| Közvetlen előkövetelmények – Mérföldkő előkövetelmény | nincs | ||||||||||||
| Közvetlen előkövetelmények – Kizáró feltétel | nincs |
Célkitűzés
Tantárgyprogram
- 1. hét Bevezetés. A Big Data probléma áttekintése és megfogalmazása különböző alkalmazási területekről származó gyakorlati példákon keresztül. A Big Data analízis céljai. A kiértékelés és értelmezés problémája. Adatintegrálás, tudásfúzió. Adatmodellezés és informatikai alkalmazásmodellek kapcsolata.
- 2. hét. Adatgyűjtés és -kiértékelés alapjai.
Kísérlettervezés. A statisztikai adatok sokfélesége. Információfúzió. Megfigyelt
változók és kapcsolataik jellemzése: alapvető statisztikai fogalmak.
- 3. hét Adatfeldolgozó és statisztikai keretrendszerek; az R környezet és adaptálása a Big Data problémára. Példa: számítógépes loganalízis.
- 4. hét Adatok vizualizációja. Sokdimenziós,
bonyolult szerkezetű adatok megjelenítése és vizuális feltáró analízise. Vizuális
analízis paradigmák, diagramtípusok és felhasználásuk.
- 5. hét Statikus és interaktív R vizualizációs csomagok; Mondrian. A felhasználói vizualizáció eszközei (processing.js alapok). Példák: cloud teljesítményanalízis, számítógépes csalásfelderítés.
- 6. hét Klasszikus adatelemzés alapú modellalkotás.
Korrelációanalízis, klaszterező és klasszifikációs módszerek, adatkapcsolatok. Dimenzióredukció
és alkalmazása az informatikában.
- 7. hét Lineáris és nemlineáris modellek. Hiányos adatok kezelése. Példa: számítógéprendszer monitorozandó jellemzőinek kiválasztása. Analízis minták, az adatelemzési munkafolyamat-automatizálás eszközei (KNIME, KEPLER).
- 8. hét Big Data’ statisztikai modellezés. Mintavételezés,
szűrés, nagy adattömegre adaptált statisztikai modellezés és eszközei (pl.
korrelációk, klaszterező módszerek, neurális hálók, kernel módszerek).
- 9. hét Modelladaptáció. Modellek alkalmazása futási időben. Példa: szenzorkiválasztás monitorozó rendszerben.
- 10. hét Párhuzamosított feldolgozás eszközei. Finom
és durva granularitású párhuzamosítás; adattárolás és –feldolgozás algoritmikus
harmonizálása. Többmagos, FPGA, GPU, Grid, MapReduce/Hadoop és kapcsolódó
eszközök bemutatása.
- 11. hét Az eszközök beágyazása statisztikai keretrendszerekbe, Revolution, Oracle és IBM R megoldások. Példa: egy benchmark probléma összehasonlítása a különböző platformokon.
- 12. hét Modellek hordozása az adatelemzési és informatikai modelltartományok között (PMML). A kinyert modellek ellenőrzése és általánosítása. Validálás, verifikálás. Érzékenységanalízis, metakategorizálási szabályok kinyerése. Példa: szoftver és webes alkalmazás teljesítményanalízise.
- 13. hét Alkalmazások. Esettanulmányok.
Az utóbbi évtizedekben exponenciálisan növekvő
mennyiségű mérési, megfigyelési adatot rögzítenek az élet minden területén (gazdasági
folyamatok, társadalmi viszonyok, tudományos célú vizsgálatok stb.). Az adatelemzés célja a gyakran
mintegy melléktermékként létrejövő adatokban rejlő tudás kinyerése, az adatkapcsolatok
felderítése, előrejelzési modellek generálása, stb.
A nagymennyiségű adat elemzésénél, az ún. Big Data problémakörben az adatok óriási
mennyisége (tera-, peta-, ill. hexabyte méretű adatbázisok) mellett nehézség a
legkülönfélébb formában rendelkezésre álló adatok fúziója és homogenizálása is.
Az egyre nagyobb feldolgozási kapacitású számítási eszközök mellett célalgoritmusok és -architektúrák
biztosítják az óriási adatmennyiség elérhető árú és idő alatti hatékony elemzését.
Az új lehetőségek olyan új kérdéseket vetnek fel,
mint a megfelelő adatok megszerzését biztosító kísérlettervezés, a mérés
megtervezése, valamint a megszerzett adat elemzése. A Big Data körében kritikus
szempont az adatelemzési módszerek megfelelő skálázhatósága, a számítási komplexitás
növekedésének kézbentartása, továbbá a sokdimenziós adatok hatékony ábrázolása,
vizualizációja.
A tárgy célja, a Big Data problémakör megoldását
biztosító eszközök és módszerek áttekintése, a nagy adatmennyiségből adódó
speciális problémák kezelése. A tárgyaláshoz több szempontból előnyös, közös
nevező a komplex modellek használata, valamint az adatok hatékony ábrázolása,
vizualizációja, ide értve a vizuális adatelemzés lehetőségeinek áttekintését
is.
A tantárgy követelményeit eredményesen teljesítő
hallgatók:
1. Ismerik az elemzésre szolgáló alkalmas legfontosabb
dedikált hardver/szoftver eszközöket, valamint a kinyert tudás integrációját a
tipikus informatikai kulcsterületeken. Ezen belül jártasak az elterjedten
használt, nyílt forráskódú R nyelvű eszközök és azok Big Data irányú
kiterjesztéseinek használatában.
2.
Képesek az informatika széles területén az ismeretszerzési
folyamatok tervezésére, végrehajtására és eredményük szabatos
reprezentációjára. Ismerik a kísérlettervezés, adatminőség-biztosítás, adattisztítás,
adatelemzés, értelmezés, döntéstámogatás és modellalkotás fázisait.
3. Ismerik a klasszikus statisztikai
döntéselméleti alapokat, különös tekintettel az optimalizálási és minta-
vételi
technikákra. Megismernek néhány, a’Big Data’ informatika területén
kulcsszerepet játszó területet
(pl. ritka adat analízis).
Tanulmányi eredmények
Ez a tantárgy a KKK rendeletben meghatározott, következő kompetenciák fejlesztését szolgálja:
Tudás
Nincsenek rögzített tanulási eredmények.
Képességek
Nincsenek rögzített tanulási eredmények.
Attitűd
Nincsenek rögzített tanulási eredmények.
Autonómia és felelősség
Nincsenek rögzített tanulási eredmények.
Oktatási módszertan
előadás
Tanulástámogató anyagok
Online források
S.L. Lauritzen: Graphical Models, Clarendon Press, Oxford, 1996, ISBN; 0-19-852219-3; M I. Jordan: Learning in Graphical Models (Adaptive Computation and; Machine Learning), The MIT Press, 1998, ISBN 0-262-60032-3; M. Theus, S. Urbanek: Interactive Graphics for Data Analysis, CRC; Press, 2009, ISBN 978-1-58488-594-8.; C. Chen, W. Härdle, A. Unwin: Handbook of Data Visualization, Springer; Verlag Berlin Heidelberg, 2008, ISBN 978-3-540-33036-3; M.J. Crawley: The R Book, second edition, John Wiley & Sons, 2013,; ISBN 978-0-470-97392-9; L. Torgo: Data Mining with R, Chapman & Hall/CRC, 2011, ISBN; 978-1-4398-1018-7; D. Conway: Machine Learning for Hackers, O’Reilly Media, 2012, ISBN; 978-1-449-30371-6; A.J. Izenman: Modern Multivariate Statistical Techniques, Springer; Science+Business Media, 2008, ISBN 978-0-387-78189-1; J. He: Analysis of Rare Categories, Springer, 2012, ISBN; 978-3-642-22813-1; A. Guazzelli, W. Lin, T. Jena, J. Taylor: PMML in Action: Unleashing; the Power of Open Standards for Data Mining and Predictive Analytics,; CreateSpace, 2010, ISBN 978-1-452- 85826-5; ; Az itt megjelölt irodalom mellett a tárgy honlapján elérhetővé tett; publikáció-hivatkozások.
A tantárgy teljesítéséhez ajánlott előzetes ismeretek
Tudás típusú kompetenciák
(azon előzetes ismeretek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
valószínűségszámítás
és mesterséges intelligencia/gépi tanulás alapjai
Képesség típusú kompetenciák
(azon előzetes képességek és készségek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
nincs
Ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák
(azon ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák összessége, amelyek jelentősen hozzájárulnak a tantárgy eredményes teljesítéséhez)
valószínűségszámítás
és mesterséges intelligencia/gépi tanulás alapjai
Általános szabályok
Követelmények:
Egy kötelező házi feladat. A házi feladat egy
gyakorlati ‘Big Data' probléma megoldása az előadáson megismert módszerek és
eszközök segítségével. A házi feladat bemutatása és értékelése az utolsó
oktatási héten történik, egy közös nyilvános bemutató keretében.
Pótlási lehetőségek:
A házi feladat késedelmes teljesítésére a pótlási időszak végéig van lehetőség oly módon, hogy a hallgató a feladat megoldását beadja és a tárgy előadóival egyeztetett időpontban rövid előadás formájában (hasonlóan a nem késedelmes teljesítéshez) bemutatja. A késedelmes teljesítést - a TVSZ-szel konform módon - a késedelmesen leadott és bemutatott feladat értékelésének húsz százalékkal csökkentésével vesszük figyelembe. A nem késedelmesen leadott, de késedelmesen bemutatott feladatokra ugyanezen szabályok vonatkoznak; házi feladatot bemutatás nélkül nem fogadunk el. A pótlási időszak végéig lehetőség van a leadott, bemutatott és elfogadott házi feladatok - a tárgy oktatóival egyeztetett - kiegészítésére és javítására is.
Teljesítményértékelési módszerek
Szorgalmi időszakban végzett teljesítményértékelések részletes leírása
Nincs megadva részletes értékelés.
Szorgalmi időszakban végzett teljesítményértékelések részaránya
Nincs megadva részarány.
Vizsgaidőszakban végzett teljesítményértékelések részletes leírása
Nincs megadva részletes értékelés.
Vizsgarészek részaránya
Nincs megadva részarány.
Érdemjegy megállapítása
Nincs megadva érdemjegy határ.
Jelenléti és részvételi követelmények
Nincs megadva jelenléti követelmény.
Javítás, ismétlés és pótlás különös szabályai
Nincs megadva.
Rövid leírás
Nincs megadva.
Részletes leírás
Nincs megadva.
Ajánlott tantárgyak
A tárgy tematikája
tekintetében komplementer a ’Big Data’ elemzési
eszközök nyílt forráskódú platformokon c. tárggyal. Így javasolt a két
társtárgy együttes felvétele, vagy egymás után elvégzése (tetszőleges
sorrendben). A társtárgyak felvétele egymástól függetlenül is lehetséges
A tantárgy elvégzéséhez szükséges tanulmányi munka
Nincs megadva munkaidő bontás.
Tantárgykövetelmények hatályossága
Tantárgykövetelmények hatályosságának kezdete:
—
Tantárgykövetelmények hatályosságának vége:
—
Tantervi elhelyezés
Nincsenek rögzített tantervi elhelyezések ehhez a tárgyverzióhoz.