K-INFO
HU
EN
Belépés

Információelmélet

Information Theory 
A tantárgyleírás hatályossága
Hatályosság kezdete:
2026. March 21.
Hatályosság vége:
Tantárgy neve (magyarul, angolul)
Információelmélet
Information Theory 
Tantárgykód BMEVISZMA13
Tantárgyjelleg
Képzési szint
Kurzustípusok és óraszámok (heti/féléves)
Kurzustípus elmélet gyakorlat laboratóriumi gyakorlat
óraszám (heti) 3 0 0
jelleg (kapcsolt/önálló)
Tanulmányi teljesítmény/értékelés típusa félévközi érdemjegy
Tantárgy kreditértéke 5
Tantárgyfelelős
DR. Pintér Márta Barbara
beosztás: egyetemi docens
Tantárgyat gondozó oktatási szervezeti egység
Számítástudományi és Információelméleti Tanszék
Kar Villamosmérnöki és Informatikai Kar
Tantárgy weboldala http://www.cs.bme.hu/infelm
Tantárgy elsődleges mintatantervi jellege
Közvetlen előkövetelmények – Erős előkövetelmény nincs
Közvetlen előkövetelmények – Gyenge előkövetelmény nincs
Közvetlen előkövetelmények – Párhuzamos előkövetelmény nincs
Közvetlen előkövetelmények – Mérföldkő előkövetelmény nincs
Közvetlen előkövetelmények – Kizáró feltétel nincs

Célkitűzés

Tantárgyprogram
    1. Üzenet változó szóhosszúságú kódolása, egyértelmű dekódolhatóság, prefix kód  
    2. Jensen-egyenlőtlenség, McMillan-egyenlőtlenség  
    3. Kraft-egyenlőtlenség, entrópia és tulajdonságai  
    4. Shannon-Fano-kód, Huffman-kód  
    5. Lempel-Ziv algoritmusok, forrásentrópia  
    6. Feltételes entrópia és tulajdonságai, stacionárius forrás változó szóhosszúságú kódolása  
    7. Markov-forrás, kölcsönös információ és tulajdonságai  
    8. Egyenletes kvantáló négyzetes hibája, egyenletes kvantáló entrópiája  
    9. Lloyd--Max-algoritmus, kompanderes kvantálás  
    10. Vektorkvantálás, lineáris szűrés, prediktív kvantálás  
    11. Lineáris becslés, transzformációs kódolás, Bayes-döntés  
    12. Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén, emlékezetnélküli csatorna  
    13. Csatornakapacitás, Fano-egyenlőtlenség  
    14. Csatornakódolási tétel megfordítása, csatornakódolási tétel 













A tantárgy az információ továbbítása és tárolása során az információ tömörítésének és védelmének gazdaságos és biztonságos kódolási algoritmusaival foglalkozik. Bemutatja az információforrások veszteségmentes adattömörítésének elvi határait és az optimális adattömörítési eljárásokat mind ismert, mind ismeretlen forráseloszlás esetén. Tárgyalja az alapvető veszteséges forráskódolási elveket. Bemutatja a csatornakódolás alapjait, továbbá a többszörös hozzáférésű csatornák fő típusait. A tantárgy követelményeit eredményesen teljesítő hallgatóktól elvárható, hogy:   (1) ismerjék a változó szóhosszúságú adattömörítés elvi határait és alapvető kódjait,   (2) képesek legyenek gyakorlatban előforduló tömörítési feladatok megoldására úgy, hogy a megoldás mind a tömörítési arány, mind a kódoló, dekódoló számítási bonyolultsága szempontjából megfelelő legyen,   (3) ismerjék a veszteséges forráskódolás leggyakrabban használt technikáit,   (4) képesek legyenek egy zajos csatornán történő adatátviteli problémában megválasztani a számítási bonyolultság szempontjából megfelelő modulációs és hibajavító technikát.

Tanulmányi eredmények

Ez a tantárgy a KKK rendeletben meghatározott, következő kompetenciák fejlesztését szolgálja:

Tudás

Nincsenek rögzített tanulási eredmények.

Képességek

Nincsenek rögzített tanulási eredmények.

Attitűd

Nincsenek rögzített tanulási eredmények.

Autonómia és felelősség

Nincsenek rögzített tanulási eredmények.

Oktatási módszertan

Heti 3 óra előadás. Az előadásokon új elmélet kerül bemutatásra, az elméleti ismeretre példákat és alkalmazásokat is mutatunk. Bizonyos részleteket, alkalmazásokat, bizonyításokat a kiadott jegyzetből önállóan kell elsajátítani.

Tanulástámogató anyagok

Online források
Ottucsák György: Információelmélet, elektronikus jegyzet, teams-en megosztva ; Györfi László, Győri Sándor, Vajda István: Információelmélet és kódelmélet, Typotex, 2000

A tantárgy teljesítéséhez ajánlott előzetes ismeretek

Tudás típusú kompetenciák
(azon előzetes ismeretek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
Valószínűségszámítás
Képesség típusú kompetenciák
(azon előzetes képességek és készségek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
nincs
Ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák
(azon ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák összessége, amelyek jelentősen hozzájárulnak a tantárgy eredményes teljesítéséhez)
Valószínűségszámítás
Általános szabályok
Követelmények: A félév során 2 zárthelyit iratunk. A félév teljesítésének feltétele: mindkét zárthelyin legalább 40 %-os teljesítmény. A végső jegy (teljesítés esetén) a  zárthelyik átlagából adódik.  Értékelés:   50%-tól elégséges(2), 60%-tól közepes(3), 70%-tól jó(4), 80%-tól jeles(5). Pótlási lehetőségek: A szorgalmi időszak során minden zárthelyi dolgozathoz tartozik egy pótzárthelyi alkalom. Mindegyik alkalmat lehet használni az elmulasztott zárthelyi teljesítésére vagy a már megírt, de sikertelen dolgozat eredményének a javítására (pótlás) vagy a sikeresen megírt dolgozat eredményének javítására is (javítás). Ha valaki egy korábban már megírt dolgozatot ír újra valamelyik pótzárthelyin, akkor az új pontszáma lesz érvényes - akkor is, ha az rosszabb, mint a korábbi. Ha valaki egy pótlási (vagy javítási) alkalmon megjelenik (és a feladatsort átveszi), azt úgy tekintjük, hogy az illető kísérletet tett a dolgozat megírására (és így rá a fenti feltételek vonatkoznak). Ha valaki sikeres zárthelyit próbál javítani, de 40%-nál kevesebbet ér el a javítón, akkor az eredeti zárthelyin elért pontszámából csak a 40% feletti pontokat veszíti el (azaz 40%-ot visz tovább).
Teljesítményértékelési módszerek
Szorgalmi időszakban végzett teljesítményértékelések részletes leírása

Nincs megadva részletes értékelés.

Szorgalmi időszakban végzett teljesítményértékelések részaránya

Nincs megadva részarány.

Vizsgaidőszakban végzett teljesítményértékelések részletes leírása

Nincs megadva részletes értékelés.

Vizsgarészek részaránya

Nincs megadva részarány.

Érdemjegy megállapítása

Nincs megadva érdemjegy határ.

Jelenléti és részvételi követelmények

Nincs megadva jelenléti követelmény.

Javítás, ismétlés és pótlás különös szabályai

Nincs megadva.

Rövid leírás

Nincs megadva.

Részletes leírás

Nincs megadva.

Ajánlott tantárgyak

Nincs megadva.

A tantárgy elvégzéséhez szükséges tanulmányi munka

Nincs megadva munkaidő bontás.

Tantárgykövetelmények hatályossága
Tantárgykövetelmények hatályosságának kezdete:
Tantárgykövetelmények hatályosságának vége:
Tantervi elhelyezés

Nincsenek rögzített tantervi elhelyezések ehhez a tárgyverzióhoz.