K-INFO
HU
EN
Belépés

Információelmélet

Information Theory
A tantárgyleírás hatályossága
Hatályosság kezdete:
2026. March 21.
Hatályosság vége:
Tantárgy neve (magyarul, angolul)
Információelmélet
Information Theory
Tantárgykód BMEVISZMA03
Tantárgyjelleg
Képzési szint
Kurzustípusok és óraszámok (heti/féléves)
Kurzustípus elmélet gyakorlat laboratóriumi gyakorlat
óraszám (heti) 3 0 0
jelleg (kapcsolt/önálló)
Tanulmányi teljesítmény/értékelés típusa félévközi érdemjegy
Tantárgy kreditértéke 4
Tantárgyfelelős
DR. Pintér Márta Barbara
beosztás: egyetemi docens
Tantárgyat gondozó oktatási szervezeti egység
Számítástudományi és Információelméleti Tanszék
Kar Villamosmérnöki és Informatikai Kar
Tantárgy weboldala cs.bme.hu/infelm
Tantárgy elsődleges mintatantervi jellege
Közvetlen előkövetelmények – Erős előkövetelmény nincs
Közvetlen előkövetelmények – Gyenge előkövetelmény nincs
Közvetlen előkövetelmények – Párhuzamos előkövetelmény nincs
Közvetlen előkövetelmények – Mérföldkő előkövetelmény nincs
Közvetlen előkövetelmények – Kizáró feltétel nincs

Célkitűzés

Tantárgyprogram
  1. Üzenet változó szóhosszúságú kódolása

Egyértelmű dekódolhatóság, prefix kód

  1. Jensen-egyenlőtlenség

McMillan-egyenlőtlenség

  1. Kraft-egyenlőtlenség

Entrópia és tulajdonságai

  1. Shannon-Fano-kód

Huffman-kód

  1. Lempel-Ziv algoritmusok

Forrásentrópia

  1. Feltételes entrópia és tulajdonságai

Stacionárius forrás változó szóhosszúságú kódolása

  1. Markov-forrás

Kölcsönös információ és tulajdonságai

  1. Egyenletes kvantáló négyzetes hibája

Egyenletes kvantáló entrópiája

  1. Lloyd--Max-algoritmus

Kompanderes kvantálás

  1. Vektorkvantálás

Lineáris szűrés

Prediktív kvantálás

  1. Lineáris becslés

Transzformációs kódolás

Bayes-döntés

  1. Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén

Emlékezetnélküli csatorna

  1. Csatornakapacitás

Fano-egyenlőtlenség

  1. Csatornakódolási tétel megfordítása

Csatornakódolási tétel

A tantárgy az információ továbbítása és tárolása során az információ tömörítésének és védelmének gazdaságos és biztonságos kódolási algoritmusaival foglalkozik. Bemutatja az információforrások veszteségmentes adattömörítésének elvi határait és az optimális adattömörítési eljárásokat mind ismert, mind ismeretlen forráseloszlás esetén. Tárgyalja az alapvető veszteséges forráskódolási elveket. Bemutatja a csatornakódolás alapjait, továbbá a többszörös hozzáférésű csatornák fő típusait. Megalapozza a Karon folyó doktori kutatásokat mobil távközlés témában. A tárgy a Kódolástechnika tárgyra épít.   A tantárgy követelményeit eredményesen teljesítő hallgatóktól elvárható, hogy:   (1) ismerjék a változó szóhosszúságú adattömörítés elvi határait és alapvető kódjait,   (2) képesek legyenek gyakorlatban előforduló tömörítési feladatok megoldására úgy, hogy a megoldás mind a tömörítési arány, mind a kódoló, dekódoló számítási bonyolultsága szempontjából megfelelő legyen,   (3) ismerjék a veszteséges forráskódolás leggyakrabban használt technikáit,   (4) képesek legyenek egy zajos csatornán történő adatátviteli problémában megválasztani a számítási bonyolultság szempontjából megfelelő modulációs és hibajavító technikát,   (5) ismerjék a mobil távközlésben használt többszörös hozzáférési kódosztásos technikákat.

Tanulmányi eredmények

Ez a tantárgy a KKK rendeletben meghatározott, következő kompetenciák fejlesztését szolgálja:

Tudás

Nincsenek rögzített tanulási eredmények.

Képességek

Nincsenek rögzített tanulási eredmények.

Attitűd

Nincsenek rögzített tanulási eredmények.

Autonómia és felelősség

Nincsenek rögzített tanulási eredmények.

Oktatási módszertan

Heti 3 óra előadás.

Tanulástámogató anyagok

Online források
Györfi László,; Győri Sándor, Vajda István: Információelmélet és kódelmélet, Typotex, 2000

A tantárgy teljesítéséhez ajánlott előzetes ismeretek

Tudás típusú kompetenciák
(azon előzetes ismeretek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
Valószínűségszámítás
Képesség típusú kompetenciák
(azon előzetes képességek és készségek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)
nincs
Ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák
(azon ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák összessége, amelyek jelentősen hozzájárulnak a tantárgy eredményes teljesítéséhez)
Valószínűségszámítás
Általános szabályok
Követelmények: A félév során 2 zárthelyit iratunk. A félév teljesítésének feltétele: mindkét zárthelyin legalább 40 %-os teljesítmény. A végső jegy (teljesítés esetén) a  zárthelyik átlagából adódik. A vizsgaidőszakban: -- Elővizsga: Pótlási lehetőségek: A szorgalmi időszak során minden zárthelyi dolgozathoz lesz pótlási (javítási) lehetőség. A pótlási héten egyetlen alkalom lesz amikor egy tetszőleges zh dolgozat pótolható.
Teljesítményértékelési módszerek
Szorgalmi időszakban végzett teljesítményértékelések részletes leírása

Nincs megadva részletes értékelés.

Szorgalmi időszakban végzett teljesítményértékelések részaránya

Nincs megadva részarány.

Vizsgaidőszakban végzett teljesítményértékelések részletes leírása

Nincs megadva részletes értékelés.

Vizsgarészek részaránya

Nincs megadva részarány.

Érdemjegy megállapítása

Nincs megadva érdemjegy határ.

Jelenléti és részvételi követelmények

Nincs megadva jelenléti követelmény.

Javítás, ismétlés és pótlás különös szabályai

Nincs megadva.

Rövid leírás

Nincs megadva.

Részletes leírás

Nincs megadva.

Ajánlott tantárgyak
Ajánlott: Valószínűségszámítás
A tantárgy elvégzéséhez szükséges tanulmányi munka

Nincs megadva munkaidő bontás.

Tantárgykövetelmények hatályossága
Tantárgykövetelmények hatályosságának kezdete:
Tantárgykövetelmények hatályosságának vége:
Tantervi elhelyezés

Nincsenek rögzített tantervi elhelyezések ehhez a tárgyverzióhoz.