A gépi tanulás biztonsága

Security of Machine Learning

A tantárgyleírás hatályossága

Hatályosság kezdete:

2026. March 21.

Hatályosság vége:

—

Tantárgy neve (magyarul, angolul)

A gépi tanulás biztonsága

Security of Machine Learning

Tantárgykód

BMEVIHIMB09

Tantárgyjelleg

—

Képzési szint

—

Kurzustípusok és óraszámok (heti/féléves)

Kurzustípus	elmélet	gyakorlat	laboratóriumi gyakorlat
óraszám (heti)	2	1	0
jelleg (kapcsolt/önálló)	—	kapcsolt	—

Tanulmányi teljesítmény/értékelés típusa

vizsga

Tantárgy kreditértéke

Tantárgyfelelős

DR. Ács Gergely

beosztás: egyetemi docens

elérhetőség: acs.gergely@vik.bme.hu

Tantárgyat gondozó oktatási szervezeti egység

Hálózati Rendszerek és Szolgáltatások Tanszék

Kar

Villamosmérnöki és Informatikai Kar

Tantárgy weboldala

https://www.crysys.hu/education/

Tantárgy elsődleges mintatantervi jellege

—

Közvetlen előkövetelmények – Erős előkövetelmény

nincs

Közvetlen előkövetelmények – Gyenge előkövetelmény

nincs

Közvetlen előkövetelmények – Párhuzamos előkövetelmény

nincs

Közvetlen előkövetelmények – Mérföldkő előkövetelmény

nincs

Közvetlen előkövetelmények – Kizáró feltétel

nincs

Célkitűzés

Tantárgyprogram

Az előadások részletes tematikája

    A gépi tanulás biztonságának áttekintése: bizalmasság, integritás, rendelkezésre- állás (CIA). Motivációs példák, jogi háttér, kockázat alapú megközelítés

    Döntések manipulációja 1: Támadó modellek, white-box támadások (FGSM, CW, Saliency maps), fizikai támadások

    Döntések manipulációja 2: Black box támadások, támadó minták transzferálhatósága

    Döntések manipulációja 3: Védekezések (támadói tanítás, bizonyítható robusztusság, deep k-NN)

    Tanító adat nem célzott mérgezése (poisoning), védekezések (label flipping, anomália detekció)

    Tanító adat célzott mérgezése (poisoning), feature collision, Witches' Brew, védekezések (minták súlyozása)

    Hátsó kapuk (backdoor) a gépi modellekben, védekezések (Neural Cleanse)

    Trójai támadások gépi modellek ellen

    Rendelkezésre állási problémák: Black- és white-box sponge konstrukciók

    Tanító adat rekonstruálása: Támadó modellek, modell invertálása

    Tagsági támadás (membership attack): Aktív és passzív támadások. gradiens alapú, score alapú, címke alapú támadások

    Tagsági támadás elleni védekezések: Tanítás differenciális adatvédelemmel (DP-SGD, PATE), regularizáció

    Modell-lopás, védekezések: modell vízjelezése, tanító adathalmaz inferenciája, modellek ujjlenyomat alapú összehasonlítása

    Modellek elmagyarázhatóságának támadhatósága, federált tanulás biztonsága (biztonságos aggregáció, bizánci problémák, KRUM)

A gyakorlatok/laborok részletes tematikája

    Támadó minták, modellek robusztusságának auditálása 1 (white-box támadások)

    Támadó minták, modellek robusztusságának auditálása 2 (black-box támadások)

    Tanítóadat nem célzott mérgezése, védekezések 2 (label flipping)

    Tanítóadat célzott mérgezése, védekezések 1 (STRIP)

    Hátsó kapuk (backdoor) generálása, védekezések (BadNets, Neural cleanse)

    Tagsági és rekonstrukciós támadások, modellek adatvédelmi auditálása, védekezések 1 (modell inverzió, gradiens alapú támadások, differenciális adatvédelem)

    Tagsági támadások, modellek adatvédelmi auditálása, védekezések 2 (score és címke alapú támadások, regularizáció mint védekezés)

A tárgy célja, hogy betekintést nyújtson a gépi tanulás és az arra épülő rendszerek biztonsági kérdéseibe, és átfogó jelleggel tárgyalja a gépi tanulási algoritmusok ellen kivitelezhető különböző támadások és védekezési megoldások elvi alapjait és gyakorlati módszereit, valamint a gyakorlatokon és házi feladatokon keresztül betekintést nyújtson a gépi modellek adatvédelmi auditálásának kérdéseibe.

Tanulmányi eredmények

Ez a tantárgy a KKK rendeletben meghatározott, következő kompetenciák fejlesztését szolgálja:

Tudás

Nincsenek rögzített tanulási eredmények.

Képességek

Nincsenek rögzített tanulási eredmények.

Attitűd

Nincsenek rögzített tanulási eredmények.

Autonómia és felelősség

Nincsenek rögzített tanulási eredmények.

Oktatási módszertan

Előadás Tantermi gyakorlat Önálló munka (házi feladat megoldása)

Tanulástámogató anyagok

Online források

Előadásokhoz rendelt online olvasnivalók (könyvfejezetek, cikkek, blogsorozatok)

A tantárgy teljesítéséhez ajánlott előzetes ismeretek

Tudás típusú kompetenciák

(azon előzetes ismeretek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)

Mesterséges intelligencia, Analízis

Képesség típusú kompetenciák

(azon előzetes képességek és készségek összessége, amelyek megléte nem kötelező, de a tantárgy eredményes teljesítését nagyban elősegíti)

nincs

Ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák

(azon ajánlott (nem kötelező) előzetesen megszerzendő kompetenciák összessége, amelyek jelentősen hozzájárulnak a tantárgy eredményes teljesítéséhez)

Mesterséges intelligencia, Analízis

Általános szabályok

Követelmények: Szorgalmi időszakban: 1 db ZH 2 db házi feladat Az aláírás megszerzésének feltétele a ZH és mindkét házi feladat (egyenként is) sikeres teljesítése. Mind a ZH, mind a házi feladatok esetében, a sikeres teljesítéshez a maximálisan elérhető pontszám minimum 40%-át kell elérni. A ZH eredménye nem számít bele a félévvégi jegybe. A házi feladatokból maximálisan 2x25 pont szerezhető, a teljesítésükhöz tehát minimum 2x10 pontot kell szerezni. A megszerzett pontok beszámítanak a félévvégi jegybe. Vizsgaidőszakban: Írásbeli vizsga A vizsga sikeres teljesítéséhez a maximálisan elérhető pontszám minimum 40%-át kell elérni. A vizsgán maximálisan 50 pont szerezhető, a sikeres vizsgához tehát minimum 20 pontot kell elérni. A tárgyból szerzett pontszám: P = V + HF1 + HF2, ahol V a vizsgán szerzett pontszám, HF1 és HF2 pedig a házi feladatokból szerzett pontszám. A félévvégi jegy számítása: jeles (5) – ha P >= 85 pont jó (4) – ha P >= 70 pont közepes (3) – ha P >= 55 pont elégséges (2) – ha P >= 40 pont elégtelen (1) – ha P < 40 pont Pótlási lehetőségek: A sikertelen vagy mulasztott ZH egyszer pótolható. A házi feladatok beadási határideje a szorgalmi időszakban van, a pontos határidők kihirdetése a félév első hetében történik. A házi feladatok pótlólagosan a kihirdetett határidők után maximum 1 héttel adhatók be, az így beadott házi feladatokra azonban 15% pontlevonás kerül alkalmazásra

Teljesítményértékelési módszerek

Szorgalmi időszakban végzett teljesítményértékelések részletes leírása

Nincs megadva részletes értékelés.

Szorgalmi időszakban végzett teljesítményértékelések részaránya

Nincs megadva részarány.

Vizsgaidőszakban végzett teljesítményértékelések részletes leírása

Nincs megadva részletes értékelés.

Vizsgarészek részaránya

Nincs megadva részarány.

Érdemjegy megállapítása

Nincs megadva érdemjegy határ.

Jelenléti és részvételi követelmények

Nincs megadva jelenléti követelmény.

Javítás, ismétlés és pótlás különös szabályai

Nincs megadva.

Rövid leírás

Nincs megadva.

Részletes leírás

Nincs megadva.

Ajánlott tantárgyak

Mesterséges intelligencia, Analízis 1-2

A tantárgy elvégzéséhez szükséges tanulmányi munka

Nincs megadva munkaidő bontás.

Tantárgykövetelmények hatályossága

Tantárgykövetelmények hatályosságának kezdete:

—

Tantárgykövetelmények hatályosságának vége:

—

Tantervi elhelyezés

Nincsenek rögzített tantervi elhelyezések ehhez a tárgyverzióhoz.