Security in Machine Learning

1. hét: Bevezetés és motiváció

A félév során bemutatott gépi tanulási modellek bemutatása, matematikai hátterük áttekintése I:
Tanulás alapjai, generalizáció, overfitting, lineáris modellek, döntési fák, random forest, ensemble tanulás, k-NN

 2. hét:

A félév során bemutatott gépi tanulási modellek bemutatása, matematikai hátterük áttekintése II: Neurális hálók, tanuló algoritmusok (gradiens süllyedés), regularizáció

3. hét:

A gépi tanulási modellek támadhatósági problémájának részletes bemutatása, FGSM (Fast Gradient Sign Method), illusztratív esettanulmányok

 4. hét:

Támadó minták a való világban. Önvezető autók megtévesztése, személy- és arcfelismerő alkalmazások kikerülése. Iteratív modellek. Deep fool.

 5.hét:

Támadó minták transzferabilitása különböző modellek és tanító adathalmazok között. Kereszt-tanításos támadás. Együttes (ensemble) modellek használata.

 6.hét:

Fekete doboz (black box) támadások. Modell-lopás, modell-visszafejtés.

 7.hét:

A támadó minták létezésének vizsgálata. Túlzott linearitás, túltanulás és döntési határvonalak (Linearity Hypothesis and Curvature of Decision Boundaries).

 8.hét:

Az „egypixeles" támadás bemutatása. Input megváltoztatásának minimalizálása.

 9.hét:

Védekezési technikák bemutatása I. - Adversarial training, distillation, error correcting codes, droput, input reconstruction

 10.hét:

Védekezési technikák bemutatása II. - Virtual adversarial training, generative pretraining, perturbation

 11.hét:

Certified robustness. Differenciális adatvédelem és a támadó minták kapcsolata.

 12.hét:

Értelmezhetőség (interpretability), leírhatóság (explainability) és vizuálizáció nehézségei, valamint ezek fontossága a támadások elkerülése céljából.

 13.hét:

A támadó minták, mint nem robusztus attribútumok. Robosztus és nem robusztus attribútumok szétválasztása. Generalizációs korlátok, „no free lunch theorem".

 14.hét:

Támadó minták az emberi agyban. Ember és gép képességeinek összehasonlítása jóindulatú és rosszindulatú minták esetén. Természetes támadó minták generálása.