Doctoraat in de ingenieurswetenschappen: computerwetenschappen

Prevalentie van vijandige voorbeelden in neurale netwerken: aanvallen, verdedigingen en opportuniteiten


Doctorandus Publieke verdediging
Naam: Utku Ă–zbulak   Datum: Woensdag 12/01/2022 om 10:00 
Adres: Department of Environmental Technology, Food Technology and Molecular Biotechnology (KR01)
Songdomunhwa-Ro 119, #114 (1F), 21985 Yeonsu-Gu
  Lokatie: volledig digitaal, met livestream (uitgezonderd de deliberatie van de examencommissie (cf. COVID19-maatregelen)
Contact FEA: info.ea@ugent.be   Taal: Engels

Curriculum
Bachelor of Science in Computer Engineering - Yasar University, Turkey - 2014
Master of Science in Data Science - University of Southampton, UK - 2017

Promotor
Wesley De Neve
Arnout Van Messem

Examencommissie
prof. Filip De Turck
Wesley De Neve (EA06)
Arnout Van Messem (KR01)
Yvan Saeys, Universiteit Gent, Faculteit Wetenschappen, WE02 - Vakgroep Toegepaste Wiskunde, Informatica en Statistiek, Krijgslaan 281, S9,Technologiepark Zwijnaarde 71, 9000;9052 Gent;Zwijnaarde
E: yvan.saeys@ugent.be
Joni Dambre
Bart Goossens
Adam Prugel-Bennett
Steven Verstockt

Onderzoeksthema

Een recente trend bij het oplossen van problemen met betrekking tot het dagdagelijks leven van de mens is het gebruik van technieken voor machinaal leren, met name neurale netwerken. Hoewel neurale netwerken, door gebruik te maken van grote hoeveelheden data, het mogelijk maken om heel complexe uitdagingen aan te pakken, werd onlangs ontdekt dat ze een ernstige veiligheidsfout hebben, namelijk hun kwetsbaarheid voor vijandige voorbeelden. In dit opzicht verwijst de term vijandige voorbeelden naar invoer die met kwaadwillende bedoelingen is gemaakt, met als doel geautomatiseerde besluitvormingssystemen te misleiden. In dit doctoraal proefschrift bestuderen we het fenomeen van vijandige voorbeelden in meer detail in de context van diepe neurale netwerken, met bijzondere aandacht voor de volgende onderwerpen: (1) eigenschappen van vijandige voorbeelden, (2) vijandige aanvallen op modellen voor het segmenteren van biomedische afbeeldingen, (3) vijandige aanvallen op modellen voor het herkennen van menselijke activiteiten in radarbeelden, en (4) verdedigingen tegen vijandige voorbeelden. Meer specifiek heeft het onderzoek dat voorgesteld wordt in dit doctoraal proefschrift geleid tot de ontwikkeling van twee nieuwe vijandige aanvallen op modellen voor machinaal leren, alsook een nieuwe verdediging, en waarbij deze ontwikkelingen het mogelijk maken om een dieper inzicht te verwerven in de eigenschappen van vijandige voorbeelden.


Taal proefschrift
Engels

Documenten