Naarmate computers steeds krachtiger worden en de hoeveelheden beschikbare data toenemen, wordt het ook interessanter om geavanceerdere statistische modellen toe te passen op complexere Machine Learning toepassingen zoals bijvoorbeeld spraakherkenning, automatische vertaling en het classificeren van afbeeldingen en video. Helaas is het vaak niet meer mogelijk om veel van deze geavanceerdere statistische modellen exact te berekenen met standaard methoden uit de statistiek. Dit proefschrift beschrijft onderzoek naar verscheidene algoritmen voor het schatten van statistische modellen die niet genormaliseerd kunnen worden. Het onderzoek betreft zowel de zoektocht naar nieuwe algoritmen als het verbeteren van bestaande methoden. Uiteindelijk worden de onderzochte methoden toegepast op het invullen van ontbrekende waarden in data en het verminderen van ruis teneinde de prestaties van een spraakherkenningssysteem te verbeteren. Het onderzoek leid ook tot een aantal nieuwe modellen die mogelijk efficiënte alternatieven zijn voor meer gangbare architecturen.