Optimalisatie van planningen in productieprocessen en diensverlening met behulp van machine learning technieken

Student:Ewoud Allart
Richting:Master of Science in de industriële wetenschappen: informatica
Abstract:Deze masterproef richt zich op het optimaliseren van planningsproblemen in productieprocessen met behulp van geavanceerde technieken uit de kunstmatige intelligentie, specifiek deep reinforcement learning (DRL). Het onderzoek behandelt zowel het standaard Job Shop Scheduling Probleem (JSSP) als een uitgebreide versie, waarbij additionele factoren zoals energiekosten, personeelskosten en deadlines worden meegenomen. Dit zorgt voor een realistische modellering van complexe productie- en serviceleveringsprocessen. Verschillende oplossingsmethoden worden onderzocht, waaronder exacte oplossingsmethoden zoals Mixed Integer Programming (MIP) en benaderende oplossingsmethoden zoals evolutionaire algoritmen, deep Q-learning (DQL) en proximal policy optimization (PPO). Deze benaderende oplossingsmethoden bieden oplossingen die beter schaalbaar zijn voor grotere en complexere problemen. Door het gebruik van het Schlably framework, dat een gestandaardiseerde omgeving biedt voor het trainen en testen van DRL-algoritmen voor het standaard JSSP, wordt de effectiviteit van verschillende methoden vergeleken. Een belangrijk aspect van dit onderzoek is de integratie van een voorspellingsmodel voor elektriciteitsprijzen, waarmee energie-intensieve taken op kostenbesparende tijdstippen kunnen worden gepland. Dit model maakt gebruik van historische prijsgegevens en weerdata om betrouwbare prijsvoorspellingen te genereren, wat bijdraagt aan een efficiënter gebruik van elektriciteit en een vermindering van de ecologische voetafdruk van industriële activiteiten. Daarnaast werd een aangepaste OpenAI Gym environment ontwikkeld, specifiek gericht op het trainen van DRL-algoritmen voor deze uitgebreide versie van het JSSP. Deze omgeving simuleert de uitdagingen van productieprocessen en biedt een platform voor het testen van verschillende algoritmen onder realistische omstandigheden. Gebruikmakend van deze aangepaste OpenAI Gym environment wordt een DQL-model getraind om planningen op te stellen voor de uitgebreide versie van het JSSP. De resultaten tonen aan dat door het combineren van verschillende optimalisatietechnieken met DRL, productieplanningen significant kunnen worden verbeterd. Dit onderzoek draagt bij aan de ontwikkeling van duurzame industriële praktijken door innovatieve oplossingen te bieden voor complexe planningsproblemen, wat uiteindelijk leidt tot meer efficiënte en verantwoorde productieprocessen.
Abstract (Eng):This master's thesis focuses on optimizing scheduling problems in production processes using advanced techniques from artificial intelligence, specifically deep reinforcement learning (DRL). The research addresses both the standard Job Shop Scheduling Problem (JSSP) and an extended version, which includes additional factors such as energy costs, personnel costs, and deadlines. This provides a realistic modeling of complex production and service delivery processes. Various solution methods are explored, including exact methods like Mixed Integer Programming (MIP) and approximate methods such as evolutionary algorithms, deep Q-learning (DQL), and proximal policy optimization (PPO). These approximate methods offer solutions that are more scalable for larger and more complex problems. By using the existing Schlably framework, which provides a standardized environment for training and testing DRL algorithms for the standard JSSP, the effectiveness of different methods is compared. An important aspect of this research is the integration of a predictive model for electricity prices, allowing energy-intensive tasks to be scheduled at cost-saving times. This model uses historical price data and weather information to generate reliable price forecasts, contributing to more efficient use of electricity and a reduction in the ecological footprint of industrial activities. Additionally, a customized OpenAI Gym environment was developed, aimed at training DRL algorithms for the extended JSSP. This environment simulates the challenges of production processes and provides a platform for testing various algorithms under realistic conditions. Using this customized OpenAI Gym environment, a DQL model is trained to generate schedules for the extended JSSP. The results show that by combining different optimization techniques with DRL, production schedules can be significantly improved. This research contributes to the development of sustainable industrial practices by offering innovative solutions to complex scheduling problems, ultimately leading to more efficient and responsible production processes.