FACULTES UNIVERSITAIRES NOTRE-DAME DE LA PAIX NAMUR FACULTE DES SCIENCES DEPARTEMENT DE MATHEMATIQUE A global optimization method for mixed integer nonlinear nonconvex problems related to power systems analysis Dissertation présentée par Emilie Wanufelle pour l’obtention du grade de Docteur en Sciences Composition du Jury: Sven LEYFFER Christian MERCKX Annick SARTENAER (Promoteur) Jean-Jacques STRODIOT Philippe TOINT (Copromoteur) 2007 c Presses universitaires de Namur & Emilie Wanufelle Rempart de la Vierge, 13 B-5000 Namur (Belgique) Toute reproduction d’un extrait quelconque de ce livre, hors des limites restrictives prévues par la loi, par quelque procédé que ce soit, et notamment par photocopie ou scanner, est strictement interdite pour tous pays. Imprimé en Belgique ISBN : 978-2-87037-576-1 Dépôt légal: D / 2007 / 1881 / 36 Facultés Universitaires Notre-Dame de la Paix Faculté des Sciences rue de Bruxelles, 61, B-5000 Namur, Belgium d a Une méthode d’optimisation globale pour problèmes non linéaires et non convexes avec variables mixtes (entières et continues) issus de l’analyse des réseaux électriques par Emilie Wanufelle Résumé: Ce travail a pour objet la conception et l’implémentation d’une méthode d’optimisa- tion globale pour la résolution de problèmes non linéaires et non convexes, continus ou avec variables mixtes (entières et continues), issus de l’analyse des réseaux électriques. La mé- thode proposée relâche le problème traité en un problème d’approximation externe linéaire en se basant sur le concept d’ensembles spécialement ordonnés. Le problème obtenu est alors successivement raffiné grâce à une stratégie de branch-and-bound. La convergence vers un optimum global est ainsi assurée, pour autant que les variables discrètes ou apparaissant non linéairement dans le problème de départ soient bornées. Notre méthode, mise au point pour résoudre un type de problème bien particulier, a été conçue dans un cadre général permettant une extension aisée à la résolution d’une grande variété de problèmes. Nous développons tout d’abord la méthode théoriquement et présentons ensuite des résultats numériques dont le but est de fixer certains choix inhérents à la méthode afin de la rendre la plus optimale possible. A global optimization method for mixed integer nonlinear nonconvex problems related to power systems analysis by Emilie Wanufelle Abstract: This work is concerned with the development and the implementation of a global optimization method for solving nonlinear nonconvex problems with continuous or mixed in- teger variables, related to power systems analysis. The proposed method relaxes the problem under study into a linear outer approximation problem by using the concept of special ordered sets. The obtained problem is then successively refined by a branch-and-bound strategy. In this way, the convergence to a global optimum is guaranteed, provided the discrete variables or those appearing nonlinearly in the original problem are bounded. Our method, conceived to solve a specific kind of problem, has been developed in a general framework in such a way that it can be easily extended to solve a large class of problems. We first derive the method theoretically and next present numerical results, fixing some choices inherent to the method to make it as optimal as possible. Dissertation doctorale en Sciences mathématiques (Ph.D. thesis in Mathematics) Date: 06-12-2007 Département de Mathématique Promoteur (Advisor): Prof. A. SARTENAER Copromoteur (Coadvisor): Prof. Ph.L. TOINT c b Remerciements En premier lieu, je tiens à exprimer ma gratitude envers ma promotrice, Annick Sartenaer, pour son soutien et la confiance qu’elle m’a toujours accordée, tout d’abord en me proposant ce doctorat et ensuite, tout au long de ces quatre années de recherches. Je la remercie, ainsi que Philippe Toint, de m’avoir encouragée à participer à des conférences internationales et à effectuer un séjour de recherches à l’étranger. Ces voyages se sont toujours révélés être des ex- périences enrichissantes dont je garde des souvenirs exceptionnels. J’en profite pour remercier tous les chercheurs que j’ai côtoyés durant ces voyages pour leur accueil, leur sympathie et les discussions intéressantes que nous avons pu avoir. Je souhaite aussi adresser un immense merci à Sven Leyffer pour son implication, son en- thousiasme et ses remarques avisées vis-à-vis du travail de recherches présenté ici, mais aussi pour m’avoir offert l’opportunité d’aller travailler trois semaines à l’Argonne National Labo- ratory. Les mots me manquent pour lui exprimer ma reconnaissance, ainsi qu’à son épouse Gwen, pour le chaleureux accueil qu’ils m’ont réservé à Chicago. Merci de tout coeur pour ces souvenirs! Merci à Christian Merckx, Ludovic Platbrood et Karim Karoui de Tractebel pour m’avoir fourni un problème intéressant à traiter ainsi que pour les discussions constructives s’y rappor- tant. Merci aussi aux membres du jury de cette thèse d’avoir accepté cette tâche et pour les re- marques et suggestions pertinentes qui ont permis d’améliorer ce manuscrit. Merci au PAI (Pôle d’Attraction Interuniversitaire), et notamment à François Maniquet et Sébastien Laurent, d’avoir financé en grande partie ces années de recherches. Merci aussi à Pierrette Noël pour son support logistique. Merci à tous les membres du département de mathématiques pour la formation qu’ils m’ont donnée lorsque j’étais étudiante ainsi que pour leur convivialité. Merci à Michel Goffin, mon professeur de mathématiques du secondaire pour son enseigne- ment haut en couleurs et sans qui, je ne me serais sans doute pas orientée vers les mathéma- tiques. Mon merci suivant s’adresse à tous mes collègues, anciens ou actuels, avec qui j’ai partagé de bons moments qui ne se cantonnent pas aux frontières de l’université. Sans eux, ces qua- tre années auraient été sans nul doute fort différentes. Pour ces agréables souvenirs, et pour leur bonne humeur et leur amitié, je voudrais remercier les “copains du midi”, en particulier: Charlotte Beauthier, Katia Demaseure, Florent Deleflie, Anne-Sophie Libert, Benoît Noyelles, Caroline Sainvitu, Dimitri Tomanos, Stéphane Valk, Mélissa Weber Mendonça et Sebastian Xhonneux. J’adresse un merci tout particulier à ma collègue de bureau et à ma “soeur jumelle” pour m’avoir patiemment écoutée et soutenue pendant ma période de rédaction. Merci aussi à Benoît Colson pour m’avoir épaulée lors de mon arrivée au département ainsi que pour tous les i ii Remerciements bons moments passés quand nous partagions le même bureau. Je remercie également mes amis de m’avoir soutenue et encouragée. Les instants de détente passés en leur compagnie m’ont permis de rester zen et de relativiser. Je voudrais aussi remercier mes parents, ma soeur et mes grands-parents pour leur soutien sans faille durant cette thèse de doctorat, et plus largement au cours de ma vie. Enfin, mon dernier remerciement, mais non le moindre, s’adresse à mon mari, Fabian, qui a accepté de se lancer avec moi dans cette aventure. Sans son réconfort, son aide, sa confiance, sa patience à l’égard de mes absences et de mon anxieté, et sans son amour, je n’aurais pu mener ce projet à bien. A vous tous, merci pour tout ce que vous m’avez apporté, Emilie Contents Introduction vii 1 Background on optimization 1 1.1 Basic notions on optimization . 1 1.1.1 Formulation of a mathematical program . 1 1.1.2 Feasibility and optimality . 2 1.1.3 Convexity . 3 1.1.4 Optimality conditions . 5 1.1.5 Classification of optimization problems . 6 1.2 Methods for continuous optimization problems . 7 1.2.1 Methods to solve continuous unconstrained problems . 7 1.2.2 Methods to solve continuous linear problems . 9 1.2.3 Methods to solve continuous nonlinear problems (not necessarily convex) . 10 1.2.4 Global methods to solve continuous nonlinear nonconvex problems . 14 1.3 Methods for discrete optimization problems . 22 1.3.1 Methods to solve mixed integer nonlinear convex problems . 22 1.3.2 Global methods to solve mixed integer nonlinear nonconvex problems 27 1.4 Conclusion . 28 2 Solution of a mixed integer nonlinear nonconvex problem related to power sys- tems analysis 29 2.1 Presentation of the treated problem . 29 2.1.1 Variables of the problem . 30 2.1.2 Constraints of the problem . 33 2.1.3 TVC problem . 35 2.2 Solution of the TVC problem . 36 2.2.1 Heuristics employed by Tractebel . 37 2.2.2 A mixed integer nonlinear convex solver . 37 2.2.3 A linear approximation method . 37 2.2.4 Global optimization methods . 49 2.3 Conclusion . 49 3 An outer approximation method based on special ordered sets 51 3.1 Motivation . 52 3.1.1 Globalization of the method . 52 iii iv CONTENTS 3.1.2 Size of the linear approximation problem . 53 3.1.3 SOS versus big-M approach . 54 3.2 An outer approximation problem based on SOS . 57 3.2.1 Decomposition of nonlinear functions into nonlinear components of one or two variables . 58 3.2.2 Propagation of the bounds through the computational graph . 60 3.2.3 Exploiting common subexpressions . 61 3.2.4 Maximum errors generated by SOS approximations . 63 3.2.5 Expression of the outer approximation problem . 75 3.3 An outer approximation method to solve nonlinear problems . 76 3.3.1 Refinement of the outer approximation problem due to branching . 77 3.3.2 Scheme of the method . 79 3.3.3 Adaptation of the method to the discrete case . 83 3.3.4 Illustration of the method . 86 3.4 Conclusion . 91 4 Theoretical considerations on the proposed method 93 4.1 Comparison with other outer approximation techniques . 93 4.1.1 Outer approximations of x2 based on SOS versus on tangent lines .