Source-to-Source Automatic Program Transformations for GPU-like Hardware Accelerators Mehdi Amini To cite this version: Mehdi Amini. Source-to-Source Automatic Program Transformations for GPU-like Hardware Ac- celerators. Other [cs.OH]. Ecole Nationale Supérieure des Mines de Paris, 2012. English. NNT : 2012ENMP0105. pastel-00958033 HAL Id: pastel-00958033 https://pastel.archives-ouvertes.fr/pastel-00958033 Submitted on 11 Mar 2014 HAL is a multi-disciplinary open access L’archive ouverte pluridisciplinaire HAL, est archive for the deposit and dissemination of sci- destinée au dépôt et à la diffusion de documents entific research documents, whether they are pub- scientifiques de niveau recherche, publiés ou non, lished or not. The documents may come from émanant des établissements d’enseignement et de teaching and research institutions in France or recherche français ou étrangers, des laboratoires abroad, or from public or private research centers. publics ou privés. INSTITUT DES SCIENCES ET TECHNOLOGIES École doctorale nO432 : Sciences des Métiers de l’Ingénieur Doctorat ParisTech THÈSE pour obtenir le grade de docteur délivré par l’École nationale supérieure des mines de Paris Spécialité « Informatique temps-réel, robotique et automatique » présentée et soutenue publiquement par Mehdi Amini le 13 décembre 2012 Transformations de programme automatiques et source-à-source pour accélérateurs matériels de type GPU ⇠⇠⇠ Source-to-Source Automatic Program Transformations for GPU-like Hardware Accelerators Directeur de thèse : François Irigoin Co-encadrement de la thèse : Fabien Coelho Co-encadrement de la thèse : Ronan Keryell Jury T M. Cédric Bastoul, Maître de Conférence, Alchemy/LRI/INRIA, Université Paris-Sud Examinateur M. Philippe Clauss, Professeur, ICPS/LSIIT, Université de Strasbourg Examinateur H M. Fabien Coelho, Maître-Assistant, CRI, MINES ParisTech Co-encadrant de la thèse M. Albert Cohen, Directeur de Recherche, PARKAS, INRIA Rocquencourt Rapporteur È M. Alain Darte, Directeur de Recherche, LIP, CNRS Rapporteur M. François Irigoin, Directeur de Recherche, CRI, MINES ParisTech Directeur de thèse S M. Ronan Keryell, Directeur Scientifique, SILKAN Co-encadrant de la thèse M. Sanjay Rajopadhye, Professeur, CS/ECE Departments, Colorado State University Rapporteur E MINES ParisTech Centre de Recherche en Informatique 35 rue Saint-Honoré, 77305 Fontainebleau, France To my beloved father. Remerciements Avant toute chose, relever ce défi personnel n’aurait pas été possible sans le soutien indéfectible de ma tendre épouse, ces trois dernières années n’ont pas été les plus reposantes et j’admire sa patience et sa tolérance vis à vis de son mari travaillant à 500km de notre domicile et s’absentant régulièrement pour toutes sortes de conférences ou formations. Mes pensées vont évidement à mon fils Tim, mon moteur principal aujourd’hui, mais aussi celui qui m’épuise à longueur de journées (du moins le peu de celles que j’ai passé avec lui à la maison ces dernières années). A croire qu’il puise son énergie qui semble infinie dans la notre. J’ai la chance d’avoir des parents formidables à qui j’ai posé beaucoup de difficultés qu’ils ont su surmonter pour me pousser à faire des études. Peut-être que Tim qui me le rend bien me fait mesurer l’ampleur de la tâche. Je les en remercie milles fois. Une aventure commence souvent avec une rencontre, et pour satisfaire ma nature nos- talgique, je vais la raconter. C’était le 4 juin 2009, lorsque mon étoile m’a conduit à assister à la Journée jeunes chercheurs sur les Multiprocesseurs et Multicoeurs àParis. Quelle chance d’être encore là à la fin de la journée lorsqu’un curieux personnage (non, je ne me risquerai pas à une description àlaZola) s’est levé pour annoncer qu’il cherchait des candidats passionnés à un projet un peu fou (ou des candidats un peu fous pour un projet passionnant, je ne sais plus très bien...). Il n’en fallait pas plus pour piquer ma curiosité et, après une description plus détaillée, j’étais fasciné par la folie apparente du projet et j’oubliais être le fou potentiel. Je repartais vers mon TGV, une carte de visite dans la poche. Peu après minuit le soir même, sitôt rentré chez moi, j’envoyais mon CV à Ronan Keryell.Ledoigtdansl’engrenage... Trois jours plus tard, j’étais invité par François Irigoin àluirendrevisiteà Fontainebleau. C’est finalement le 1er juillet que je me suis rendu dans les locaux du Centre de Recherche en Informatique (CRI) pour y rencontrer celui qui allait me proposer de diriger cette thèse. Neuf jours plus tard, Ronan me proposait de réaliser ces travaux dans une petite entreprise. Était-ce le goût du risque ? Ou peut-être le nom tellement cool de HPC Project ?Lechallengedelathèsen’étaitpasassezdifficileàreleverenluimême qu’il fallait y associer une entreprise ? A moins que Ronan n’ait simplement su employer les arguments qui font mouche pour un esprit pur: Nous sommes prêts à te prendre en thèse CIFRE entre HPC Project et CRI, histoire de combiner le fun de la thèse avec une rémunération raisonnable et de voir la vie à 2 endroits différents. Le 6 décembre j’étais encore ingénieur à l’Université de Strasbourg, le 7 décembre 2009 l’aventure commençait vraiment. Le jour même je m’envolais pour une école thématique sur le calcul hautes performances sur accélérateurs matériels et je rencontrais deux personnes dont j’ignorais l’importance de nos futurs interactions: Béatrice Creusillet et Stéphanie Even.Jenepouvaisrêvermeilleurdépart. Acesrencontress’ensontsuccédéesdenombreusesautres,etilm’estimpossiblede toutes les mentionner ici. Certaines ont été plus marquantes, ou ont eu plus d’impact dans le cadre de mes travaux, que ce soit vis-à-vis de l’orientation de mes recherches ou simplement de mes conditions de "travail". Bien sûr Ronan et François, pour m’avoir supporté, ont la plus grande part de mérites, ils ont été en quelque sorte le Yin et le Yang, le Chaud et le Froid, l’Alpha et l’Omega, enfin bref les éléments essentiels au maintient d’un équilibre pendant ces trois années. J’ai le privilège de continuer à travailler avec Ronan aujourd’hui. Fabien Coelho,quiarejoint l’aventure en cours de route (et il n’avait pas l’excuse de l’ignorance, il avait déjà eu à me supporter sur pipsdev@), a su apporter une couleur différente et compléter efficacement la direction de mes travaux. J’ai beaucoup progressé à leur contact, techniquement et humainement. Leurs relectures attentives et leur nombreux commentaires ont contribué significativement à l’amélioration de ce manuscrit, et j’atteste que tout ce qui peut em- pêcher ce dernier de répondre à l’exigence du lecteur reste de mon seul fait, que ce soit de ma paresse ou de mon incompétence (je me plais à croire au premier et à douter du second). Au rang de mes collègues, j’ai eu la chance de côtoyer des gens très brillant. Il est très facile d’être modeste quand on évolue dans un pareil environnement. Je reste admiratif devant la qualité du travail de Béatrice qui continue à m’impressionner chaque semaine par son efficacité. Je déconseille la lecture de son manuscrit de thèse à tout doctorant: la qualité (et la taille) de l’ouvrage pose une base à décourager de commencer sa propre rédaction. Si elle n’était pas si gentille, dévouée, et tellement agréable, je pourrais peut-être songer à lui trouver un défaut. Au même titre que Ronan, je suis chanceux de pouvoir continuer à la compter parmi mes collègues pour la suite de nos travaux sur Par4All. Je suis heureux d’avoir pu travailler avec Serge papillon Guelton pour la teneur nos discussions techniques, pour sa fraîcheur,etpoursonenthousiasmecommunicatif.Nos différences ont été sources d’enrichissement, que j’espère mutuel. Le choix de m’engager avec Silkan (HPC-Project à cette époque) comportait des risques, mais ce fut payant. En dehors de l’expérience intéressante qui a consister à trouver l’équilibre entre la recherche et les problématiques terre-à-terre d’une jeune entreprise, j’ai côtoyé (et continue à travailler avec) des gens brillants. Parmi eux Pierre Villalon, François-Xavier Pasquier, Thierry Porcher, Janice Onanian McMahon, Onil Nazra Per- sada Goubier, ou Yannick Langlois ; mais également notre PDG-CEO Pierre Fiorini que je remercie pour la confiance qu’il m’accorde. Le CRI est un laboratoire accueillant, situé dans un cadre magnifique pour ne rien gâcher. J’ai apprécié d’y rencontrer et d’échanger sur la compilation avec Pierre Jouvelot, Karim Barkati, Antoniu Pop, Amira Mensi, Rachid Habel, ou encore Claude Tadonki ; et d’échanger sur divers autres sujets avec Georges-André Silber, Claire Medrala, Laurent Daverio, ou Jacqueline Altimira. J’ai découvert la communauté française de compilation, grâce aux immanquable journées compilation que je soupçonne de devoir beaucoup à l’implication de Laure Gonnord parmi d’autres. J’y ai fait beaucoup de rencontre, et passé d’excellent moment. J’espère que mon éloignement géographique actuel me laissera des opportunités d’assister et de partager nos travaux lors de quelques journées futures. Je me dois de dire que je ne me serai pas lancé dans ce projet sans avoir vécu à côté l’équipe Informatique et Calcul Parallèle Scientifique (ICPS) de Strasbourg et son ambiance de travail inégalable. Les meilleurs enseignants de mon cursus universitaire en font (ou faisait) partis, parmi eux : Alain Ketterlin, Vincent Loechner, Eric Violard, Catherine Mongenet, Arnaud Giersch, ou encore Benoit Meister. J’ai vraiment apprécié l’informatique en suivant leur enseignement. J’ai une pensée particulière pour Philippe Clauss avec qui j’ai découvert la programmation parallèle, et qui, ce 4 juin 2009 dans le TGV qui nous ramenait de Paris, m’a encouragé à postuler sur ce sujet de thèse. Pour m’avoir montré une autre facette de la recherche, et m’avoir encadré (supporté ?) pendant mon stage de Master à l’Observatoire Astronomique de Strasbourg, je remercie chaleureusement Dominique Aubert.