Fakhar Anjam Run-time Adaptable VLIW Processors Resources, Performance, Power Consumption, and Reliability Trade-offs Run-time Adaptable VLIW Processors Resources, Performance, Power Consumption, and Reliability Trade-offs PROEFSCHRIFT ter verkrijging van de graad van doctor aan de Technische Universiteit Delft, op gezag van de Rector Magnificus prof. ir. K.C.A.M. Luyben, voorzitter van het College voor Promoties, in het openbaar te verdedigen op dinsdag 27 augustus 2013 om 15:00 uur door Fakhar ANJAM Master of Science in Information Technology Pakistan Institute of Engineering and Applied Sciences (PIEAS), Islamabad geboren te Karak, Pakistan Dit proefschrift is goedgekeurd door de promotor: Prof. dr. K.L.M. Bertels Copromotor: Dr. ir. J.S.S.M. Wong Samenstelling promotiecommissie: RectorMagnificus voorzitter Prof.dr.K.L.M.Bertels TechnischeUniversiteitDelft,promotor Dr. ir. J.S.S.M. Wong Technische Universiteit Delft, copromotor Prof.dr.E.Charbon TechnischeUniversiteitDelft Prof.dr.L.Carro UniversidadeFederaldoRioGrandedoSul, Brazilië Prof.Dr.-Ing.H.Blume LeibnizUniversitätHannover,Duitsland Prof.Dr.-Ing.M.Hübner Ruhr-UniversitätBochum,Duitsland Prof. dr. ir. G.N.Gaydadjiev ChalmersUniversityofTechnology, Zweden Prof.dr.G.J.T.Leus TechnischeUniversiteitDelft,reservelid This thesis has been completed in partial fulfillment of the requirements of the Delft University of Technology (Delft, The Netherlands) for the award of PhD degree. The research described in this thesis was supported in parts by: (1) CE Lab. Delft University of Technology, (2) HEC Pakistan. Publishedanddistributedby: FakharAnjam Email: [email protected] ISBN: 978-94-6186-191-7 Keywords: Computer Architecture, Parallel Execution, Softcore Processors, VLIW Processors, Run-time Reconfiguration, Fault Tolerance, Customization, Parametriza- tion, FPGAs, Trade-offs Cover page designed by Hanike (www.hanike.nl). Copyright c 2013 Fakhar Anjam All rights reserved. No part of this publication may be reproduced, stored in a retrieval system, or transmitted, in any form or by any means, electronic, mechanical, photocopying, recording, or otherwise, without permission of the author. Printed in The Netherlands To my father and all other members of my family Summary In this dissertation, we propose to combine programmability with reconfig- urability by implementing an adaptable programmable VLIW processor in a reconfigurable hardware. The approach allows applications to be developed at high-level (C language level), while at the same time, the processor organiza- tion can be adapted to the specific requirements (both static and dynamic) of different applications. Our proposed customizable VLIW processor called ρ-VEX can be adapted at design-time as well as at run-time. Its instruction set architecture (ISA) is based on the VEX ISA and a toolchain (parametrized C compiler and sim- ulator) is publicly available from Hewlett Packard (HP) for architectural ex- ploration and code generation. The design-time parameters include the pro- cessor’s issue-width, the type of different functional units (FUs) and their la- tencies, the type and size of multiported register files, degree of pipelining, size of instruction and data memories, type of interrupt and exception systems, selection of default custom operations, datapath sharing. If the behavior of applications is not known at design-time or an application has different phases with distinct requirements, a fixed processor may not perform efficiently for all the applications/phases. To this end, we propose a run-time reconfigurable processor that can adapt its organization dynamically during execution. The run-time parameters include the processor’s issue-width, the type and number of different FUs, and the register file size. Additionally, we propose config- urable fault tolerance techniques for the ρ-VEX processor. The designer can choose to include or exclude the fault tolerance in the processor at design-time. When the fault tolerance is included, it can be made permanently enabled or enabled/disabled at run-time. All these options enable users to trade-off be- tween hardware area/resources, performance, power/energy consumption, and reliability. The processor is available as open-source. i Samenvatting In dit proefschrift stellen we voor om programmeerbaarheid te combineren met reconfigureerbaarheid door het implementeren van een aanpasbare pro- grammeerbare VLIW processor in herconfigureerbare hardware. De aanpak staat het ontwikkelen van toepassingen op hoog niveau (C programmeer taal- niveau) toe, terwijl op hetzelfde moment de processor organisatie kan worden aangepast aan de specifieke eisen (zowel statisch als dynamisch) van verschil- lende toepassingen. Onze voorgestelde aanpasbare VLIW processor, genaamd ρ-VEX, kan tijdens design-time evenals tijdens run-time aangepast worden. De instructie set archi- tectuur (ISA) is gebaseerd op de VEX ISA en een toolchain (geparametriseerde C compiler en simulator) is publiek beschikbaar gesteld door Hewlett Packard (HP) voor architectuur exploratie en code generatie. De design-time parame- ters omvatten de processor issue-breedte, de aard van verschillende functionele eenheden (FU’s) en hun latencies, het type en grootte van multiported regis- ter files, de mate van pipelining, de grootte van instructie en data geheugens, het type interrupt en exceptie systemen, selectie van standaard aangepaste bew- erkingen, het delen van het datapad. Indien het gedrag van applicaties niet bek- end is tijdens design-time of wanneer een applicatie verschillende fases kent met verschillende eisen, kan het zijn dat een vaste processor niet efficiënt is in het uitvoeren van alle applicaties/fasen. Daartoe stellen we een run-time her- configureerbare processor voor die zijn organisatie tijdens het berekenen dy- namisch kan aanpassen. De run-time parameters omvatten de processor issue- breedte, het type en aantal verschillende FUs, en het register bestandsgrootte. Daarnaast stellen we voor de ρ-VEX processor herconfigureerbare fouttoler- antie technieken voor. De ontwerper kan kiezen voor wel of geen fouttolerantie in de processor tijdens design-time. Wanneer fouttolerantie is inbegrepen, kan deze permanent ingeschakeld worden of ingeschakeld/uitgeschakeld tij- dens run-time. Al deze opties geven de gebruikers de mogelijkheid om een afweging te maken tussen hardware area/resources, prestatie, stroom/energie verbruik en betrouwbaarheid. De processor is als open-source beschikbaar. ii Prepositions 1. All hardware and software should be reconfigurable. 2. Hardwired multiported memories are a must for the efficient implemen- tation of parallel hardware in FPGA. 3. Software comes from heaven when you have good hardware. (Ken Olsen) 4. The distinction between VLIW and superscalar processors is vanishing. 5. Normal life starts after the PhD study. 6. A good idea means nothing by itself; a good implementation is equally important. 7. Will is more important than competence to achieve something. 8. You are not doing research when you know what you are doing. 9. “Freedom of expression” should not be considered as unlimited. 10. Without improving the primary education system in Pakistan, spending billions in higher education is of little use. 11. Tolerance is the only thing the Pakistani nation needs nowadays. 12. A good way to learn new things is to be unlucky. These propositions are regarded as opposable and defendable, and have been approved as such by the promotor Prof. dr. K.L.M. Bertels. iii Stellingen 1. Alle hardware en software zou herconfigureerbaar moeten zijn. 2. Hardwired multiported geheugens zijn een vereiste voor het efficiënt im- plementeren van parallel hardware op FPGA. 3. Software komt van de hemel wanneer je goede hardware hebt. (Ken Olsen) 4. Het verschil tussen VLIW en superscalar processoren is aan het verdwi- jnen. 5. Het normale leven starts na de PhD studie. 6. Een goede idee betekent opzichzelfstaand niets, een goede implemen- tatie is even belangrijk. 7. Wil hebben is belangrijker dan competentie om iets te bereiken. 8. Je bent geen onderzoek aan het doen als je weet wat je aan het doen bent. 9. "Vrijheid van meningsuiting" moet niet als onbeperkt worden beschouwd. 10. Zonder het verbeteren van het primair onderwijs in Pakistan is het uit- geven van miljarden in hoger onderwijs van weinig nut. 11. Vandaag de dag is tolerantie het enige dat de Pakistaanse natie nodig heeft. 12. Een goede manier om nieuwe dingen te leren is om een pechvogel te zijn. Deze stellingen worden opponeerbaar en verdedigbaar geacht en zijn als zo- danig goedgekeurd door de promotor Prof. dr. K.L.M. Bertels. iv Acknowledgments Here comes the end to my formal student life. That was a fun by itself. Find- ing this opportunity, I would like to express my gratitude to all those who contributed directly or indirectly to the work reported in this thesis. First of all, I would like to thank my supervisor Stephan Wong who provided me the opportunity to perform research in the Computer Engineering (CE) Lab. His guidance and consistent involvement in all phases of my PhD research project is truly remarkable. We had many brainstorming sessions and long technical meetings that helped me a lot in my work. Special thanks go to the promotor of my thesis Koen Bertels. He always offered his help through out my stay at the university. I am also very grateful to all the faculty members of CE who provided me help and guidance from time to time. The members of my PhD committee also deserve appreciation. I thank them for devoting some of their time