Universidad Complutense De Madrid Transformación Y
Total Page：16
File Type：pdf, Size：1020Kb
View metadata, citation and similar papers at core.ac.uk brought to you by CORE provided by EPrints Complutense UNIVERSIDAD COMPLUTENSE DE MADRID FACULTAD DE INFORMÁTICA Departamento de Sistemas Informáticos y Computación TRANSFORMACIÓN Y ANÁLISIS DE CÓDIGO DE BYTES ORIENTADO A OBJETOS. MEMORIA PARA OPTAR AL GRADO DE DOCTOR PRESENTADA POR Miguel Gómez-Zamalloa Gil Bajo la dirección de la doctora Elvira Albert Albiol Madrid, 2010 • ISBN: 978-84-693-4645-7 © Miguel Gómez-Zamalloa Gil, 2009 Transformaci´on y An´alisis de C´odigo de Bytes Orientado a Objetos TESIS DOCTORAL Memoria presentada para obtener el grado de doctor en Ingenier´ıa Inform´atica por Miguel G´omez-Zamalloa Gil Dirigida por la profesora Elvira Albert Albiol Departamento de Sistemas Inform´aticos y Computaci´on Universidad Complutense de Madrid Madrid, Julio de 2009 Transformation and Analysis of Object-Oriented Bytecode PhD THESIS Miguel G´omez-Zamalloa Gil Departamento de Sistemas Inform´aticos y Computaci´on Universidad Complutense de Madrid Advisor: Elvira Albert Albiol July, 2009 Resumen Predecir el comportamiento de los programas antes de su ejecuci´on es cada vez m´as importante, especialmente teniendo en cuenta que ´estos son cada vez m´as complejos y son utilizados frecuentemente en situaciones cr´ıti- cas, como operaciones m´edicas, control a´ereo u operaciones bancarias. El an´alisis est´atico de programas es el proceso por el cual el comportamiento de los programas es analizado sin llegar a ejecutar su c´odigo. Tradicional- mente, la mayor´ıa de an´alisis han sido formulados al nivel del c´odigo fuente. No obstante, puede darse el caso de que el an´alisis deba tratar con c´odigo compilado, o c´odigo de bytes. Esta situaci´on se da en particular cuando un consumidor de c´odigo est´ainteresado en verificar ciertas propiedades de programas de un tercero, pero no tiene acceso directo al c´odigo fuente, co- mo suele pasar con el software comercial y con el c´odigo m´ovil. Un ejemplo particularmente interesante es el an´alisis del consumo de memoria, el cual puede ser muy ´util en contextos en los cuales el consumidor de c´odigo quie- re verificar que el programa recibido puede ejecutarse sin que su consumo de memoria exceda un l´ımite dado. Desafortunadamente, razonar sobre programas reales de c´odigo de by- tes (con orientaci´on a objetos) es una tarea complicada y costosa. Adem´as de las caracter´ısticas propias de la orientaci´on a objetos como la herencia y las invocaciones virtuales, un analizador de c´odigo de bytes tiene que tratar con ciertas complicaciones propias de los lenguajes de bajo nivel co- mo la ausencia de estructura de control, el uso de la pila de operandos, etc. Una pr´actica habitual consiste en resolver el problema en dos pasos, de forma que en primer lugar se transforma, o decompila, el programa de c´odigo de bytes a una representaci´on intermedia de m´as alto nivel, para poder as´ıformular el an´alisis sobre dicha representaci´on. Esto permite abs- traer las caracter´ısticas particulares del lenguaje y as´ı poder desarrollar las 5 herramientas de an´alisis sobre representaciones m´as sencillas. La mayor´ıa de los enfoques desarrollan decompiladores ad hoc, es decir, decompiladores exclusivamente dise˜nados para llevar a cabo una transformaci´on particu- lar. Existe no obstante una alternativa al desarrollo de decompiladores ad hoc, llamada decompilaci´on interpretativa por evaluaci´on parcial. Como veremos, ´esta permite decompilar programas evaluando parcialmente un int´erprete respecto a ´estos. Esta tesis contribuye a mejorar el estado del arte en la transformaci´on y el an´alisis de lenguajes de c´odigo de bytes, en concreto: (1) proponien- do e implementando un esquema formal para la decompilaci´on autom´ati- ca por compilaci´on interpretativa de programas de c´odigo de bytes (con orientaci´on a objetos) a representaciones intermedias de m´as alto nivel, en particular utilizando programaci´on l´ogica; (2) estudiando las aplicaciones pr´acticas que se tienen gracias a disponer de dichas representaciones; y (3) dise˜nando e implementando un an´alisis de consumo de memoria para lenguajes de c´odigo de bytes con recolecci´on de basura. Abstract Predicting the behavior of programs before their actual execution be- comes more and more relevant as programs increase in complexity and become used in critical situations such as medical operations, flight control or banking cards. Static program analysis is the process of automatically analyzing the behavior of programs without actually executing the code. Traditionally, most analyses have been formulated at the source code level. However, it can be the case that the analysis must consider the compiled code, or bytecode, instead. This may happen, in particular, when the code consumer is interested in verifying some properties of 3rd party programs, but has no direct access to the source code, as usual for commercial soft- ware and in mobile code. A particularly interesting example is memory consumption analysis, which can be very useful in contexts where the code consumer wants to verify that the received program can run within the actual memory available. Unfortunately, reasoning about realistic (object-oriented) bytecode pro- grams is rather complicated and time consuming. In addition to the object- oriented features such as inheritance and virtual method invocations, a bytecode analyzer has to deal with several low-level language features li- ke the unstructured control flow, the usage of the operand stack, etc. A usual practice is to first transform, or decompile, the bytecode program in- to a higher-level intermediate representation, and then develop the analysis over such representation. This allows abstracting away the particular byte- code language features and developing the analysis tools on much simpler representations. Most of the approaches develop ad-hoc decompilers, i.e., decompilers exclusively designed to carry out the particular transformation. There is however an alternative to the development of dedicated decompi- lers which is the so called interpretive decompilation by partial evaluation, 7 which allows decompiling programs by partially evaluating an interpreter w.r.t. them. This thesis contributes to improve the state-of-the-art in the transfor- mation and analysis of bytecode languages by: (1) providing and imple- menting a formal framework for the automatic decompilation of (object- oriented) bytecode programs to higher-level intermediate representations, in particular represented using logic programming, by means of interpretive decompilation; (2) studying the practical applications that having such re- presentations can have; and (3) designing and implementing a live memory consumption analysis for bytecode languages with garbage collection. Agradecimientos La realizaci´on de esta tesis no habr´ıa sido posible sin la ayuda y el apoyo de mucha gente, y me gustar´ıa aprovechar esta oportunidad para expresarles mi m´as profunda gratitud. En primer lugar, me gustar´ıa dar las gracias a mi directora, Elvira Al- bert, por introducirme en el mundo de la investigaci´on, y por su ayuda incalculable con la tesis. Agradezco su paciencia, sentido del humor y todo el ´animo que he recibido desde el principio. Quiero agradecer tambi´en a Germ´an Puebla sus valiosos consejos y todas las cosas que me ha ense˜nado (algunas voluntariamente y otras simplemente gracias a su manera de tra- bajar d´ıa a d´ıa). En tercer lugar, quiero dar las gracias a toda la gente del equipo COSTA, por crear ese magn´ıfico ambiente de trabajo, especialmen- te Samir, por estar siempre ah´ı, Puri por ese sentido del humor, Damiano, etc. Aprovecho tambi´en para dar las gracias a toda la gente del grupo CLIP, especialmente a Edison y a Claudio, por su ayuda solucionando esos pro- blemas t´ecnicos que sol´ıa tener con Linux, con las instalaciones de Ciao, etc, etc. Una menci´on especial es para el director del grupo CLIP, Manuel Hermenegildo, a quien siempre estar´emuy agradecido por habernos tra´ıdo y ense˜nado el verdadero mundo de la investigaci´on. Una parte importante de mi formaci´on durante estos a˜nos (como inves- tigador y como persona) ha sido posible gracias a las distintas estancias de investigaci´on y visitas que he podido realizar. Quiero por tanto agra- dec´erselo a toda la gente involucrada, desde Paco L´opez, por haberlo hecho posible, hasta toda la gente que me ha acogido y ayudado en mis diferen- tes destinos. En particular, John Gallagher por ser siempre tan cercano (nunca olvidar´eaquel partido R. Madrid - Sevilla en su casa), Gourinath Banda por su ayuda incalculable en Roskilde (la bici, esas pizzas indias, etc, 9 etc), Michael Leuschel por aquellos d´ıas charlando sobre evaluaci´on parcial, Jorge P´erez por su ayuda en Bolonia, Roberto Bagnara por ese magn´ıfico d´ıa en Parma, y Andy King por su impresionante dedicaci´on (aquello fue investigaci´on pura, ya casi hab´ıa olvidado lo que era). Quiero tambi´en dar las gracias a la gente de mi departamento en la Universidad Complutense por ayudar a crear ese magn´ıfico ambiente de trabajo que tengo la suerte de disfrutar. En particular, a Ana Gil por guiarme, a Teresa Mart´ınez por toda la ayuda con la burocracia, al despacho 220 (el futuro de nuestro departamento!), etc, etc. Finalmente, esta tesis no habr´ıa sido posible sin el apoyo y ayuda de mi familia y amigos, especialmente mi mujer, Ali, y mi madre. Acknowledgments The making of this thesis would not have been possible without the help and support of many people and I would like to take this opportunity to express my gratitude to all of them. First, I would like to thank my advisor, Elvira Albert, for introducing me to the world of research, and for her invaluable help with this thesis.