Inteligencia Artificial Responsable. Humanismo Tecnológico Y Ciencia Cívica
Total Page：16
File Type：pdf, Size：1020Kb
UNIVERSITAT DE VALÈNCIA FACULTAT DE FILOSOFIA I CIÈNCIES DE L’EDUCACIÓ Programa de Doctorado en Ética y Democracia Inteligencia artificial responsable. Humanismo tecnológico y ciencia cívica Tesis Doctoral Presentada por: Antonio Luis Terrones Rodríguez Dirigida por: Dr. Francisco Arenas Dolz Valencia, septiembre de 2020 Sentimos que aun cuando todas las posibles cuestiones científicas hayan recibido respuesta, nuestros problemas vitales todavía no se han rozado en lo más mínimo. (Wittgenstein, 2003: 181) Un espectro anda al acecho entre nosotros y sólo unos pocos lo han visto con claridad. No se trata del viejo fantasma del comunismo o del fascismo, sino de un nuevo espectro: una sociedad completamente mecanizada, dedicada a la máxima producción y al máximo consumo materiales y dirigida por máquinas computadoras. En el consiguiente proceso social, el hombre mismo, bien alimentado y divertido, aunque pasivo, apagado y poco sentimental, está siendo transformado en una parte de la maquinaria total. (Fromm, 1970: 65) ÍNDICE AGRADECIMIENTOS ........................................................................................................................... 9 INTRODUCCIÓN ................................................................................................................................. 11 PRIMERA PARTE HUMANISMO TECNOLÓGICO Y RESPONSABILIDAD ÉTICA CAPÍTULO 1 HUMANISMO TECNOLÓGICO ......................................................................................................... 31 1.1. LA SOCIEDAD DEL CONOCIMIENTO COMO PUNTO DE PARTIDA ................................................................ 34 1.2. NECESIDAD DE UN SUSTRATO HUMANO ................................................................................................. 37 1.3. CONDICIÓN TÉCNICA, SOBRENATURALEZA Y AUTOPROYECCIÓN ........................................................... 39 1.4. CARÁCTER HERMENÉUTICO ONTOLÓGICO Y CRÍTICO DE LA TECNOLOGÍA .............................................. 46 1.5. LA ANTROPOTÉCNICA COMO PROYECCIÓN HUMANA .............................................................................. 53 1.6. IMPULSO DE UN TIEMPO ......................................................................................................................... 60 1.7. EL INFRANQUEABLE RECONOCIMIENTO DE LOS LÍMITES ........................................................................ 62 1.8. LA IMPORTANCIA DEL CONTEXTO Y SU COMPRENSIÓN ........................................................................... 66 1.9. DEMOCRACIA VERSUS TECNOCRACIA ..................................................................................................... 68 1.10. UN PROCEDER PRAGMÁTICO Y FRONÉTICO ........................................................................................... 70 1.11. INTEGRACIÓN DE LAS HUMANIDADES CON LOS SABERES CIENTÍFICOS Y TECNOLÓGICOS ..................... 72 1.12. LOS PRINCIPIOS ÉTICOS COMO LEGADO HUMANISTA ............................................................................ 75 1.13. HUMANISMO TECNOLÓGICO Y NUEVO MODO DE OBRAR ....................................................................... 78 CAPÍTULO 2 HANS JONAS: EL PRINCIPIO DE RESPONSABILIDAD ANTE EL PODER TECNOLÓGICO ..... 81 2.1. UNA NUEVA ÉTICA ANTE EL PODER TÉCNICO ......................................................................................... 85 2.2. LA FUNDAMENTACIÓN ONTOLÓGICA Y METAFÍSICA ............................................................................... 87 2.3. EL DEBER CON PERSPECTIVA DE FUTURO ............................................................................................... 90 2.4. LA HEURÍSTICA DEL TEMOR ................................................................................................................... 94 2.5. LA CRÍTICA A LA UTOPÍA MODERNA DEL PROGRESO ............................................................................... 98 2.6. LA DISPUTA CON EL POSTULADO KANTIANO ........................................................................................ 102 2.7. LA ARTICULACIÓN DEL PRINCIPIO DE RESPONSABILIDAD ..................................................................... 105 2.8. LA PRÁCTICA DEL PRINCIPIO DE RESPONSABILIDAD ............................................................................. 109 2.9. CONSIDERACIONES CRÍTICAS ............................................................................................................... 112 2.10. HANS JONAS: FUNDAMENTO ÚTIL PARA LA INTELIGENCIA ARTIFICIAL RESPONSABLE ........................ 117 SEGUNDA PARTE INTELIGENCIA ARTIFICIAL RESPONSABLE CAPÍTULO 3 APROXIMACIÓN AL CONCEPTO DE INTELIGENCIA ARTIFICIAL ......................................... 121 3.1. CONCEPTO Y SIGNIFICADO DE INTELIGENCIA ARTIFICIAL ..................................................................... 122 3.2. PARADIGMAS DE DESARROLLO DE LA INTELIGENCIA ARTIFICIAL ......................................................... 125 3.3. ANTECEDENTES HISTÓRICOS DE LA INTELIGENCIA ARTIFICIAL ............................................................ 126 3.3.1. Turing y su reflexión filosófica.................................................................................................... 126 3.3.2. Un verano de 1956 en Hannover ................................................................................................. 128 3.4. ESTADO ACTUAL .................................................................................................................................. 130 3.5. HORIZONTE FUTURO ............................................................................................................................ 134 3.5.1. La explosión de superinteligencia ................................................................................................ 138 3.5.2. El advenimiento de la singularidad .............................................................................................. 141 3.6. LA NECESIDAD DE UNA MIRADA ÉTICA DE RESPONSABILIDAD .............................................................. 142 CAPÍTULO 4 ÉTICAS DE LA INTELIGENCIA ARTIFICIAL: ESTADO DE LA CUESTIÓN ............................. 145 4.1. RAYMOND KURZWEIL: UTILITARISMO HEDONISTA COMO IMPULSO TECNOLÓGICO .............................. 148 4.2. NICK BOSTROM: LA NORMATIVIDAD ÉTICA COMO GUÍA DE LA ACCIÓN ............................................... 153 4.3. SHANNON VALLOR: LA POSIBILIDAD DE CULTIVAR LAS VIRTUDES ÉTICAS ........................................... 161 4.4. BILL HIBBARD: EL APRENDIZAJE DE VALORES BASADOS EN EL PRINCIPIO DE JUSTICIA UNIVERSAL ..... 166 4.5. RAJAKISHORE NATH Y VINEET SAHU: LA NEGATIVA ÉTICA DE LA AGENCIA MORAL ............................ 171 4.6. UNA PROPUESTA ALTERNATIVA DESDE LA RESPONSABILIDAD ÉTICA ................................................... 176 CAPÍTULO 5 INTELIGENCIA ARTIFICIAL Y RESPONSABILIDAD .................................................................. 177 5.1. TECNOLOGÍA Y RESPONSABILIDAD ....................................................................................................... 179 5.2. LA TECNOLOGÍA Y SU RESPONSABILIDAD DEMOCRÁTICA ..................................................................... 187 5.3. LA PROBLEMÁTICA DE LA MORALIDAD ................................................................................................ 196 5.3.1. La inteligencia moral artificial (IMA) ......................................................................................... 201 5.3.2. La premisa de responsabilidad como alternativa a la IMA .......................................................... 209 5.3.3. La necesidad de ir más allá de los planteamientos débiles .......................................................... 213 5.4. INTELIGENCIA ARTIFICIAL RESPONSABLE ............................................................................................. 214 5.4.1. Ciencia cívica, participación y colaboración ciudadana .............................................................. 215 5.4.1.1. Teoría y práctica de la ciencia cívica .................................................................................... 215 5.4.1.2. Laboratorios ciudadanos para la innovación social ............................................................... 222 5.4.2. Modelo de innovación abierta y responsable ............................................................................... 225 5.4.2.1. Dimensiones de la investigación e innovación responsable .................................................. 230 5.4.2.2. La evaluación tecnológica y los aspectos éticos cruciales .................................................... 234 5.4.2.3. La quíntuple hélice ................................................................................................................ 239 5.4.2.4. La deliberación como condición de posibilidad .................................................................... 243 5.4.2.5. El valor de la participación y el papel de la sociedad civil .................................................... 248 5.4.2.6. Racionalidad pragmática y fronética ..................................................................................... 254 5.4.3. Compromiso con los derechos humanos y los ODS .................................................................... 258 5.4.4. Los límites planetarios como un imperativo ................................................................................ 270 5.5. RESPONSABILIDAD ANTE EL PODER Y LA VULNERABILIDAD