1Fundamentos filosficos de la Inteligencia Artificial

Luis Alonso RomeroCatedrtico de Ciencia de la Computacin e Inteligencia ArtificialUniversidad de Salamanca

L.A.R, Nov 2006 2

Objetivos

a Desde que surgi el concepto de Inteligencia Artificial (Darmouth1956), se han ido planteando algunas preguntas:` Pueden pensar las mquinas?` Cmo funciona la mente?` Qu implicaciones ticas tendr la Inteligencia Artificial?` ........

a La Inteligencia Artificial se ha planteado con dos enfoques:` Dbil : es posible construir mquinas que se comporten como si fuesen

inteligentes (conductista)` Fuerte: es posible construir mquinas inteligentes.

2L.A.R, Nov 2006 3

IA dbil: simulacin de inteligencia

a La IA, perseguida como una especie de culto a la computacin ...no tiene la ms mnima posibilidad de producir resultados duraderos y, por tanto, es hora de dedicar los esfuerzos, y el dinero, a otras tareas (Sayre 1993).

a Obviamente, todo depende de la definicin de IA.a Desde un punto de vista ingenieril la respuesta es SI : las mquinas

pueden simular la inteligencia.a Pero los filsofos plantean la pregunta en otros trminos:

` Pueden pensar las mquinas?a La pregunta est mal planteada porque no tenemos una idea clara

de lo que significa pensar.` Pueden volar las mquinas?` Y nadar?

L.A.R, Nov 2006 4

Test de Turing (1950)

a Turing responde a la pregunta planteando una prueba de inteligencia

a Turing afirm que en el 2000 un ordenador tendra un 30% de probabilidades de engaar a una persona durante 5 minutos.

a El test de Turing no ha recibido mucha atencin del mundo de la IA.

a Pero Turing tambin plante las objeciones a la posibilidad de una mquina inteligente.

3L.A.R, Nov 2006 5

Argumento de incapacidad

a Una mquina nunca podr :` Ser amable, ser hermosa, tener sentido del humor, equivocarse, enamorarse,

disfrutar de las fresas con nata, aprender de la experiencia, ... (Turing 1950).

a Mirando hacia atrs (2006), es innegable que los ordenadores hacen cosas que antes eran privativas de los humanos:` Jugar al ajedrez, a las damas, vigilar lneas de produccin, pilotar aviones,

diagnosticar, ...` Han hecho descubrimientos significativos en astronoma, matemticas, qumica,

biologa, ciencia de la computacin, etc. Estos descubrimientos habran sido imposibles sin el computador.

a Est claro que los ordenadores pueden hacer muchas cosas igual, o mejor, que los humanos.` Lo que no implica que usen comprensin o intuicin.` Puramente conductista.

L.A.R, Nov 2006 6

Argumento matemtico

a El teorema de incompletitud de Godel (1931) estableci que hay cuestiones matemticas que no pueden resolverse con un sistema axiomtico formal.

a Lucas (1961) , Penrose (1994),.. establecieron que esto demuestra que las mquinas son mentalmente inferiores a los humanos:` Los ordenadores son sistemas axiomticos formales y los humanos no.

a Contraejemplos:` 1.- Manuel no puede asegurar que esta sentencia es cierta

Significa esto que Manuel no es inteligente?` 2.- Esta mquina puede sumar mucho ms rpidamente que cualquier persona.

Significa que la mquina es ms inteligente?` 3.- Las mquinas tienen limitaciones... Y nosotros tambin. O es que somos

absolutamente consistentes en nuestros razonamientos?

4L.A.R, Nov 2006 7

Argumento de la informalidad

a Problema de cualificacin:1. El comportamiento humano es demasiado complicado como para ser capturado

por un sistema simple de reglas.2. Los ordenadores solamente pueden seguir un sistema simple de reglas.3. Conclusin: nunca podrn generar un comportamiento tan inteligente como el

humano.` Hubert y Stuart Dreyfus (1972, 1986, 1992)

a Esta objecin puede ser cierta en sistemas de IA basados en lgica de primer orden, pero no en sistemas ms complejos (probabilistas, por ejemplo).

a Dreyfus no explica cmo razonan los humanos:` Dennet (1994) : Es como si los filsofos se proclamaran expertos en los

mtodos de los prestidigitadores. Si se les pregunta algo dicen est claro que el mago no ha serrado a la chica, pero cmo lo ha hecho no es problema mo.

L.A.R, Nov 2006 8

Argumento de la informalidad II

a Los hermanos Dreyfus proponen un proceso en cinco etapas para adquirir conocimiento (1986). Todas sus propuestas se han incorporado en la IA actual (redes neuronales, aprendizaje, incertidumbre, ...)

a Por lo tanto, el argumento de la informalidad mostr las limitaciones de la IA de la poca, no la imposibilidad.

5L.A.R, Nov 2006 9

Algunos objetivos de la IA

a A pesar de todo lo anterior, la IA ha conseguido una serie de objetivos que podemos clasificar en:

a Razonamiento: Dados {conocimiento, hechos}, deducir consecuencias. Por ejemplo, dado un cierto

conocimiento sobre enfermedades, y una relacin de sntomas (hechos) efectuar un diagnstico.

a Planificacin: Dados {conocimiento, situacin actual, objetivo deseado}, deducir la secuencia de acciones

para alcanzar el objetivo. (razonamiento dirigido por objetivos).

a Aprendizaje: Dados {conocimiento, hechos}, deducir de nuevos hechos posibles modificaciones sobre el

conocimiento.

a En aplicaciones concretas (reconocimiento de habla, visin artificial, robtica) pueden coexistir varios de los objetivos anteriores.

L.A.R, Nov 2006 10

Desarrollos en IA

a Los desarrollos producidos en la Inteligencia Artificial en todos estos aos pueden dividirse, grosso modo, en tres categoras:` Sistemas basados en conocimiento:

Sistemas expertos, sistemas basados en reglas y sistemas basados en marcos y objetos.

` Sistemas de Inteligencia computacional: Redes neuronales, algoritmos genticos.

` Sistemas hbridos:Sistemas basados en lgica borrosa.

a Las dos ltimas categoras constituyen lo que se ha dado en llamar computacin soft.

6L.A.R, Nov 2006 11

Sistemas expertos

L.A.R, Nov 2006 12

Software de Sistemas Inteligentes.

7L.A.R, Nov 2006 13

IA fuerte: pueden pensar las mquinas?

a Jefferson (1949):` Hasta que una mquina no pueda escribir un soneto... Basado en sus

conocimientos y emociones... No podremos estar de acuerdo en que las mquinas sean iguales al cerebro

a Turing llam a esto el argumento de la consciencia (conocimiento de lo que pasa en la propia mente).` Jefferson realmente planteaba el problema fenomenolgico, o estudio de la

experiencia directa (sentir las emociones).` Otros autores se centran en la intencionalidad de la mquina en la expresin de

sus deseos o sentimientos.

a Turing, en cierto modo, despreci bastante este argumento:` Por qu tenemos que exigir ms a las mquinas que a nosotros? En la vida

ordinaria, no tenemos ninguna evidencia de los estados mentales internos de las dems personas...En lugar de discutir sobre esto solemos tener la convencin educada de que todo el mundo piensa.

L.A.R, Nov 2006 14

IA fuerte

a Ms de Turing:` No quiero dar la impresin de que pienso que no hay ningn misterio con la

consciencia... Pero no creo que esto tenga que resolverse antes de que podamos contestar a la pregunta sobre la actuacin inteligente de las mquinas.

a Un ejemplo de otro campo: En 1848, F. Whler sintetiz urea por primera vez, empleando tcnicas de Qumica Inorgnica y Orgnica, posibilidad que haba sido negada hasta entonces. A partir de ah, la urea natural y la artificial no son distinguibles...

a Un ordenador puede jugar al ajedrez, o puede sumar dos nmeros. Por qu no puede pensar?

8L.A.R, Nov 2006 15

Funcionalismo vs. naturalismo

a Funcionalismo : cualquier condicin causal intermedia entre una entrada y una salida es un estado mental.` Bajo esta teora, dos sistemas cualesquiera con estados causales isomrficos

tienen los mismos estados mentales.` Es decir, un programa que juegue al ajedrez pasa por los mismos estados

mentales que un jugador humano.

a Naturalismo biolgico: los estados mentales son caractersticas emergentes de alto nivel causadas por procesos neurolgicos de bajo nivel en las neuronas, cuyas propiedades son las que importan.` Es decir, un programa no solo tiene que tener la misma entrada-salida que el

humano sino que, adems, debera ejecutarse en una arquitectura con la misma potencia de causalidad que las neuronas.

L.A.R, Nov 2006 16

Problema mente-cuerpo

a Cmo se relacionan los estados mentales con los estados y procesos corporales (o cerebrales)?` Este es uno de los problemas ms viejos de la filosofa de la mente.

a Teora dualista (Descartes, Discurso del mtodo 1637) : el alma y el cuerpo son dos cosas distintas.

a Teora monista (materialismo) : Los estados mentales son estados cerebrales. Los cerebros producen las mentes (Searle, 1984)` Obstculos:

Libre albedro : si las mentes estn gobernadas por leyes de la fsica, dnde queda el libre albedro).

Consciencia: por qu algunos sistemas fsicos son conscientes de que lo son y otros no? (las piedras, por ejemplo)

a Qu es el estado de un cerebro?

9L.A.R, Nov 2006 17

Cerebro en una cubeta

a Este es un experimento (virtual) muy clsico:` Imaginemos que al nacer un nio se le extrae el cerebro que se mantiene vivo,

y creciendo, en una cubeta.` Este cerebro se conecta a un simulador del mundo a travs de las interfaces

entrada/salida apropiadas. (Pelcula Matrix 1999)

a Los estados mentales de este cerebro, seran los mismos si estuviese alojado en su crneo y creciendo de forma natural?` Para un observador externo la respuesta es claramente NO. (contenido extenso)` Desde un punto de vista subjetivo interno, la respuesta es SI (contenido

estrecho)a Qualia o experiencias intrnsecas:

` El color rojo para m es el mismo que para ti? Cmo saber si lo que yo veo rojo t lo ves verde, y viceversa?

a Este experimento plantea una serie de interrogantes muy presentes en la literatura de ficcin.

L.A.R, Nov 2006 18

Prtesis cerebral

a Creado por Glymour (1970), Searle (1980) y Moravec (1988)a Imaginemos que:

` Conocemos perfectamente el funcionamiento del cerebro humano.` Podemos construir circuitos electrnicos que emulen perfectamente el

funcionamiento de partes del cerebro.` Podemos sustituir parte de un cerebro por circuitos, sin interrumpir el

funcionamiento del cerebro.

a Experimento : sustituir gradualmente todas las neuronas del cerebro por circuitos y, un tiempo despus, invertir el proceso.

a Qu pasara con el sujeto objeto del experimento?` Moravec : su consciencia no se vera afectada.` Searle: la consciencia desaparece pero el comportamiento externo no se altera.

a ????

10

L.A.R, Nov 2006 19

La habitacin china(Searle1980)

a Una habitacin cerrada con una ventanilla entrada y otra salidaa Dentro de la habitacin hay una persona que solo entiende ingls,

con un libro de reglas, un lpiz y un montn de hojas de papel.` Persona : CPU,` Libro de reglas : programa` Papeles : memoria de almacenamiento.

a Por la ventanilla de entrada se introducen hojas con textos escritos en chino.

a La persona consulta su libro de reglas, hace sus anotaciones en los papeles y al cabo de un rato, por la ventanilla de salida saca hojas con el texto correspondiente en ingls.` La persona no entiende chino: la ejecucin del programa no genera

comprensin de lo que se est haciendo (Searle)

L.A.R, Nov 2006 20

Ms sobre la habitacin china

a Mc Carthy : aunque la persona no entiende el chino, el sistema (habitacin, libro, papeles) se comporta como si lo entendiese.

a Aplicando la convencin educada de Turing, esto sera suficiente.a Searle: la comprensin no est en el hombre, y no puede estar en

el libro o los papeles ....por tanto no hay comprensin.a Podemos decir que la habitacin china es una mente?

11

L.A.R, Nov 2006 21

NEST (6 programa Marco): New andEmerging Science and Technology

L.A.R, Nov 2006 22

Human Mind Project: Objetivos

12

L.A.R, Nov 2006 23

La tica y la I.A.

a Todo avance cientfico y tecnolgico plantea dilemas morales : se debera hacer?

a La IA no es ajena a este planteamiento. Las principales objeciones que se le plantean son:1. Las personas podran perder su trabajo por culpa de los ordenadores.2. Las personas podramos tener demasiado ocio (o ninguno).3. Las personas podran perder la sensacin de ser nicos.4. Las personas podran ver alterados sus derechos.5. El uso de sistemas de IA podra cambiar la nocin de responsabilidad.6. El xito de la IA podra suponer la extincin de la especie humana.

L.A.R, Nov 2006 24

Objeciones

a 1.- Laboral: Hasta ahora, la informatizacin ha creado bastantes ms puestos de trabajo que los que ha destruido. Como todo avance cientfico tecnolgico, lo que se produce es un cambio del tipo de trabajo y una creacin de nuevos trabajos generalmente ms interesantes y mejor pagados.

a 2.- Ocio : la experiencia demuestra que aunque la jornada laboral media tiende a disminuir, los sistemas informatizados exigen unaatencin continuada: o las jornadas se alargan, o se crean ms puestos.` El principio neoliberal el ganador se queda con todo hace que la

competitividad exagerada produzca una fuerte presin en el trabajo. Una empresa un 10% mejor que la competencia se puede quedar con el 100% del mercado.

13

L.A.R, Nov 2006 25

Ms objeciones ticas

a 3.- Unicidad del ser humano: Esta idea es muy antigua (LHommeMachine, La Metrie 1748). Es un pensamiento que puede tener algo de razn, pero no est claro si en sentido positivo o negativo.

a 4.- Derechos: el argumento est fundado en la experiencia. Pero no depende de la IA, sino de los polticos que reducen, o eliminan, los derechos privados valindose de cualquier herramienta: escuchas, espas informticos, Guantnamo (nada que ver con la IA)

a 5.- Responsabilidad : si un sistema experto hace (o sugiere) un maldiagnstico, quin es responsable? (Gawande 2002)` Si tenemos un agente inteligente que hace inversiones en Bolsa, quin

responde de posibles deudas?` Los legisladores van a remolque de la tecnologa, en general. O legislan de

forma muy genrica, sin entender realmente qu es lo que tratan de regular.

L.A.R, Nov 2006 26

a 6.- Fin de la especie humana: este es un argumento muy usado en las novelas de ciencia ficcin (y pelculas) : Frankestein, Terminator(1964), Matrix (1999)` Los robots inteligentes, son ms amenazadores que los fantasmas o las brujas?` Las mquinas que se construyan no tiene que ser agresivas...a menos que se

desee hacerlas as.

a Un escenario ms amenazante es aquel en el que los ordenadores se vuelvan absolutamente imprescindibles para la vida humana...ysean conscientes de ello.

a Kurweil (2000) : Hacia el 2099 ya no existir una distincin clara entre los hombres y los computadores (transhumanismo)

a Punto de vista de las mquinas: si adquieren consciencia, sertico seguir tratndola como mquinas?

14

L.A.R, Nov 2006 27

Singularidad Tecnolgica: Ciencia ficcin?

a Vernor Vinge, matemtico (1993): Dentro de 30 aos tendremos los medios tecnolgicos para crear una inteligencia superhumana...Algn tiempo despus, la era humana habrterminado` Vinge se basa en la ley de Moore que parece que est alcanzando la fase de

saturacin...O no?

a Moravec (2000) en Robot, Mere Machine to Trascendent Mind: De manera bastante rpida, podramos quedar desplazados y fuera de la existencia...Al igual que los hijos biolgicos de generaciones anteriores, las mquinas representan la mejor esperanza de la humanidad para un futuro a largo plazo. Nos corresponde a nosotros ofrecerles todas las ventajas y cmo retirarnos cuando ya no podamos contribuir

L.A.R, Nov 2006 28

Robtica Inteligente

15

L.A.R, Nov 2006 29

Inteligencia Animal

L.A.R, Nov 2006 30

Inteligencia de insectos: R. Brooks

16

L.A.R, Nov 2006 31

Algunas cifras para pensar...

1014 /sg109 /sgActualizaciones de memoria

1014 bits/sg1010 bits/sgAncho de banda

10-3 sg10-9 sgTiempo de ciclo

1011 neuronas1014 sinapsis

1011 Bits RAM1013 Bits disco

Almacenamiento

1011 neuronas1 CPU, 109 puertasUnidades

Cerebro humanoComputador

L.A.R, Nov 2006 32

Algunas pginas Web

17

L.A.R, Nov 2006 33

Algo de bibliografa

a Russell, Norvig.- Inteligencia Artificial, Un Enfoque Moderno.- Prentice Hall, 97

a Bender.- Mathematical Methods in Artificial Intelligence.- IEEE Press, 96a Haykin: Neural Networks, IEEE Press, 1994a Nillson.- Principios de Inteligencia Artificial.- Diaz de Santos, 94a Aranda, et al.- Fundamentos de Lgica Matemtica. Sanz y Torres 03a Bratko.- PROLOG programming for Artificial Intelligence. Addison-Wesley

2001a Hopgood .- Intelligent Systems for Engineers and Scientists.- CRC Press,

2001a Minsky.- The Emotion Machine.- Simon&Schuster 2006