Inteligencia artificial by david colmenares

INTELIGENCIA ARTIFICIAL Tipos de inteligencia artiямБcial

Índice general 1

Inteligencia artiﬁcial

1.1

Categorías de la inteligencia artiﬁcial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2

Escuelas de pensamiento . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2.1

Inteligencia artiﬁcial convencional . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.2.2

Inteligencia artiﬁcial computacional

. . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.3

Historia . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.4

La inteligencia artiﬁcial, la conciencia y los sentimientos . . . . . . . . . . . . . . . . . . . . . . .

1.5

Críticas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.6

Tecnologías de apoyo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.7

Aplicaciones de la inteligencia artiﬁcial . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.8

Investigadores en el campo de la inteligencia artiﬁcial

. . . . . . . . . . . . . . . . . . . . . . . .

1.9

Véase también

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.10 Referencias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.11 Bibliografía . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.12 Enlaces externos

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.12.1 Publicaciones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.12.2 Asociaciones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.12.3 Robótica . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.12.4 Videos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

1.12.5 Otros . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Inteligencia artiﬁcial (videojuegos)

2.1

Uso . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.1.1

IA en videojuegos de combate . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Referencias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.2 3

Inteligencia artiﬁcial en la ﬁcción

3.1

Tradición y literatura . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.2

Autómatas inteligentes

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.3

IA en el cine

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.4

Véase también

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3.5

Enlaces externos

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

ii 4

ÍNDICE GENERAL Inteligencia artiﬁcial amigable

4.1

Metas de una IA Amigable y Riesgos Inherentes . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.2

Voluntad Coherente Extrapolada . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.3

Otros Acercamientos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.4

Política pública . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.5

Críticas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.6

Véase también . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.7

Referencias . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.8

Otras Lecturas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

4.9

Links externos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

IA Fuerte

5.1

Véase también

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5.2

Enlaces externos

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5.3

Origen del texto y las imágenes, colaboradores y licencias . . . . . . . . . . . . . . . . . . . . . .

5.3.1

Texto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5.3.2

Imágenes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

5.3.3

Licencia del contenido . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Capítulo 1

Inteligencia artificial La inteligencia artificial (IA) es un área multidiscipli- medicina, ingeniería y la milicia, y se ha usado en gran vanaria, que a través de ciencias como las ciencias de la riedad de aplicaciones de software, juegos de estrategia, computación, la matemática, la lógica y la filosofía, es- como ajedrez de computador, y otros videojuegos. tudia la creación y diseño de sistemas capaces de resolver problemas cotidianos por sí mismos, utilizando como paradigma la inteligencia humana.[cita requerida]

1.1 Categorías de la inteligencia artiﬁcial

General y amplio como eso, reúne a amplios campos, los cuales tienen en común la creación de máquinas capaces de pensar. En ciencias de la computación se denomina inteligencia artificial a la capacidad de razonar de un agente no vivo.[1][2][3] John McCarthy acuñó la expresión «inteligencia artificial» en 1956, y la definió como «... la ciencia e ingenio de hacer máquinas inteligentes, especialmente programas de cómputo inteligentes».[4]

Búsqueda heurística. Podemos deﬁnir una heurística como un truco o estrategia que limita grandiosamente la búsqueda de soluciones ante grandes espacios de problemas. Por lo tanto ante un problema, nos ayuda a seleccionar las bifurcaciones, dentro de un árbol, con más posibilidades, con ello se restringe la búsqueda aunque no siempre se garantiza una solución adecuada. Todo lo que se debe tener para que una heurística sea adecuada es que nos proporcione soluciones que sean lo suﬁcientemente buenas. Además utilizando la heurística, no será necesario replantear un problema cada vez que se afronte, ya que si lo hemos planteado anteriormente, ésta sugerirá la forma en que se ha de proceder para resolverlo.

Al igual que en la informática convencional, en la Inteligencia artiﬁcial tenemos una serie de elementos peculiares que la caracterizan y la diferencian. Para Nilsson son cuatro los pilares básicos en los que se apoya la inteligencia artiﬁcial, los cuales serán analizados a continuación. • Búsqueda del estado requerido en el conjunto de los estados producidos por las acciones posibles.

Representación del conocimiento. La representación es • Algoritmos genéticos (análogo al proceso de evolu- una cuestión clave a la hora de encontrar soluciones a los ción de las cadenas de ADN). problemas planteados, y que además éstas sean adecuadas. Si analizamos más detenidamente el término y ade• Redes neuronales artificiales (análogo al funcionamás dentro de la Informática, y más concretamente denmiento físico del cerebro de animales y humanos). tro de la Inteligencia Artificial, encontramos varias de• Razonamiento mediante una lógica formal análogo finiciones, como pueden ser las siguientes: según Barr y Feigenbaum, la representación del conocimiento es una al pensamiento abstracto humano. combinación de estructuras de datos y procedimientos de interpretación que, si son utilizados correctamente por un También existen distintos tipos de percepciones y accio- programa, éste podrá exhibir una conducta inteligente. nes, que pueden ser obtenidas y producidas, respectiva- La opinión de Fariñas y Verdejo será que la Inteligencia mente, por sensores físicos y sensores mecánicos en má- Artificial tiene como objetivo construir modelos compuquinas, pulsos eléctricos u ópticos en computadoras, tanto tacionales que al ejecutarse resuelvan tareas con resultacomo por entradas y salidas de bits de un software y su dos similares a los obtenidos por una persona. Por ello, entorno software. el tema central de esta disciplina es el estudio del conoVarios ejemplos se encuentran en el área de control de cimiento y su manejo. Y por último la opinión de Busistemas, planificación automática, la habilidad de res- chanan y Shortliffe apunta a que la Representación del ponder a diagnósticos y a consultas de los consumidores, Conocimiento en un programa de Inteligencia Artificial reconocimiento de escritura, reconocimiento del habla y significa elegir una serie de convenciones para describir reconocimiento de patrones. Los sistemas de IA actual- objetos, relaciones, y procesos en el mundo. Gran parte mente son parte de la rutina en campos como economía, del esfuerzo realizado en la consecución de ordenadores 1

CAPÍTULO 1. INTELIGENCIA ARTIFICIAL

inteligentes, según Rahael, ha sido caracterizado por el intento continuo de conseguir más y mejores estructuras de representación del conocimiento, junto con técnicas adecuadas para su manipulación, que permitiesen la resolución inteligente de algunos de los problemas ya planteados. Otra característica a resaltar, es la inclusión en los programas de Inteligencia artificial, aunque por separado, de los conocimientos y la unidad que controla y dirige la búsqueda de soluciones. Dada esta disposición, en estos programas se hace fácil la modificación, ampliación y actualización de los mismos. El razonamiento que puede tener cualquier persona, ha demostrado ser una de las cosas más difíciles de modelar dentro de un ordenador. El sentido común, a menudo nos ayuda a prever multitud de hecho y fenómenos corrientes, pero como ya hemos dicho es muy complicado representarlos en un ordenador ya que los razonamientos, son casi siempre inexactos, dado que sus conclusiones y reglas en las que se basan solamente son aproximadamente verdaderas. Lenguajes, entornos y herramientas de Inteligencia Artificial En la Inteligencia Artificial, se han desarrollado diferentes lenguajes específicos para los diferentes campos de aplicación. Estos lenguajes en su mayoría cuentan con una serie de características comunes que podemos resumir de la siguiente forma: Este tipo de software ofrece una gran modularidad. Poseen gran capacidad de tomar decisiones de programación hasta el último momento, es decir cuando el programa ya está ejecutándose. Ofrecen grandes facilidades en el manejo de listas, y esto es importante, ya que las listas son la estructura más habitual usada para la representación del conocimiento en la Inteligencia Artificial. Facilitan la realización de ciertos tipos de deducción automática permitiendo también, la creación de una base de hechos, que es el lugar donde se recogen los datos iniciales del problema a resolver y también los resultados intermedios una vez obtenidos. Permite el uso simultáneo de estructuras que incorporan conocimiento declarativo y conocimiento procedimental. Tienen una marcada orientación gráfica. Además, las herramientas de Inteligencia artificial, permiten hacer un seguimiento de todos los cambios realizados a lo largo de toda la sesión Disponen herramientas capaces de desarrollar programas que son capaces de comprender otros programas y también de realizar modificaciones sobre ellos. Stuart Russell y Peter Norvig diferencian estos tipos de la inteligencia artificial:[5]

robótica. El estudio de cómo lograr que los computadores realicen tareas que, por el momento, los humanos hacen mejor.[7] • Sistemas que piensan racionalmente.- Es decir, con lógica (idealmente), tratan de imitar o emular el pensamiento lógico racional del ser humano; por ejemplo los sistemas expertos. El estudio de los cálculos que hacen posible percibir, razonar y actuar.[8] • Sistemas que actúan racionalmente (idealmente).– Tratan de emular de forma racional el comportamiento humano; por ejemplo los agentes inteligentes.Está relacionado con conductas inteligentes en artefactos.[9]

1.2 Escuelas de pensamiento La IA se divide en dos escuelas de pensamiento: • La inteligencia artiﬁcial convencional • La inteligencia computacional

1.2.1 Inteligencia artificial convencional Se conoce también como IA simbólico-deductiva. Está basada en el análisis formal y estadístico del comportamiento humano ante diferentes problemas: • Razonamiento basado en casos: Ayuda a tomar decisiones mientras se resuelven ciertos problemas concretos y, aparte de que son muy importantes, requieren de un buen funcionamiento. • Sistemas expertos: Infieren una solución a través del conocimiento previo del contexto en que se aplica y ocupa de ciertas reglas o relaciones. • Redes bayesianas: Propone soluciones mediante inferencia probabilística. • Inteligencia artificial basada en comportamientos: Esta inteligencia contiene autonomía y puede autoregularse y controlarse para mejorar. • Smart process management: Facilita la toma de decisiones complejas, proponiendo una solución a un determinado problema al igual que lo haría un especialista en la dicha actividad.

• Sistemas que piensan como humanos.- Estos sistemas tratan de emular el pensamiento humano; por ejemplo las redes neuronales artificiales. La automatización de actividades que vinculamos con procesos de pensamiento humano, actividades como 1.2.2 Inteligencia artificial computacional la toma de decisiones, resolución de problemas y La Inteligencia Computacional (también conocida como aprendizaje.[6] IA subsimbólica-inductiva) implica desarrollo o aprendi• Sistemas que actúan como humanos.- Estos sis- zaje interactivo (por ejemplo, modificaciones interactivas temas tratan de actuar como humanos; es decir, de los parámetros en sistemas conexionistas). El aprendiimitan el comportamiento humano; por ejemplo la zaje se realiza basándose en datos empíricos.

1.3. HISTORIA

1.3 Historia • El término “inteligencia artificial” fue acuñado formalmente en 1956 durante la conferencia de Darthmounth, más para entonces ya se había estado trabajando en ello durante cinco años en los cuales se había propuesto muchas definiciones distintas que en ningún caso habían logrado ser aceptadas totalmente por la comunidad investigadora. La IA es una de las disciplinas más nuevas junto con la genética moderna. • Las ideas más básicas se remontan a los griegos, antes de Cristo. Aristóteles (384-322 a. C.) fue el primero en describir un conjunto de reglas que describen una parte del funcionamiento de la mente para obtener conclusiones racionales, y Ctesibio de Alejandría (250 a. C.) construyó la primera máquina autocontrolada, un regulador del flujo de agua (racional pero sin razonamiento). • En 1315 Ramon Llull en su libro Ars magna tuvo la idea de que el razonamiento podía ser efectuado de manera artificial. • En 1936 Alan Turing diseña formalmente una Máquina universal que demuestra la viabilidad de un dispositivo físico para implementar cualquier cómputo formalmente definido. • En 1943 Warren McCulloch y Walter Pitts presentaron su modelo de neuronas artificiales, el cual se considera el primer trabajo del campo, aún cuando todavía no existía el término. Los primeros avances importantes comenzaron a principios del año 1950 con el trabajo de Alan Turing, a partir de lo cual la ciencia ha pasado por diversas situaciones. • En 1955 Herbert Simon, Allen Newell y J. C. Shaw, desarrollan el primer lenguaje de programación orientado a la resolución de problemas, el IPL11. Un año más tarde desarrollan el LogicTheorist, el cual era capaz de demostrar teoremas matemáticos. • En 1956 fue inventado el término inteligencia artificial por John McCarthy, Marvin Minsky y Claude Shannon en la Conferencia de Dartmouth, un congreso en el que se hicieron previsiones triunfalistas a diez años que jamás se cumplieron, lo que provocó el abandono casi total de las investigaciones durante quince años. • En 1957 Newell y Simon continúan su trabajo con el desarrollo del General Problem Solver (GPS). GPS era un sistema orientado a la resolución de problemas. • En 1958 John McCarthy desarrolla en el Instituto de Tecnología de Massachusetts (MIT) el LISP. Su nombre se deriva de LISt Processor. LISP fue el primer lenguaje para procesamiento simbólico.

3 • En 1959 Rosenblatt introduce el Perceptrón. • A finales de la década de 1950 y comienzos de la de 1960 Robert K. Lindsay desarrolla «Sad Sam», un programa para la lectura de oraciones en inglés y la inferencia de conclusiones a partir de su interpretación. • En 1963 Quillian desarrolla las redes semánticas como modelo de representación del conocimiento. • En 1964 Bertrand Raphael construye el sistema SIR (Semantic Information Retrieval) el cual era capaz de inferir conocimiento basado en información que se le suministra. Bobrow desarrolla STUDENT. • A mediados de los años 60, aparecen los sistemas expertos, que predicen la probabilidad de una solución bajo un set de condiciones. Por ejemplo DENDRAL, iniciado en 1965 por Buchanan, Feigenbaum y Lederberg, el primer Sistema Experto, que asistía a químicos en estructuras químicas complejas euclidianas, MACSYMA, que asistía a ingenieros y científicos en la solución de ecuaciones matemáticas complejas. • Posteriormente entre los años 1968-1970 Terry Winograd desarrolló el sistema SHRDLU, que permitía interrogar y dar órdenes a un robot que se movía dentro de un mundo de bloques. • En 1968 Minsky publica Semantic Information Processing. • En 1968 Seymour Papert, Danny Bobrow y Wally Feurzeig desarrollan el lenguaje de programación LOGO. • En 1969 Alan Kay desarrolla el lenguaje Smalltalk en Xerox PARC y se publica en 1980. • En 1973 Alain Colmenauer y su equipo de investigación en la Universidad de Aix-Marseille crean PROLOG (del francés PROgrammation en LOGique) un lenguaje de programación ampliamente utilizado en IA. • En 1973 Shank y Abelson desarrollan los guiones, o scripts, pilares de muchas técnicas actuales en Inteligencia Artificial y la informática en general. • En 1974 Edward Shortliffe escribe su tesis con MYCIN, uno de los Sistemas Expertos más conocidos, que asistió a médicos en el diagnóstico y tratamiento de infecciones en la sangre. • En las décadas de 1970 y 1980, creció el uso de sistemas expertos, como MYCIN: R1/XCON, ABRL, PIP, PUFF, CASNET, INTERNIST/CADUCEUS, etc. Algunos permanecen hasta hoy (Shells) como EMYCIN, EXPERT, OPSS.

CAPÍTULO 1. INTELIGENCIA ARTIFICIAL • En 1981 Kazuhiro Fuchi anuncia el proyecto japo- otras premisas dadas, sin que ningún tipo de emoción ni nés de la quinta generación de computadoras. conciencia tenga la opción de obstaculizar dicha labor. • En 1986 McClelland y Rumelhart publican Parallel En esta línea, hay que saber que ya existen sistemas inteligentes. Capaces de tomar decisiones «acertadas». Distributed Processing (Redes Neuronales). Aunque, por el momento, la mayoría de los investiga• En 1988 se establecen los lenguajes Orientados a dores en el ámbito de la Inteligencia Artificial se cenObjetos. tran sólo en el aspecto racional, muchos de ellos conside• En 1997 Gari Kaspárov, campeón mundial de ran seriamente la posibilidad de incorporar componentes ajedrez, pierde ante la computadora autónoma Deep «emotivos» como indicadores de estado, a fin de aumentar la eficacia de los sistemas inteligentes. Blue. Particularmente para los robots móviles, es necesario que • En 2006 se celebró el aniversario con el Congreso en cuenten con algo similar a las emociones con el objeto español 50 años de Inteligencia Artificial - Campus de saber –en cada instante y como mínimo– qué hacer a Multidisciplinar en Percepción e Inteligencia 2006. continuación [Pinker, 2001, p. 481]. • En el año 2009 ya hay en desarrollo sistemas inteli- Al tener «sentimientos» y, al menos potencialmente, gentes terapéuticos que permiten detectar emocio- «motivaciones», podrán actuar de acuerdo con sus «innes para poder interactuar con niños autistas. tenciones» [Mazlish, 1995, p. 318]. Así, se podría equi• En el año 2011 IBM desarrolló una supercomputadora llamada Watson, la cual ganó una ronda de tres juegos seguidos de Jeopardy!, venciendo a sus dos máximos campeones, y ganando un premio de 1 millón de dólares que IBM luego donó a obras de caridad.[10]

par a un robot con dispositivos que controlen su medio interno; por ejemplo, que «sientan hambre» al detectar que su nivel de energía está descendiendo o que «sientan miedo» cuando aquel esté demasiado bajo.

Esta señal podría interrumpir los procesos de alto nivel y obligar al robot a conseguir el preciado elemento [Johnson-Laird, 1993, p. 359]. Incluso se podría intro• En 2016, un programa informático ganó cinco a cero ducir el «dolor» o el «sufrimiento físico», a fin de evitar al triple campeón de Europa de Go.[11] las torpezas de funcionamiento como, por ejemplo, in• Existen personas que al dialogar sin saberlo con un troducir la mano dentro de una cadena de engranajes o chatbot no se percatan de hablar con un programa, saltar desde una cierta altura, lo cual le provocaría daños de modo tal que se cumple la prueba de Turing como irreparables. cuando se formuló: «Existirá Inteligencia Artificial Esto significa que los sistemas inteligentes deben ser docuando no seamos capaces de distinguir entre un ser tados con mecanismos de retroalimentación que les perhumano y un programa de computadora en una con- mitan tener conocimiento de estados internos, igual que versación a ciegas». sucede con los humanos que disponen de propiocepción, interocepción, nocicepción, etcétera. Esto es fundamen• Como anécdota, muchos de los investigadores sobre tal tanto para tomar decisiones como para conservar su IA sostienen que «la inteligencia es un programa ca- propia integridad y seguridad. La retroalimentación en paz de ser ejecutado independientemente de la má- sistemas está particularmente desarrollada en cibernética, quina que lo ejecute, computador o cerebro». por ejemplo en el cambio de dirección y velocidad autónomo de un misil, utilizando como parámetro la posición en cada instante en relación al objetivo que debe alcanzar. 1.4 La inteligencia artificial, la Esto debe ser diferenciado del conocimiento que un sistema o programa computacional puede tener de sus estados conciencia y los sentimientos internos, por ejemplo la cantidad de ciclos cumplidos en un loop o bucle en sentencias tipo do... for, o la cantidad El concepto de IA es aún demasiado difuso. Contextuali- de memoria disponible para una operación determinada. zando, y teniendo en cuenta un punto de vista científico, podríamos englobar a esta ciencia como la encargada de A los sistemas inteligentes el no tener en cuenta elemenimitar una persona, y no su cuerpo, sino imitar al cerebro, tos emocionales les permite no olvidar la meta que deben en todas sus funciones, existentes en el humano o inven- alcanzar. En los humanos el olvido de la meta o el abandonar las metas por perturbaciones emocionales es un protadas sobre el desarrollo de una máquina inteligente. blema que en algunos casos llega a ser incapacitante. Los A veces, aplicando la definición de Inteligencia Artificial, sistemas inteligentes, al combinar una memoria durable, se piensa en máquinas inteligentes y/o no conscientes de una asignación de metas o motivación, junto a la toma si misma, pero sin sentimientos; que «obstaculizan» en- de decisiones y asignación de prioridades con base en escontrar la mejor solución a un problema dado. Sin em- tados actuales y estados meta, logran un comportamiento bargo muchos igualmente pensamos en dispositivos arti- en extremo eficiente, especialmente ante problemas comficiales capaces de concluir miles de premisas a partir de

1.6. TECNOLOGÍAS DE APOYO plejos y peligrosos.

sistema tiene la capacidad de interpretar el mensaje del En síntesis, lo racional y lo emocional están de tal manera usuario en la lengua que el usuario utiliza. interrelacionados entre sí, que se podría decir que no sólo Un humano durante toda su vida aprende el vocabulario no son aspectos contradictorios sino que son –hasta cierto de su lengua nativa. Un humano interpreta los mensajes a punto– complementarios. pesar de la polisemia de las palabras utilizando el contexto para resolver ambigüedades. Sin embargo, debe conocer los distintos significados para poder interpretar, y es por esto que lenguajes especializados y técnicos son co1.5 Críticas nocidos solamente por expertos en las respectivas disciplinas. Un sistema de inteligencia artificial se enfrenta con Las principales críticas a la inteligencia artificial tienen el mismo problema, la polisemia del lenguaje humano, su que ver con su capacidad de imitar por completo a un ser sintaxis poco estructurada y los dialectos entre grupos. humano. Estas críticas ignoran que ningún humano individual tiene capacidad para resolver todo tipo de pro- Los desarrollos en inteligencia artificial son mayores en blemas, y autores como Howard Gardner han propuesto los campos disciplinares en los que existe mayor consenso que existen inteligencias múltiples. Un sistema de inteli- entre especialistas. Un sistema experto es más probable gencia artificial debería resolver problemas. Por lo tanto de ser programado en física o en medicina que en socioes fundamental en su diseño la delimitación de los tipos logía o en psicología. Esto se debe al problema del conde problemas que resolverá y las estrategias y algoritmos senso entre especialistas en la definición de los conceptos involucrados y en los procedimientos y técnicas a utilizar. que utilizará para encontrar la solución. Por ejemplo, en física hay acuerdo sobre el concepto de En los humanos la capacidad de resolver problemas tiene velocidad y cómo calcularla. Sin embargo, en psicología dos aspectos: los aspectos innatos y los aspectos aprendise discuten los conceptos, la etiología, la psicopatología dos. Los aspectos innatos permiten por ejemplo almacey cómo proceder ante cierto diagnóstico. Esto dificulta la nar y recuperar información en la memoria y los aspeccreación de sistemas inteligentes porque siempre habrá tos aprendidos el saber resolver un problema matemático desacuerdo sobre lo que se esperaría que el sistema haga. mediante el algoritmo adecuado. Del mismo modo que A pesar de esto hay grandes avances en el diseño de sisteun humano debe disponer de herramientas que le permimas expertos para el diagnóstico y toma de decisiones en tan solucionar ciertos problemas, los sistemas artificiales el ámbito médico y psiquiátrico (Adaraga Morales, Zacdeben ser programados de modo tal que puedan resolver cagnini Sancho, 1994). ciertos problemas. Al desarrollar un robot con inteligencia artificial se debe Muchas personas consideran que el test de Turing ha sido tener cuidado con la autonomía, [12] hay que tener cuidado superado, citando conversaciones en que al dialogar con en no vincular el hecho de que el robot interaccione con un programa de inteligencia artificial para chat no saben seres humanos a su grado de autonomía. Si la relación de que hablan con un programa. Sin embargo, esta situación los humanos con el robot es de tipo maestro esclavo, y el no es equivalente a un test de Turing, que requiere que el papel de los humanos es dar órdenes y el del robot obeparticipante esté sobre aviso de la posibilidad de hablar decerlas, entonces sí cabe hablar de una limitación de la con una máquina. autonomía del robot. Pero si la interacción de los humaOtros experimentos mentales como la Habitación china nos con el robot es de igual a igual, entonces su presencia de John Searle han mostrado cómo una máquina podría no tiene por qué estar asociada a restricciones para que el simular pensamiento sin tener que tenerlo, pasando el test robot pueda tomar sus propias decisiones. de Turing sin siquiera entender lo que hace. Esto demostraría que la máquina en realidad no está pensando, ya que actuar de acuerdo con un programa preestablecido 1.6 Tecnologías de apoyo sería suficiente. Si para Turing el hecho de engañar a un ser humano que intenta evitar que le engañen es muestra • Interfaces de usuario de una mente inteligente, Searle considera posible lograr dicho efecto mediante reglas definidas a priori. • Visión artificial Uno de los mayores problemas en sistemas de inteligencia • Smart process management artificial es la comunicación con el usuario. Este obstáculo es debido a la ambigüedad del lenguaje, y apareció ya en los inicios de los primeros sistemas operativos informáticos. La capacidad de los humanos para comunicarse 1.7 Aplicaciones de la inteligencia entre sí implica el conocimiento del lenguaje que utiliza artificial el interlocutor. Para que un humano pueda comunicarse con un sistema inteligente hay dos opciones: o bien el humano aprende el lenguaje del sistema como si aprendiese Las técnicas desarrolladas en el campo de la inteligencia a hablar cualquier otro idioma distinto al nativo, o bien el artificial son numerosas y ubicuas. Comúnmente cuando

CAPÍTULO 1. INTELIGENCIA ARTIFICIAL

1.8 Investigadores en el campo de la inteligencia artificial • Jeff Hawkins • John McCarthy • Marvin Minsky • Judea Pearl • Alan Turing, discípulo de John von Neumann, diseñó el Test de Turing que debería utilizarse para comprender si una máquina lógica es inteligente o no. • Joseph Weizenbaum • Raúl Rojas • Ray Kurzweil Un asistente automático en línea dando servicio de atención al cliente en un sitio web – una de las muchas aplicaciones primitivas de la inteligencia artificial.

un problema es resuelto mediante inteligencia artiﬁcial la solución es incorporada en ámbitos de la industria y de la vida diaria de los usuarios de programas de computadora, pero la percepción popular se olvida de los orígenes de estas tecnologías que dejan de ser percibidas como inteligencia artiﬁcial. A este fenómeno se le conoce como el efecto IA.[13]

1.9 Véase también • Aprendizaje • Aprendizaje automático • Bot conversacional • Cerebro artiﬁcial

• Lingüística computacional • Minería de datos (Data Mining)

• Cibernética

• Industriales.

• Dinámica de sistemas

• Medicina

• Dr. Abuse

• Mundos virtuales • Procesamiento de lenguaje natural (Natural Language Processing) • Robótica • Mecatrónica

• Eliza • Inteligencia computacional • Inteligencia sintética

• Sistemas de apoyo a la decisión

• Razonamiento automatizado

• Videojuegos

• Red neuronal artiﬁcial

• Prototipos informáticos • Análisis de sistemas dinámicos. • Smart Process Management • Simulación de multitudes

• Sistema complejo • Sistema dinámico • Sistema inteligente

1.12. ENLACES EXTERNOS

1.10 Referencias [1] http://www.csail.mit.edu/

1.12 Enlaces externos •

[2] http://decsai.ugr.es/ [3] http://ai.stanford.edu/ [4] «Basic Questions». Consultado el 27 de octubre de 2011. ) [5] Stuart Russell and Peter Norvig, Inteligencia Artiﬁcial: Un Enfoque Moderno http://aima.cs.berkeley.edu/contents. html [6] Bellman, 1978 [7] Rich y knight, 1991 [8] Winston, 1992

Wikimedia Commons alberga contenido multimedia sobre Inteligencia artiﬁcial. Commons

Wikilibros •

Wikilibros alberga un libro o manual sobre Ingeniería del conocimiento.

1.12.1 Publicaciones • Revista “Inteligencia Artificial”. Revista iberoamericana de inteligencia artificial. • Página sobre inteligencia artificial. Web que desde 1998 trata este tema de forma diversificada. Tiene enlaces a proyectos.

[9] Nilsson, 1998

1.12.2 Asociaciones [10] http://es.blog.pinggers.com/2011/02/21/ watson-y-otros-sistemas-que-mejoran-nuestras-vidas-con-inteligencia-artificial/ [11] «La inteligencia artiﬁcial conquista el último tablero de los humanos». Consultado el 27 de enero de 2016.

• AEPIA - Asociación Española de Inteligencia Artiﬁcial.

[12] Salichs, Miguel A.; Malfaz, María; Gorostiza, Javi F. (2010-10-01). «Toma de Decisiones en Robótica». Revista Iberoamericana de Automática e Informática Industrial RIAI 7 (4): 5-16. doi:10.1016/S1697-7912(10)70055-8. Consultado el 2016-03-21.

1.12.3 Robótica

[13] «AI set to exceed human brain power» (en inglés). CNN. 26 de julio de 2006.

1.12.4 Videos

• Robots Sitio de robótica con artículos de contenido técnico y didáctico (en español).

• Inteligencia Artiﬁcial - Qué es, usos y peligros

1.11 Bibliografía

• Inteligencia artiﬁcial - El futuro, la fusión del alma y la tecnología −2008- Redes, n.º 10, en RTVE a la carta.

• Tirso de Andrés, Homo Cybersapiens. La Inteligencia artificial y la humana, 2002, ISBN 84-3131.12.5 1982-8 • Luis Mª Gonzalo, Inteligencia Humana e Inteligencia Artificial, Madrid, 1987. ISBN 84-7118-490-7 • Víctor Gómez Pin, Entre lobos y autómatas. La causa del hombre, Espasa, Madrid, 2006. ISBN 978-84670-2303-9 • Revista “Inteligencia Artificial” Revista Iberoamericana de Inteligencia Artificial. ISSN 1137-3601

Otros

• Luis Piscoya, “Lógica e inteligencia artificial”. • Una nueva tecnología percibe la información antes de que llegue al consciente. • Introduzione all'intelligenza artificiale (en italiano). • Inteligencia artificial. Una mirada al futuro del hombre. • Lista de películas con mención a la IA (en inglés).

• Adaraga Morales P., Zaccagnini Sancho J. L., Psicología e inteligencia artiﬁcial, Editorial Trotta, Madrid, 1994. ISBN 84-87699-77-4

• Grupo de investigación en sistemas inteligentes.

• Alberto García Serrano, Inteligencia Artiﬁcial. Fundamentos, práctica y aplicaciones., Editorial RC Libros, 2012. ISBN 978-84-939450-2-2

• Sistemas expertos en medicina (un uso para la inteligencia artiﬁcial).

• Máquinas de computación, creatividad artiﬁcial y cine digital.

Capítulo 2

Inteligencia artificial (videojuegos) teniendo en cuenta el terreno, los obstáculos y, posiblemente, “niebla de guerra”. Más allá de búsqueda de caminos, la navegación es un subcampo de la IA del juego que se centra en dar a los PNJ la capacidad de navegar en su entorno, la búsqueda de un camino hacia un objetivo, evitando colisiones con otras entidades o colaborar con ellos. La IA también está involucrada con el equilibrio de la dificultad del juego, que consiste en el ajuste de la dificultad de un juego de videojuego en tiempo real basado en la habilidad del jugador. El concepto de IA emergente ha sido recientemente explorado en juegos como Creatures, Black & White y Nintendogs y en juguetes como Tamagotchi. Las “mascotas” en estos juegos son capaces de “aprender” de las medidas adoptadas por el jugador y su comportamiento se modifica en consecuencia.

En los juegos de estrategia como Freeciv, la IA del juego tiene que lidiar con grandes cantidades de información.

Inteligencia artiﬁcial, abreviado IA,en un videojuego, se reﬁere a las técnicas utilizadas en computadoras y videojuegos para producir la ilusión de inteligencia en el comportamiento de los personajes no jugadores (PNJ). Es un agente electrónico que puede pensar, evaluar y actuar en ciertos principios de la optimización y la coherencia para cumplir con una meta o propósito.

2.1.1 IA en videojuegos de combate

Los muchos juegos contemporáneos de vídeo entran en la categoría de acción, tirador en primera persona, o aventura. En la mayoría de estos tipos de juegos hay un cierto nivel de combate que se lleva a cabo. La capacidad Como la IA se centra en el aspecto de la inteligencia y de la IA para ser eficiente en el combate es importante una buena jugabilidad, su enfoque es muy diferente a la en estos géneros. Un objetivo común hoy en día es hacer de la IA tradicional, soluciones alternativas y trucos son que la IA sea más humana, o al menos parecerlo. aceptables y, en muchos casos, las habilidades bajan el Una de las características más positivas y eficaces se entono para dar a los jugadores humanos un sentido de jus- cuentran en el moderno juego de día de IA en videoticia. Esto, por ejemplo, es cierto en los videojuegos de juegos es la habilidad para cazar. La IA originalmente acción en primera persona, donde la puntería perfecta es- reaccionaba de una manera muy simple. Si el jugador se taría más allá de la habilidad humana. encontraba en un área específica, a continuación, la IA reaccionaba, ya sea en una manera totalmente ofensiva completa o totalmente defensiva. En los últimos años, la idea de “caza” se ha introducido. En esta la IA buscará 2.1 Uso marcadores realistas, tales como los sonidos hechos por [1] La IA se utilizan en una amplia variedad de campos el carácter o huellas que pudieron haber dejado atrás. dentro de un juego. La más evidente es en el con- Estos desarrollos permiten en última instancia, para una trol de los PNJ en el juego, aunque las secuencias de forma más compleja de juego. Con esta característica, el comandos es actualmente el medio más común de con- jugador puede realmente considerar la manera de acertrol. La búsqueda de ruta es otro de uso común para la carse o evitar a un enemigo. Esta es una función que es IA, ampliamente visto en los juegos de estrategia en tiem- particularmente frecuente en el género del sigilo. po real. Buscando camino es el método para determinar Otra novedad en la IA de los juegos recientes ha sido cómo obtener un PNJ de un punto en un mapa a otro, el desarrollo de “instinto de supervivencia”. El ordena8

2.2. REFERENCIAS dor puede reconocer diferentes objetos en un ambiente y determinar si es beneficioso o perjudicial para su supervivencia. Al igual que un usuario, la IA puede “mirar” para cubrirse en un tiroteo antes de tomar acciones que podrían dejar que otras personas vulnerables, tales como la recarga de un arma o lanzar una granada. Se puede establecer marcadores que le indican cuándo reaccionar de una manera determinada. Por ejemplo, si la IA se da un comando para comprobar su salud a través de un juego a continuación, otros comandos se puede configurar de manera que reaccione de manera específica a un cierto porcentaje de la salud. Si la salud está por debajo de cierto umbral entonces la IA puede ser configurada para ir lejos del jugador y evitarlo hasta que otra función se active. Otro ejemplo podría ser si la IA se da cuenta que está fuera de las balas, encuentra un objeto de la cubierta y se esconde detrás de ella hasta que se recargue. Acciones como estas hacen que la IA parezca más humana. Sin embargo, todavía hay una necesidad de mejora en este ámbito. A diferencia de un jugador humano, la IA debe ser programada para todos los escenarios posibles. Esto limita seriamente su capacidad para sorprender al jugador.[1]

2.2 Referencias [1] Schreiner, Tim. “Artiﬁcial Intelligence in Game Design.” Artiﬁcial Intelligence Depot. Web. 19 November 2009. AI-depot.com

Capítulo 3

Inteligencia artiﬁcial en la ﬁcción en 1769, derrotó, entre otros, a Napoleón Bonaparte y Benjamin Franklin. Más tarde se descubrió que el invento era una farsa.

3.3 IA en el cine Numerosas son las películas en donde se hace mención a la inteligencia artiﬁcial. Entre las más populares se encuentran: • 2001: A Space Odyssey (película), en donde HAL, un computador inteligente comanda la nave espacial. • Blade Runner, en donde el protagonista debe identiﬁcar replicantes (cyborgs) • The Terminator, en donde un robot inteligente venido desde el futuro debe cumplir una misión.

HAL 9000 en 2001: Un computador intenta controlar la misión espacial.

Este artículo presenta diversas menciones a la inteligencia artificial en libros, cine y tradición. Aunque el término Inteligencia artificial fue acuñado por John McCarthy recién en 1956, numerosas son las menciones en literatura y ficción a entidadas creadas por el hombre que demuestran algún rasgo de inteligencia.

3.4 Véase también • Ser digital (ciencia ﬁcción)

3.5 Enlaces externos • lista de películas sobre IA (en inglés)

3.1 Tradición y literatura Una de las referencias más antiguas se encuentra en la tradición judía. El Golem es un ser de arcilla creado mediante un procedimiento que imita la creación del hombre por Dios. En literatura existen también referencias a seres artiﬁciales creados por el hombre, tales como Frankenstein (1818) o Pinocho (1882).

3.2 Autómatas inteligentes El Turco era un autómata que jugaba ajedrez. Construido 10

Capítulo 4

Inteligencia artificial amigable La inteligencia artificial amigable (también llamada IA Básicamente nosotros necesitamos asumir amigable o FAI por sus siglas en inglés) es una IA fuerte que una 'súper inteligencia' podría ser capaz de (IAF) e hipotética, puede tener un efecto positivo más cumplir cualquier meta que tiene. Por lo tanto, que uno negativo sobre la humanidad. El término fue es extremadamente importante que las metas acuñado por Eliezer Yudkowsky[1] para discutir acerca que nosotros le dotamos y todo su sistema de de los agentes artificiales súper inteligentes que de mamotivación sea 'humano amigable.' nera confiable implementan los valores humanos. Stuart J. Russell y Peter Norvig, liderando el libro de texto de Las raíces de esta preocupación son muy viejas. Kevin inteligencia artificial, Inteligencia Artificial: un Acerca- LaGrandeur mostró que los peligros específicos de la IA miento Moderno, describen dicha idea:[2] pueden ser vistos en la literatura antigua con relación a sirvientes humanoides artificiales tales como el golem Yudkowsky (2008) entra en mayor detao los proto-robots de Gerbert de Aurillac y Roger Balle acerca de la IA amigable. Él afirma que la con. En aquellas historias, la extrema inteligencia y poamabilidad, un deseo de no lastimar a los huder de estas creaciones humanoides chocan con su status manos, debe de ser diseñada desde el comiencomo esclavos, que por naturaleza son vistos como subzo. Los diseñadores deben reconocer que tan humanos, y causan conflictos desastrosos.[4] defectuosos pueden ser sus diseños y que tanRyszard Michalski, un pionero del aprendizaje automátito aprenderán y evolucionarán los robots con co, enseñó a sus estudiantes de Ph.D. hace décadas que el tiempo. Por lo tanto, el desafío es un diseño cualquier mente alien verdadera, incluyendo una mente de mecanismos de los sistemas de IA bajo un de máquina, era incognoscible y por lo tanto peligrosa sistema de chequeos y balances para lograr las para los humanos.[cita requerida] funciones de utilidad de sistemas que permaMás recientemente, Eliezer Yudkowsky ha llamado panecerán amigables frente a cualquier cambio. ra la creación de “IA amigable” para mitigar la amenaza 'Amigable' es usado en este contexto como terminología existencial de inteligencias hostiles. técnica y escoge agentes que son seguros y útiles, no necesariamente aquellos que son “amigables” en el sentido coloquial. El concepto es invocado principalmente en el contexto de discusiones de agentes artificiales de automejora recursiva que rápidamente explota en inteligencia, con el argumento de que esta tecnología hipotética pudiera tener una larga, rápida y difícil tarea de controlar el impacto en la sociedad humana.[3]

Steve Omohundro menciona que todos los sistemas de IA avanzados podrían, a menos contrarrestando de forma explícita, exhibir un número de unidades básicas, tendencias o deseos, porque de la naturaleza intrínseca de sistemas orientado a objetos y que estas unidades podrían, “sin precauciones especiales”, causar que la IA actúe en maneras que van desde la desobediencia hasta lo peligrosamente poco ético.

Alex Wissner-Gross menciona que las IAs impulsadas para maximizar su futura libertad de acción (o entropía 4.1 Metas de una IA Amigable y ruta casual) podrían ser consideradas amigables si su horizonte de planeación es más largo que un cierto umbral Riesgos Inherentes o antipáticas si su horizonte de planeación es más corto [5][6] El ﬁlósofo de Oxford, Nick Bostrom, menciona que los que el umbral. sistemas de IA con metas que no son perfectamente idén- Luke Muehlhauser recomienda que los investigadores de ticas o muy estrechamente alineadas con las éticas huma- la ética de las máquinas adoptan lo que Bruce Schneier nas son intrínsecamente peligrosas si no se toman medi- ha llamado la “mentalidad de la seguridad": En lugar de das extremas para garantizar la seguridad de la humani- pensar en cómo va a funcionar un sistema, imagina cómo podría fallar. Por ejemplo, sugiere incluso una IA que sólo dad. 11

CAPÍTULO 4. INTELIGENCIA ARTIFICIAL AMIGABLE

hace predicciones exactas y se comunica a través de una ternacional de Energía Atómica, pero en asociación con interfaz de texto, podría causar daño no intencionado.[7] corporaciones.” Él insta a los investigadores de IA para convocar una reunión similar a la Conferencia de Asilomar de ADN Recombinante, la cual discutió los riesgos de la biotecnología.[10]

4.2 Voluntad Coherente Extrapolada

Yudkowsky avanza el modelo de Voluntad Coherente Extrapolada (CEV por sus siglas en inglés) y menciona que nuestra voluntad coherente extrapolada son nuestras decisiones y las acciones que podríamos tomar colectivamente si “nosotros conociéramos más, pensáramos más rápido, fuéramos más las personas que nosotros deseamos ser y hubiéramos crecido más cerca.”[8]

John McGinnis alienta a los gobiernos para acelerar la investigación de la IA amigable. Porque las reglas de la IA amigable no son necesariamente claras, él sugiere un modelo parecido al National Institutes of Health, donde los “Paneles de revisión por pares de computadora y los cientíﬁcos cognitivos pueden tamizar a través de proyectos y elegir aquellos que son diseñados tanto para avanzar en IA y para asegurar que dichos avances puedan ser acompañados por garantías apropiadas.” McGinnis siente que la revisión en pares es mejor “que la regulación para hacer frente a los problemas técnicos que no son posible capturar a través de mandatos burocráticos”. McGinnis nota que su propuesta contrasta con la del Instituto de Investigación de Inteligencia Maquinaria, la cual generalmente tiene como objetivo evitar la participación del gobierno en la IA amigable.[11]

Más que una IA amigable siendo diseñada directamente por programadores humanos, es diseñada por una IA semilla programada para primero estudiar la naturaleza humana y luego producir la IA cual humanidad quiere, con el tiempo suficiente y la visión, para llegar a una respuesta satisfactoria.[8] La apelación para una psicología evolucionista (tal vez expresada, para propósitos mate- De acuerdo a Gary Marcus, la cantidad anual de dinemáticos, en la forma de una función de utilidad u otro ro siendo invertida en el desarrollo de la moralidad de la formalismo de la teoría de la decisión), puede proveer máquina es pequeña.[12] el criterio último de “Amabilidad”, es una respuesta al problema de metaética de definir una moral objetiva; la voluntad extrapolatada pretende ser lo que la humanidad objetiva querría, considerando todas las cosas, pero sólo puede ser definido en relación con las cualidades psicológicas y cognitivas de la actualidad, una humanidad no 4.5 Críticas extrapolada.

4.3 Otros Acercamientos Ben Goertzel, un investigador de la IA fuerte, cree que la IA amigable no puede ser creada con el conocimiento humano actual. Goertzel sugiere que los humanos deberían en vez de decidir crear una “IA niñera” con “inteligencia y vigilancia ligeramente sobrehumanos, deberían proteger la raza humana de riesgos existenciales como la nanotecnología y retrasar el desarrollo de otras inteligencias artiﬁciales (hostiles) si y solo si los problemas de seguridad son resueltos.[9] Steve Omohundro ha propuesto un enfoque de “andamiaje” para una IA segura, en el cual una probable generación de IA seguras ayudarían a construir la siguiente probable generación segura.[10]

4.4 Política pública James Barrat, autor de Our Final Invention, sugiere que “una asociación público-privada tiene que ser creada para traer a los responsables de la IA juntos para compartir ideas acerca de seguridad—algo como la Agencia In-

Algunos críticos creen que tanto el IA a nivel humano y la superinteligencia son improbables, y por ello una Inteligencia Articial Amigable es improbable. Alan Winfeld escribiendo en The Guardian compara la inteligencia artificial a nivel humano con viajar a la velocidad de la luz en términos de dificultad, y establece que mientras nosotros necesitemos ser “cautelosos y preparados” dado lo que esta en juego, nosotros “no necesitaremos ser obsesivos” acerca de los riesgos de superinteligencia.[13] Algunos filósofos afirman que cualquier agente “racional” verdadero, sea artificial o humano, será naturalmente benevolente; en esta visión, garantías deliberadas diseñadas para producir una IA amigable puede ser innecesario o incluso perjudicial.[14] Otros críticos se preguntan si es posible para una inteligencia artificial ser amigable. Adam Keiper y Ari N. Schulman, editores del journal tecnológico The New Atlantis, dicen que será imposible garantizar siempre un comportamiento “amigable” en las IA porque los problemas de complejidad de ética no cederán ante los avances de software o el incremento en el poder de las computadoras. Escribieron que los criterios en los que las teorías de IA amigable son basadas en el trabajo “sólo cuando uno no tenga grandes poderes de predicción sobre la probabilidad de resultados innumerables posibles, pero la certeza y consenso en cómo uno evalúa los diferentes resultados.[15]

4.8. OTRAS LECTURAS

4.6 Véase también • Rebelión de las máquinas • Éticas de la inteligencia artiﬁcial • Ética de las máquinas • Auto-mejora recursiva - una teoría relacionada a la IA Amigable

[11] McGinnis, John O. (Summer 2010). «Accelerating AI». Northwestern University Law Review 104 (3): 1253-1270. Consultado el 16 de julio de 2014. [12] Marcus, Gary (24 de noviembre de 2012). «Moral Machines». The New Yorker. Consultado el 30 de julio de 2014. [13] Winﬁeld, Alan. «Artiﬁcial intelligence will not turn into a Frankenstein’s monster». The Guardian. Consultado el 17 de septiembre de 2014.

• Singularitarianismo - una ﬁlosofía moral propugna- [14] Kornai, András. “Bounding the impact of AGI.” Journal of Experimental & Theoretical Artiﬁcial Intelligendo por autores de la IA amigable • Singularidad tecnológica • Tres leyes de la Robótica • Instituto de Investigación de Inteligencia Maquinaria

4.7 Referencias [1] Tegmark, Max (2014). «Life, Our Universe and Everything». Our mathematical universe : my quest for the ultimate nature of reality (First edition. edición). ISBN 9780307744258. «Its owner may cede control to what Eliezer Yudkowsky terms a “Friendly AI,”...» [2] Russell, Stuart; Norvig, Peter (2010). Artificial Intelligence: A Modern Approach. Prentice Hall. ISBN 0-13604259-7. [3] Wallach, Wendell; Allen, Colin (2009). Moral Machines: Teaching Robots Right from Wrong. Oxford University Press, Inc. ISBN 978-0-19-537404-9. [4] Kevin LaGrandeur. «The Persistent Peril of the Artificial Slave». Science Fiction Studies. Consultado el 6 de mayo de 2013. [5] 'How Skynet Might Emerge From Simple Physics, io9, Published 2013-04-26. [6] Wissner-Gross, A. D. (2013). «Causal entropic forces». Physical Review Letters 110: 168702. Bibcode:2013PhRvL.110p8702W. doi:10.1103/PhysRevLett.110.168702. [7] Muehlhauser, Luke (31 Jul 2013). «AI Risk and the Security Mindset». Machine Intelligence Research Institute. Consultado el 15 de julio de 2014. [8] «Coherent Extrapolated Volition». Singinst.org. Archivado desde el original el 24 de noviembre de 2015. Consultado el 20 de agosto de 2010. [9] Goertzel, Ben. “Should Humanity Build a Global AI Nanny to Delay the Singularity Until It’s Better Understood?" Journal of consciousness studies 19.1-2 (2012): 12. [10] Hendry, Erica R. (21 Jan 2014). «What Happens When Artificial Intelligence Turns On Us?». Smithsonian.com. Consultado el 15 de julio de 2014.

ce ahead-of-print (2014): 1-22. "...the essence of AGIs is their reasoning facilities, and it is the very logic of their being that will compel them to behave in a moral fashion... The real nightmare scenario (is one where) humans ﬁnd it advantageous to strongly couple themselves to AGIs, with no guarantees against self-deception.”

[15] Adam Keiper and Ari N. Schulman. «The Problem with ‘Friendly’ Artiﬁcial Intelligence». The New Atlantis. Consultado el 16 de enero de 2012.

4.8 Otras Lecturas • Yudkowsky, E. Artificial Intelligence as a Positive and Negative Factor in Global Risk. In Global Catastrophic Risks, Oxford University Press, 2008. Discute Inteligencia Artificial desde la perspectiva de Riesgo existencial, introduciendo el término “IA amigable”. En particular, Secciones 1-4 dan fondo a la definición de IA amigable en la Sección 5. La Sección 6 da dos clases de errores (técnico y filosófico) que ambos podrían liderar hacia la creación accidental de IAs no amigables. Las Sections 7-13 discute más sobre problemas relacionados. • Omohundro, S. 2008 The Basic AI Drives Appeared in AGI-08 - Proceedings of the First Conference on Artificial General Intelligence

4.9 Links externos • Ethical Issues in Advanced Artiﬁcial Intelligence by Nick Bostrom • What is Friendly AI? — A brief description of Friendly AI by the Machine Intelligence Research Institute. • Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures — A near booklength description from the MIRI • Critique of the MIRI Guidelines on Friendly AI — by Bill Hibbard • Commentary on MIRI’s Guidelines on Friendly AI — by Peter Voss.

14 • The Problem with ‘Friendly’ Artiﬁcial Intelligence — On the motives for and impossibility of FAI; by Adam Keiper and Ari N. Schulman.

CAPÍTULO 4. INTELIGENCIA ARTIFICIAL AMIGABLE

Capítulo 5

IA Fuerte La Inteligencia Artificial Fuerte es aquella inteligencia artificial que iguala o excede la inteligencia humana promedio – la inteligencia de una máquina que exitosamente puede realizar cualquier tarea intelectual de cualquier ser humano. Es un objetivo importante para la investigación sobre IA y un tópico interesante para la ciencia ficción. La IA Fuerte (IAF) igualmente es referida como Inteligencia General Artificial o AGI por sus siglas en inglés, esta es la habilidad de ejecutar acciones generales inteligentes. La ciencia ficción asocia a la IAF con cualidades humanas como la conciencia, la sensibilidad, la sapiencia y el autoconocimiento. Hasta el momento, la Inteligencia Artificial Fuerte se mantiene como una aspiración o mejor dicho, es hipotética; esto a pesar de los grandes avances en el campo y el mejoramiento de complejos algoritmos matemáticos. Algo importante a destacar es que el surgimiento y aplicación de este tipo de inteligencia artificial supondría un nuevo problema o mejor dicho, incógnitas morales sobre la posición que deberíamos tomar como seres humanos ante un ser que por su nueva inteligencia podría no considerarse solamente como una máquina más, otra incógnita es si este podría alcanzar un grado donde llegue a tener consciencia.

5.1 Véase también • Inteligencia Artiﬁcial • Historia de la inteligencia artiﬁcial • Transferencia mental

5.2 Enlaces externos • AGI o IA Fuerte, la inteligencia artiﬁcial más avanzada de todas.

CAPÍTULO 5. IA FUERTE

5.3 Origen del texto y las imágenes, colaboradores y licencias 5.3.1

Texto

• Inteligencia artificial Fuente: https://es.wikipedia.org/wiki/Inteligencia_artificial?oldid=90734833 Colaboradores: Mac, PACO, Pino, Pacoqueen, Oblongo, Moriel, Sauron, JorgeGG, Pilaf, Torheit, Lourdes Cardenal, ManuelGR, Julie, Sanbec, Zwobot, Javier Carro, Dodo, Ejmeza, Jonik, Yearofthedragon, Stoni, Ascánder, Sms, Tostadora, Tano4595, RGLago, Robotito, Enric Naval, Marcelo Huerta, Dianai, Gengiskanhg, Xatufan, TuringTest, Cinabrium, Lanjoe9, Fmariluis, Loco085, Balderai, Desatonao, Boticario, Deleatur, Petronas, Topopardo, AlfonsoERomero, Airunp, JMPerez, Taichi, Emijrp, Rembiapo pohyiete (bot), Susana.gandara, Magister Mathematicae, Kokoo, RobotQuistnix, Platonides, Itnas19, Alhen, Arevaloce, Dromero, Fergon, Amadís, BOT-Superzerocool, FlaBot, Varano, Vitamine, BOTijo, YurikBot, Icvav, GermanX, Paleoj, KnightRider, Trebol6, Carutsu, Mriosriquelme, Jesuja, Tigerfenix, Miguel.chaman, Claudiapat1, Cacuija~eswiki, HECTOR ARTURO AZUZ SANCHEZ, Zimio, José., Purodha, Morza, Maldoror, Er Komandante, Tomatejc, Jarke, Eloy Adrian, Boja, Paintman, Aloneibar, Wing Leader, Aleator, BOTpolicia, Alejandrosanchez, KLD~eswiki, Chfiguer, CEM-bot, Alejandrosilvestri, Laura Fiorucci, Unic, Ignacio Icke, Salvador alc, Norikesh, Erick91, Eamezaga, Karshan, Antur, Pompilos, AndyVec, Jorge, Julian Mendez, Jazmin82, Ivanius, Erodrigufer, Sol-rac, MAYRA PANIAGUA ROMAN, Kokitocris, BetoG, Chixna, Rygo, Victor penagos, Uriestrada777, Montgomery, FrancoGG, Ingenioso Hidalgo, Thijs!bot, Kyriah, Esenabre, Mahadeva, Yeza, Isha, Egaida, DavidLeeLambert, Hameryko, JAnDbot, Jugones55, Kved, Mansoncc, Xavigivax, Gsrdzl, TXiKiBoT, Jorgenumata~eswiki, Exrm, Bincoit, ColdWind, Elisardojm, Humberto, Netito777, Pabloallo, Sincro, Pólux, BL, Gerwoman, Gao.mza, Manuel Trujillo Berges, Jtico, Biasoli, Bucephala, VolkovBot, Technopat, C'est moi, El filóloco, Samaruga.sebastian, Matdrodes, Synthebot, Mrexcel, Nelsito777, Lucien leGrey, Alejandro313, AlleborgoBot, Muro Bot, Edmenb, El Pantera, Racso, SieBot, Mushii, Loveless, Macarrones, Modificador, Cobalttempest, El rojo capo, Silvae, BOTarate, Mel 23, Gurgut, Manwë, Correogsk, Garber, Adrigm, Joseluisfb, Bur123gos, Belb, Mafores, Scarton, XalD, HUB, Juliabis, Antón Francho, Nicop, Axelbangle, Farisori, Janopo, Eduardosalg, P4K1T0, Wedrey, Leonpolanco, Gallowolf, Pan con queso, Alejandrocaro35, Petruss, Walter closser, Alexbot, Paporrubio, Nerika, Açipni-Lovrij, Gelpgim22, Memo8ulrich, Camilo, UA31, AVBOT, David0811, Gabrielforever, Zut581, MastiBot, Sephirotmundi, Diegusjaimes, MelancholieBot, IATG, Jorge.maturana, Arjuno3, Facumf, Luckas-bot, Hetery, Vini 17bot5, Roinpa, Pravdaverita, Ptbotgourou, Jotterbot, Sergiportero, Vic Fede, FRANKEULER, Dangelin5, Fazer, Yonidebot, Nixón, ArthurBot, SuperBraulio13, Almabot, Ortisa, Xqbot, Jkbw, Dreitmen, Victorsulca, Irbian, Ricardogpn, Metronomo, Zendex, Botarel, Stuffy, MauritsBot, BreadMaker, Hprmedina, TobeBot, Halfdrag, WALL-E2700, PatruBOT, Dianelismoreno, Atapuerca, Tarawa1943, Foundling, GrouchoBot, Frandzi.rangel, Fjsalguero, Axvolution, EmausBot, Savh, AVIADOR, Allforrous, Sergio Andres Segovia, Adcasaa, Alrik, J. A. Gélvez, JackieBot, Writkas, Rubpe19, Deap27m, Mecamático, Jcaraballo, Gjusto, Simonfilm22, Morispolanco, MadriCR, Waka Waka, WikitanvirBot, MindZiper, Daimond, CavesNX, Alberto Lopez Viñals, MerlIwBot, KLBot2, TeleMania, Renly, AvicBot, UAwiki, RicardoEn, Travelour, Ginés90, MetroBot, 13fenix1990, Invadibot, Eagle c5, Federicobond, 1309daniel, Ileana n, Acratta, Isacdaavid, LlamaAl, Elvisor, Helmy oved, RomanLier, Albertosape, Naugthall, Aaron Zuñiga, Rotlink, Lemilio775, GuidoGS, Legobot, Emferr, Perrita77, Meroccisoma, Ivanretro, Balles2601, Luisatrollers, Faritalbavi, ConnieGB, TheManInTheAnthill, Cypherpunx, Miguel.mendivild, Elisa.salazarr1, JuliánDelRusso, Madcapjoc, Ramon djrb, Gjmdp, Hunza~eswiki, Geraldine27, Jarould, Matiia, Egis57, Lospenesvoladores, Learning40, Imjakenator, Martinmontesmay, Betojarcor, Lectorina, Gabriel Quicazan, Fernando2812l, Ramirez alejandro 6923, Ks-M9, MarianaBGT, PROPEDEUTICOS.5, SimoEditorPro, Ricardo Tique, Fabian fyr y Anónimos: 716 • Inteligencia artificial (videojuegos) Fuente: https://es.wikipedia.org/wiki/Inteligencia_artificial_(videojuegos)?oldid=88782657 Colaboradores: Tsuba, Fixertool, EmausBot, ZéroBot, Duperjuan, KLBot2, DarafshBot, Ver-Oz, Csent y Anónimos: 4 • Inteligencia artificial en la ficción Fuente: https://es.wikipedia.org/wiki/Inteligencia_artificial_en_la_ficci%C3%B3n?oldid=86137313 Colaboradores: Rosarino, Elsenyor, BOTijo, CEM-bot, 333, Unic, CommonsDelinker, VolkovBot, Muro Bot, Juan Mayordomo, PAOCOMPU, David0811, Jorge.maturana, Basilicofresco, Xqbot, RedBot, ZéroBot, KLBot2, MetroBot y Elvisor • Inteligencia artificial amigable Fuente: https://es.wikipedia.org/wiki/Inteligencia_artificial_amigable?oldid=90057986 Colaboradores: CEM-bot, Lucifer8k, Elvisor, BenjaBot, Ian Cervantes, Mónica Maldonado Marcos y Davidalran • IA Fuerte Fuente: https://es.wikipedia.org/wiki/IA_Fuerte?oldid=84208143 Colaboradores: BOT-Superzerocool, Peyrona, Loveless, Bigsus-bot, Luckas-bot, Dangelin5, Martin CX, Ebrambot, Grillitus, LuisM Elric, Jcaraballo, ChuispastonBot, Acratta, Addbot y Anónimos: 1

5.3.2

Imágenes

• Archivo:Automated_online_assistant.png Fuente: https://upload.wikimedia.org/wikipedia/commons/8/8b/Automated_online_ assistant.png Licencia: Attribution Colaboradores: The text is adapted from the Wikipedia merchandise page (this automated customer service itself, however, is ﬁctional), and pasted into a page in Wikipedia: Artista original: Mikael Häggström • Archivo:Check_mark.png Fuente: https://upload.wikimedia.org/wikipedia/commons/f/f0/Check_mark.png Licencia: CC BY-SA 3.0 Colaboradores: Wikipedia Artista original: Wikipedia • Archivo:Commons-emblem-copyedit.svg Fuente: Commons-emblem-copyedit.svg Licencia: CC BY-SA 3.0 Colaboradores:

https://upload.wikimedia.org/wikipedia/commons/e/e8/

• File:Gnome-emblem-important.svg Artista original: GNOME icon artists, Fitoschido • Archivo:Commons-emblem-question_book_orange.svg Fuente: https://upload.wikimedia.org/wikipedia/commons/1/1f/ Commons-emblem-question_book_orange.svg Licencia: CC BY-SA 3.0 Colaboradores: <a href='//commons.wikimedia.org/wiki/File: Commons-emblem-issue.svg' class='image'><img alt='Commons-emblem-issue.svg' src='https://upload.wikimedia.org/wikipedia/ commons/thumb/b/bc/Commons-emblem-issue.svg/25px-Commons-emblem-issue.svg.png' width='25' height='25' srcset='https: //upload.wikimedia.org/wikipedia/commons/thumb/b/bc/Commons-emblem-issue.svg/38px-Commons-emblem-issue.svg.png 1.5x, https://upload.wikimedia.org/wikipedia/commons/thumb/b/bc/Commons-emblem-issue.svg/50px-Commons-emblem-issue.svg.png 2x' data-ﬁle-width='48' data-ﬁle-height='48' /></a> + <a href='//commons.wikimedia.org/wiki/File:Question_book.svg' class='image'><img alt='Question book.svg' src='https://upload.wikimedia.org/wikipedia/commons/thumb/9/97/Question_book.svg/25px-Question_ book.svg.png' width='25' height='20' srcset='https://upload.wikimedia.org/wikipedia/commons/thumb/9/97/Question_book.svg/

5.3. ORIGEN DEL TEXTO Y LAS IMÁGENES, COLABORADORES Y LICENCIAS

38px-Question_book.svg.png 1.5x, https://upload.wikimedia.org/wikipedia/commons/thumb/9/97/Question_book.svg/50px-Question_ book.svg.png 2x' data-file-width='252' data-file-height='199' /></a> Artista original: GNOME icon artists, Jorge 2701 • Archivo:Commons-emblem-question_book_yellow.svg Fuente: https://upload.wikimedia.org/wikipedia/commons/d/dd/ Commons-emblem-question_book_yellow.svg Licencia: CC BY-SA 3.0 Colaboradores: <a href='//commons.wikimedia.org/wiki/File: Commons-emblem-query.svg' class='image'><img alt='Commons-emblem-query.svg' src='https://upload.wikimedia.org/wikipedia/ commons/thumb/c/c5/Commons-emblem-query.svg/25px-Commons-emblem-query.svg.png' width='25' height='25' srcset='https: //upload.wikimedia.org/wikipedia/commons/thumb/c/c5/Commons-emblem-query.svg/38px-Commons-emblem-query.svg.png 1.5x, https://upload.wikimedia.org/wikipedia/commons/thumb/c/c5/Commons-emblem-query.svg/50px-Commons-emblem-query.svg.png 2x' data-file-width='48' data-file-height='48' /></a> + <a href='//commons.wikimedia.org/wiki/File:Question_book.svg' class='image'><img alt='Question book.svg' src='https://upload.wikimedia.org/wikipedia/commons/thumb/9/97/Question_book. svg/25px-Question_book.svg.png' width='25' height='20' srcset='https://upload.wikimedia.org/wikipedia/commons/thumb/9/97/ Question_book.svg/38px-Question_book.svg.png 1.5x, https://upload.wikimedia.org/wikipedia/commons/thumb/9/97/Question_book. svg/50px-Question_book.svg.png 2x' data-file-width='252' data-file-height='199' /></a> Artista original: GNOME icon artists, Linfocito B • Archivo:Commons-logo.svg Fuente: https://upload.wikimedia.org/wikipedia/commons/4/4a/Commons-logo.svg Licencia: Public domain Colaboradores: This version created by Pumbaa, using a proper partial circle and SVG geometry features. (Former versions used to be slightly warped.) Artista original: SVG version was created by User:Grunt and cleaned up by 3247, based on the earlier PNG version, created by Reidab. • Archivo:Electronic_eye.png Fuente: https://upload.wikimedia.org/wikipedia/commons/8/82/Electronic_eye.png Licencia: CC BY 3.0 Colaboradores: Trabajo propio Artista original: Basilicofresco • Archivo:Freeciv-2.1.0-beta3-sdl_slack11.0.png Fuente: https://upload.wikimedia.org/wikipedia/commons/b/b3/Freeciv-2.1. 0-beta3-sdl_slack11.0.png Licencia: GPL Colaboradores: Trabajo propio Artista original: ? • Archivo:TOPIO_2.0.jpg Fuente: https://upload.wikimedia.org/wikipedia/commons/c/cc/TOPIO_2.0.jpg Licencia: CC BY-SA 3.0 Colaboradores: Trabajo propio Artista original: Lylodo • Archivo:Wikibooks-logo.svg Fuente: https://upload.wikimedia.org/wikipedia/commons/f/fa/Wikibooks-logo.svg Licencia: CC BY-SA 3.0 Colaboradores: Trabajo propio Artista original: User:Bastique, User:Ramac et al.

5.3.3

Licencia del contenido

• Creative Commons Attribution-Share Alike 3.0