http://hecate.com.ar/303/minsky.

htm
Entrevista a Marvin Minsky Por Fernando Bonsembiante

Mini conferencia de prensa de Marvin Minsky en Buenos Aires, Argentina, el da 26/4/96. Medios presentes: (P) Pgina/12 (Fernando Bonsembiante) (T) Telam y (M) un diario de Mendoza. (M) Cules son los lmites de la inteligencia artificial? Es posible llegar muy lejos, y algn da podremos entender todo sobre la mente humana y podremos programar mquinas para que funcionen como ella. Podrn hacer mucho ms, porque el cerebro humano puede llegar hasta cierto punto, pero eso se puede mejorar. (P) Cuando cree que ser posible? No hay forma de saber cuando, no sabemos cuanto tiempo va a tomar resolver cada problema. Los investigadores no se ponen de acuerdo en qu es lo prximo que hay que hacer, y hacen muchas cosas distintas, y la mayora estn equivocados. Eventualmente van a descubir qu es lo que funciona. La gente estuvo trabajando en esto por unos cincuenta aos, y ahora las computadoras pueden hacer muchas cosas interesantes. Estoy seguro de que en cincuenta aos ms van a poder hacer casi todo lo que la gente puede hacer. (M) Qu soluciones le ofrece la inteligencia artificial al hombre comn? En poco tiempo las computadoras han logrado muchas cosas, pero no pueden resolver problemas ordinarios. Son mejores resolviendo problemas para especialistas, pero no pueden resolver problemas para la gente comn. Eso va a cambiar cuando las computadoras sepan ms sobre la vida comn de la gente. Estoy hablando de que tengan sentido comn. (M) La inteligencia artificial se aplica solamente en las mquinas o se podr utilizar para que una persona sea ms inteligente? Pienso que la ciencia de la inteligencia artificial es la parte ms avanzada de la psicologa hoy en da. Cuando aprendamos cmo hacer que una mquina aprenda, probablemente aprendamos algo sobre cmo aprende la gente. No va a ser lo mismo, porque una persona es ms complicada que una computadora de hoy, pero todo lo que descubrimos sobre computadoras nos da ms informacin sobre lo que es posible para la gente. Otra forma de decirlo es: antes de las computadoras, la psicologa estaba trabada, porque los psiclogos no tenan idea de cmo poda funcionar una mquina que aprendiera. Ahora, con la inteligencia artificial, tenemos unas diez teoras sobre cmo hacer que las cosas aprendan. Estoy seguro de que los humanos usan cuatro o cinco de esas formas, y las otras no se aplican al cerebro. Ahora los psiclogos tienen muchas ideas nuevas para usar. (T) Cul es su opinion sobre la teora Freudiana? Freud fue la primera persona en entender que la mente tiene varias partes. Hizo la primer teora sobre la mente como computadora con distintos programas, varios procesos distintos, que no siempre estn de acuerdo. Muchas de mis ideas vienen de su teora de la mente con varias partes. (T) Piensa que una inteligencia artificial puede tener un ego, un superego, etctera? Pienso que es necesario. Si queremos hacer una mquina til, le tenemos que dar conocimiento sobre cmo hacer cosas, y qu cosas no estn permitidas. Para eso va a necesitar censores (como en la teora de Freud), va a necesitar distintos tipos de objetivos, no va a tener la misma clase de intereses que nosotros, no tiene por que ser exactamente igual. El superego es necesario porque si no la computadora va a perderse y perder tiempo en cosas que no funcionan. (P) Piensa que ser fcil programar un cdigo moral en una computadora? En su novela, 'The Turing Option', la Inteligencia Artificial no tena una moral como lo que estamos acostumbrados nosotros, aunque se comportaba con ciertas reglas de conducta. Pienso que va a ser fcil hacer algunas reglas. Los cdigos morales no responden muy bien a las preguntas, as que va a ser difcil hacerlas confiables, como con la gente, porque los

cdigos morales estn sobre-simplificados. El problema no es con la computadora, sino con la idea de un cdigo moral, porque depende demasiado de las opiniones. (M) Usted dijo que se podr erradicar la muerte, Cmo se imagina que ser Estados Unidos con 500 millones de habitantes de 500 aos cada uno? Eso es un problema diferente. Puede ser que la mayora no quieran vivir tanto. Hice algunas entrevistas, y mucha gente no quiere vivir ms tiempo, piensan que va a ser aburrido, as que puede ser que no sea un problema. (P) Las nuevas soluciones traen problemas nuevos... Si. (M) Es muy posible que en cientos de aos seamos ms inteligentes. Pero, Seremos ms felices? Espero que no. No creo que la felicidad sea una buena cosa. Hace que la gente no piense mucho. (P) Debemos tomar eso como un chiste? No creo que sea totalmente un chiste. Mitad chiste, quiz. Pienso que la gente puede ser feliz ahora, simplemente sacando la parte inteligente del cerebro. Cualquiera puede tomar drogas y ser feliz. Pienso que la felicidad es fcil, pero entender cosas es mejor. (M) Cual es la relacin de la inteligencia artificial con el sentido comn? Pienso que el sentido comn es el problema ms importante. Porque podemos hecer que las mquinas hagan cosas especficas muy fcil. Pero no hicimos mucho progreso para que las mquinas sepan las cosas ordinarias de todos los das. Las mquinas no saben cuando a la gente le gusta o no le gusta algo, no saben que la gente necesita dormir, no saben por qu la gente quiere dinero, muchas cosas simples que todas las personas saben. Pienso que va a tomar mucho tiempo hacer que las mquinas sean tiles para la gente ordinaria. Las mquinas deben entender cada palabra de tu idioma si no no pueden entender los objetivos e interesas de uno. Por ejemplo, las mquinas pueden jugar al ajedrez muy bien, pero no pudimos programar a una mquina para que sepa por qu a la gente le gusta jugar al ajedrez. Por ahora hicimos muchas cosas fciles, pero tenemos que empezar a trabajar en problemas ms difciles. (T) No piensa que es importante aprender como las mquinas pueden tomar informacin del mundo analgico y convertirlo en informacin til? Pero el problema es convertirla, y todo lo que hacen es conectar cmaras a la computadora. La gente estuvo haciendo esas cosas por mucho tiempo. La prensa no entendi que esto no es nuevo, y que no merece publicidad. La publicidad es mala cuando desorienta a los investigadores jvenes y les hace pensar que algo es importante. Debempos esperar a que haya algn resultado til. Entonces eso es noticia, pero no debera publicar cuando todava no hiceron ningn progreso. (T) Pero no debera investigarse lo que pasa con la imgen del ojo hasta que llega a la mente? No pasa nada. Son simplemente cables, sale lo mismo que entra, no pasa nada interesante hasta que el cerebro empieza a procesar la informacin. (T) Cmo pueden las mquinas reconocer cosas y obtener informacin til? Eso es un problema muy bueno. No hay ninguna razn para construir algo para resolver ese problema, lo que se necesita es hacer un programa que entienda una imagen. En mi computadora puedo conseguir un milln de imgenes del Internet, no necesito conectarle una cmara, ya hay miles de cmaras en el mundo. (T) El problema de crear inteligencias artificiales est ms cerca de C3PO de La Guerra de las Galaxias o de los Replicantes de Blade Runner? No hay diferencia. El problema es hacer que el programa sea inteligente. El cuerpo no es importante. (T) El programa podra ser gentico... No. Si pueden encontrar un cdigo gentico inteligente, sera muy bueno. Por ahora los cdigos genticos estn ms especializados que los programas de inteligencia artificial. Es una competencia, una competencia interesante. Pero no tiene ninguna relacin con el cuerpo. La diferencia tambin est en la biologa. Entre el exoesqueleto y el endoesqueleto. C3PO es duro por afuera y los replicantes son suaves por afuera. El exterior suave es mejor para ponerle sentidos. Se puede desarrollar una piel con tacto, si conseguimos el dinero como para hacerlo. Es una buena idea. (P) Cul es la contribucin ms importante de la inteligencia artificial en el da de hoy?

Principalmente controlar procesos industriales. En la oficina hay mquinas que pueden balancear presupuestos, tomar algunas decisiones, pero no es til para la persona promedio, en su casa. Eso es porque las mquinas no saben nada sobre las casas. (P) En este momento la expresin 'inteligencia artificial' est un poco pasada de moda. Hace algunos aos, en los 60 y los 70, todo programa tena 'inteligencia artificial'. Ahora nadie hace mrqueting de un producto diciendo que tiene inteligencia artificial. No pienso que debamos decir que es inteligencia artificial, hasta que no tenga sentido comn. Si a una persona le dicen que algo es inteligente piensa que se puede comunicar y puede resolver problemas. No es una palabra til para los negocios. (T) Tienen problemas para juntar dinero para sus investigaciones? Tenemos suficiente dinero en nuestro laboratorio. Pero es muy difcil conseguir dinero para investigacin que no consigue resultados rpidos. No tengo forma de conseguir dinero para hacer un proyecto que tomara diez aos. Desde aproximadamente los aos setenta la ciencia avanza muy lentamente porque la mayora de la gente trabaja con objetivos de corto tiempo. No hay investigacin sobre sentido comn, porque sabemos que va a tomar ms de diez aos. Podra tomar mil aos, pero puede hacerse en solo diez. Pienso que los gobiernos deberan hacerse cargo de esto, porque las empresas no pueden planear con tanta anticipacin. Pero muchos gobiernos tienen metas de corto plazo, porque estn pensando en las elecciones. (P) Quin es su escritor de ciencia ficcin favorito? Actualmente, son tres. Vernor Vinge, Gregory Benford, quien es un fsico, y David Brin. Hay uno nuevo, Greg Egan, que es australiano. Escribi un libro que se llama 'cuarentena', donde el resto del universo decide que la Tierra es peligrosa porque est haciendo un tipo equivocado de mecnica cuntica. Sabe mucho de ciencia, y sus historias tienen muchas ideas nuevas. (P) Le gusta la ciencia ficcin ms cientfica... No son muy romnticos. Pero tienen buenas ideas. (P) Qu busca en una historia de ciencia ficcin? Es una pregunta maravillosa, porque estamos teniendo una entrevista y me pregunts sobre qu va a pasar dentro de cincuenta aos. Creo que para predecir hay que pensar mucho, y es mucho trabajo. Yo no hago mucho ese trabajo, si quiero saber lo que va a pasar dentro de cincuenta aos voy a buscar esas cuatro personas, escritores de ciencia ficcin. Es su profesin. Dicen 'si tuviesemos realidad virtual a bajo costo, que va a pasar?'. La ltima novela de Greg Egan, no me acuerdo de su nombre, es una novela acerca de la realidad virtual, donde si uno es rico puede ser copiado dentro de la mquina, hacer una rplica de uno dentro de la computadora, para siempre. Cmo cambiara esto a la sociedad? S que esto va a pasar, no se cuando. Pero hace falta uno de estos escritores con imaginacin para poder entender cmo cambiara esto al mundo. Antes de esta gente mi escritor favorito era Larry Niven. (P) No mencion a Harry Harrison, su co-autor. Harry Harrison, Isaac Asimov y Theodore Sturgeon eran mi inspiracin de la generacin anterior. Pienso que Harrison es una persona que puede imaginar muchos futuros, es amigo mo y hablamos de estas cosas. Pero ahora est escribiendo principalmente otro tipo de ciencia ficcin, que predice la vida en otro tipo de mundos, no tan factibles, distintos a nuestro mundo. Tambin le gustan los super heroes. (P) Est pensando en escribir otra novela? Escribo demasiado lentamente. Cuando termine mi prximo libro pienso que voy a tratar de escribir otra novela. Si puedo escribirla rpido lo voy a hacer. Se me hace muy difcil hacer los personajes. (P) Quiz otra colaboracin... Si, puede ser. Trabajar con Harry o con otro de estos escritores que sepan cmo hacer personajes. Me impresionan mucho los escritores que pueden hacer personajes. Es como crear una persona, es como la inteligencia artificial. (P) Qu piensa de la nanotecnologa? Pienso que es muy posible. Va a ser la industria ms importante del siglo prximo. Probablemente tarde un tiempo en hacerse prctica. La industria ms importante de ahora puede ser la qumica. Todo est hecho con productos qumicos. La mayor parte de la economa tiene que ver con productos qumicos y transformarlos en materiales. Dentro de cien aos la nanotecnologa puede ser la base de la mayora de las fbricas. Muchos profesores del MIT dicen que es imposible, nunca va a pasar. Pero nuestros cuerpos son nanotecnolgicos. Todo lo que comemos es as. Son pequeas fbricas, que producen los materiales, as que obviamente es posible.

(P) Quiz en el futuro podamos cultivar la comida por nanotecnologa o cultivar computadoras. Exactamente. El problema es que los profesores ms conservadores del MIT dicen que es demasiado bueno como para ser verdad. Estn en contra no porque piensen que es imposible, sino porque parece demasiado bueno. Ser conservador y pensar as es correcto siempre, excepto algunas veces, como en este caso, con la nanotecnologa o la inteligencia artificial. Es bueno ser conservador porque normalmente uno tiene razn. (T) Cul es la opinin que tiene la gente sobre sus ideas? Sobre 'La sociedad de la mente', la gente es muy positiva. Una de las ideas es que si uno quiere que un programa funcione, uno no debe hacer lo normal. Lo normal es escribir un programa, que va a tener algunos bugs, correjir los bugs, y diez aos despus el programa tiene pocos bugs. Lo que yo digo es que uno debera escribir cinco programas que hagan lo mismo de distintas maneras. Despus hacer un manager que decida qu programa usar. Es mejor, porque en vez de arreglar los bugs se cambian los mtodos. A todos les gusta eso. Entonces dicen, quiero ver como funciona uno de esos. Eso me averguenza, porque esto se hace solamente en pequea escala, por poca gente. Es un buen ejemplo de cuando la gente dice 'si, esta debe ser una buena idea', pero tengo que decirles que es muy difcil de hacer y no se hicieron suficientes experimentos como para probarlo. Es como funciona el cerebro. El ID tiene poderosos deseos de hacer algo, el superego no puede detenerlo, entonces hace otra cosa para distraerlo o engaarlo. La actividad humana es resultado de una guerra. Cuando uno toma una decisin, el 1% de uno tuvo xito en suprimir al 99% restante. (T) Y qu opinan de las consecuencias sociales de sus ideas? Bueno, no sabemos cuales son. La gente suele preocuparse mucho. Por ejemplo, si uno les muestra cmo los robots pueden hacer trabajos, la gente dice 'y yo qu voy a hacer?'. No tengo respuestas. (T) No siente ninguna presin tica sobre su trabajo? No, porque se que mi sentido tico es tan malo que si insisto en l voy a hacer peor. Quisiera que la tica venga de gente que sepa de eso. No pienso que sea bueno pedirle a los cientficos que entiendan las consecuencias de su trabajo, porque no pueden. Pasan todo su tiempo pensando en su trabajo, as que no piensan en la tica.

e-mail: ubik@ubik.com.ar