Anda di halaman 1dari 8

46 INVESTIGACIN Y CIENCIA, agosto 2016

i n fo r m e es p ec i a l

Las esperanzas que suscitan los vehculos


sin conductor y las nuevas tcnicas de aprendizaje
y razonamiento automatizado han hecho resurgir
la inteligencia artificial. Y tambin han avivado
el miedo a que algn da las mquinas
puedan volverse contra nosotros
ilustraciones de travis coburn

Agosto 2016, InvestigacionyCiencia.es 47


informe especial
l a e da d d e o ro d e l a
inteligencia artificial

redes neuronales

APRENDIZAJE
PROFUNDO
Tras aos de decepciones,
la inteligencia artificial est
empezando a cumplir lo que
prometa en sus comienzos
gracias a esta potente tcnica
Yoshua Bengio

************************************

n la dcada de 1950, las computadoras suscitaron un


gran entusiasmo al demostrar teoremas matemticos
y derrotar a seres humanos en partidas de damas. En
los aos sesenta creci la esperanza de que los cien-
tficos emulasen pronto el cerebro humano con or-
denadores y programas; se crea que la inteligencia
artificial (IA) no tardara en igualar el rendimiento
humano en cualquier tarea. En 1967, el recientemen-
te fallecido Marvin Minsky, del Instituto de Tecnolo-
ga de Massachusetts, vaticin que el reto de la IA se
superara en el plazo de una generacin.

Sin embargo, tal optimismo result prematuro. Aquellas expectativas no fueron colmadas ni por los programas que ayudaban
a los mdicos a efectuar mejores diagnsticos ni por las redes que tomaban como modelo el cerebro humano para reconocer el
contenido de una fotografa. Los algoritmos de esos primeros aos no eran lo suficientemente refinados, y necesitaban una can-
tidad de datos de la que no se dispona en la poca. Adems, la capacidad de computacin era demasiado limitada para que las
mquinas realizasen los ingentes clculos necesarios para aproximarse a la complejidad del pensamiento humano.

EN SNTESIS

La inteligencia artificial(IA) apareci Las esperanzasse desvanecieron cuan- En los ltimos aos,el desarrollo El aprendizaje profundo, una tcni-
como disciplina seria en la dcada do qued claro que los algoritmos y la de nuevas tcnicas computacionales ca que se vale de redes neuronales
de 1950. Entonces los investigadores potencia de cmputo no bastaban para inspiradas en las redes de neuronas complejas, permite que una mquina
creyeron que podran emular la inte- culminar la tarea. Algunos considera- del cerebro humano ha resucitado aprenda conceptos abstractos. En al-
ligencia humana en menos tiempo de ron que el intento era un acto de pura la esperanza de materializar las pro- gunas tareas ya se aproxima a lo que
lo que durara su carrera. arrogancia. mesas originales de la IA. pueden lograr los seres humanos.

48 INVESTIGACIN Y CIENCIA, agosto 2016


Agosto 2016, InvestigacionyCiencia.es 49
A principios del siglo xxi, el sueo de construir mquinas Yoshua Bengioes catedrtico de ciencias de la
con un nivel de inteligencia humano casi se haba desvanecido. computacin de la Universidad de Montreal y uno
Hasta la expresin inteligencia artificial pareca haber sido de los padres de la tcnica de aprendizaje profundo.
erradicada de las disciplinas serias. Para referirse a las truncadas
esperanzas del perodo comprendido entre los aos setenta y
mediados de los aos 2000, cientficos y escritores hablan de
una sucesin de inviernos de la IA.
Es sorprendente cmo pueden cambiar las cosas en diez Inteligencia, conocimiento y aprendiza je
aos. Las perspectivas en IA han mejorado notablemente des- Por qu se top la IA con tantas barreras en las dcadas previas?
de 2005, poca en que comenzaron a despuntar las tcnicas de La razn reside en que la mayor parte del conocimiento que
aprendizaje profundo: un enfoque para construir mquinas poseemos acerca del mundo no se encuentra formalizado en
inteligentes inspirado en la neurociencia y que, en los ltimos un lenguaje escrito mediante una secuencia de tareas explcitas,
aos, ha impulsado de manera singular la investigacin en IA. algo imprescindible para cualquier programa informtico. Eso
Hoy, grandes empresas tecnolgicas estn invirtiendo miles de impide programar directamente un ordenador para que ejecute
millones en su desarrollo. muchas de las acciones que los seres humanos realizamos con
Aprendizaje profundo es una manera de referirse a la si- facilidad, como captar el significado de una frase, reconocer
mulacin de redes de neuronas que aprenden gradualmente una imagen o conducir un coche. Los intentos para lograrlo
a reconocer imgenes, a comprender el lenguaje o incluso a organizando conjuntos de hechos en pormenorizadas bases de
tomar decisiones. Esta tcnica descansa en las redes neurona- datos, con el objeto de dotar a los ordenadores de un facsmil
les artificiales, un elemento bsico de la investigacin actual de la inteligencia han tenido escaso xito.
en IA. Dichas redes no imitan exactamente el funcionamiento Es aqu donde interviene el aprendizaje profundo. Esta tc-
del cerebro. En su lugar, se basan en principios matemticos nica forma parte de una disciplina de IA ms amplia, el apren-
generales que, a partir de ejemplos, les permiten aprender a dizaje automtico (machine learning), el cual se basa en los
detectar personas u objetos en una fotografa o a traducir los principios empleados para entrenar sistemas informticos con
principales idiomas del mundo. la meta final de que las mquinas se instruyan a s mismas. Uno
El aprendizaje profundo ha transformado la investigacin en de tales principios guarda relacin con lo que un ser humano
IA y reavivado las ambiciones perdidas en visin computarizada, o un ordenador considera una buena decisin. En el caso de
reconocimiento de voz, procesamiento del lenguaje natural y los animales, los principios evolutivos dictan que la respuesta a
robtica. En 2012 se lanzaron los primeros productos que en- cada situacin debe llevar a comportamientos que maximicen las
tendan el habla quizs el lector est familiarizado con Google opciones de supervivencia y de reproduccin. En las sociedades
Now y poco despus aparecieron aplicaciones que permitan humanas, puede ocurrir que una buena decisin haya de tener
identificar el contenido de una imagen, una caracterstica hoy presente qu interacciones sociales reportan un cierto estatus o
ya incorpora Google Photos. una sensacin de bienestar. Sin embargo, cuando se trata de una
Todo aquel que se haya sentido frustrado con los engorrosos mquina, como un coche sin conductor, la bondad de la decisin
mens telefnicos automatizados sabr apreciar las extraordi- depender de la exactitud con que el vehculo autnomo imite
narias ventajas de poder utilizar un buen asistente personal en el proceder de un conductor humano competente.
su telfono inteligente. Y quienes recuerden la pobre eficacia No tiene por qu resultar obvio cmo plasmar en un cdigo
que mostraba el reconocimiento de objetos hace apenas unos informtico los conocimientos necesarios para tomar una buena
aos, cuando los algoritmos podan confundir un ser inanimado decisin en un determinado contexto. Un ratn, por ejemplo,
con un animal, se maravillarn con los progresos logrados en posee un conocimiento de su entorno y un sentido innato que le
visin artificial. Hoy disponemos de ordenadores que, bajo cier- permiten saber dnde olisquear y cmo mover las patas, hallar
tas condiciones, pueden discernir gatos, piedras o rostros en comida o pareja y evitar los depredadores. Ningn programador
una fotografa casi tan bien como un humano. De hecho, los sera capaz de especificar un conjunto detallado de instruccio-
programas de IA se han convertido en algo imprescindible para nes para reproducir, paso a paso, semejante comportamiento.
millones de usuarios de dispositivos mviles. En mi caso, rara Sin embargo, tales conocimientos se encuentran codificados de
vez escribo mensajes de texto; a menudo me limito a hablarle alguna manera en el cerebro del roedor.
al telfono, que a veces incluso me responde. Antes de crear sistemas autodidactas, los cientficos compu-
Estos avances han abierto la puerta a la comercializacin de tacionales deban aclarar una cuestin fundamental: cmo ad-
una tecnologa que cada vez despierta ms entusiasmo. Las em- quirimos conocimientos los seres humanos? Algunos son innatos,
presas compiten por los mejores profesionales, y alguien con un pero la mayora proviene de la experiencia. Lo que sabemos por
doctorado en aprendizaje profundo es una rara avis muy deman- intuicin no puede traducirse en una secuencia definida de pasos
dada. Numerosos profesores universitarios con experiencia en el apta para ser ejecutada por un ordenador, pero a menudo puede
campo segn algunos clculos, la mayora han abandonado el aprenderse a partir de ejemplos y de la prctica. Desde los aos
mbito acadmico atrados por la industria, que ofrece excelentes cincuenta, los investigadores han estado buscando y procurando
medios de investigacin y generosas retribuciones. depurar los principios generales que confieren a los animales y
Solventar las dificultades que plantea el aprendizaje profun- a los seres humanos y, si vamos al caso, a las mquinas la
do ha conducido a xitos sensacionales. Hace poco, la victoria de capacidad de adquirir conocimientos gracias a la experiencia. El
una red neuronal frente a Lee Sedol, uno de mejores jugadores aprendizaje automtico aspira a establecer procedimientos, lla-
de go del mundo, mereci grandes titulares. Pero no todo se mados algoritmos de aprendizaje, que permitan a una mquina
centra en los juegos: un algoritmo reciente parece ser capaz aprender de los ejemplos que se le presenten.
de diagnosticar un fallo cardaco por medio de imgenes de La ciencia del aprendizaje automtico es en gran medida
resonancia magntica con tanta pericia como un cardilogo. experimental, puesto que no existe un algoritmo universal de

50 INVESTIGACIN Y CIENCIA, agosto 2016


a p r e n d i z a j e a u t o m t i c o

Redes inteligentes que cada vez lo son ms


Las conexiones entre neuronas colindantes dentro de la cor- Para realizar un reconocimiento facial, la red neuronal ana-
teza cerebral han inspirado la creacin de algoritmos que tra- liza primero los pxeles individuales de la imagen que se le pre-
tan de imitar estos intrincados enlaces. Se puede ensear a una senta en la capa de entrada. A continuacin, en el estrato
red neuronal a reconocer un rostro entrenndola con un nmero siguiente, selecciona formas geomtricas distintivas de un ros-
muy grande de imgenes. Una vez que ha aprendido a esta- tro concreto. Al ascender en la jerarqua, una capa intermedia
blecer la categora de cara (distinguindola, por ejemplo, de la de detecta los ojos, la boca y otras facciones para que, en un nivel
mano) y a detectar rostros individuales, la red utiliza ese cono- superior, pueda discernirse un rostro completo compuesto por
cimiento para identificar caras que ha visto antes aunque la ima- esos elementos. En la capa de salida, la red hace una suposi-
gen sea ligeramente distinta de aquella con la que se entren. cin acerca de si la cara corresponde a Pepe, Cris o Lola.

Capa de entrada Capas ocultas Salida

Pepe
Aprendizaje
Una red neuronal que
reconoce rostros ha de Cris
entrenarse con, tal vez,
millones de ejemplos
antes de ser capaz de Lola
detectar un rostro indi-
vidual entre una multi-
tud o en un paisaje lleno
de otros elementos.

Reconocimiento
La entrada correspon-
diente a un rostro se ana-
liza en cada capa de la red
antes de discernir su iden-
tidad.
Cada capa identica rasgos cada vez ms complejos

aprendizaje: no hay ninguno que posibilite que un ordenador en redes neuronales artificiales han elegido el cerebro como
aprenda bien todas las tareas que se le asignen. Todo algoritmo modelo aproximado para disear sistemas inteligentes.
de adquisicin de conocimientos ha de ser ensayado en tareas de Las unidades principales de computacin en el cerebro son
aprendizaje con datos especficos de la situacin de que se trate, las neuronas, las cuales se comunican entre s a travs de los
ya sea reconocer una puesta de sol o traducir del ingls al urdu. pequeos huecos que hay entre ellas, las hendiduras sinpticas.
No hay modo de demostrar que, cualquiera que sea la situacin, Para referirse a la propensin de una neurona a enviar una seal
un algoritmo dado lo har siempre mejor que el resto. a travs de ese espacio y a la amplitud de dicha seal se
Existe una descripcin matemtica formal de este principio: emplea la expresin fuerza sinptica. Conforme una neurona
el teorema de todo cuesta algo (no free lunch), el cual de- aprende, su fuerza sinptica aumenta y, por tanto, tambin es
muestra que no existe ningn algoritmo capaz de abordar todas ms probable que, una vez estimulada por un impulso elctrico,
las situaciones de aprendizaje del mundo real. Sin embargo, el transmita mensajes a sus vecinas.
punchstock (caras); jen christiansen (grfico)

comportamiento humano parece contradecir esta afirmacin: La neurociencia espole la aparicin de redes artificiales que
se dira que poseemos facultades cognitivas bastante generales imitaban las neuronas mediante programas informticos o siste-
que nos permiten dominar una multitud de actividades para las mas fsicos. Las primeras investigaciones en esta rea de la IA,
que la evolucin no prepar a nuestros ancestros, como jugar conocida como conexionismo, partan del supuesto de que
al ajedrez, construir puentes o investigar en IA. las redes neuronales seran capaces de aprender tareas com-
Esa capacidad de aprendizaje sugiere que la inteligencia hu- plejas a partir de la alteracin gradual sus conexiones mutuas,
mana explota suposiciones generales sobre el mundo, las cuales de manera que las pautas de actividad neuronal captasen el
podran servir de inspiracin para crear mquinas dotadas de contenido de una entrada determinada, como una imagen o un
algn tipo de inteligencia general. Por esta razn, los expertos fragmento de dilogo. A medida que las redes recibieran ms

Agosto 2016, InvestigacionyCiencia.es 51


ejemplos, el aprendizaje proseguira mediante la modificacin de identificar un mismo rostro visto desde ngulos diferentes
de las fuerzas sinpticas entre las neuronas, lo que derivara en en fotografas distintas. El diseo de una red convolucional se
representaciones cada vez ms exactas de, digamos, las imgenes inspira en la estructura multicapa de la corteza visual, la regin
de una puesta de sol. del cerebro que recibe estmulos desde los ojos. Los numerosos
estratos de neuronas virtuales que componen una red convolu-
Lecciones sobre puestas de sol cional son los que la hacen profunda y los que le confieren,
La redes neuronales modernas amplan el trabajo pionero del por tanto, una mayor capacidad de aprender sobre el mundo.
conexionismo. Van cambiando gradualmente ciertos valores
numricos asociados a cada conexin sinptica, los cuales capas Profundas
representan su fuerza y, por tanto, la probabilidad de que la En la prctica, los avances que posibilitaron el aprendizaje pro-
neurona transmita una seal. Los algoritmos empleados en las fundo se debieron a innovaciones especficas surgidas hace unos
redes de aprendizaje profundo corrigen muy poco a poco estos diez aos, cuando el inters en la IA y las redes neuronales haba
parmetros cada vez que se observa una imagen nueva, y los alcanzado su punto ms bajo en decenios. El Instituto Cana-
aproximan constantemente a los que permiten realizar mejores diense de Investigaciones Avanzadas (CIFAR), una organizacin
predicciones sobre el contenido de la imagen. financiada por el Gobierno del pas y por donantes privados,
Para mejorar los resultados, los algoritmos de aprendizaje contribuy a reavivar la llama al patrocinar un proyecto dirigido
actuales requieren una estrecha implicacin humana. La ma- por Geoffrey Hinton, de la Universidad de Toronto, y en el que
yora se valen de mtodos de aprendizaje supervisado, en los participaban Yann LeCun, de la Universidad de Nueva York,
que cada ejemplo usado en el entrenamiento
se acompaa de una etiqueta, elaborada por
seres humanos, que indica lo que se pretende
ensear: una foto de un atardecer, digamos, El retorno de las redes
se asociar con la leyenda puesta de sol. En
este caso, el objetivo del algoritmo consiste en neuronales tras el largo invierno
tomar una fotografa como entrada y producir,
como salida, el nombre del objeto caracters- de la IA subraya la necesidad de
tico de la imagen. El proceso matemtico que
transforma una entrada en una salida se llama respaldar ideas que desafen el
funcin, y los valores numricos (como las fuer-
zas sinpticas) que la generan corresponden a
orden tecnolgico establecido
una solucin de la tarea de aprendizaje.
Aprender de memoria las respuestas correc-
tas sera fcil pero un tanto intil. Queremos ensear al algoritmo Andrew Ng, de Stanford, Bruno Olshausen, de la Universidad
qu es una puesta de sol, pero de tal modo que luego sea capaz de de California en Berkeley, y el autor de estas lneas, entre otros
reconocerla en cualquier imagen, aunque no la haya visto antes. investigadores. Por entonces, la actitud hacia esta rea de inves-
El objetivo principal de un algoritmo de aprendizaje automtico tigacin era tan negativa que resultaba difcil publicar algo sobre
consistira, en este caso, en ser capaz de reconocer cualquier pues- ella e incluso convencer a estudiantes de doctorado para que
ta de sol; en otras palabras, en generalizar el aprendizaje ms all trabajaran en el campo. Algunos, sin embargo, compartamos la
de los casos concretos. De hecho, la calidad del entrenamiento de sensacin de que era importante seguir intentndolo.
una red se evala ponindola a prueba con colecciones de datos El escepticismo de aquel entonces con respecto a las redes
no vistos con anterioridad. La dificultad de clasificar correcta- neuronales naca, en parte, de que se pensaba que entrenar-
mente un nuevo ejemplo nace de las casi infinitas variaciones las resultaba intil por lo difcil que era optimizar su compor-
posibles que siguen perteneciendo a una determinada categora, tamiento. La optimizacin es una rama de las matemticas que
como la etiquetada como puesta de sol. trata de encontrar la configuracin adecuada de un conjunto de
Para conseguir esta generalizacin a partir de la observacin parmetros para lograr un objetivo. En este caso, los parmetros
de mltiples ejemplos, los algoritmos necesitan algo ms que los son los pesos sinpticos que representan la intensidad con que
ejemplos mismos. Tambin han de apoyarse en ciertas hiptesis una seal se transmite de una neurona a otra.
sobre la informacin introducida y en premisas acerca de en qu El objetivo consiste en realizar predicciones con el mnimo
puede consistir la solucin a un problema dado. Una hiptesis nmero de errores. Cuando la relacin entre los parmetros y
tpica incorporada a un programa podra ser la que enunciase un objetivo es simple o, en trminos ms tcnicos, cuando
que, si los datos de entrada de una funcin son similares, las el objetivo es una funcin convexa de los parmetros, estos
respuestas no podrn cambiar demasiado; es decir, que, en con- se pueden ajustar progresivamente. El proceso se repite hasta
diciones normales, alterar unos pocos pxeles en una fotografa que los parmetros convergen a los valores que producen la
de un gato no transformar al felino en un perro. mejor eleccin posible, conocida como mnimo global, la cual
Entre las redes neuronales que integran hiptesis acerca corresponde al error medio ms bajo alcanzable.
de las imgenes estn las llamadas redes convolucionales. Por norma general, sin embargo, el entrenamiento de una red
A ellas se debe, en buena parte, el renovado inters por la IA. neuronal no es tan sencillo y requiere lo que se denomina una
Las redes neuronales convolucionales usadas en el aprendizaje optimizacin no convexa. Estos problemas presentan grandes
profundo constan de muchas capas de neuronas, organizadas dificultades, por lo que numerosos investigadores crean que
de manera que generen una respuesta menos sensible al objeto el obstculo era insalvable. El algoritmo de aprendizaje puede
principal cuando se altera la imagen; por ejemplo, si se cambia converger a un mnimo local (una solucin que no es la mejor
ligeramente su posicin. Una red bien entrenada debe ser capaz de todas) y quedarse atascado en l. Una vez all, ser incapaz

52 INVESTIGACIN Y CIENCIA, agosto 2016


de disminuir el error de la prediccin mediante un ligero ajuste el reconocimiento de patrones en imgenes estticas. Sin embar-
de los parmetros go, otra clase de red neuronal est dejando tambin su impronta,
Hasta el ao pasado no cay el mito de que entrenar a una especialmente por sus aplicaciones a sucesos que se extienden
red neuronal resultaba difcil a causa de los mnimos locales. en el tiempo. Las redes neuronales recurrentes han demostrado
En nuestras investigaciones, descubrimos que este problema se su capacidad para efectuar correctamente secuencias de clculos
reduca en gran medida si la red neuronal era lo suficientemente relacionados con datos de voz o de vdeo, entre otros. Dichos
grande. En realidad, la mayora de esos mnimos corresponden datos se componen de una serie de unidades ya sean fonemas
a haber adquirido un conocimiento de un nivel que casi iguala o palabras completas que se suceden en el tiempo. El procedi-
el valor ptimo del mnimo global. miento por el cual las redes recurrentes procesan sus entradas
Aunque los problemas tericos de optimizacin podan resol- guarda cierta semejanza con la forma de trabajar del cerebro.
verse as en teora, a menudo se haba fracasado en la construc- Las seales que circulan entre las neuronas varan constante-
cin de grandes redes con ms de dos o tres capas. Desde 2005, mente a medida que se analizan los estmulos percibidos por
varios estudios financiados por el CIFAR han permitido superar los sentidos. Este estado neuronal interno se modifica segn
esas barreras. En 2006 conseguimos entrenar redes neuronales la informacin ms reciente suministrada al cerebro desde el
ms profundas aplicando una tcnica que proceda capa a capa. entorno, antes de emitir una serie de rdenes que resultan en
Ms tarde, en 2011, encontramos un mtodo mejor para entrenar unos movimientos corporales dirigidos a conseguir una meta
redes an ms profundas (con ms niveles de neuronas virtua- concreta.
les), basado en modificar los clculos efectuados por cada una de Las redes recurrentes pueden predecir cul ser la siguiente
estas unidades de procesamiento para que se parecieran ms a la palabra de una frase hablada o escrita, lo que tambin permite
manera de proceder de las neuronas biolgicas. Tambin descu- generar nuevas secuencias de palabras, una a una. Tambin
brimos que, de manera similar a lo que ocurre en el cerebro, la pueden afrontar tareas ms complejas. Tras leer todas las
introduccin de ruido aleatorio en las seales transmitidas entre palabras de una frase, la red puede deducir el significado de la
las neuronas durante el entrenamiento aumentaba su capacidad oracin completa. Una red recurrente distinta puede valerse
de aprender a reconocer una imagen o un sonido. entonces del procesamiento semntico de la primera para tra-
Dos factores clave contribuyeron al xito del aprendizaje pro- ducir la frase a otro idioma.
fundo. Por un lado, la velocidad de cmputo se decuplic de golpe La investigacin en redes neuronales recurrentes vivi su
gracias a unidades de procesamiento grfico diseadas inicial- propio perodo de abandono a finales del siglo xx y principios
mente para los videojuegos, lo que permiti entrenar a redes de del xxi. Mi trabajo terico indicaba que podran tropezar con
gran tamao en tiempos razonables. Por otro, los algoritmos se dificultades a la hora de aprender a recuperar datos del pasado
beneficiaron de la disponibilidad de enormes conjuntos de datos distante (los primeros elementos de la secuencia que se estuviese
etiquetados, para los cuales era posible encontrar la respuesta procesando), como cuando intentamos recitar las primeras fra-
correcta (gato, por ejemplo, al inspeccionar una fotografa en ses de un libro despus de haber llegado al final. Sin embargo,
la que un gato es solo uno de los componentes). diversos avances han paliado algunos de estos problemas al
Otra razn del xito del aprendizaje profundo radica en su dotar a estas redes de la capacidad de aprender a almacenar
facultad para aprender a ejecutar una secuencia de clculos informacin para que persista durante un perodo prolonga-
que construyen o analizan, paso a paso, una imagen, un so- do. Las redes neuronales pueden usar la memoria temporal de
nido o cualquier otro tipo de dato. La profundidad de la red un ordenador para procesar mltiples fragmentos dispersos
corresponde al nmero de pasos. Para muchas de las tareas de de informacin, como las ideas contenidas en diferentes frases
reconocimiento visual o auditivo en las que sobresale la IA, se esparcidas a lo largo de un documento.
requieren las numerosas capas de las redes profundas. De hecho, El retorno de las redes neuronales profundas tras el largo
en varios estudios experimentales y tericos recientes, hemos invierno de la IA no solo supone un triunfo tecnolgico, sino que
demostrado que algunas de estas operaciones matemticas no tambin nos proporciona una leccin sobre la sociologa de la
podran llevarse a cabo de manera eficiente si las redes no tu- ciencia. En particular, subraya la necesidad de respaldar ideas
viesen la suficiente profundidad. que desafan el orden tecnolgico establecido y la de alentar una
Cada capa de una red neuronal profunda transforma la en- cartera de investigaciones variada que apueste por disciplinas
trada que recibe y genera una salida que se enva a la capa que hayan perdido popularidad temporalmente.
siguiente. La red representa conceptos ms abstractos en los
estratos ms profundos, los ms alejados de la entrada sensorial
inicial. Los experimentos muestran que las neuronas artificiales
de los niveles ms profundos de la red tienden a corresponderse
PARA SABER MS
con conceptos semnticos ms abstractos. Considere un objeto
visual, como un escritorio. El reconocimiento de la imagen del ImageNet classification with deep convolutional neural networks.Alex
Krizhevsky et al. Presentado en 26th Annual Conference on Neural Information
escritorio podra surgir del procesamiento de las neuronas en Processing Systems (NIPS 2012), Stateline, Nevada (EE.UU.), 3-8 de diciembre
un estrato profundo, aun cuando la palabra escritorio no de 2012.
formara parte de las etiquetas de categora usadas en el entre- Representation learning: A review and new perspectives.Y. Bengio et al. en
namiento de la red. Y esto podra ser solo un paso intermedio IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 35, n.o 8,
pgs. 1798-1828, agosto de 2013.
hacia la creacin, en un nivel superior, de un concepto an ms
Deep learning.Yann LeCun et al. en Nature, vol. 521, pgs. 436-444, mayo de 2015.
abstracto, como el de escena de oficina.
en nuestro archivo

Ms all del reconocimiento de patrones Tcnicas de aprendizaje automatizado.Y. S. Abu-Mostafa en IyC, abril de 2013.
Hasta hace poco, las redes neuronales artificiales se distinguan Mquinas capaces de aprender.Nicola Jones en MyC n.o 70, 2015.
en gran medida por su capacidad para llevar a cabo tareas como

Agosto 2016, InvestigacionyCiencia.es 53

Anda mungkin juga menyukai