En la lección anterior definimos el deep learning y vimos por qué TecnoMarket quiere incorporarlo. Pero surge una pregunta inevitable: si las redes neuronales existen desde los años 50, ¿por qué la revolución ha llegado en la última década? Conocer la historia no es un ejercicio de erudición: entender por qué el deep learning fracasó dos veces antes de triunfar te dará criterio para evaluar las promesas (y los límites) de la tecnología que vas a usar. En esta lección recorreremos el camino desde el perceptrón de 1958 hasta la era actual, pasando por los "inviernos de la IA" y el hito que lo cambió todo en 2012.

1. Los orígenes: el perceptrón (1943-1958)
2. El primer invierno de la IA (1969-1980)
3. Backpropagation y el renacimiento de los 80
4. El segundo invierno (años 90 y 2000)
5. El resurgimiento: GPU, big data y la tormenta perfecta
6. El hito ImageNet/AlexNet (2012)
7. La era actual: de 2012 a hoy
8. Tabla cronológica de hitos

La historia empieza antes de los ordenadores modernos. En 1943, el neurofisiólogo Warren McCulloch y el matemático Walter Pitts publicaron un modelo matemático de neurona: demostraron que unidades simples conectadas entre sí podían, en teoría, calcular funciones lógicas. Era pura teoría, pero plantó la semilla de una idea poderosa: quizá la inteligencia pueda construirse conectando unidades simples.

En 1958, el psicólogo Frank Rosenblatt dio el salto a la práctica con el perceptrón: la primera máquina capaz de aprender de ejemplos ajustando sus conexiones internas. Rosenblatt lo implementó incluso en hardware (el Mark I Perceptron), y lo entrenó para distinguir formas simples en imágenes de 20x20 "píxeles".

El entusiasmo fue desbordante. El New York Times llegó a publicar que el perceptrón sería "el embrión de un ordenador capaz de caminar, hablar, ver, escribir y ser consciente de su existencia". Recuerda esta frase: el exceso de expectativas será un patrón recurrente en esta historia.

No entraremos aquí en cómo funciona el perceptrón por dentro (lo estudiaremos en detalle en la lección 02-01); lo relevante ahora es su papel histórico: demostró que una máquina podía aprender, y desató la primera ola de optimismo.

En 1969, Marvin Minsky y Seymour Papert publicaron el libro Perceptrons, un análisis matemático riguroso que demostraba las limitaciones del perceptrón de una sola capa: había problemas aparentemente triviales (como la función lógica XOR) que no podía resolver jamás, por muchos datos que se le dieran.

Se sabía que apilar varias capas resolvería el problema, pero nadie tenía un método práctico para entrenar redes multicapa. La combinación fue letal:

• Expectativas infladas que no se cumplían.
• Limitación teórica demostrada del modelo disponible.
• Ordenadores de la época extremadamente limitados.

Los gobiernos y agencias (principales financiadores) cortaron los fondos. La investigación en redes neuronales quedó casi abandonada durante una década: es el llamado primer invierno de la IA. Lección para TecnoMarket y para cualquier empresa: cuando una tecnología promete más de lo que puede entregar, la decepción posterior se lleva por delante también lo que sí funcionaba.

El deshielo llegó en 1986, cuando David Rumelhart, Geoffrey Hinton y Ronald Williams popularizaron el algoritmo de retropropagación del error (backpropagation): por fin existía un método práctico y general para entrenar redes de varias capas, superando la limitación que había denunciado Minsky. (El algoritmo tenía precedentes en los 70, como el trabajo de Paul Werbos, pero fue en 1986 cuando la comunidad lo adoptó masivamente.)

Con backpropagation llegaron éxitos reales:

• 1989: Yann LeCun aplicó redes convolucionales con backpropagation al reconocimiento de dígitos manuscritos. Su sistema acabó leyendo códigos postales para el servicio postal de EE. UU. y cheques bancarios: una de las primeras aplicaciones comerciales del deep learning.
• Se desarrolló la base teórica de muchas arquitecturas que usamos hoy.

De nuevo, no veremos aquí cómo funciona backpropagation por dentro (es el tema de la lección 02-03). Lo que importa históricamente es que eliminó el obstáculo teórico... pero apareció uno práctico.

Si el problema teórico estaba resuelto, ¿por qué no despegó entonces? Porque entrenar redes profundas en los 90 chocaba contra tres muros:

Mientras tanto, métodos de ML clásico como las máquinas de vectores de soporte (SVM) daban resultados iguales o mejores con mucho menos coste. La comunidad investigadora migró en masa hacia ellos, y las redes neuronales volvieron a quedar como un campo marginal: el segundo invierno. Durante estos años, un pequeño grupo de investigadores —Geoffrey Hinton, Yann LeCun y Yoshua Bengio, apodados después "los padrinos del deep learning"— siguió trabajando en redes neuronales contra la corriente dominante.

Entre 2006 y 2012 se alinearon los tres factores que faltaban:

1. GPU (tarjetas gráficas): diseñadas para videojuegos, resultaron ser perfectas para el tipo de matemáticas que necesitan las redes neuronales (muchísimas operaciones simples en paralelo). Entrenamientos que costaban semanas en CPU pasaron a costar días u horas.
2. Big data: Internet, los smartphones y las redes sociales generaron por primera vez datasets gigantescos. En 2009, Fei-Fei Li y su equipo publicaron ImageNet: más de 14 millones de imágenes etiquetadas en miles de categorías, y organizaron una competición anual de clasificación de imágenes sobre un subconjunto de 1.000 categorías.
3. Avances algorítmicos: en 2006, Hinton y colaboradores mostraron técnicas para entrenar redes profundas de forma más estable, y acuñaron con fuerza el término deep learning. Nuevas funciones de activación y técnicas de regularización (las veremos en los módulos 2 y 5) hicieron el entrenamiento mucho más viable.

La analogía del motor es útil: backpropagation era el motor, pero faltaban el combustible (datos) y la carretera (hardware). Hacia 2010, por fin estaba todo.

El momento que casi todo el mundo señala como el "big bang" del deep learning moderno llegó en la competición ImageNet de 2012. Una red convolucional llamada AlexNet, creada por Alex Krizhevsky, Ilya Sutskever y Geoffrey Hinton, y entrenada sobre dos GPU domésticas, arrasó:

Reducir el error del 26% al 16% en un solo año fue un salto sin precedentes: las mejoras anuales habituales eran de 1-2 puntos. El mensaje quedó claro para toda la comunidad: la extracción automática de características que vimos en la lección 01-01 funcionaba mejor que décadas de ingeniería manual. En dos o tres años, prácticamente toda la investigación en visión por computador (y luego en voz y texto) migró al deep learning, y las grandes tecnológicas ficharon a los pioneros: Hinton (Google), LeCun (Facebook/Meta)...

Para el contexto de TecnoMarket: el clasificador de fotos de productos que construiremos en el módulo 3 es descendiente directo de AlexNet, y en 2012 habría sido tecnología punta mundial. Hoy es un ejercicio de curso: así de rápido ha avanzado el campo.

Desde 2012, los hitos se han encadenado a un ritmo vertiginoso. Como cierre cronológico (sin entrar en detalle técnico, cada tema tiene su lugar en el curso):

• 2014: aparecen las GAN (redes generativas adversariales), capaces de generar imágenes nuevas (módulo 5).
• 2014-2016: las redes recurrentes y sus variantes dominan la traducción automática y el procesamiento de lenguaje (módulo 4).
• 2016: AlphaGo (DeepMind) derrota al campeón mundial de Go, un juego considerado fuera del alcance de las máquinas durante décadas.
• 2017: se publica la arquitectura Transformer ("Attention Is All You Need"), que revolucionará el procesamiento del lenguaje (la introduciremos en la lección 05-05).
• 2018-2020: modelos de lenguaje preentrenados cada vez mayores (BERT, GPT-2, GPT-3) muestran que escalar datos y parámetros sigue dando mejoras.
• 2021-hoy: era de los LLMs (grandes modelos de lenguaje) y la IA generativa: ChatGPT, Claude, Gemini, generadores de imágenes como Stable Diffusion o Midjourney. El deep learning sale de los laboratorios y llega al público general.

En 2018, Hinton, LeCun y Bengio recibieron el Premio Turing (el "Nobel de la informática") por una apuesta que mantuvieron durante los inviernos en que casi nadie creía en ella.

• Error: creer que el deep learning es una tecnología "nueva". Las ideas centrales tienen más de 60 años; lo nuevo son los datos, el hardware y algunos refinamientos. Esto importa: la base teórica está muy asentada.
• Error: pensar que el progreso fue lineal. Hubo dos inviernos con abandono casi total. Las tecnologías avanzan a saltos, condicionadas por expectativas, financiación y hardware.
• Error: atribuir la revolución solo a "mejores algoritmos". El algoritmo clave (backpropagation) es de 1986. Sin GPU y sin big data no habría habido revolución. Cuando evalúes proyectos en tu empresa, pregunta siempre por los datos y el cómputo disponibles, no solo por el modelo.
• Consejo: desconfía de titulares grandilocuentes, en 1958 ya prometían máquinas conscientes. La historia del campo enseña a distinguir entre progreso real (medible, como el salto de AlexNet) y expectativas infladas.
• Consejo: cuando leas sobre una arquitectura nueva, sitúala en la cronología: ¿qué problema de las anteriores resuelve? Esa pregunta es la mejor guía para entender el campo.

Ordena cronológicamente los siguientes eventos y añade el año aproximado: (a) AlexNet gana ImageNet, (b) perceptrón de Rosenblatt, (c) popularización de backpropagation, (d) publicación del libro Perceptrons, (e) arquitectura Transformer, (f) publicación del dataset ImageNet.

Explica con tus palabras qué causó cada uno de los dos inviernos de la IA, y qué factor concreto puso fin a cada uno. ¿Qué tenían en común ambos inviernos?

La directora general de TecnoMarket te pregunta, escéptica: "¿Cómo sé que esto del deep learning no es otra moda pasajera que se desinflará como en los años 90?". Redacta una respuesta de 4-6 líneas usando argumentos históricos de esta lección.

Solución 1:

1. (b) Perceptrón de Rosenblatt — 1958
2. (d) Libro Perceptrons — 1969
3. (c) Popularización de backpropagation — 1986
4. (f) Dataset ImageNet — 2009
5. (a) AlexNet gana ImageNet — 2012
6. (e) Arquitectura Transformer — 2017

Solución 2:

• Primer invierno (1969-1980): causado por la demostración de Minsky y Papert de que el perceptrón de una capa no podía resolver problemas básicos (como XOR), unida a expectativas desmesuradas incumplidas. Terminó cuando backpropagation (1986) hizo posible entrenar redes multicapa, eliminando la limitación teórica.
• Segundo invierno (años 90-2000): causado por obstáculos prácticos: falta de potencia de cálculo, falta de grandes datasets y dificultades de entrenamiento, mientras métodos como los SVM daban mejores resultados con menos coste. Terminó cuando confluyeron GPU, big data (ImageNet) y mejoras algorítmicas hacia 2006-2012.
• En común: en ambos casos hubo una brecha entre expectativas y capacidades reales, y la financiación/interés se hundió al hacerse evidente. La teoría siempre fue por delante de los medios para aplicarla.

Solución 3 (respuesta orientativa):

"Los inviernos anteriores ocurrieron porque faltaban piezas: en los 70 no había forma de entrenar redes multicapa, y en los 90 no había ni datos ni hardware suficientes. Hoy esas tres piezas existen y son abundantes: algoritmos maduros con décadas de base teórica, datos masivos y GPU baratas, incluso en la nube. Además, ya no hablamos de promesas de laboratorio: desde 2012 el deep learning supera de forma medible a las técnicas anteriores y sostiene productos comerciales que usamos a diario (buscadores, traductores, asistentes). El riesgo de moda existe en aplicaciones concretas sobrevaloradas, pero la tecnología base está consolidada; por eso propongo empezar por casos de uso con retorno claro, como la clasificación automática de fotos de producto."

Hemos recorrido más de 60 años de historia: el perceptrón demostró que las máquinas podían aprender (1958), Minsky y Papert marcaron sus límites (1969), backpropagation los superó en teoría (1986), y la combinación de GPU + big data los superó en la práctica, con AlexNet (2012) como punto de inflexión que abrió la era actual de transformers y modelos generativos. La moraleja profesional: el deep learning no es magia reciente, sino una idea antigua que maduró cuando el mundo tuvo los datos y el hardware para alimentarla.

Ya sabes qué es el deep learning y de dónde viene. En la siguiente lección haremos un recorrido panorámico por sus aplicaciones actuales por dominios —visión, lenguaje, voz, recomendación, salud, fraude...— y las conectaremos con las necesidades concretas de TecnoMarket y con los módulos del curso donde aprenderás a construir cada una.