Extrado de http://www.todotecnologia.net/como-instalar-matlab-en-windows-7.

htm
Saludos a todos.
Uno de los programas que se hace ms difcil de instalar en windows 7, sin duda
alguna es matlab, sin embargo no es imposible hacerlo.
Es por esto que este post lo dedicar a explicar como instalar matlab en windows 7.
En este caso explicar como instalar la versin R2007a.
El primer problema con el que nos encontramos es que despus de ingresar el serial,
el instalador, por ms que le demos next, no avanzar.
Para solucionar este problema tenemos dos opciones.
La primera ser entrar al dvd, darle click derecho al archivo setup.exe, y ejecutar el
troubleshoot compability. En muchos casos esto nos configurar el instalador para
ejecutarlo correctamente e instalar sin problemas. si hiciste esto y sigues con el mismo
problema, no desesperes, sigue leyendo.
La segunda opcin es que antes de abrir el instalador de matlab, vamos a pasar el
modo grfico de windows 7, al clsico de windows, para esto le damos click derecho al
escritorio, personalizar, y all le damos clsico de windows. (ver imgen).

EDICION: Si no tienes esta opcin ve al final del post. ya sabemos como hacerlo.
Despus de hacer esto el instalador de matlab correr normalmente y podrs instalar
matlab como siempre lo haz hecho. sin embargo una vez que est instalado matlab,
solo te funcionar si tienes la apariencia en el modo clsico, pero si vuelves a activar
aero y todo esto, no funcionar.Esto ocurre por que matlab instala su propia versin de
java, con la cual carga la interfaz grfica, pero esta version de java es un poco antigua
y no es compatible con la apariencia propia de windows 7.
Como es demasiado molesto tener que cambiar la apariencia de windows 7 cada vez
que vayamos a usar matlab, tenemos que hacer lo siguiente.
Primero descargamos e instalamos Java Runtime JRE de ac.
http://www.oracle.com/technetwork/indexes/downloads/sdlc-decommission-333274.html

Esto se instala fcilmente. despus de instalarlo vamos a hacer lo siguiente.

vamos a ir a la siguiente ruta. C:\Archivos de programa\java.
all encontrars una carpeta con el nombre jre6, o similar. lo que tienes que hacer es
copiar esa carpeta.
ahora tienes que ir a C:\Archivos de Programa\MATLAB\R2007a\sys\java\jre\win32
all encontrars una carpeta llamada jre1.5.0_07, con el objetivo de hacer una copia de
seguridad debes renombrar esta carpeta, ponle cualquier nombre no importa.
ahora ahi mismo donde ests pega la carpeta que copiaste hace un momento y
renmbrala por jre1.5.0_07.
Con esto queda solucionado el problema, ya puedes usar matlab sin ningn
inconveniente y al mejor estilo de windows 7
Un usuario ha hecho un excelente aporte para aquellos a quienes no les aparece la opcin
personalizar.
Tenia el mismo problema pero en mi caso tengo WINDOWS 7 STARTER el cual
no permite cambiar a vista a modo clsico por lo cual despus de copiar y
renombrar los archivos de java me segua sacando error y no me ejecutaba
Matlab.
La solucin fue cambiar por el panel de control los efectos visuales y
seleccionar ajustar para obtener el mejor rendimiento y listo, queda como en
vista clsica y ya funciona el Matlab
esto es:
Panel de control\Todos los elementos de Panel de control\Informacin y
herramientas de rendimiento
> ajustar efectos visuales
> (Opciones de rendimiento) >efectos visuales
seleccionar: ajustar para obtener el mejor rendimiento
Comentario realizado por Diego. Gracias por tu aporte.