UNI-FIECS

MODELOS LINEALES

INTRODUCCION
CONCEPTOS MATEMTICOS PARA
EL MODELAMIENTO ESTADSTICO LINEAL

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

APLICACIONES DE
LAS MATRICES

MODELAMIENTO MATEMTICO
(MATLAB)

DISEO POR COMPUTADORA

INVESTIGACIN SATELITAL
PROYECTOS DE INVERSIN

ELECTRNICA
PROCESOS TCNICOS

BASE DE DATOS
Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES
CONCEPTOS MATEMTICOS PARA EL MODELAMIENTO ESTADSTICO LINEAL (Continuacin)

Conceptos bsicos de matrices

Notacin y definiciones
Algebra de Matrices
Adicin
Diferencia
Multiplicacin por un escalar
Multiplicacin
Transposicin
Igualdad
Inversa de matrices y determinantes
Traza
Formas cuadrticas

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES
CONCEPTOS MATEMTICOS PARA EL MODELAMIENTO ESTADSTICO LINEAL (Continuacin)

Conceptos bsicos de vectores

Notacin y definiciones
Espacios y subespacios vectoriales
Independencia lineal
Base de un espacio vectorial
Rango de un matriz
Producto interno y ortogonalidad de vectores

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES
CONCEPTOS MATEMTICOS PARA EL MODELAMIENTO ESTADSTICO LINEAL (Continuacin)

Matrices y vectores notables

Matriz similar
Matriz simtrica y simtrica negativa
Matriz ortogonal
Matriz definida positiva
Matriz idempotente
Matriz identidad
Matriz J
Vector 1n
Matriz diagonal.
Diagonalizacin.
Diagonalizacin simultnea de dos matrices cuadradas.
Matriz particionada. Determinante. Inversa.
Matriz bloque diagonal. Determinante. Inversa.
Matriz triangular
Matriz escalar
Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES
CONCEPTOS MATEMTICOS PARA EL MODELAMIENTO ESTADSTICO LINEAL (Continuacin)

Interpretacin geomtrica
Recta
Plano
Proyeccin
Espacio vectorial
Interseccin y suma de espacios vectoriales
Complemento ortogonal de un subespacio vectorial
Espacio por columna y espacio nulo de una matriz

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

I. MATRICES Y VECTORES ALEATORIOS

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Vector Aleatorio
Es un vector cuyos elementos son variables aleatorias

Matriz Aleatoria
Es una matriz cuyos elementos son variables aleatorias

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Valor Esperado de una Matriz Aleatoria E(X)

Si X es una matriz aleatoria de orden nxp, entonces,
E(X11) E(X12)
E(X21) E(X22)
E(x)=

.
.
.

.
.
.

. . . E(X1p)
. . . E(X2p)
.
.
.

E(Xn1) E(Xn2)

. . . E(Xnp)

donde:

E(xij) =

Xij fij(xij)dxij ; xij es una v.a. continua

x

ij

pij(xij) ; xij es una v.a. discreta

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Si x es un vector aleatorio px1, entonces,

E(x) =

E(X1)

E(X2)

.
.
.
E(Xp)

Tambin,

.
.
.
p

E(x) = (px1)

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Matriz Varianza-Covarianza
Si x de orden px1 es un vector aleatorio y su correspondiente
vector de medias. Entonces,

( x1 - 1 )

( x2 - 2)
= E [ (x - )(x - ) ] = E (

.
.
.

( x1 - 1 ) ( x2 - 2) . . . ( xp - p) )

( xp - p)

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Desarrollando el producto de la expresin anterior tenemos que;

(x1 1)2

(x1 1)(x2 2)

(x1 1)(xp p)

(x2 2)(x1 1)

(x2 2)2

(x2 2)(xp p)

(xp p)(x1 1)

( xp p)(x2 2)

M
(xp p)2

En trminos de las varianzas y covarianzas,

11
21

12 L 1p
22 L 2p
M
M O M
p1 p2 L pp

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Matriz de Correlacin

La matriz de correlacin (pxp) es una matriz simtrica tal que:

11
11 11
21

22 11

.
.
.

p1
pp 11

12
11 22
22
22 22

1p
...

...

.
.
.

p2
pp 22

11 pp
2p
22 pp
.
.
.

...

pp
pp pp

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Matriz de Covarianza Particionada

Sea el vector X(px1) particionado y su correspondiente vector de medias :

X1
.
.

.
.

X(1)

Xq
X=

Xq+1

=
X(2)

(1)
=

q+1

.
.

.
.

Xp

(2)

A partir de la transposicin y multiplicacin de matrices tenemos que:

X1 - 1
( X(1) - (1) ) ( X(2) - (2) ) =

X2 - 2
.
.

X1 - 1 X2 - 2

...

Xp - p

Xp - p
Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Efectundose el producto de matrices tenemos:

(X )(X + + ) (X )(X + + )
1 1 q2 q2
11 q 1 q 1
(X2 2)(Xq+1 q+1) (X2 2)(Xq+2 q+2)

(
1
)
(
1
)
(
2
)
(
2
)
l
(X )(X ) =
M
M

(Xq q)(Xq+1q+1) (Xq q)(Xq+2 q+2)

L (X1 1)(Xp p)

L (X2 2)(Xp p)

O
M

(
X
)(
X
)
L q q p p

Tomando valor esperado a ambos trminos de la ecuacin:

1,q+1 1,q+2
2,q+2 2,q+2
E ( X(1) - (1) ) ( X(2) - (2) ) =

q,q+1

q,q+2

...
...

1,p
2,p

O
O

...

q,p

12

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

11

12

...

1q

1,q+1

1,q+2

...

1,p

21

22

...

2q

2,q+1

2,q+2

...

2,p

q1

q2

...

qq

q,q+1

...

q,p

q+1,1

q+1,2

...

q+1,p

q+1,q+1 q+1,q+2 . . . q+1,p

q+2,1

q+2,2

...

q+2,p

q+2,q+1 q+1,q+2 . . . q+2,p

pp

11 12
=

21 22

M
p,1

p,2

...

p,q

p,q+1

M
q,q+2

p,q+2

...

pp

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

Matriz de Medias y Covarianza Muestral Particionada

La media y la matriz de covarianzas muestrales pueden ser
particionadas con el fin de distinguir cantidades correspondientes
a cada grupo de variable, as:

X1
.
.

media
muestral

Xq

X=
Xq+1
.
.

y covarianza
muestral

s11

s
S = 21
M

sp1

s12 L s1p

s22 L s2p
M O M

sp2 L spp

Xp

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

cuyas particiones estn dadas por:

X1
.
.

X(1)

Xq

X=
Xq+1
.
.

X(2)

Xp

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

s11

s12

s21

s22
M

S
Sn = 11
S21

S12
S22

sq1

M
sq2

. . . s1q
. . . s2q
O

. . . sqq

sq+1,1 sq+1,2 . . . sq+1,q

sq+2,1 sq+2,2 . . . sq+2,q
M
sp,1

M
sp,2

. . . sp,q

s1,q+1

s1,q+2

...

s1,p

s2,q+1

s2,q+2

...

s2,p

sq,q+2

...

sq,p

M
sq,q+1
sq+1,q+1
sq+2,q+1
M
sp,q+1

sq+1,q+2 . . . sq+1,p
sq+1,q+2 . . . sq+2,p
M

sp,q+2

...

spp

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

El Vector de Medias y Matriz de Covarianzas

para una Combinacin Lineal

La Combinacin Lineal cX=c1X1+c2X2+...+cpXp tiene:

Media

E(cX)=c

Varianza

V(cX)=cc

donde =E(X) y =Cov(X)

Lic. Luis Huamanchumo de la Cuba

UNI-FIECS

MODELOS LINEALES

En general si consideramos q combinaciones de las p variables

aleatorias X1, X2, ..., Xp
Z1

X1

Z2

.
.
.

Zq

c11
c 21
M
c
q1

c12
c22
M
c
q2

L
L
O
L

1p
c 2p
M
c
qp

X2

.
.
.

= CX

Xp

La combinacin lineal Z=CX tiene:

z = E(Z) = E(CX) = C x

z = Cov(Z) = Cov(CX) = C x C
Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

II. OPERACIONES CON MATRICES

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Producto Kronecker

El producto directo o producto Kronecker de dos matrices A (nxm) y B (pxq)

se define como:

a11B
a21B
.
.
.
an1B

a12 B
a22 B
.
.
.
an2 B

a1m B
a2m B
.
.
.
anm B
(np x mq)

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Propiedades
Sean A, B, C y D matrices; x e y vectores; y escalares. Entonces,
x
A
A

y = yx = y
B = ( A
(B

C)=(A

(A + B)
A

C =(A

(B + C)=(A

(A

B)(C

(A

B) = A

D) = ( AC

B)
B)

C) + (B C)
B) + (A

C)

BD)

B
Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Propiedades (continuacin)

tr(A
A1

(I

B) = (trA)(trB)
A2

A=

B =

A
0
.
.

0 0
A 0
.
.
.
.

0 A

x)A(I

En general

A1

x ) = A
A

B= B

A2

B , para una matriz particionada A=(A1,A2)

= diag ( A )

xx
A

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Operador Vec(.)

Definicin:

El operados vec para una matriz A(nxq) apila las columnas de

A= a1, a2, aq secuencialmente uno sobre otro hasta formar
un vector a (nqx1).

a = vec (A) =

a1
a2
.
.
.

aq

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Operador Vec(.)

Propiedades:

vec(y) = vec(y) = y
vec(yx) = x
vec (A

x) = vec(A)

vec ( A + B ) = vec(A) + vec(B)

vec (ABC) = (C

A) vec(B)

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Propiedades (continuacin)

vec (AB) = (I

A) vec(B) = (B

I) vec (B

I) vec (A)

tr(AB) = (vec(A))vec(B)
tr(ABC) = vec(A) (I

B) vec(C)

tr(ABCD) = (vec(A)) (D
tr(AXBXC) = (vec(X)) (CA

B) vec(C)
B) vec(X)

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

III. DIFERENCIACIN DE MATRICES

Y VECTORES

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Derivada de una funcin de variables reales con respecto a

un vector x
Caso I:

Sea f=f(x1, x2, , xp)

x1
Xpx1=

x2
.
.

xp

f
x1
f

f
=
x

x2
.
.

f
xp

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Caso II:

Si f(x) = ax = xa
f

a1

x1
f

f
=
x

a2

x2
.
.

f
xp

.
.

ap

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Caso III:
Sea q(x) = xAx una forma cuadrtica sobre p variables aleatorias
reales, donde A es una matriz pxp simtrica de constantes. Entonces,

q
x

2Ax

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Derivada de una funcin de variables reales con respecto a

una matriz X
x

Xnxp

11
21

M
x

n1

f
X

12

22

n2

1p
2p

np

f
Xij

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Caso IV:
Sea f(x) = aXb , donde a es un vector nx1 y b es un vector px1
de constantes y X una matriz nxp.

f
X

ab

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Caso V:
Sea f(x) = aXa , donde a es un vector px1 de constantes y X una
matriz pxp simetrica de valores reales.

f
X

2aa D(aa)

D(aa) es una matriz diagonal pxp cuyos i-simos elementos de la

diagonal principal coinciden con los de la matriz aa

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Caso VI:
Dado A y B matrices constantes de ordenes apropiados tales que:

d(AXB)
d(X)

d(AYB)
d(X)

d(Y)
d(X)

(B

A )

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

MODELOS LINEALES Y SU
CLASIFICACIN

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

LOS MODELOS LINEALES Y

SU CLASIFICACIN
MODELO LINEAL GENERAL
MODELOS DE RANGO
COMPLETO

MODELO LINEAL CLASICO

MODELOS DE REGRESIN LINEAL
MODELOS DE REGRESIN POLINOMIAL

MODELOS EXPERIMENTALES
EFECTOS FIJOS
MODELOS DE RANGO
INCOMPLETO

EFECTOS ALEATORIOS

MODELOS DE CLASIFICACIN CRUZADA

MODELOS LINEALES MIXTOS

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

EL MODELO LINEAL

E(yij) = ij = + i + j
yij con distribucin normal

yij = + i x1ij+ j x22ij

yij = + i log x1ij+ j log x2ij
E(yij) = ij = + ai + j

(MLM)

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

MODELAMIENTO DE FENMENOS
CIENTFICOS

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Factores, Niveles, Celda, Efectos y Dato

NIVELES

FACTORES
CRUZADOS

FACTORES
BAJA EXPOSICIN AL
SOL

ALTA EXPOSICIN AL
SOL

GRUPO DE EDADES

GRUPO DE EDADES

GENERO
A

MASCULINO
FEMENINO

NIVELES
NIVELES

CELDAS (2X3X2)

MECANICA CUANTICA

MATEMTICAS I

SECCIN

SECCIN
GENERO
A
MASCULINO

FACTORES
ANIDADOS

(Seccin
Anidado a
Curso)

FEMENINO

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Efectos

Fijos

MODELOS DE EFECTOS FIJO O MODELOS FIJOS

Aleatorios

MODELOS DE EFECTOS ALEATORIOS

O MODELOS ALEATORIOS

Principal

EFECTO DE UN SOLO FACTOR

Interaccin

CUANDO HAY MS DE UN FACTOR

(Siguiente lmina)

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

EFECTO DE INTERACCIN
SIN INTERACCIN

Respuesta

Respuesta

INTERACCIN

3
Factor A

Factor A

Bajo nivel del Factor B

Bajo nivel del Factor B

Alto nivel del Factor B

Alto nivel del Factor B

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Datos balanceados

MATEMTICAS I

MECANICA CUANTICA

SECCIN

SECCIN
GENERO
A

MASCULINO

12.5 07.8 12.8 10.1 10.1 12.4

10.1 11.5 09.8 08.1 13.2 09.8
15.0 11.7 10.1 11.0 11.7 10.1
12.3
09.4
10.1 10.1 12.4
08.1 13.2 09.8

FEMENINO

11.0 14.2 12.0

15.3

Lic. Luis Huamanchumo de la Cuba

UNI-EPIES

MODELOS LINEALES

Datos no balanceados

MATEMTICAS I

MECANICA CUANTICA

SECCIN

SECCIN
GENERO
A

MASCULINO

FEMENINO

12.5 07.8 12.8

10.1 11.5 09.8

10.2 09.1 10.3

17.0 08.5 11.6

15.0 11.7 10.1

09.4 13.3 13.4

13.3 11.7
09.4 15.0

11.2
10.1
15.0
12.4

06.8 12.8
15.5 09.8
08.3 10.1
13.3

14.1 09.1
12.2 11.0
12.1 10.1

Lic. Luis Huamanchumo de la Cuba