Universidad de OviedoDPTO. DE ADMÓN. DE

EMPRESAS Y CONTABILIDAD

RAÚL PINO DIEZEPSI de GIJÓN

PREVISIÓN DE SERIES TEMPORALES MEDIANTEREDES NEURONALES ARTIFICIALES

REDES NEURONALES ARTIFICIALES

 

       ADQUISICIÓN DE CONOCIMIENTO EXPERIMENTAL A PARTIR DE EJEMPLOS.

       GENERALIZACIÓN DEL CONOCIMIENTO ADQUIRIDO.

       APROXIMACIÓN “PIECE-WISE” DE LAS FUNCIONES.

       LAS RNAs SON NO-LINEALES

()AXÓN

SOMA

DENDRITAS

SINÁPSIS

EN

TR

AD

A SA

LID

A

(a) (b)

      DISPOSITIVOS QUE SIMULAN LA ESTRUCTURA DE CÁLCULO PARALELO, DISTRIBUIDO Y ADAPTATIVO DEL CEREBRO.

65

APLICACIÓN DE RNA EN PREVISIÓN

1. ARQUITECTURA DE LA RED PERCEPTRÓN MULTICAPA (MLP) ........................ (RUMMELLHART and McCLELLAND, 1986)REDES PARCIALMENTE RECURRENTES ............ (JORDAN, 1986; ELMAN, 1990)TIME DELAY NETWORKS (TDNN) ......................... (WAIBEL, 1989)COUNTERPROPAGATION NETS ........................... (HETCH-NIELSEN, 1987)RADIAL BASIS FUNCTION (RBF) ………………….. (POWELL, 1987)

W’jk

Wij

U’k

Uj

entrada oculta

salida

PERCEPTRÓN MULTICAPA (MLP) REDES PARCIALMENTE RECURRENTESRED BACKPROPAGATION (BPN) (JORDAN, 1986; ELMAN, 1990)

2. CONFIGURACIÓN DE LA RED 

* Nº DE NEURONAS DE ENTRADA (LACHTERMACHER and FULLER, 1995) 

* Nº DE CAPAS OCULTAS Y TAMAÑO DE CADA UNA (CYBENKO, 1989)2n+1 (LIPPMANN,1987); 2n (WONG, 1991); n/2 (KANG,1991)  

- PREVISIÓN UN PASO ADELANTE- PREVISIÓN VARIOS PASOS ADELANTE

MÉTODO DIRECTO PREVISION ITERATIVA

 * ENLACES ENTRE LAS NEURONAS

 

- RED TOTALMENTE CONECTADA

- ENLACES DIRECTOS (DULIBA, 1991; CHEN, 1992) 

* FUNCIÓN DE ACTIVACIÓN 

- LINEAL, SIGMOIDE, TANGENTE HIPERBÓLICA

7

7

15 12

3

1

7

8

11

* Nº DE NEURONAS DE SALIDA

- REDES SEPARADAS (CHOI et al., 1997)

APLICACIÓN DE RNA EN PREVISIÓN

66

 

3. ALGORITMOS DE ENTRENAMIENTO * BACKPROPAGATION WITH MOMENTUM ……… (RUMELHART, 1986)* BACKPROPAGATION WITH WEIGHT DECAY …. (WERBOS, 1988)* QUICKPROP …………………………………………. (FAHLMAN, 1988)* RPROP ……………………………………………….. (RIEDMILLER and BRAUN, 1993)

 4. PREPROCESADO DE DATOS(VAN EYDEN, 1996; AZOFF, 1994) 5. CONJUNTOS DE ENTRENAMIENTO, VALIDACIÓN Y TEST 6. MEDIDAS DE EFICIENCIA(MAKRIDAKIS et al., 1982) * MAD* SSE * MSE * RMSE * MAPE ....

APLICACIÓN DE RNA EN PREVISIÓN

APLICACIÓN DE RNA EN PREVISIÓN

MÉTODO DE BÚSQUEDA Y VALIDACIÓN DE UNA CONFIGURACIÓN DE RED NEURONAL          ANÁLISIS DE LA SERIE TEMPORAL. (ACF, PACF, EACF, IACF)         SELECCIÓN Y VALIDACIÓN DE LA CONFIGURACIÓN DE LA RED NEURONAL. (ACF, PACF, ANÁLISIS DE LA VARIANZA, ETC.)         CÁLCULO DE PREVISIONES.  

ANÁLISIS DE LA SERIE TEMPORAL (IDENTIFICACIÓN)

CONFIGURACIÓN INICIAL

VALIDACIÓN

MODIFICACIÓN DE LA

CONFIGURACIÓN INICIAL

PREVISIÓN

NO

SI

67

B A S E D E E J E M P L O S D E

E N T R E N A M I E N T O

V E C T O R D E E N T R A D A

P A R A P R E V I S I Ó N

R E D M L P P A R A P R E V I S I Ó N

C Á L C U L O D E L A P R E V I S I Ó N

R E D A R T - 1 P A R A S E L E C C I Ó N

APLICACIÓN DE RNA EN PREVISIÓN

MÉTODO DE ENTRENAMIENTO SELECTIVO DE UNA RED NEURONAL ARTIFICIAL SERIE TEMPORAL LARGA => MUCHO TIEMPO DE ENTRENAMIENTO  PENG et al, 1992 HO et al., 1992 VERMAAK, 1998   VENTAJAS:        VELOCIDAD DE ENTRENAMIENTO        MODELO ACTUALIZADO        FACIL AUTOMATIZACIÓN

APLICACIÓN DE RNAs EN PREVISIÓN

CALCULO DE PREVISIONES PARA:        SERIES UNIVARIANTES CON Y SIN TENDENCIA.CON Y SIN ESTACIONALIDAD        MODELOS AUTORREGRESIVOS NO ESTACIONARIOS        MODELOS MEDIA MÓVIL NO INVERTIBLES        MODELOS UNIVARIANTES CON CAMBIO DE PARÁMETROS        MODELOS DE FUNCIÓN DE TRANSFERENCIA        SISTEMAS MULTIVARIANTES        SISTEMAS MULTIVARIANTES NO ESTACIONARIO        SISTEMAS MULTIVARIANTES CON CAMBIO DE PARÁMETROS        SISTEMAS UNIVARIANTES Y MULTIVARIANTES CON MÁS DE 10.000 DATOS

68

AR(2)

APLICACIÓN DE RNAs EN PREVISIÓN (I) SERIES UNIVARIANTES (I)

AR(1)EST(12)

0

0.5

1

1.5

2

0 20 40 60 80 100 120 140 1600.4

0.6

0.8

1

1.2

1.4

1.6

151 152 153 154 155 156 157 158 159

AL09Red Neuronal

0.0

0.5

1.0

1.5

2.0

0 10 20 30 40 50 60 70 80 90 100

0

0.2

0.4

0.6

0.8

1

1.2

90 91 92 93 94 95 96 97 98 99 100

BJ06Red Neuronal

1

1.1

1.2

1.3

1.4

1.5

1.6

1.7

146 147 148 149 150 151 152 153 154 155

Serie Red

0.0

0.2

0.4

0.6

0.8

1.0

1.2

1.4

1.6

1.8

0 20 40 60 80 100 120 140

1

1.5

2

2.5

3

3.5

4

4.5

0 20 40 60 80 100 120 1401.5

1.6

1.7

1.8

1.9

2

137 138 139 140 141 142 143 144 145 146

Serie UN21

Red Neuronal

AR(1)

MA(2)

AR(2) MA(12)EST(12)

APLICACIÓN DE RNAs EN PREVISIÓN (I) SERIES UNIVARIANTES (II)

3

4

5

6

7

8

0 20 40 60 80 100

3

4

5

6

7

8

95 96 97 98 99 100 101 102 103 104 105 106

AL03Red Neuronal

MA(1,12)EST(12)

MA(1,12)EST(12)

1.8

1.9

2

2.1

2.2

2.3

2.4

2.5

169 170 171 172 173 174 175 176 177 178

Serie Red

MA(1)EST(4)

0

1

2

3

4

5

6

7

0 20 40 60 80 100 120 140 160

0

5

10

15

20

25

30

0 20 40 60 80 100

10

12

14

16

18

20

22

24

26

28

30

96 97 98 99 100 101 102 103 104 105 106 107 108

AL04Red Neuronal

0

1

2

3

4

5

6

7

0 10 20 30 40 50 60 70 80 90 100 110 120 130 1403

3.5

4

4.5

5

5.5

6

6.5

135 136 137 138 139 140 141 142 143 144

BJ08Red Neuronal

69

APLICACIÓN DE RNAs EN PREVISIÓN (II) SERIES NO ESTACIONARIAS

-20

0

20

40

60

80

100

120

140

281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300

IR25 Red

-1

0

1

2

3

4

0 40 80 120 160 200 240 280

2

2.2

2.4

2.6

2.8

3

3.2

3.4

3.6

281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300

AR1

Red Neuronal

-4000000

-3000000

-2000000

-1000000

0

1000000

2000000

3000000

4000000

0 40 80 120 160 200 240 280-4000000

-3000000

-2000000

-1000000

0

1000000

2000000

3000000

4000000

5000000

281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300

AR22

Red Neuronal

-40

-20

0

20

40

60

80

100

120

140

160

0 40 80 120 160 200 240 280

AR(1)

AR(2)

AR(2)

MA(2)

MA(2)

MA(2)

APLICACIÓN DE RNAs EN PREVISIÓN (III) SERIES NO INVERTIBLES

30

32

34

36

38

40

0 40 80 120 160 200 240 280

32

33

34

35

36

37

38

281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300

MA20

Red Neuronal

28

30

32

34

36

38

40

42

0 40 80 120 160 200 240 28032

32.5

33

33.5

34

34.5

35

35.5

36

36.5

37

281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300

MA22

Red Neuronal

28

30

32

34

36

38

40

281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300

IR13 Red

28

30

32

34

36

38

40

42

0 40 80 120 160 200 240 280

70

APLICACIÓN DE RNAs EN PREVISIÓN (V) SISTEMAS MULTIVARIANTES

APLICACIÓN DE RNAs EN PREVISIÓN (IV) FUNCIÓN DE TRANSFERENCIA

48

50

52

54

56

58

60

280 285 290 295

Serie Y

Red

-3

-2

-1

0

1

2

3

0 25 50 75 100 125 150 175 200 225 250 275 300

45

48

51

54

57

60

63

0 25 50 75 100 125 150 175 200 225 250 275 300

Xt

Yt

0

1

2

3

4

5

6

7

8

9

10

148 149 150 151 152 153 154 155 156 157

I1

I1 Red

0

5

10

15

20

25

30

35

148 149 150 151 152 153 154 155 156 157

I2

I2 Red

0

2

4

6

8

10

12

14

16

148 149 150 151 152 153 154 155 156 157

I3

I3 Red

0

5

10

15

20

25

30

0 10 20 30 40 50 60 70 80 90 100 110 120 130 140 150 160

I1

I2

I3

AR(1)

APLICACIÓN DE RNAs EN PREVISIÓN (VI) SERIES CON CAMBIO DE PARÁMETROS

SERIE 1 SERIE 2

- 3

- 2

- 1

0

1

2

2 9 1 2 9 2 2 9 3 2 9 4 2 9 5 2 9 6 2 9 7 2 9 8 2 9 9 3 0 0

S e r i e 1R e d N e u r o n a l

- 6

- 5

- 4

- 3

- 2

- 1

0

1

2

3

2 9 1 2 9 2 2 9 3 2 9 4 2 9 5 2 9 6 2 9 7 2 9 8 2 9 9 3 0 0

S e r i e 2R e d N e u r o n a l

71