SyS
– P
DS
Espacios de Señales
SyS
– P
DS
• Señales y vectores.
• La relación entre álgebra lineal y señales.
• Espacios vectoriales y espacios de señales.
• Bases y transformaciones lineales.
4
Temas a tratar
SyS
– P
DS
6
Introducción
• En general asociamos a las señales con “elementos aislados”.
• Ahora vamos a incorporar a las señales en “marcos estructurados” como los espacios vectoriales.
• Considerando a las señales como vectores de un espacio n-dimensional, podemos:
– aprovechar las propiedades de la estructura algebraica de los espacios vectoriales.
– interpretar el procesamiento de las señales desde una perspectiva geométrica.
– con un abordaje conceptual sencillo e intuitivo…
SyS
– P
DS
7
Experimento conceptual
3
T1
T2
2
2
3
m
T
21
•Medimos la temperatura ambiente a intervalos de 1 minuto...
•Representamos en una gráfica en donde el eje de las
ordenadas indica el tiempo y el de las abscisas la magnitud de
la temperatura.
2
SyS
– P
DS
8
Señales y vectores...
•Si volvemos a medir luego de 1 minuto y vemos que la
temperatura es 1 º C …
3
SyS
– P
DS
9
0 0.05 0.1 0.15 0.2 0.25 0.3 0.35 0.4 0.45 0.5-1
-0.8
-0.6
-0.4
-0.2
0
0.2
0.4
0.6
0.8
1
Señales y vectores...
0 10 20 30 40 50 600
0.5
1
1.5
2
2.5
3
m
T
60En 1 hora ...
Para señales continuas...
Ya no puedo representarlo
gráficamente como un “vector”
en el espacio “tradicional”,
pero el concepto es el mismo ...
Es un solo
elemento,
vector o punto
SyS
– P
DS
10
Señales y vectores...
• Definimos una señal x discreta en RN como:
• Definimos una señal x continua en R∞ como:
SyS
– P
DS
11
Ahora con varios elementos...
• No nos interesa un elemento aislado…
• Sino c/u en “relación” al resto:
– Conjuntos de señales
– Espacios de señales
– Espacios lineales o vectoriales
– Espacios normados
… …
…
…
…
… …
…
…
…
…
SyS
– P
DS
12
Un conjunto de
“puntos” +
un conjunto de
relaciones que lo
estructuran.
Espacio
( , )i jd x x
SyS
– P
DS
13
Relaciones geométricas:
distancias, tamaños, formas,
alineaciones, ángulos, conexidad.
Otras relaciones definen
otros tipos de estructuras.
El caso más interesante es cuando
distintas estructuras interactúan
en un mismo espacio.
Espacios
SyS
– P
DS
14
Métricos, topológicos, vectoriales,
afines, euclídeos, de medida,
de probabilidad, de distribuciones, ...
De Hilbert, de Banach, de Krein,
de Orlicz, de Sobolev,
de Schwartz, de Lebesgue,
...
Tipos de espacios
SyS
– P
DS Conjuntos de Señales
El matemático alemán
George Cantor introdujo
la Teoría de Conjuntos en
siglo XIX.
SyS
– P
DS
16
Para ello debo primero definir un conjunto:
O el conjunto de las x, tal que p sea cierto, o p es cierto, implica que x pertenece a .
Otra forma es como solución de la ecuación diferencial:
{ ; ( ) Re[ exp( )]}
=2 - , ,
x t j t
f t f
x
{ ; 0}dx xdt
x
Ejemplo: conjunto de las señales sinusoidales (1)
Una “señal” es un “punto” o elemento
de un conjunto
{ ; } p p x x
x1
x2
x4
x3
SyS
– P
DS
17
{x; x(t) ≤ A1 v x(t) ≥ A2 }
{x; x(t) = 0, T1 > t v t > T2}
1 2 1 2
( ) ( )
; ( ) 0, ,
j tX x t e dt
X
x
T1 T2
Otros ejemplos...
Señales limitadas
temporalmente (2)
Señales limitadas en
amplitud (3) Señales de banda
limitada (4) ( ) X
x(t)
x(t) A 1
A 2
t A 1
A 2
t
SyS
– P
DS
18
Sin embargo, ...
• Un espacio es un conjunto de elementos
x que satisfacen una condición p, pero además...
– Se requieren otra/s propiedad/es para poder llamar al conjunto “espacio”...
– En particular, se debe dotar al conjunto de (al menos una):
• Estructura geométrica (espacio de señales).
• Estructura algebraica (espacio vectorial).
• …
SyS
– P
DS
Estructura Geométrica
SyS
– P
DS
20
Espacio de Señales
• Si al conjunto de señales
definido anteriormente le
agregamos una métrica d
entonces se convierte en un espacio de señales .
• Los espacios de señales
son espacios métricos
cuyos elementos son
señales.
;d
SyS
– P
DS
21
Espacio de señales
Conjunto de señales
+
Estructura geométrica
Distancia / Norma
;d
SyS
– P
DS
22
Espacio de señales
Distancia / Norma
( , )i jd x x
SyS
– P
DS
23
Espacio de señales
Distancia / Norma
( , )i jd x x
SyS
– P
DS
Norma vs Distancia
• Norma: depende de un punto del espacio.
• Distancia: función de dos puntos del espacio.
24
SyS
– P
DS
Norma
Analogías entre Señales y Vectores
SyS
– P
DS
26
Norma
• Nos proporciona información acerca del “tamaño” de
una señal o vector x:
– Es un número real no negativo:
– Es homogénea con respecto a la escala:
– Satisface la desigualdad triangular:
• Hay diferentes normas pero la más empleada es la denominada norma-p.
SyS
– P
DS
27
Norma - p
• Secuencias temporales:
• Señales continuas:
1/
1/
( )
pp
npn
pp
p
x
x t dt
x
x
1 p
SyS
– P
DS
28
¿Qué pasa cuando p es infinito?
sup
sup ( )
nn
t
x
x t
x
x
SyS
– P
DS
¿Qué pasa para p entre 0 y 1?
• La definición es todavía de interés para 0 < p <
1, pero la función resultante no define una
norma* (porque viola la desigualdad del triangulo ►DEMOSTRAR).
* Salvo en R1, donde coincide con la norma Euclidea, y en R0, donde es trivial.
29
SyS
– P
DS
30
¿ Y cuando p es = 0 ?
0 0
0
lim
# : 0
p
pp
nn x
x x
x
“Norma-0” >> Medida de “dispersión”
Es una semi-norma
Donoho
SyS
– P
DS
Significado de Ralo
• Adjetivo que se aplica a los componentes de
algo que están separados y poco densos o
espesos.
• Viene del latin “rarus” que no significaba “extraño o
extravagante” sino “espaciado, disperso” e “infrecuente,
escaso, difícil de encontrar” (castellano, año 1250).
31
http://etimologias.dechile.net/?ralo
SyS
– P
DS
32
2
2
1
x
x
x
Se denomina amplitud de la señal x
Se conoce como energía de la señal x
Suele llamarse acción de la señal x
Otros nombres...
SyS
– P
DS
33
Ejemplo: amplitud y energía
x1
E(x)1/2
A(x)
x2
0?x
SyS
– P
DS
34
¿La norma-p es la única?
• Existen muchas normas, pero esta es la más
utilizada porque permite diferentes
comportamientos variando p.
SyS
– P
DS
35
¿Qué ocurre cuando varío p?
Superficie de
||x||p para
x = [x1, x2]
-10
0
10
-10
0
100
50
100
x1
p = 2
x2
||x|
| p
-10
0
10
-10
0
100
20
40
x1
p = 1.5
x2
||x|
| p
-10
0
10
-10
0
100
10
20
x1
p = 1
x2
||x|
| p
-10
0
10
-10
0
100
5
10
x1
p = 0.5
x2
||x|
| p
-10
0
10
-10
0
100
5
10
x1
p = 0.25
x2
||x|
| p
-10
0
10
-10
0
100
10
20
x1
p = 0.1
x2
||x|
| p
SyS
– P
DS
36
¿Qué ocurre cuando varío p?
El “círculo unitario”
en diferentes normas
||x||p para x = [x1, x2]
SyS
– P
DS
37
¿La norma-p es la única?
• Otros ejemplos:
– Norma del Volumen Mínimo (similar a ||x||0)
– Norma de Cauchy
– Norma Varimax
– Otras dependiendo de la aplicación...
SyS
– P
DS
38
Otras medidas útiles:
2
2
1
2
1( )
2
N
nn N
T
T
P xN
P x t dtT
x
x
Potencia media de una señal
SyS
– P
DS
39
2
2
1lim
2
1lim ( )
2
N
nn N
T
T
P xN N
P x t dtT T
x
x
Otras medidas útiles:
Potencia media TOTAL de una señal
SyS
– P
DS
40
Px
Otras medidas útiles:
Valor cuadrático medio (RMS):
Otras: Valor medio …
SyS
– P
DS
Distancia
SyS
– P
DS
42
Distancia
• La distancia es un concepto muy importante
asociado a un espacio.
• Nos permite dar sentido geométrico al espacio
a través de una “métrica”.
• Significados: “error” o “diferencia”,
“disimilitud” o “grado de aproximación”
entre dos señales.
SyS
– P
DS
43
Distancia vs Norma
• Una métrica puede derivarse a partir de una norma:
• La norma se refiere a un solo elemento, mientras
que la distancia a dos ( norma ≡ distancia al origen ).
Pueden existir métricas que
no deriven de normas ( , )d x y x y
SyS
– P
DS
44
yxyxdyxd 0),(0),(
),(),( xydyxd
),(),(),( zydyxdzxd
2) Es simétrica:
3) Cumple con la desigualdad del triángulo:
Distancia: Propiedades
1) Es una función de dos puntos x, y con valor real positivo:
?
SyS
– P
DS
45
“Cada lado de un triángulo es menor que
la suma de los otros dos”
“Si antes de ir a casa paso por lo de un amigo, camino más que si
voy derecho a casa, salvo que su casa esté de camino a la mía”
“Si para volar a Buenos Aires hago una escala en Córdoba, tomo
otro vuelo de Córdoba a Buenos Aires, pago más que volando
directamente”
Desigualdad triangular: sentido común …
¡No siempre!
SyS
– P
DS
46
¿A qué distancia está ....
… la Catedral …
… del Edificio del Libertador?
¿402 metros?
¿o 565 metros?
¿Es igual
caminando
que en auto?
SyS
– P
DS
47
Distancia en Internet
• ¿Cómo medirían
las distancias de
comunicación
por Internet?
• ¿Es razonable
medirlas en
Kms?
SyS
– P
DS
48
Distancia en Internet
• Mapa parcial de Internet (30%, Enero 2005, opte.org).
• Cada línea se dibuja entre dos nodos (direcciones IP).
• La longitud indica el retardo entre nodos.
• Los colores corresponden a los dominios:
– Azul: net, ca, us
– Verde: com, org
– Rojo: mil, gov, edu
– Amarillo: jp, cn, tw, au, de
– Magenta: uk, it, pl, fr
– Oro: br, kr, nl
– Blanco: desconocido
SyS
– P
DS
49
Distancia en Internet
• El mundo visto desde Internet: ¿Qué pasa si modificamos las
distancias teniendo en cuenta la cantidad de conexiones?
SyS
– P
DS
50
Entonces …
• Diferentes relaciones, diferentes maneras
de medir distancias, estructuran el
espacio de diferentes formas.
SyS
– P
DS
51
Distancias definida por la norma-p
• Como vimos una métrica se puede definir a partir de una
norma, por ejemplo la norma-p: ( , )p
d x y x y
SyS
– P
DS
52
¿Qué ocurre cuando varío p?
x1
x 2
p = 2
-10 -5 0 5 10-10
-5
0
5
10
x1
x 2
p = 1.5
-10 -5 0 5 10-10
-5
0
5
10
x1
x 2
p = 1
-10 -5 0 5 10-10
-5
0
5
10
x1
x 2
p = 0.5
-10 -5 0 5 10-10
-5
0
5
10
x1
x 2
p = 0.25
-10 -5 0 5 10-10
-5
0
5
10
x1
x 2
p = 0.1
-10 -5 0 5 10-10
-5
0
5
10
Curvas de nivel
de ||x||p para
x = [x1, x2]
SyS
– P
DS
53
¿Qué ocurre cuando varío p?
x 1
x 2
p = 2
-10 -5 0 5 10 -10
-5
0
5
10
x 1
x 2
p = 1
-10 -5 0 5 10 -10
-5
0
5
10
x
0x
0 0( , )p
d x x xx
SyS
– P
DS
55
La mejor distancia a utilizar depende de la
aplicación …
Distancia entre huellas digitales …
SyS
– P
DS
56
La distancia de
Hamming (1915-1998)
entre dos “palabras” es
el número de posiciones
en que difieren.
Distancia de Hamming
SyS
– P
DS
65
Distancia en habla ruidosa
• La SNR no es una buena medida de la inteligibilidad del
habla, ¿Cómo la medimos entonces?
SyS
– P
DS
66
Distancia en habla ruidosa
• LAR
– Diferencia entre los espectros limpio y ruidoso:
• PESQ
– Modelo de percepción auditiva:
Leandro Di Persia, Diego Milone, Hugo Leonardo Rufiner, Masuzo Yanagida, “Perceptual
evaluation of blind source separation for robust speech recognition”, Signal Processing 88 (2008) 2578– 2583.
SyS
– P
DS
67
Distancia de Levenshtein
También llamada “distancia de edición”:
• Distancia entre palabras:
– Número mínimo de operaciones requeridas para transformar una
cadena de caracteres en otra.
– Operaciones: inserción, eliminación o sustitución de un carácter.
• Es útil en programas que determinan cuán
similares son dos cadenas de caracteres, como
es el caso de los correctores de ortografía.
SyS
– P
DS
69
Distancia de Mahalanobis
• Es como la euclídea pero “pesada”:
1( , ) ( ) ( )Td x y x y C x y
matriz de covarianza
Toma en cuenta la estadística de los datos
Prasanta
Chandra
Mahalanobis,
India 1936.
SyS
– P
DS
Divergencia de Kullback-Leibler
• Sean x y y dos señales en N y sea DKL la
denominada "Divergencia de Kullback-
Leibler“:
• ¿Es una distancia?¿Por qué?
72
KL1
[ ]( , ) [ ]log
[ ]
N
i
x iD x i
y ix y
SyS
– P
DS
73
Ejemplos de espacios de señales
• Espacio de secuencias temporales reales:
• Espacio de señales de tiempo continuo reales:
– Ambos suelen usar la métrica euclideana:
{ [ ]}; ; [ ] ; 1x n n x n n N
{ ( )}; ; ( ) ; -x t t x t t
2( , )d x y x y
SyS
– P
DS
Producto Interno
Analogías entre Señales y Vectores
SyS
– P
DS
75
Producto interno
Otra medida de
similitud entre señales
SyS
– P
DS
76
Componente de un vector en otro
• Proyección de v1 sobre v2
• Menor error de modo que:
v1 = c12 v2 + ve
SyS
– P
DS
77
Pero no cumplen la condición de error mínimo
Otras alternativas podrían ser
SyS
– P
DS
78
¿Cómo calculamos c12?
c12 |v2| = |v1| cos(q)
La componente de la componente de v1 a lo largo de
v2 será:
SyS
– P
DS
79
Además, sabemos que:
¿Cómo calculamos c12?
c12 |v2| = |v1| cos(q)
La componente de la componente de v1 a lo largo de
v2 será:
< v1 , v2 > = |v1| |v2| cos(q)
SyS
– P
DS
80
¿Cómo calculamos c12?
Ahora podemos escribir:
22
2112
,
,
vv
vvc
SyS
– P
DS
81
c12 mide el parecido entre v1 y v2
SyS
– P
DS
82
c12 mide el parecido entre v1 y v2
Si v2 tiene norma unitaria:
2112 , vvc SyS
– P
DS
83
Producto Interno, normas y métricas
• Al definir el producto interno se obtiene
también una norma y una métrica para el
espacio:
2
2,x x x
SyS
– P
DS
84
Producto interno en
¿señales continuas? SyS
– P
DS
85
• El concepto de proyección y ortogonalidad
de vectores se puede extender a las señales.
• Se considerarán dos señales f1(t) y f2(t)
donde se se desea aproximar f1(t) en
términos de f2(t) en un cierto intervalo (t1, t2)
Producto interno …
SyS
– P
DS
86
Se desea aproximar f1 mediante f2
f1(t) ≈ C12 f2(t) en (t1 < t < t2).
Se define la función error fe(t):
fe(t) = f1(t) - C12 f2(t).
Debemos encontrar un valor de C12 que
minimice el error entre las dos funciones
SyS
– P
DS
87
2
1121 2
2 1
( ) ( )t
t t dttEM
t t
f fC
2
1
2
2 1
( )e
tt dt
tECMt t
f
SyS
– P
DS
88
2
1 2112 2 2
21
( ) ( )
( ( ))
t
tt
t
f t f t dt
Cf t dt
120
ECMC
SyS
– P
DS
89
2
1 2112 2
2 21
( ) ( )
( ) ( )
t
tt
t
f t f t dt
Cf t f t dt
120
ECMC
Si nuestra señal puede tomar valores complejos
SyS
– P
DS
90
2
1
( ) ( ) 01 2tf t f t dt
t
Ortogonalidad de Funciones
SyS
– P
DS
91
Iguales
Ortogonales
Opuestas
Vectores Señales Produto Producto
interno
x , y > 0
x , y = 0
x , y < 0
SyS
– P
DS
92
0
( ) ( ) stX s x t e dt
( ) ( ) j tX x t e dt
( ) ( ). n
n
X z x n z
Transformaciones lineales...
SyS
– P
DS
93
( ) ( ) ( ) ( )x t y t x y t d
( ) ( ) ( )xyR t x y t d
Otras operaciones lineales...
SyS
– P
DS
Estructura Algebraica
SyS
– P
DS
95
¿Qué pasa si sumo dos señales de ?
{ ; ( ) Re[ exp( )]}
=2 - , ,
x x t j t
f t f
+ =
… …
…
…
…
… …
…
…
…
…
?
Conjunto de las señales
sinusoidales (1)
SyS
– P
DS
96
Campo Escalar
• K es un campo escalar (un conjunto)
– Adición + : K x K K
– Producto . : K x K K
– Neutro aditivo: 0
– Neutro multiplicativo: 1
• Ejemplos: Z, R, C
SyS
– P
DS
97
Espacio Lineal
• Conjunto para el que están definidas las
operaciones binarias (cerradas) de:
– Multiplicación de cualquier elemento por un escalar
– Adición entre cualesquiera de sus elementos
• Estas operaciones son conmutativas, asociativas y
distributivas.
• Poseen elemento neutro y cancelativo.
; ; ;
SyS
– P
DS
98
Espacio Lineal
; ; ;
SyS
– P
DS
99
(1) no es
un
espacio
vectorial.
Espacio Lineal
• A los elementos de los espacios lineales
los llamamos vectores y podemos
referirnos al espacio como espacio
vectorial.
SyS
– P
DS
100
Espacios Normados
• Son aquellos espacios vectoriales en los que
todos sus elementos poseen norma finita.
• Ejemplos:
– Los subconjuntos de señales que poseen energía
finita o acción finita son espacios normados:
2 ( )L1( )L 2 ( )1( )
SyS
– P
DS
101
Espacios Normados
• Ejemplos:
1( ) ; ( ) ; ; ( ) ,L x x t dt t x t t
2
2 ( ) ; ( ) ; ; ( ) ;L x x t dt t x t t
1( ) ; [ ] ; ; [ ] ;n
x x n n x n n
2
2 ( ) ; [ ] ; ; [ ] ;n
x x n n x n n
(pueden definirse también en C o Z):
SyS
– P
DS
102
Espacios con Producto Interno
• Debido a la importancia del producto interno
para comparar señales aparece este tipo
particular de espacios.
• Un espacio con producto interno:
I(x , y) = < x , y >,
es un espacio vectorial con un producto interno
definido en él.
SyS
– P
DS
103
Espacios con Producto Interno
• Como ya vimos, al definir el producto interno
se obtiene también una norma y una métrica
para el espacio:
2
2,x x x
SyS
– P
DS
104
Espacio Euclídeo
• Es el espacio matemático n-dimensional usual,
una generalización de los espacios de 2 y 3
dimensiones estudiados por Euclides.
• Estructuralmente es:
– un espacio vectorial normado de
dimensión finita sobre los reales
– la norma es la asociada al producto
escalar ordinario (norma 2).
• Se denota como: RN Euclides
(300 a.C, Grecia)
SyS
– P
DS
105
Espacios de Hilbert
• H es un espacio de Hilbert si es completo con
respecto a la norma generada por < x , x >.
• Completo significa que no tiene “agujeros”.
• Constituye una generalización
del concepto de espacio euclídeo.
• Permite extender nociones
de espacios de dimensión
finita a los de dimensión
infinita. David Hilbert
(1862-1943, Alemania)
SyS
– P
DS
106
Conjuntos, espacios y señales …
Conjuntos de señales
Espacios métricos
Espacios vectoriales
Espacios |normados|
Espacios con producto <.,.>
Señales
aisladas
Hilbert 2 ( )L
1( )1( )L
RN
SyS
– P
DS Bases y transformaciones
SyS
– P
DS
108
Dado un conjunto N vectores (señales) X0={xi} con N < :
1
N
i i
i
x x combinación lineal de vectores xi,
donde i son escalares.
Variando los i se genera un nuevo conjunto X, que en el
caso que sea un espacio vectorial entonces X0 es un
conjunto generador de ese espacio.
Conjunto generador
SyS
– P
DS
109
1
0N
i i i
i
i
x 0
{xi} son linealmente independientes si:
Base
Conjunto generador.
{xi} linealmente independientes.
Definición de base
SyS
– P
DS
110
Si el conjunto 0 es ortogonal
, 0
,
i j
i j
i j
k i j
x x
x x
O, si k = 1 entonces 0 es ortonormal.
Entonces, si 0 es una base del espacio vectorial , los coeficientes
i se pueden calcular mediante el producto interno entre el vector
(señal) y cada uno de los elementos de la base.
Volvemos sobre ortogonalidad…
SyS
– P
DS
111
1 1 2 2
1
...N
i i N N
i
x x x x x
Suponga que quiere representar el vector x en RN generado por el
conjunto 0={xi}, con i = 1 .. N.
1 1 2 2, , , ... ,i i i N N i x x x x x x x x
Efectuando producto interno por xi a ambos miembros:
Representación de señales
SyS
– P
DS
112
, ,i i i i x x x xSi 0 es ortogonal, entonces:
2
, ,
,
i ii
i i i
x x x x
x x x
, ,i i i i x x x xSi 0 es ortonormal, entonces:
,i i x x
Concepto importante: i es la componente de la señal x en xi.
Representación de señales
SyS
– P
DS
116
• Polinomios de Legendre [-1,1]
• Polinomios de Chebyshev [-1, 1]
• Polinomios de Hermite [- , ]
• Funciones de Hermite [- , ]
• Funciones de Walsh [0,T]
• Funciones de Haar [0,1]
• Wavelets
• Funciones de Fourier
Ejemplos: Bases ortogonales
SyS
– P
DS
117
• Funciones de Haar:
Ejemplo: Wavelets
SyS
– P
DS
118
• Onditas de Meyer:
Ejemplo: Wavelets
SyS
– P
DS
123
Bibliografía
• Mertins, “Signal Analysis”, John Wiley & Sons
• Franks, “Teoría de la señal”, Reverté.
• De Coulon, “Signal Theory and Processing”, Artech-
House.
• Lathi, “Modern Digital and Analog Communication
Systems”, Holt, Rinehart & Winston.
• Citas completas y repaso en:
– Milone, Rufiner, Acevedo, Di Persia, Torres,
“Introducción a las señales y los sistemas discretos”,
EDUNER (Cap. 2).