Comparación de técnicas de medición estadísticas aplicadas a

la estimación del RTT

Juan Andrés Negreira CI: 4.271.215-6

Trabajo presentado para la asignatura Tratamiento Estadístico de Señales

22 de febrero de 2007

Introducción Una de las principales funciones de la capa de transporte cuando ofrece servicios orientados a conexión es el control de congestión. TCP implementa dicho control de congestión a través del uso de ventanas. En cada acuse de recibo, el receptor le indica al transmisor el tamaño de su ventana, esto es, cuánta información (en bytes) es capaz de recibir en dicho instante. Ajustando la ventana de recepción, es posible controlar cuánto tráfico circula por la red, siendo este un método eficaz para controlar la congestión. El transmisor envía la cantidad de información que el receptor le permite y mientras almacena los datos en un búffer, antes de ser enviados. Si un enlace tiene capacidad b y RTT τ, el tamaño óptimo de ventana será bτ, ya que de este modo se está utilizando completamente el enlace sin generar encolamientos en el mismo. Las distintas implementaciones de TCP buscan lidiar con el problema de utilizar al máximo el enlace pero sin generar encolamientos que terminen en la pérdida de paquetes. El RTT constituye un parámetro fundamental en las mediciones de parámetros de redes, ya que a partir del mismo se pueden estimar retardos de propagación, retardos de encolamiento y ancho de banda disponible, como principales métricas. Interpretado como una variable de estado de la red, el RTT es escencial para un control de congestión eficiente, de hecho diversas técnicas para dicho control emplean mediciones de RTT en sus algoritmos. En el presente trabajo se emplearán filtros con dos objetivos bien marcados: por un lado medir el RTT en determinado enlace y por otro detectar, con la mayor rapidez posible, cambios grandes en su valor, lo cual permitiría suponer variaciones en el estado de la red. Se presentará en detalle la implementación de un filtro de Kalman adaptivo, estudiando sus parámetros, sus hipótesis y sus limitaciones. Posteriormente se comparará dicha implementación con otros algoritmos, otra implementación del filtro de Kalman y un predictor lineal. El resto del artículo está organizado de la siguiente forma: en el siguiente capítulo se detalla el funcionamiento del filtro de Kalman y su modificación para aplicar el filtro de Kalman adaptivo. Posteriormente se muestra la implementación propuesta de dicho filtro para detectar cambios de estado en el RTT, se estudia su funcionamiento y los parámetros del algoritmo. En los capítulos siguientes se proponen una implementación del filtro de Kalman y un predictor lineal, con el fin de comparar su performance con el filtro estudiado. Finalmente se hace una comparación de los métodos implementados.

Filtro de Kalman El filtro de Kalman consiste en un conjunto de ecuaciones matemáticas que proveen una solución eficiente para estimar el estado de un proceso. Una de sus principales características es que se basa en los conceptos de espacio de estados, y por lo tanto toda la información pasada queda resumida al estado actual del sistema. La otra importante característica es que es un algoritmo recursivo, en particular el filtro de Kalman provee las bases para que de él surja una importante familia de algoritmos, conocidos como algortimos recursivos de mínimos cuadrados. Es importante notar que al estar basado en espacio de estados, para cada iteración solamente es necesario conocer el valor del estado anterior y no todas las muestras anteriores, como pasa por ejemplo en el caso del filtro de Wiener. Esto hace que, no solamente no sea necesario guardar toda la información pasada sino que también sea más eficiente desde el punto de vista computacional. En esta sección se examinará el modelado y la solución propuesta en el filtro de Kalman discreto. En su postulado, el filtro de Kalman busca estimar el estado de un proceso controlado de tiempo discreto que es gobernado por la siguiente ecuación diferencial linela estocástica:

nx ℜ∈

111 −−− ++= kkkk wBuAxx

En donde A y B son matrices que determinan el espacio de estados, u es la señal de entrada al sistema, que en este caso es una entrada de control y w representa el ruido del proceso. Por otro lado, las medidas son realizadas a través de una variable que cumple: mz ℜ∈

kkk vHxz += Aquí v representa el ruido de la medición. Se asume que tanto w como v son independientes entre sí, blancas y con distribución de probabilidad normal, de covarianzas Q y R respectivamente. Se puede observar que la matriz A relaciona el estado del sistema en el instante k-1 con el estado en el instante k, en ausencia de ruido y de la señal de control. La matriz B relaciona la entrada opcional de control con el estado x. Finalmente la matriz H relaciona el estado del sistema con la magnitud medida z.

lu ℜ∈

Se considerarán dos estimaciones del estado xk, una de ellas calculada en el instante k-1 y la otra hallada en el instante k. A la primera de ellas se la llamará estimación a priori, mientras que la segunda será la estimación a posteriori. A su vez se definirán los errores correspondientes, dados por las siguientes expresiones:

kkk

kkk

xxexxe

ˆˆ

−≡−≡ −−

Notar que tanto la estimación a priori como el error asociado a ésta tienen un signo de menos como superíndice. La estimación a posteriori se desprende tanto de la estimación a priori como de la medida realizada zk, en particular, de la estimación a priori y de su diferencia con la medida tomada, ponderando esta diferencia como se muestra en la siguiente ecuación:

( )kkkk xHzKxx −− −+= ˆˆˆ La diferencia ( )kk xHz −− ˆ es llamada innovación, lo cual conceptualmente significa cuánta nueva información aportó la última muestra recabada. La matriz K se conoce como ganancia y es elegida de modo tal que minimice la covarianza del error a posteriori, lo cual se puede expresar como:

[ ]Tkkk eeEP =

A partir de las dos ecuaciones anteriores, se puede plantear Pk en función de los demás parámetros del sistema, derivando dicha expresión en función de K e igualándola a 0, se obtiene que la ganancia queda expresada del siguiente modo:

RHHPHPK T

k

Tk

+= −

−

Las ecuaciones del filtro de Kalman pueden agruparse en dos grandes grupos, de acuerdo a cada una de las etapas que se realizan. El primero de ellos es una estimación del valor siguiente y el otro es la corrección a partir del valor medido. Estas etapas funcionan en forma de ciclo, a medida que se obtienen más medidas, como puede observarse en la siguiente figura.

Figura 1.- Modelo en etapas del filtro de Kalman

En la etapa de estimación del valor siguiente, se estiman tanto el estado en el instante siguiente como la correlación del error en dicho instante. Las ecuaciones para dichas estimaciones son:

QAAPP

BuxAxT

kk

kkk

+=

+=

−−

−−−

1

11ˆˆ

En el instante k se toma la medida de zk y a partir de ella se corrige la estimación anterior, a partir de las ecuaciones:

( )( ) kkk

kkkk

Tk

Tk

PHKIP

xHzKxxRHHP

HPK

−

−−

−

−

−=

−+=+

=

ˆˆˆ

El filtro de Kalman adaptivo En esta instancia se considerará que la señal observada es constante en el tiempo, excepto en determinados instantes en donde ocurren saltos en su valor. Al conocer dicho comportamiento particular de x(t), es deseable adaptar el algoritmo de modo tal de poder aprovechar esta información adicional. Se han propuesto diversas alternativas para considerar dicha característica, en el presente trabajo se estudiará un algoritmo en particular: CUSUM (Cumulative Sum). Éste es un algoritmo de detección de cambios, que se encarga de disparar una alarma cuando la media de la señal de entrada (que se supone de media nula) al mismo es sensiblemente distinta de cero. El algoritmo acumula los valores a la entrada del sistema, restándole a cada uno una constante determinada. Cuando el valor acumulado supera determinado umbral, se dispara una alarma y se resetea el acumulador, volviendo su valor a cero. En la figura se puede observar un diagrama de bloques de dicho algoritmo.

Figura 2.- Diagrama de bloques del algoritmo CUSUM

Para el caso de estudio, la entrada a este bloque será el error entre la estimación previa y el valor medido, en el algoritmo de Kalman. Si se considera que la señal de estudio está afectada por ruido con media nula, el bloque CUSUM disparará una alarma cuando haya un salto en x(t), pudiendo detectar de este modo los saltos, como se deseaba.

Estimación del RTT Basándose en las herramientas ya vistas, se estudiará a continuación un algoritmo para la estimación del RTT medido sobre determinado enlace. El principal problema al que se enfrentan estas mediciones es el de distinguir las variaciones por ruido y cross traffic de los saltos en el valor medio a lo largo de la evolución de la señal. Actualmente las versiones más difundidas de TCP atacan este problema mediante un filtro pasabajos, a efectos de filtrar el ruido de alta frecuencia. Sin embargo esta solución presenta el problema de que el sistema reacciona en forma lenta a cambios bruscos en la media del RTT, haciendo difícil el control dinámico del tráfico generado. En el presente trabajo se presenta una solución alternativa, utilizando las herramientas vistas en capítulos anteriores, basándose en un filtro de Kalman adaptivo. Se buscará que el sistema reaccione más rapidamente a cambios en la media del RTT, para ello se considerará el siguiente modelado: Sea τ(t) el RTT medido al llegar el paquete ACK al servidor. Se define dl,i(t) como el retardo de procesamiento en el enlace i, dp,i(t) el retardo de propagación en dicho enlace y dq,i(t) el retardo de encolamiento. De este modo, para un enlace de m nodos se tiene que

∑=

++=m

iiqipil tdtdtdt

1,,, )()()()(τ

La dinámica del RTT depende mayoritariamente de los retardos de encolamiento, al tiempo que se puede suponer que los retardos de procesamiento y propagación contribuyen con una constante. Ésta dinámica puede ser modelada como un integrador saturado, como se muestra en la figura

Figura 3.- Modelo de un nodo de red

Si se toma λ(t) como la tasa de arribos de paquetes al nodo y c como la capacidad a la salida del mismo, se tiene que la diferencia entre dichos valores es la velocidad con la que crece el encolamiento en el nodo, es decir, . Por otra parte se tiene que el buffer de entrada al nodo no es infinito, por lo que la cola no puede crecer indefinidamente. Considerando esto, luego de integrar la señal , el flujo resultante pasa por un bloque que limita el valor máximo de q(t). Finalmente el retardo de un paquete en el nodo es igual al tamaño de la cola en el mismo al momento de arribar dividido la capacidad a la salida.

)(tq&

)(tq&

Si se toma ci como la capacidad del enlace y ti como el instante en el cual el paquete llega al nodo i, se puede expresar el RTT como

∑=

+=m

i i

i

ctqt

1

)()( γτ

Donde γ representa los retardos de procesamiento y propagación. Para detectar los saltos ya mencionados, se supondrá que el RTT está afectado de un ruido de alta frecuencia, al tiempo que éste está modelado por una constante expuesta a saltos instantáneos. Si xk es el RTT buscado y yk el RTT medido, se tiene que

{ }kkk

kkkkk

exyvxx

+=∈+=+ 1,0 donde ,1 δδ

Donde ek representa el ruido de alta frecuencia y es modelado como ruido de medición, con media nula y varianza Re al tiempo que los saltos en el RTT son modelados a través de la variable vk de varianza Rv y la variable discreta δk, que toma los valores 0 o 1. De este modo encontrar los saltos en el RTT se reduce al problema de hallar la secuencia δk. Para esto se utilizarán las herramientas ya vistas, planteando un filtro de Kalman modificado con el algoritmo CUSUM. El algoritmo propuesto es el siguiente:

( )

( )

( )0,maxˆ

1

ˆˆˆ

1

11

1

1

11

ξεε

δ

−+=−=

+−=+

=

−+=

−

−−

−

−

−−

ttt

ttt

etttt

et

tt

tttt

ggxy

RPKPRP

PK

xyKxx

if gt < h then δt = 1 % alarma gt = 0 else δt = 0 end Se observan dos parámetros de diseño, la constante ξ y el umbral h. Estos parámetros ajustan la sensibilidad del filtro para la detección de saltos. Se puede ver que las varianzas Rv y Re también influyen en el funcionamiento del filtro. En el paper estudiado se propone que estos dos últimos valores sean aproximados por la varianza de las muestras halladas.

Experimentos realizados Se simuló en MatLab la señal a ser estudiada, para verificar el funcionamiento del algoritmo. El paper estudiado propone la implementación de un filtro de Kalman modificado con el algoritmo CUSUM para detectar cambios bruscos en las medidas de RTT sobre un enlace determinado. Para estudiar el algoritmo propuesto, éste fue comparado con otras dos implementaciones: otra variante aplicando Kalman y un predictor lineal basado en Wiener. Para comparar los algoritmos, se los utilizó sobre las mismas señales de prueba. A continuación se estudia el funcionamiento de los mismos, seguido de una comparación entre ellos.

Kalman-CUSUM A la propuesta del paper se hicieron algunas modificaciones. En primer lugar se cambió la forma de hallar gt, quedando del siguiente modo:

( )( )0,absmax 1 ξε −+= − ttt gg De esta forma se logra que la estimación converja rápidamente a los valores medidos cuando el salto observado es decreciente (vt < 0), cosa que no ocurría con el algoritmo estudiado. En la siguiente figura se muestra la señal a estudiar junto con la estimada con el filtro de Kalman-CUSUM:

Figura 4.- Comparación de la señal de prueba y la estimación del filtro de Kalman-CUSUM

La señal de decisión gt, tiene la siguiente forma:

Figura 5.- Forma de la señal g(t)

A ésta se le aplica un umbral de decisión, h, para vislumbrar los saltos que da la señal. Una vez aplicado el umbral, se regenera la señal como una serie de escalones, cuyos valores son hallados a partir de la media de las muestras de la señal estimada por Kalman que quedan dentro del intervalo del escalón.

Figura 6.- Señal reconstruída aplicando el filtro Kalman-CUSUM

A continuación se observa cómo cambia la forma de la señal de decisión gt, al variar el parámetro ξ. Se puede ver que el aumento de ξ hace que se destaquen más los errores más grandes. En la figura se puede observar que ante un valor de ξ pequeño, se hace difícil diferenciar dónde hubo un error grande de estimación. Al ir aumentando ξ, los errores grandes se hacen más visibles, permitiéndose de este modo utilizar un umbral h para distinguirlos. Sin embargo, si ξ aumenta demasiado, su valor pasa a pesar más que el error, tendiendo a ser una gráfica uniforme, perdiéndose los máximos que había.

ξ= 0.1√Re ξ= √Re ξ= 2√Re Figura 7.- Variación de g(t) al variar ξ

Una vez establecido este valor, se determina el umbral de decisión h, de modo tal de que se dispare una alarma solamente cuando hay un salto en la señal. Es necesario tener en cuenta que influye notoriamente la potencia del ruido sobre la señal, ya que una potencia m nde pue e hacer impo diferenciar con segurid saltos d l ruido.

tica, basándose en la observación de cierta cantidad de muestras de la señal. ado que el problema consiste en distinguir las variaciones de la señal debidas a

ones debidas al ruido, es razonable suponer nta el ruido es una referencia importante a la hora

e fijar los parámetros del algortimo.

no

bó inicialmente igualando este parámetro a la esviación estandar calculada se fue variando dicho valor, observando los picos de la

na vez establecido este valor, resta determinar el valor del umbral h, el cual decide, a

uy gra d sible ad los e

Determinación de los parámetros Durante las simulaciones se buscó una forma “inteligente” de determinar los parámetros del algoritmo. La idea consiste en poder determinar dichos parámetros en forma automáDcambios bruscos en la misma de las variacique la desviación estándar que presed A efectos de poder hacer una estimación, se calculó la desviación estándar de la señal sobre las primeras 30 muestras, bajo el supuesto de que en ese intervalo de tiempohay saltos en la señal. La función del parámetro ξ es la de minimizar el impacto producido por los errores de estimación debidos al ruido. Se prodseñal de decisión gt. Tras numerosas pruebas se decidió que el valor óptimo dentro de cierto márgen de ruido es en efecto la desviación hallada. Upartir de la señal de decisión gt si hubo un salto en la señal. Tras realizar repetidas pruebas se comprobó que el mejor valor para h es cuatro veces la desviación estandar de las muestras consideradas. De este modo se tiene que:

e

e

Rh

R

4=

=ξ

Hipótesis y limitaciones Durante todas las simulaciones realizadas se trabajó con señales afectadas con ruido de distribución normal, media nula y covarianza α os saltos en la señal tenían distintas

plitudes, pero el mínimo salto era de amplitud β. Se comprobó que 2α = β es un mite para el correcto funcionamiento del algoritmo, con potencia de ruido mayor, se

hace imposible discriminar con seguridad los saltos del ruido.

. Lamlí

Filtro de Kalman Se supondrá ahora que se mantiene el filtro de Kalman, pero se propondrá una técnica diferente para encontrar los saltos en la señal. En la siguiente figura se observa el

ódulo del error cometido en la estimación por Kalman, esto es: m

ttt xy ˆ−=ε

Figura 8.- Módulo del error de estimación al aplicar el filtro de Kalman

Se observa que en los primeros instantes de tiempo hay un error importante, esto se debe a la convergencia del filtro. Los otros picos grandes que se observan corresponden a los saltos en la señal, pudiendose éstos diferenciarse, a través de un umbral, del ruido sobre la señal. Basándose en esta observación, se i bral irectamente sobre la medida del error de estimación. En este caso el único parámetro a

a que al producirse un salto en la señal, el filtro tarda algunas muestras

mplementó como detector de saltos un umdfijar es el umbral de decisión para distinguir las desviaciones causadas por el ruido y las causadas por los saltos en la señal. A efectos de detectar saltos en la señal, hay que tener en cuenta los efectos de la onvergencia, yc

en adaptarse a él, por lo que se corre el riesgo de detectar un nuevo salto cuando en realidad no lo hubo. Para ello una estrategia posible es la de suponer que los saltos no van a ser consecutivos, sino que se alcanza un equilibrio por un mínimo de cierta cantidad de muestras.

Filtro de Wiener Basándose en los postulados de Wiener, se implementó un predictor lineal, a efectos de comparar su performance con las dos implementaciones vistas de Kalman.

A modo de introducción, el predictor lineal genera una estimación del valor futuro de la ñal a partir de una combinación lineal de los valores ya obtenidos. En cada iteración se

se calculan los coeficientes para dicho cálculo, por lo que a diferencia del filtro de Kalman que utiliza un modelo de estados, es necesario almacenar y procesar todas las

uestras obtenidas. mFormalmente, la estimación de la señal en el instante n es:

( ) ∑− −=M

kfn knuwUnu ,1 )(ˆ =k 1

En donde Un-1 es un espacio M dimensional formado por M muestras anteriores de u(n). El error de predicción tiene entonces la siguiente expresión:

( ) ( ) ( )1ˆ −−= nM Unununf Como medida del error puede utilizarse tambien la media del cuadrado del error de redicción:

p

{ })(nfEP MM = Basándose en los resultados de Wiener, se tiene que:

( ){ }( ){ }

( ) fH

M wrrP −= 0

ff

H

rRwrRwnunuEr

nunuER=⇒=⇒

⎪⎭

⎪⎬⎫

−=

−−= −

)(11)1( 1

*

En la señal estudiada se hizo la hipótesis de ergodicidad, para poder realizar los cálculos estadísticos sobre una única realización temporal. Esta observación ya hace suponer que la convergencia del algoritmo en las primeras muestras será lenta, ya que se están onsiderando pocas muestas para dichos cálculos, lo que hace que estos valores sean uy poco precisos.

a la señal de muestra, se obtiene como resultado la siguiente señal

cm Otra diferencia con el filtro de Kalman es que en este caso no se pretende filtrar el ruido, sino seguir la señal, por lo que la señal estimada tedrá componentes de ruido con las mismas características que la señal de entrada.

plicando este filtroAestimada:

e prueba con la estimada con el filtro de Wiener Figura 9.- Comparación de la señal d

ientras que el módulo del error en la estimación tiene la siguiente forma: M

Figura 10.- Módulo del error cometido por la estimación del filtro de Wiener

En ambas gráficas , dejando afuera

s primeras muestras de la serie, por ser significativamente más grandes.

de este filtro presenta la siguiente gráfica:

, además de mostrarlas completas, se agregó un zoomlaSe puede observar que es más difícil distinguir los saltos en la señal con respecto al ruido que afecta a la misma. La señal reconstruída a partir

Figura 11.- Reconstrucción de la señal original a partir de la aplicación del filtro de Wiener

Comparación de filtros Para comparar las distintas implementaciones se estudiará por un lado la precisión para alertar a cerca de un salto en la señal y por otro lado el error cometido al reconstruir la señal original. Los dos métodos implementados con el filtro de Kalman muestan en general una buena performance para detectar los cambios, con la acotación de que siempre en las primeras muestras se detecta un cambio aunque no lo haya, debido al error inicial del algoritmo. También vale acotar que éste converge muy rápidamente. El método de Kalman al no implementar CUSUM es más sensible al ruido, y ante saltos en la señal pequeños corre riesgos de no detectar el salto. El filtro de Wiener en cambio es mucho más suceptible al ruido, y es mas factible que haya algun cambio no detectado por el mismo. Por otro lado se hicieron numerosas pruebas, promediando para cada algoritmo el valor absoluto del error cometido entre la reconstrucción de la señal y el valor verdadero de la misma, sin estar afectada de ruido. En este caso también se vió que la mejor performance fue la de Kalman – CUSUM, debido fundamentalmente a que el método de Kalman a veces no detectaba los saltos en la señal. El importante error cometio por el filtro de Wiener en las primeras muestras hace que éste quede en clara desventaja ante los otros dos. En las siguientes gráficas se muestra la comparación de estos algoritmos.

Figura 12.- Comparación de las señales reconstruidas aplicando los diversos algoritmos

Figura 13.- Comparación de las señales estimadas con la señal de referencia

Figura 14.- Comparación de la señal de decisión del algortimo Kalman-CUSUM con las señales de error de ambos algoritmos

Esta última gráfica es muy útil para visualizar las potenciales posibilidades de cada algoritmo a la hora de detectar los saltos, ajustando en forma adecuada el umbral de decisión correspondiente. La principal ventaja del filtro de Kalman adaptivo reside en que tiene un parámetro para ajustar previamente la señal de decisión, y esto le permite ser menos vulnerable al ruido.

Pruebas sobre Internet Finalmente se hicieron pruebas sobre la red, con el fin de estudiar el comportamiento de los filtros con datos extraídos de la misma. En este caso se emplearon solamente los filtros de Kalman y Kalman-CUSUM, por ser claramente más performantes que el filtro de Wiener. Para efectuar las pruebas se realizó un programa en JAVA que, a través del comando ping, obtenía muestras del RTT entre un host con una conexión ADSL residencial y google (www.google.com). Dichas muestras eran guardadas en un documento de texto para su posterior procesamiento en MatLab, en donde ya había sido codificado el programa. Adicionalmente se varió la carga sobre el enlace ADSL durante la prueba, para generar adrede los cambios en el RTT que se quería localizar. Para ello, paralelamente con la ejecución del programan en JAVA, se efectuaban esporádicamente descargas de archivos grandes desde internet, con el fin de saturar el enlace. A continuación se muestran gráficamente los resultados obtenidos.

0 100 200 300 400 500 6000

200

400

600

800

1000

1200

1400

1600Estimacion de Kalman

señalestimacion de Kalman

Figura 15.- Reconstrucción de la señal medida a través de Internet, utilizando el filtro de Kalman-CUSUM

Figura 16.- Reconstrucción de la señal medida a través de Internet, utilizando el filtro de Kalman

Figura 17.- Comparación de los umbrales utilizados por ambos algoritmos

Conclusiones En el presente trabajo se presentó un filtro de Kalman adaptivo, enfocado en a medir el RTT sobre un enlace. Para ello se modeló el RTT como una variable de estado de la red, estudiando las ecuaciones de dicho modelo y observando los diversos parámetros que lo afectan. Para estudiar el funcionamiento del filtro, se estudiaron los efectos de cada uno de los parámetros del mismo, analizando su comportamiento con ciertas señales de prueba simuladas. Además se comparó su performance con otros dos algoritmos, a modo de referencia. Por un lado se implementó otra variante con el filtro de Kalman y por otro lado se propuso la utilización de un filtro de Wiener. Se pudo observar que el filtro de Kalman adaptivo fue el más performante, seguido muy de cerca por la otra implementación del filtro de Kalman.

Bibliografía [1] K. Jacobsson, H. Hjalmarsson, N. Möller y K. Johansson, “Round trip time

estimation in communication networks using adaptive Kalman filering”. [2] M. Lagunas, “Sistemas adaptativos”. [3] E. Lundin, F. Gunnarsson y F. Gustaffson, “Adaptive filtering applied to an

uplink load estimate in WCDMA”. [4] A. Bifet y R. Gavaldà, “Kalman filters and adaptive windows for learning in

data streams”. [5] G. Welch y G. Bishop, “An introduction to the Kalman filter”. [6] S. Haykin, “Adaptive filter theory”, third ed, Prentice Hall.