Facultad de Ingeniería y Ciencias Aplicadas

Permanent URI for this collection

http://repositorio.uandes.cl/handle/uandes/21

Browse

Browsing Facultad de Ingeniería y Ciencias Aplicadas by Author "Zegers Fernández, Pablo"

Now showing 1 - 2 of 2
  • Thumbnail Image
    Item
    Fisher information properties /
    (Zegers Fernández, Pablo) Zegers Fernández, Pablo
    Se presenta un conjunto de propiedades de información de Fisher para trazar un paralelo con propiedades similares de la entropía diferencial de Shannon. Las propiedades ya conocidas se presentan junto con otras nuevas, que incluyen: (i) una generalización de información mutua para información de Fisher; (ii) una nueva prueba de que la información de Fisher aumenta bajo condicionamiento; (iii) mostrar que la información de Fisher disminuye en las cadenas de Markov; y (iv) error de estimación encuadernada utilizando información de Fisher. Este último resultado es especialmente importante, porque completa la desigualdad de Fano, es decir, un límite inferior para el error de estimación, que muestra que la información de Fisher se puede utilizar para definir un límite superior para este error. De esta manera, se muestra que la entropía diferencial de Shannon, que cuantifica el comportamiento de la variable aleatoria, y la información de Fisher, que cuantifica la estructura interna de la función de densidad que define la variable aleatoria, se pueden utilizar para caracterizar el error de estimación. 
  • Thumbnail Image
    Item
    Relative entropy derivative bounds /
    (Zegers Fernández, Pablo) Zegers Fernández, Pablo
    Mostramos que la derivada de la entropía relativa con respecto a sus parámetros es inferior y superior. Caracterizamos las condiciones bajo las cuales esta derivada puede llegar a cero. Usamos estos resultados para explicar cuándo la entropía relativa mínima y los enfoques de máxima probabilidad de registro pueden ser válidos. Mostramos que estos enfoques se activan naturalmente en presencia de grandes conjuntos de datos y que son propiedades inherentes de cualquier proceso de estimación de densidad que implique grandes cantidades de variables aleatorias.