Approximations and Applications of Nonlinear Filters
Approximation und Anwendung nichtlinearer Filter
von Jochen Bröcker
Datum der mündl. Prüfung:2003-01-30
Erschienen:2003-06-04
Betreuer:Prof. Dr. Ulrich Parlitz
Gutachter:Prof. Dr. Ulrich Parlitz
Gutachter:Prof. Dr. Theo Geisel
Dateien
Name:broecker.pdf
Size:1.68Mb
Format:PDF
Description:Dissertation
Zusammenfassung
Englisch
In this thesis a certain estimation problem for nonlinear stochastic dynamical systems in discrete time, known as filtering in the literature, is considered. The objective is to reconstruct the current state of the system by means of observations. The observations are noise corrupted measurements of a function of the state.In the first chapter we will provide concepts from probability theory necessary to define and investigate the nonlinear filtering problem. The definition of the nonlinear filter is presented in the second section of this chapter.The second chapter explains in detail why filtering is an extremely difficult problem in a nonlinear context. It turns out that a finite dimensional representation of the filter is possible in very special circumstances, only. This chapter summarizes known results and is intended mainly as a motivation for the necessity of investigating approximation schemes for the nonlinear filter, considered in the following two chapters.Numerical approximation methods are then investigated from a general point of view in the third chapter. A general framework to obtain error bounds for approximation schemes is presented. Necessary for this investigation are metrics for probability distributions we will make extensive use of. Furthermore, an essential property of the filter required to give a bounded approximation error turns out to be a negative Lyapunov exponent of the filter dynamics.The fourth chapter provides some classes of approximation methods. Common to all these methods are projection techniques on parametrized families of probability distributions. This approach was carried out for continuous time systems already by several authors. However, the error analysis carried out in this thesis is, to the best of our knowledge, new.The last two chapters present (aside from two small sections devoted to a Monte Carlo approach), two interesting and important applications of nonlinear filtering. The first is estimation of an unknown parameter in the dynamics. This problem is very important in all branches of science, and we will present two numerical examples. The second application is reconstruction of a sent message in telecommunications. To this problem a chapter is devoted, including results on the bit error probability obtained using methods from nonlinear filtering theory for a simple transmitter model.To summarize, the aim of this thesis is threefold. First, to show that filtering of nonlinear dynamical system is a nontrivial and interesting problem from a mathematical point of view, second to show methods to overcome the difficulties arising in applications, and third to show that filtering is not a purely artificial mathematical problem but has a great significance in science and engineering.
Keywords: nonlinear filtering; dynamical systems; sequencial data aquisition; finite dimensional filter; Kullback-Leibler distance; Hellinger distance; total variation distance; exponential families; linear families; Monte Carlo filter; communication systems; parameter estimation
Weitere Sprachen
In dieser Arbeit wird ein Schätzproblem für nichtlineare stochastische Systeme in diskreter Zeit betrachtet, welches in der Literatur als Filterung bezeichnet wird. Das Ziel ist die Rekonstruktion des momentanen internen Zustandes eines nichtlinearen Systems mit Hilfe von Messungen. Diese Messungen sind durch Rauschen gestörte Werte einer nichtlinearen Funktion des Zustandes.Im ersten Kapitel werden zunächst Konzepte und Methoden der Wahrscheinlichkeitstheorie erörtert, welche zur Formulierung und Untersuchung des Filterproblems benötigt werden. Die genaue Definition des Problems wird im zweiten Abschnitt dieses Kapitels besprochen.Das zweite Kapitel erklärt im Detail, warum Filterung eines nichtlinearen Systems im allgemeinen ein äußerst schwieriges Problem ist. Es zeigt sich, dass eine endlichdimensionale Darstellung des Filters nur unter sehr speziellen Voraussetzungen möglich ist. Dieses Kapitel fasst bekannte Resultate aus der Literatur zusammen. Ziel ist hauptsächlich, die Notwendigkeit der Untersuchung von Approximationsmethoden für den nichtlinearen Filter zu motivieren, welche Gegenstand der folgenden zwei Kapitel sind.Im dritten Kapitel werden numerische Approximationsmethoden von einem allgemeinen Standpunkt aus betrachtet. Es wird eine generelle Vorgehensweise entwickelt, mit der man Fehlerschranken für eine große Klasse von numerischen Methoden erhalten kann. Notwendig für diese Untersuchungen sind Abstandsbegriffe im Raum aller Wahrscheinlichkeitsverteilungen, von denen im Folgenden viel Gebrauch gemacht wird. Es stellt sich heraus, dass ein negativer Lyapunov-Exponent eine notwendige Eigenschaft für die Existenz quantitavier Fehlerschranken ist.Das vierte Kapitel stell einige Approximationsschemata vor. All diesen Methoden gemeinsam sind Projektionstechniken auf endlich dimensionale Mannigfaltigkeiten von Wahrscheinlichkeitsverteilungen. Für Systeme in kontinuierlicher Zeit wurde dieser Ansatz bereits von verschiedenen Autoren vorgeschlagen. Eine Analyse des Fehlers jedoch, wie sie in dieser Arbeit zu finden ist, wurde nach unserem Wissen bisher nicht durchgeführt.Die letzten zwei Kapitel präsentieren neben zwei kleinen Abschnitten zu Monte-Carlo-Methoden zwei interessante Anwendungen der nichtlinearen Filterung. Die erste ist die Schätzung unbekannter Parameter in der Dynamik. Dieses wichtige Problem tritt in allen Bereichen der Naturwissenschaft auf . Es werden zwei Beispiele präsentiert. Die zweite Anwendung ist die Rekonstruktion einer gesendeten Nachricht in der Telekommunikation. Diesem Problem ist ein Kapitel gewidmet. Für ein einfaches Transmittermodell werden mit Hilfe von Methoden der nichtlinearen Filterung Resultate über die sich ergebende Bit-Error-Wahrscheinlichkeit präsentiert.Zusammenfassend hat diese Arbeit drei Aspekte zum Ziel. Erstens, zu zeigen, dass die optimale Filterung nichtlinearer Systeme vom rein mathematischen Standpunkt aus ein schwieriges und interessantes Problem darstellt, zweitens, Methoden anzugeben, welche die sich in Anwendungen ergebenden Probleme lösen und drittens, zu zeigen, dass Filterung nicht nur ein akademisches mathematisches Problem ist sondern große Relevanz in Naturwissenschaft und Technik besitzt.
Schlagwörter: Nichtlineare Filterung; Dynamische Systeme; Sequenzielle Datenerfassung; Endlich Dimensionale Filter; Kullback-Leibler Abstand; Hellinger Abstand; Totale Variation; Exponentielle Familien; Lineare Familien; Monte-Carlo Filter; kommunikationssysteme; Parameterschätzung