scholarly journals Bayesian and Markov chain Monte Carlo methods for identifying nonlinear systems in the presence of uncertainty

2015 ◽  
Vol 373 (2051) ◽  
pp. 20140405 ◽  
Author(s):  
P. L. Green ◽  
K. Worden
Keyword(s):  
Monte Carlo ◽  
Markov Chain ◽  
Markov Chain Monte Carlo ◽  
System Identification ◽  
Nonlinear Dynamical Systems ◽  
Nonlinear Dynamical System ◽  
Mcmc Methods ◽  
Nonlinear Dynamical ◽  
Acceleration Time Histories ◽  
Time Histories

In this paper, the authors outline the general principles behind an approach to Bayesian system identification and highlight the benefits of adopting a Bayesian framework when attempting to identify models of nonlinear dynamical systems in the presence of uncertainty. It is then described how, through a summary of some key algorithms, many of the potential difficulties associated with a Bayesian approach can be overcome through the use of Markov chain Monte Carlo (MCMC) methods. The paper concludes with a case study, where an MCMC algorithm is used to facilitate the Bayesian system identification of a nonlinear dynamical system from experimentally observed acceleration time histories.

scholarly journals Bayesian methods and estimation of nonlinear dynamical systems

2019 ◽  
Author(s):  
Κωνσταντίνος Καλούδης
Keyword(s):  
Monte Carlo ◽  
Markov Chain ◽  
Markov Chain Monte Carlo ◽  
Bayesian Methods ◽  
Dirichlet Process ◽  
Nonlinear Dynamical Systems ◽  
Nonlinear Dynamical ◽  
Dynamic Noise ◽  
Process Reconstruction ◽  
Global Stable Manifold

Η παρούσα διατριβή αφορά τη διάδραση μεταξύ Μπεϋζιανής στατιστικής και μη γραμμικών δυναμικών συστημάτων. Ειδικότερα, ο βασικός στόχος της διατριβής είναι η ανάπτυξη νέων μεθόδων Markov Chain Monte Carlo (MCMC) με εφαρμογές στο ευρύτερο πεδίο της μη γραμμικής δυναμικής. Το κίνητρο για την ανάπτυξη τέτοιων μεθόδων, αφορά την διάκριση της διαδικασίας μοντελοποίησης σε δύο βασικά διαδραστικά μέρη: το αιτιοκρατικό (ντετερμινιστικό) μέρος και τη στοχαστική διαδικασία θορύβου. Μέσω μιας τέτοιου είδους μοντελοποίησης, επιτυγχάνεται η σύλληψη μιας ευρείας συλλογής φαινομένων, αξιοποιώντας την πολυπλοκότητα της δυναμικής συμπεριφοράς λόγω του μη γραμμικού μέρους και τα νέα χαρακτηριστικά που αναδεικνύονται λόγω της εμπλοκής των στοχαστικών διαταραχών. Οι προτεινόμενες στατιστικές μέθοδοι είναι μη παραμετρικές και βασίζονται στη χρήση τυχαίων μέτρων πιθανότητας με γεωμετρικά βάρη (Geometric stick breaking process (GSB)) ως εκ των προτέρων κατανομές στο χώρο των μέτρων πιθανότητας. Μια σημαντική πτυχή των προτεινόμενων μεθόδων είναι η επίτευξη της χαλάρωσης μιας πολύ συχνής υπόθεσης στη βιβλιογραφία: της κανονικότητας της διαδικασίας θορύβου. Στα δύο πρώτα Κεφάλαια γίνεται αναφορά σε βασικές έννοιες της Μπεϋζιανής στατιστικής και της θεωρίας των δυναμικών συστημάτων. Στο Κεφάλαιο 3 κατασκεύαζουμε ένα μη παραμετρικό Μπεϋζιανό μοντέλο κατάλληλο για αναδόμηση των δυναμικών εξισώσεων και πρόγνωση μελλοντικών τιμών από παρατηρηθείσες χρονοσειρές μολυσμένες με προσθετικό δυναμικό θόρυβο: το μοντέλο geometric stick-breaking reconstruction (GSBR). Το GSBR μοντέλο βασίζεται στο τυχαίο μέτρο με γεωμετρικά βάρη (GSB), ενώ γίνεται επίσης παρουσίαση του αντίστοιχου μοντέλου Dirichlet process reconstruction (DPR) βασισμένου στο τυχαίο μέτρο DP, καθώς και η μεταξύ τους σύγκριση. Η μεθοδολογία επεκτείνεται ώστε να γίνει εφικτή η μοντελοποίηση χρησιμοποιώντας αυθαίρετο πεπερασμένο πλήθος όρων χρονικών υστερήσεων (lags), καθώς και στην πολυδιάστατη περίπτωση μέσω της άπειρης μίξης πολυδιάστατων κανονικών πυρήνων με άγνωστους πίνακες αποκρίσεων, χρησιμοποιώντας ως μέτρο μίξης το τυχαίο μέτρο GSB και μέτρο βάσης (base measure) μια κατανομή Wishart. Στο Κεφάλαιο 4, προτείνεται μια μη παραμετρική Μπεϋζιανή μεθοδολογία βασιζόμενη επίσης στο τυχαίο μέτρο GSB, με σκοπό τη μείωση δυναμικού θορύβου σε διαθέσιμα δεδομένα μη γραμμικών χρονοσειρών με προσθετικό θορυβο. Το μοντέλο Dynamic Noise Reduction Replicator (DNRR) επιτυγχάνει μεγάλη ακρίβεια στην αναδόμηση των δυναμικών εξισώσεων, ώστε να αναπαράγει την υποκείμενη δυναμική σε περιβάλλον ασθενέστερου δυναμικού θορύβου. Μέσω της εφαρμογής του DNRR είναι δυνατή η σύνδεση των περιοχών υψηλών αποκλίσεων από τον ντετερμινισμό με τις περιοχές των πρωταρχικών ομοκλινικών εφαπτομενικοτήτων του υποκείμενου ντετερμινιστικού συστήματος. Συσχετίζοντας τα στοχαστικά δυναμικά συστήματα με τα αντίστοιχα ντετερμινιστικά τους μέρη, στο Κεφάλαιο 5 παρουσιάζεται μία επέκταση του μοντέλου GSBR, με σκοπό τη στοχαστική προσέγγιση της ολικής ευσταθούς πολλαπλότητας (global stable manifold), με χρήση μεθόδου MCMC. Ειδικότερα, γίνεται παρουσίαση του οπισθοδρομικού (backward) GSBR μοντέλου BGSBR, μέσω του οποίου επιτυγχάνεται πρόβλεψη σε αντεστραμμένο χρόνο. Με κατάλληλες πολλαπλές εφαρμογές του BGSBR χρησιμοποιώντας υποσύνολα των διαθέσιμων δεδομένων, δείχνουμε ότι η ένωση των στηριγμάτων των περιθώριων κατανομών για τις διάφορες αρχικές συνθήκες παρέχουν μια στοχαστική προσέγγιση της ευσταθούς πολλαπλότητας του υποκείμενου ντετερμινιστικού συστήματος. Η μεθοδολογία είναι εφαρμόσιμη τόσο σε αντιστρέψιμες όσο και σε μη αντιστρέψιμες απεικονίσεις. Στο Κεφάλαιο 6 γίνεται σύνοψη των αποτελεσμάτων των προηγούμενων Κεφαλαίων και αναφορά σε θέματα για μελλοντική έρευνα, τα οποία προέκυψαν κατά τη διάρκεια εκπόνησης της παρούσας Διατριβής.

scholarly journals Mapping-Linked Quantitative Trait Loci Using Bayesian Analysis and Markov Chain Monte Carlo Algorithms

Genetics ◽  
1997 ◽  
Vol 146 (2) ◽  
pp. 735-743 ◽  
Author(s):  
Pekka Uimari ◽  
Ina Hoeschele
Keyword(s):  
Monte Carlo ◽  
Markov Chain ◽  
Markov Chain Monte Carlo ◽  
Quantitative Trait Loci ◽  
Quantitative Trait ◽  
Allele Frequencies ◽  
Mcmc Methods ◽  
Substitution Effects ◽  
Indicator Variable ◽  
Trait Loci

A Bayesian method for mapping linked quantitative trait loci (QTL) using multiple linked genetic markers is presented. Parameter estimation and hypothesis testing was implemented via Markov chain Monte Carlo (MCMC) algorithms. Parameters included were allele frequencies and substitution effects for two biallelic QTL, map positions of the QTL and markers, allele frequencies of the markers, and polygenic and residual variances. Missing data were polygenic effects and multi-locus marker-QTL genotypes. Three different MCMC schemes for testing the presence of a single or two linked QTL on the chromosome were compared. The first approach includes a model indicator variable representing two unlinked QTL affecting the trait, one linked and one unlinked QTL, or both QTL linked with the markers. The second approach incorporates an indicator variable for each QTL into the model for phenotype, allowing or not allowing for a substitution effect of a QTL on phenotype, and the third approach is based on model determination by reversible jump MCMC. Methods were evaluated empirically by analyzing simulated granddaughter designs. All methods identified correctly a second, linked QTL and did not reject the one-QTL model when there was only a single QTL and no additional or an unlinked QTL.

scholarly journals Markov chain Monte Carlo inference for Markov jump processes via the linear noise approximation

2013 ◽  
Vol 371 (1984) ◽  
pp. 20110541 ◽  
Author(s):  
Vassilios Stathopoulos ◽  
Mark A. Girolami
Keyword(s):  
Monte Carlo ◽  
Markov Chain ◽  
Markov Chain Monte Carlo ◽  
Jump Processes ◽  
Mcmc Methods ◽  
Computationally Efficient ◽  
Markov Jump ◽  
Riemann Manifold ◽  
Exact Inference ◽  
Markov Jump Processes

Bayesian analysis for Markov jump processes (MJPs) is a non-trivial and challenging problem. Although exact inference is theoretically possible, it is computationally demanding, thus its applicability is limited to a small class of problems. In this paper, we describe the application of Riemann manifold Markov chain Monte Carlo (MCMC) methods using an approximation to the likelihood of the MJP that is valid when the system modelled is near its thermodynamic limit. The proposed approach is both statistically and computationally efficient whereas the convergence rate and mixing of the chains allow for fast MCMC inference. The methodology is evaluated using numerical simulations on two problems from chemical kinetics and one from systems biology.

scholarly journals Measuring Stellar Radial Velocity using Markov Chain Monte Carlo(MCMC) Method

2013 ◽  
Vol 9 (S298) ◽  
pp. 441-441
Author(s):  
Yihan Song ◽  
Ali Luo ◽  
Yongheng Zhao
Keyword(s):  
Monte Carlo ◽  
Markov Chain ◽  
Markov Chain Monte Carlo ◽  
Probability Distribution ◽  
Radial Velocity ◽  
Mcmc Methods ◽  
Mcmc Method ◽  
Stellar Spectra ◽  
Mcmc Simulation ◽  
Template Fitting

AbstractStellar radial velocity is estimated by using template fitting and Markov Chain Monte Carlo(MCMC) methods. This method works on the LAMOST stellar spectra. The MCMC simulation generates a probability distribution of the RV. The RV error can also computed from distribution.

Sign in / Sign up

Export Citation Format

Share Document