Die Chaosforschung oder Chaostheorie bezeichnet ein nicht klar umgrenztes Teilgebiet der Nichtlinearen Dynamik bzw. der Dynamischen Systeme, welches der Mathematischen Physik oder angewandten Mathematik zugeordnet ist.
Im Wesentlichen beschäftigt sie sich mit Ordnungen in speziellen dynamischen Systemen, deren zeitliche Entwicklung unvorhersagbar erscheint, obwohl die zugrundeliegenden Gleichungen deterministisch sind. Dieses Verhalten wird als deterministisches Chaos bezeichnet und entsteht, wenn Systeme empfindlich von den Anfangsbedingungen abhängen: Ganz leicht verschiedene Wiederholungen eines Experimentes können im Langzeitverhalten zu höchst unterschiedlichen Messergebnissen führen (die Chaostheorie besagt also nicht, dass identische Anfangsbedingungen zu verschiedenen Ergebnissen führen würden). Chaotische dynamische Systeme sind nichtlinear.