Нелинейные системы могут быть устойчивы в «малом», «большом» и «целом».
Система устойчива в «малом», если при малых отклонениях входного воздействия и их снятии система возвращается в исходное состояние.
Система устойчива в «большом», если заданы границы изменения воздействия, при котором система сохраняет устойчивость.
Система устойчива в «целом», если при любых изменениях входного воздействия она устойчива.
Так же, как и в линейных системах, для нелинейных систем, в первую очередь исследуют устойчивость. Существуют точные и приближенные методы исследования нелинейных систем.
Некоторые точные методы:
1. Прямой метод Ляпунова.
2. Метод абсолютной устойчивости В.М. Попова.
3. Метод фазового пространства.