Неустойчивость Рэлея-Тейлора возникает на границе раздела двух несмешивающихся жидкостей (или газов) с разной плотностью, когда более тяжёлая жидкость расположена над более лёгкой в поле силы тяжести или при наличии ускорения, направленного от лёгкой жидкости к тяжёлой.
Это явление ведёт к развитию возмущений и искажению плоской границы раздела, что со временем приводит к образованию сложных структур: “шпилей”, “петель”, “капель”.
Рассмотрим двумерные малые возмущения интерфейса с амплитудой η(x, t) в системе двух жидкостей с плотностями ρ1 (нижняя жидкость) и ρ2 (верхняя жидкость). При условии ρ2 > ρ1 и наличии ускорения g вниз, возмущения растут экспоненциально со скоростью роста γ, определяемой уравнением:
$$ \gamma = \sqrt{g k \frac{\rho_2 - \rho_1}{\rho_2 + \rho_1}} $$
где
Рост возмущений приводит к формированию вытянутых «шпилей» тяжёлой жидкости, врезающихся в лёгкую, и «петель» лёгкой жидкости, проникающих в тяжёлую.
$$ \gamma = \sqrt{g k \frac{\rho_2 - \rho_1}{\rho_2 + \rho_1} - \frac{\sigma k^3}{\rho_2 + \rho_1}} $$
где σ — коэффициент поверхностного натяжения.
Неустойчивость Рэлея-Тейлора важна для понимания процессов смешения, теплообмена и динамики фазовых переходов в жидкостях и газах. Умение прогнозировать и управлять этой неустойчивостью позволяет оптимизировать процессы в энергетике, химической технологии, космической физике.