针对行星齿轮传动系统振动信号的非线性、非平稳性和故障特征微弱等特点,基于混沌理论对行星齿轮传动系统的正常、单一和多类耦合故障特性进行了综合分析与研究。用小波包算法对所采集的振动信号进行预处理;恰当选取最佳时延和最小嵌入维数重构相空间。在此基础上,用相图定性描述不同故障状态的故障类型;用关联维数和最大Lyapunov指数量化其各故障状态的特性和程度。研究结果表明:5种不同状态下的相图有一定的差异性;且故障越严重、故障耦合的越多,其关联维数和最大Lyapunov指数越大,混沌特性越强。因此,利用混沌的定性和定量方法可以有效识别行星齿轮传动系统的单一故障以及故障特征频率不重叠和故障特征频率重叠的两类耦合故障。