楊白冰與其兄長、大陸前國家主席楊尚昆都出身軍旅，一度同時在中共中央擔任要職，權傾一時，被稱為「楊家將」。
一九八九年「六四」事件後，江澤民自上海市委書記被提拔進入中央出任總書記，為讓江澤民全面接掌黨政軍，鄧小平拔除了楊尚昆、楊白冰兩人勢力。
具體的導火線是一九九二年的「楊家將」事件。當年初，楊尚昆陪鄧小平「南巡」，鄧發表「誰不搞改革開放，誰就下台」講話，而遠在北京的楊白冰，搶先在第三代領導核心江澤民發話前，就透過軍內宣傳機構發出「軍隊願為改革開放保駕護航」口號，落下「軍人干政」口實。
楊白冰早在一九八八年成為解放軍總政主任後，八九年底十三屆五中全會成為中央書記處書記，楊尚昆當時出任軍委第一副主席。兩兄弟在軍中影響力，讓與部隊淵源不深的江澤民左支右絀。一九九二年楊白冰率先「保駕護航」及當年五月在京西賓館未依軍委程序自行集會等事件，讓中共中央警醒勢力坐大危機。
基於上述原因，鄧小平在中共十四大上重整了軍委領導體系，楊尚昆全退，國家主席交江澤民，辭去軍委第一主席，楊白冰則免去軍委祕書長等職，僅保留軍委委員及政治局委員，老鄧並特別安排張震與劉華清兩老將進軍委，幫江澤民「扶上馬，送一程」。
不過蓋棺論定時，中共給予楊白冰的評價仍相當高：優秀黨員、久經考驗的忠誠的共產主義戰士、無產階級革命家、共軍傑出的政治工作領導者。