温玉成15岁参军，在战争年代屡建战功，成为林彪麾下的主力之一。
抗美援朝，温玉成任志愿军40军军长。
1955年温玉成被授中将军衔，获二级八一勋章、一级独立自由勋章、一级解放勋章
1968年1月1日，在广州军区任参谋长、副司令的温玉成接到军委调令，奉调北京，副总参谋长，主管训练、作战和通信。连升两级。
1968年3月24日，发生了“杨余傅事件”。代总参谋长杨成武、空军政委余立金、北京卫戍区司令傅崇碧倒台，温玉成又接任北京卫戍区司令。随后，成为“中央文革”碰头会旁听员。后来，老帅纷纷落马或靠边站，军委领导班子为军委办事组所取代，温玉成进入中枢，成为办事组10成员之一。
江青一直想在军内找自己的代理人，对温玉成极尽拉拢，温玉成靠拢江青，疏远了军委办事组。温玉成曾单独向江青汇报军队工作，黄永胜、吴法宪、邱会作等背后骂他“忘恩负义”。
“九大”时，温玉成被安排为“九大”主席团成员，前排就座，很多人都在议论，温玉成铁定要进政治局。然而，负责拟定在政治局候选人名单的周恩来，康生，黄永胜三人小组中周恩来和黄永胜两人都不赞成列入温玉成，于是温玉成没有进入政治局委员候选人名单。
1970年6月4日，林彪约温玉成单独谈话，林彪既无寒暄，亦无问候，例行公事地宣布：“温玉成同志，经军委研究，你已经不能适应北京阶级斗争形势的需要，决定调你到成都军区担任第一副司令。”
1971年9月13日，林彪坠机蒙古温都尔汗。
1971年9月16日，温玉成刚刚吃完晚饭，成都军区第一政委张国华打来电话，让他去让他去3号院开会，并特别强调，传达中央绝密文件，不要带秘书。
温玉成走入会议室，发现只有张国华一人，“他们还没到？”
“这个会只有我们两个开。”
“老温，”张国华一字一顿道，“我们是老相识了，你是知道我这个人的。”略一沉吟，张国华说：“刚刚接到通知，你被隔离审查了。”
“那我犯了什么错误呀？”温玉成苦笑道。
“上面说你是林彪的死党，组织上要审查……”
温玉成后来被关押了六年，直到1976年才被释放出来。
1983年，中央军委经过甄别调查，对温玉成的审查结论是：办过错事，说过错话，不给予处分，恢复大军区副职待遇。
此时中央军委主席是邓小平，曾在江青和林彪之间玩平衡的温玉成自然没有好果子吃。
中央曾明文规定，1955年被首批授予中将以上军衔的开国将军们，离休时都要享受大军区正职待遇。
