1933年调陶广二十八军司令部任上尉工兵连长，在湘、鄂、赣边区围堵工农红军，从湘西大庸、沅陵追赶红军至云南。1937年奉调夏楚九十八师二九四旅五五八团，先后任少校营长、中校副团长，尔后升任五八九团上校团长。时值抗战时期，随部参加了著名的淞沪会战，鏖战江防。部队由十八军军长罗卓英指挥，对狮子林、川沙口登陆之日军进行阻击，浴血苦战25天，全师官兵伤亡4900多人，阵亡营连排长200余人，日军亦损失惨重。后又随部参加昆山、徐州等抗日战役，1938年参加武汉大会战。尔后在湘赣、铜鼓、修水等地区随部同日寇进行游击战。1943年任第一战区抗日志愿兵教育团长。1945年因与延安抗大通信一次，被当局以“通共”为由撤职查办，逃亡广州、香港一年又两月。1947年取消查办，任长沙绥靖公署高参。1949年3月由长沙绥靖公署任命为直属第二纵队第一支队少将司令，1949年7月改任陆军暂编第二军七师少将师长，1950年2月由白崇禧指令代理第二军少将军长。
湖南和平解放后，石曾投诚，做官的希望破灭后，逃回辰溪县长田湾，联络辰怀地区的土匪们自立山头。解放军进军湘西，国民党一二八军、一○○军、暂编第二军相继从澧水、沅水、资水放弃阵地，因地形不熟，一二八军、一○○军均被击溃歼灭。石率部从溆浦、辰溪撤退至麻阳、铜仁，并以铜仁、麻阳、芷江、怀化毗连地区的西皇大山为据点，东窜西逃，苟延时日，1950年被解放军重重包围在西皇大山地区，放下武器，走向人民，重获新生。
此后曾任湘西军区剿匪委员会副主任，随解放军一九三师、一四零师赴各县协助剿匪工作。同时发表了《从旧我到新我》的告湘西土匪公开信，劝告他们“赶快回头，靠拢人民”，对当时剿匪工作起到了积极作用，还为解放军争取瞿波平、周燮卿的投诚做过一些工作。因历史原因，1952年12月被关押于抚顺战犯管理所学习改造，1964年特赦。1965年1月在沅陵县百货公司工作，1977年任湖南省革命委员会参事室秘书，1982年7月任湖南省人民政府参事室参事。
石玉湘于1994年6月在沅陵逝世，享年88岁。
