1977年9月，楊勇任中國(guó)人民解放軍副總參謀長(zhǎng)、中央軍委列席常委，協(xié)助兼任總參謀長(zhǎng)的鄧小平主持總參日常工作。
到總參上任后，楊勇用很大精力推動(dòng)總參機(jī)關(guān)的“揭批查”工作，以解決總參的作風(fēng)及紀(jì)律問(wèn)題。經(jīng)過(guò)總參黨委研究，下發(fā)了《關(guān)于“三查三整”的通知》。楊勇積極推動(dòng)工作，搞清問(wèn)題，平反大量冤假錯(cuò)案，為以張愛(ài)萍、李達(dá)、彭紹輝等為代表的400多名在“文化大革命”中受審查、受批判人員平反昭雪，落實(shí)政策。
由于鄧小平身兼黨和國(guó)家的多個(gè)重要職務(wù)，總參的日常工作由楊勇負(fù)責(zé)，因而楊勇成了實(shí)際上的總參當(dāng)家人。然而在對(duì)外交往中，由于外軍不了解中國(guó)軍界的這一特殊情況，導(dǎo)致出現(xiàn)了一些不大不小的問(wèn)題。1978年6月，楊勇率中國(guó)軍事友好代表團(tuán)訪(fǎng)問(wèn)南斯拉夫。然而，南斯拉夫總統(tǒng)鐵托卻沒(méi)有出面會(huì)見(jiàn)，原因是南方認(rèn)為楊勇是中國(guó)軍隊(duì)的副總參謀長(zhǎng)，地位不夠，故只由南斯拉夫人民軍總參謀部對(duì)等接待。同年9月，南斯拉夫人民軍總參謀長(zhǎng)斯塔查·波托查爾上將率團(tuán)回訪(fǎng)中國(guó)，鄧小平會(huì)見(jiàn)了代表團(tuán)一行，楊勇則負(fù)責(zé)日常接待。在訪(fǎng)問(wèn)過(guò)程中，斯塔查·波托查爾上將了解到了楊勇在中國(guó)軍隊(duì)中的實(shí)際地位后，飽含歉意地對(duì)楊勇說(shuō)：“我明白了你在中國(guó)軍隊(duì)的身份，我接待你的規(guī)格不夠啊！”
1979年底，中央軍委決定對(duì)解放軍三總部和各大軍區(qū)領(lǐng)導(dǎo)班子進(jìn)行一次較大的調(diào)整。鄧小平由于事務(wù)太多，決定不再兼任總參謀長(zhǎng)。1980年2月，楊得志任中國(guó)人民解放軍總參謀長(zhǎng)，楊勇協(xié)助其抓全盤(pán)工作。
1983年1月6日，中央書(shū)記處書(shū)記、解放軍副總參謀長(zhǎng)楊勇在北京病逝，終年70歲。在病逝前4個(gè)月召開(kāi)的黨的十二屆一中全會(huì)上，楊勇當(dāng)選為中央書(shū)記處書(shū)記，這個(gè)職務(wù)也可以說(shuō)是鄧小平等中央領(lǐng)導(dǎo)對(duì)楊勇一生的充分肯定。（水新?tīng)I(yíng)）
（摘自《世紀(jì)風(fēng)采》）
