新中国给予卫立煌极大的信任和荣誉，他先后被推选为全国人大代表、全国政协常委、民革中央常委，又接替龙云担任国防委员会副主席。他注重认真看书学习，注意与新社会新思想相适应。1957年曾入中央社会主义学院学习一年，还被请去参加各种政治活动，包括思想改造和反右等 。在当时的形势下，周总理表扬他后来居上，学习得很好。他频繁外出视察，煤城大同、钢城包头、近代玻璃工业发祥地秦皇岛、塞外重镇张家口，还有锡林格勒大草原……都曾留下过他的足迹。他在各地参观考察，流连忘返。自然，他忘不了他的家乡，计划回合肥，看看皖西的佛子岭水库。庐剧晋京演出，他陪毛主席、周总理等观看，还热情向他们介绍庐剧前身“倒七戏”的源流。稍有空闲，他则为海内外报刊撰写文稿，宣传新中国的伟大成就。
卫立煌曾参加过会见印尼总理和越南主席等重要外事活动，但最使他难忘的还是1957年4月16日晚他参加的欢迎苏联最高苏维埃主席团主席伏罗希洛夫的宴会。当周总理向伏氏介绍卫立煌后并说，“国共两党过去已经合作了两次”，毛主席紧接着说：“我们还准备进行第三次合作”。第二天的《人民日报》头版报道了这条消息。这是毛泽东首提、国内报刊首次出现“第三次国共合作”一语，且是对卫立煌说的。卫立煌受到友人称羡，他自己也感到光荣。他还一直致力于为促进祖国统一多做工作，他坚信台湾一定会回到祖国怀抱。海峡两岸都是炎黄子孙，任何外国势力的干涉都是徒劳的，也是注定要失败的，多大的误解在历史和时间面前也会消除。他在1956年第9期《人民画报》上撰文《回到祖国大陆以后》，称“百闻不如一见，我特别有此感觉……当此祖国轰轰烈烈建设之际，我深感无论何人都有为国效力的机会……稍有明智之人，都应当机立断，站到爱国主义旗帜下来……早日回归祖国怀抱，与家人亲友团聚，共建富强康乐的新国家。”
他得到光荣圆满的归宿卫立煌夫妇回大陆当年夏天，有关部门就安排他们去北戴河疗养，以后也一直关注着他们的身体健康。1958年“五一”观礼，卫立煌在天安门上突觉心里难受，被扶到休息室休息一会，便提前回家，但睡不着，喝水也咽不下去，似食道不通，怀疑“中风”，当天即送北京医院。以后他一直住院，身体时好时坏。
《人民日报》1960年1月18日一版报道：卫立煌“因长期患冠状动脉硬化心脏病，最近又患肺炎，经医治无效，于1月17日零时四十分在北京逝世。卫立煌是安徽省合肥市人，今年64岁。”
1月20日，首都各界在中山公园中山堂公祭卫立煌，周恩来临时中断在上海的公务，乘夜车赶回北京主祭，陪祭的有郭沫若、黄炎培、李维汉、陈叔通、陈毅、习仲勋、张治中、傅作义、包尔汉等。张治中致的悼词在回顾了卫立煌生平后指出：“卫立煌同志青年时期参加了孙中山先生领导的革命队伍，可谓善始；中间走了一段漫长黑暗的反动道路；在抗日战争时期，积极抵抗了日本帝国主义的侵略，并从此开始为人民做了一些好事；最后终于回到祖国怀抱，在毛主席和共产党的领导下，参加了反对国内外敌人的斗争和祖国的建设事业，从而得到了善终”。公祭仪式后，卫立煌的骨灰盒安放在八宝山革命公墓，与林伯渠、陈赓、李克农等中共高级干部为邻，卫立煌得到光荣圆满的归宿。