王云五自己以76岁高龄仍辞而不退，倒不是为了“大做不错”的缘故。在他提交辞职书后的第三天，即1963年6月26日，陈诚正式向蒋介石提出辞去“行政院”院长之职。陈诚为了自己能顺利辞去此职，将王云五的辞职书扣下。蒋介石挽留陈诚，同时再给他一个月假期，命王云五代理院长职务。欲罢不能，使王云五感到很苦恼。10月23日清晨他拟就第二份辞职书，并作诗三首自励，以增强辞职的决心。其中一首诗为：“有子有孙万事足，无官无责一身轻。独嫌文债还不尽，处身今后有书城。”这次的辞职书写得十分决绝：“拟自明日起，暂先请假，不到院办公，俟明令照准，立即办理交代。” 11月5日，蒋介石接到陈诚转呈的王云五辞职书，在上面批了“应予挽留”4个字。11月8日，蒋介石召见王云五，对他美言褒扬，并告以原拟提名他为“考试院”院长的，因为“行政院”的工作更重要，只能让他屈就“行政院”副职，协助陈诚，并希望他能继续留任。王云五仍婉转表示无意再当官。蒋介石询以同陈诚合作有无不愉快，如两人工作中有误会，不难消除。王云五矢口否认。此后半个多月，记者和亲友纷纷赴王云五寓所，询问是否打消辞意。王云五不胜其扰，索性作七言四句，悬挂壁上，以明心志：“良朋满座终须散，笙歌永昼夜难连。此时挂冠恰到好，再留不值半文钱。” 12月2日，“总统府”秘书长张群打电话给王云五，告以因陈诚坚辞院长，蒋介石遂同意王云五辞去副院长，其理由是任何他人组阁，在资望上皆不便屈王云五为副，又因为王云五不是国民党员，不便让他当“行政院长”来组阁，只能允其辞职。两天后，台湾报纸便透露消息，“甫辞去行政院副院长职务的王云五，已被聘为总统府资政”。所谓“总统府资政”，只是一个虚职，在蒋介石认为需要时，提供些政见方面的建议。王云五原本想保留的“经济动员计划委员会”主任委员一职，随副院长职一并免去，12月16日完成一切公务交接事宜。12月28日，他写成1万多字的《挂冠记》，交《自由谈》主编，嘱以数月后再发表。这是一篇详述辞职过程和对为官生涯发表感想的文章，后来收入《谈往事》，稍经修改后又收入《岫庐八十自述》。
　　王云五在晚年厌倦政治生涯，原因甚为复杂，在《挂冠记》中谈到了许多。但其中还有一层甚为重要的原因没有谈，那就是他因“自由人”和雷震案的牵连，身在官场只能委曲求全，其痛苦是可想而知的。50年代中期，在台“自由人”活动受台湾当局禁止，作为自由人社社长的王云五只能逆来顺受，宣布在台“自由人”不再以“自由人”名义活动。1958年4月，胡适到台湾，出任“中央研究院”院长。1959年3月11日，胡适致函陈诚和王云五，对“警备司令部”逮捕启明书局董事沈志明及其妻子应文婵一事表示抗议，认为没有正当理由不能胡乱抓人。3月14日，胡适再次写信给王云五，表示愿保释沈志明夫妇，并转达美国麻省理工学院教授黄克孙及旅美著名物理学家李政道、吴健雄、吴大猷、杨振宁等知名人士对沈志明夫妇被控案很为关切，希望台湾当局从长计议。王云五经过一番活动，打通官场关节后，于3月16日打电话给胡适，告以沈志明夫妇可以交保了。沈志明夫妇被捕案引起海内外人士广泛关注，事后台湾当局最高层人物纷纷推脱干系。据胡颂平编写的《胡适之先生年谱长编初稿》所述：
　　下午，先生(胡适)对胡颂平说：“刚才接到王老师(王云五)的电话，说沈志明的事情，不但副总统知道，总统也知道了。外交部有一个报告给总统，大概是蒋夫人打来的电话。这件事是下面人办的，黄杰不知道，李立柏也不知道，现在他们可以先交保了。
　　王云五在3月19日的日记中写道：“下午为沈志明夫妇事，因警总法部乃提前审案，雪屏('行政院'秘书长陈雪屏)以此见示，余以言托雪屏转陈诚院长，仍主维持余之交保议。” 3月28日，刚刚获得保释的沈志明夫妇写信给王云五，表示感谢：“这次幸得老伯和适之师长的援救，我们现于廿七日晚上重获自由，骨肉团聚。老伯对我们的援助，我们无法用言词来表达，但将使我们终身不忘。老伯不畏权势，仗义执言，这一个传统也将使我们下一代的子女永铭在心。适之师长叫我们暂勿登门拜谢，我们尊重师长的意思，所以我们先用这几个字表示衷心的感谢。” 5月22日，王云五主持“台湾省戒严令案”审议会议，力主缩小戒严令适用范围。他在自撰年谱稿中记下了这次会议所作的结 论：
　　台省纵然进入警戒战备时期，其地方行政与司法及官员之指挥，似仍应由原有法定机关掌理为宜。因此，国防部原呈所请行政、司法官员之指挥应否于进入警戒战备时期交由戒严地域内最高司令官(即台湾警备总司令)执行此职权一节，无论揆以法理、事实及体制，似均无此必要。从而原拟“台湾省戒严令”增订第六条“戒严法第七条之实施另令办理”之规定，似亦应予删除。