1975年1月13日，中华人民共和国第四届全国人民代表大会第一次会议，在北京召开。

在这次大会上，决定任命周恩来为国务院总理，邓小平、张春桥、李先念、陈锡联、纪登奎、华国锋、陈永贵、吴桂贤（女）、王震、余秋里、谷牧、孙健为国务院副总理。在国务院副总理中，陈永贵排名第七位。

在担任了国务院副总理后，陈永贵分管全国的农业工作。任职之后，陈永贵感到自己的文化水平有限，也没有坐镇北京批阅材料的本事。

然而，对于这些，毛主席却有着不同的看法。曾经，毛主席说过：“没什么文化的大老粗，能够办成事。”

陈永贵就是毛主席口中能够办成事的大老粗，不然，他也不可能带领大寨战天斗地，取得了一个又一个丰收的奇迹。

在担任了国务院副总理不久，中央决定让他和吴桂贤副总理一起到钓鱼台16号楼学习马列，读一些哲学和政治经济学方面的书籍，提高他们的文化理论水平。

对此，陈永贵也很重视。在学习了一个星期后，陈永贵感到有些枯燥，毕竟这样的学习，不像在实践中积累。他有些难受地说：“每天坐在这里念这个书，什么事也干不了！”

事实上，陈永贵只是不太愿意在课堂上学习，他清楚地知道，自己的优势不在课堂上，也不善于批阅文件，而是在基层的实践工作中。于是，陈永贵想到了一个扬长避短的办法。

5月初，在经过深思熟虑后，陈永贵给毛主席写了一封信。

在这封信中，陈永贵希望经常到基层去跑跑，“三分之一的时间在昔阳抓点，三分之一 的时间在全国跑面，剩下的三分之一时间在北京”。很快，毛主席便收到了陈永贵的信。

5月3日，毛主席召集在京的政治局委员开会。

来到会议室后，毛主席坐在沙发上，问了一声：“永贵同志在哪里？”

听了毛主席话，坐在离门口不远沙发上的陈永贵，赶紧站起来，说：“我在这儿坐呢。”

这时，毛主席指了指他身边的一个沙发，对陈永贵说：“来，来，这里坐！”

在陈永贵坐在毛主席指定的那个沙发上后，毛主席拿出陈永贵写给他的那封关于搬出钓鱼台和三个三分之一工作计划的信，交还给了陈永贵。

在这封信上，陈永贵看到了毛主席给他的批示：“同意。钓鱼台无鱼可钓。”

接着，毛主席带着欣赏的目光，看着陈永贵，表扬了他主动搬离钓鱼台，并说：“永贵呀，你那个三三制很好呀！深入实际，调查研究嘛！”

听了毛主席的话，陈永贵的心里非常激动，对毛主席给他的理解与尊重万分感激。

随后，毛主席又对江青等人扫视了一眼，问：“你们几个搬不搬哪？”

听到毛主席问，江青说：“搬出钓鱼台，我们到哪里住？”

对于陈永贵主动给毛主席写信搬出钓鱼台，江青的心里很不高兴，因为她已经习惯了钓鱼台设施俱全又舒适的钓鱼台，甚至在毛主席生病的时候，都不愿意搬回中南海短暂居住，让毛主席心里很是寒冷。

后来，江青还就这件事情，特意找到陈永贵，责问他：“你有地方住，我搬出钓鱼台往哪住？”

然而，陈永贵却没有过多解释，只是说：“我只管我搬家，别人就管不了了。”

8月，陈永贵搬离了调鱼台。此时，距离陈永贵被安排到钓鱼台居住还不到一年。

1974年10月，于1973年8月当选为了中央政治局委员的陈永贵，需要在北京经常办公和居住，被安排到了钓鱼台3号楼。

于是，陈永贵便从京西宾馆这个暂时居住的地方搬出来，搬进了组织上为他安排的钓鱼台3号楼。

与外界的热闹不同，钓鱼台的大门虽然从早到晚敞开着，但大门两侧笔直地站着几位全副武装的军人，很少有人能够进入，因此环境相对清静。

对于这样的清静的居住环境，习惯了热闹的陈永贵却感到十分难受。看着地上铺着的厚厚的地毯，以及来来往往的但却不怎么说话的端茶送水的服务员，陈永贵感到很不舒服，总是一个人走来走去，大口大口地抽着烟……

不久后，陈永贵便待不住了。于是，他跑到西藏转了一圈，又回到大寨住了20 多天，这才回到钓鱼台。然而，仅仅几天后，陈永贵又离开了北京，前往广西了。直到1975年元旦，陈永贵才回到了北京。

在担任了国务院副总理后，陈永贵看着那些送来的文件，心里感到越来越难以适应，这才向毛主席写了信，提出了搬离钓鱼台的那个计划。

得到毛主席的批准后，陈永贵十分高兴，在离开钓鱼台后，住进了北京交道口一条胡同的一个老四合院里。

在这个四合院里，警卫班住在前院，后院住着陈永贵和他的秘书焦焕成、贴身内卫张艮昌、炊事员石头和司机汤占兴几位他从昔阳带来的人。

那时候，组织上按照规定，想给陈永贵配备一名服务员，但陈永贵却说：“来一个年轻姑娘挺不方便的，算了。”

考虑到陈永贵的意见，中央表示可以给他派个岁数大的，但陈永贵依然没有同意，说：“岁数那么大还侍候我，多不合适，就我们几个一块过吧。”

在陈永贵搬离钓鱼台后，原本住在那里的一些中央政治局委员，也先后搬走了，最后只剩下了江青等少数几人。

1976年9月，江青才搬到了中南海。这时，毛主席已经去世了。

在交道口的四合院里，陈永贵虽然比钓鱼台感到自由了一些，但依然需要批文件，行动上受到了不少限制。因此，陈永贵总是想要出去走走，到田里看看庄稼的长势。

后来，陈永贵让人弄来四棵苹果树苗、两棵梨树苗、两棵水杉，还有一些葡萄秧子，都栽在了院子里。

那时候，在看到警卫班的战士挖树坑时，陈永贵也很想干，便说：“我来吧，别看你年轻力壮，干这活你还不如我哩。”

1980年9月，陈永贵辞去国务院副总理的职务。

不久后，陈永贵便主动要求搬离交道口的房子，说：“我没有职务了，该搬还是得搬呀！不当副总理了，还住什么交道口，能上能下。”

后来，在组织的安排下，搬到了木樨地22号楼一套12层楼的三居室里，这才满意地住了下来，直到去世。