秦昭襄王二十三年（前284年），秦、魏、韩、赵、燕五国伐齐后，魏国得到宋国丰地一带，于此设立大宋郡，并从大梁迁徙百姓到此建立城邑，刘清则被任命为丰公（即丰邑邑令），刘清与家人就此迁居丰邑。
刘清生子刘仁、刘发，其中刘仁便是刘邦的祖父。在父亲刘清去世之后，刘仁承袭丰公之位，相传其富有百万，不过由于他常常布施他人，以致后来家财施尽。
刘邦的祖先虽然显赫，曾祖、祖父也曾为当地小贵族，但传到其父亲刘煓手中时，其家族却已经没落，沦为了依靠自耕为生的普通百姓。
正所谓“瘦死的骆驼比马大”，刘邦的家族虽然已经衰落，但生存条件相较于普通百姓而言，还是要好上很多的。正因如此，年少时的刘邦才得以读书识字，《史记·卢绾列传》中便记载，同乡的卢绾曾在年少时与刘邦一同读书，两人关系极为要好。
当然，无论刘邦家中的家业是大是小，在“宗法制”下，作为家中的第三子，刘邦自己都是没有继承资格的，到时候顶多能够分得一片土地，然后像大部分老百姓一样，面朝黄土背朝天的度过劳累的一辈子。
对于读过书的刘邦来说，他自然不满足于一生只做个自耕农，而是想要恢复祖辈的荣光。
在没有科举考试的时期，读书人想要当官，无非三条路可走，要么因为声名显赫被诸侯王征召，要么游说各国君主获得赏识，要么投入贵族卿大夫门下充当门客获得推荐。以刘邦的学识和声望来说，前两条路想都不用想，只有第三条路才是最适合他的。
既然选择了做他人门客，刘邦自然要为自己选一个好主人，作为一名魏人，他的首选目标，自然是在魏国人人敬仰的信陵君魏无忌了。
魏无忌乃战国时期魏国第五任国君魏昭王魏遫之子，魏昭王去世后，其兄长魏圉继承国君之位，是为魏安厘王。即位次年，魏安厘王封魏无忌于信陵，故被称为信陵君。
魏无忌出身高贵，但却为人宽厚、礼贤下士，因而士人争相归附于他，相传他最高峰时，门下曾有三千食客。借此，魏无忌不仅在魏国朝堂颇有话语权，而且与孟尝君田文、平原君赵胜、春申君黄歇并称为“战国四公子”。
秦赵“长平之战”后，赵国元气大伤。秦昭襄王四十九年（前258年），秦国再度出兵攻打赵国，围攻赵国都城邯郸，形势万分危急时刻，平原君赵胜多次派人送信给安厘王和魏无忌，希望两人能够念及亲戚关系出兵援赵（赵胜的妻子是魏无忌的姐姐）。
安厘王于是派晋鄙率兵北上援赵，秦昭襄王得知后，则派人威胁安厘王说，自己对赵国势在必得，谁敢救援赵国，攻破赵国之后，便出兵攻打谁。早已被秦国打出“恐秦症”的安厘王，遂放弃了出兵援赵的想法，派人传令晋鄙停止进军。
魏无忌屡次劝说安厘王出兵，但安厘王却始终不为所动，万般无奈之下，魏无忌只能以私人名义凑了一百多辆战车，率领宾客赶赴赵国。就在魏无忌决定与赵国共赴死难之际，其门客侯嬴献策，建议让安厘王的宠妃如姬盗取兵符，然后以兵符调取军队援赵。此前，如姬父亲被杀，乃是魏无忌派门客替其报仇，如姬感念其恩，顺利帮魏无忌盗出兵符。
之后，魏无忌手持兵符，又以力士朱亥杀死晋鄙，从而夺取兵权，率领十万大军救援赵国。次年，魏无忌与赵国、楚国联军大破秦军，邯郸之围遂解，这便是“窃符救赵”的典故。
此后，魏无忌留居赵国十余年，直到秦庄襄王三年（前247年），因为秦攻魏甚急，魏无忌这才返回魏国，被任命为上将军。之后，魏无忌凭借自己的声望，派人向列国求援，并率领魏、燕、赵、韩、楚五国联军在黄河以南大败秦将蒙骜，进而乘胜攻至函谷关，秦军被迫紧闭关门不出。
凭借此战之威，魏无忌声威震动天下。
刘邦虽然身居乡野，却也久闻信陵君之大名，拿定主意之后，刘邦便离开家乡，跋山涉水来到魏都大梁，然而到了这里他却傻眼了。原来，信陵君由于声望太过卓着，本就为魏王所忌惮，再加上秦国使者的有意离间，导致魏无忌屡受魏王猜忌，即便他曾多次击败秦军，但最终还是被夺取兵权。此后，心灰意冷的信陵君每日沉迷酒色，结果在秦王政四年（前243年）便已经去世了。
虽然信陵君已经去世，但刘邦却并没有就此灰心返乡。毕竟，在那个交通不发达的年代，背井离乡来到大梁，实在不容易，更何况刘邦既然下定决心想要谋取一条出路，又岂能甘心就这么灰头土脸的回去。
于是，刘邦便又在大梁又滞留了一段时间，到处打听是否有人招揽门客。一番打探下来，刘邦得知外黄县令张耳在招揽门客，便又离开大梁，前往外黄寻求机会。
张耳年少时，曾是信陵君的座上常客，后因故脱籍隐姓埋名流亡外黄。外黄有个富家女长得极为漂亮，原本已经嫁人，后因丧夫便又回到了娘家，她父亲的门客的便建议她，“如果想要找个好丈夫，那就嫁给张耳吧。”于是，富家女子便嫁给了张耳，而张耳则在老丈人的资助下，也学着当年信陵君那样礼贤下士，大肆招揽门客，很快便得以扬名在外，并成为了魏国的外黄县令。
刘邦前往外黄拜见张耳后，两人一见如故，张耳并未以门客看待刘邦，而是将之当成朋友相待。如此，刘邦便在张耳处客居数月，这才心满意足的返回家乡。
自此之后，刘邦多次前往外黄拜访张耳，经常一住便是数月之久。这段经历，不仅增长了刘邦的见识，对于刘邦此后的人生走向，也产生了极大的影响。
秦王政二十二年（前225年），秦国大将王贲率兵攻魏，包围魏都大梁，引黄河水灌城，三月后魏王假出降，魏国灭亡。
魏国灭亡后，张耳便散尽门客闲居外黄。数年后，秦始皇听说张耳及其朋友陈馀乃魏国名士，在当地极有影响力，因此悬赏千金捉拿张耳，悬赏五百金捉拿陈馀，张耳和陈馀只好改名换姓逃至陈县，充当看守里门的小卒谋生。
张耳潜逃之后，他的门客尽皆散去，而刘邦也回到了家乡。