刘裕的祖籍在彭城县绥舆里，是汉高祖刘邦之弟、楚元王刘交的二十二世孙。他的家族在早年随晋室南渡，长居晋陵郡丹徒县的京口里。祝总斌将刘裕的门第归于江左的“低级士族”，可以说到了刘裕这一辈已经彻底没落了，毕竟汉被曹魏所代，而魏又被晋所代。
而刘裕的出生也颇为传奇，刘裕于公元363年4月16日夜间出生，其时家境贫苦，母亲更在分娩后患病去世。父亲刘翘无力请乳母给刘裕哺乳，一度打算抛弃他，只因刘怀敬之母伸出援手，养育刘裕，才得以活下来。
刘裕长大后，“雄杰有大度”，身高七尺六寸，风骨奇伟，不拘小节，侍奉继母以孝顺闻名。早年因家境过于贫寒，落魄到靠砍柴、种地、打渔和卖草鞋为生。刘裕仅认识一些文字，曾因为赌博樗蒲而倾家荡产，遭乡里轻鄙，时人大多不能赏识他。不过，出身琅琊王氏的王谧却对刘裕颇为赏识，王谧曾对他说：“你应当会成为一代英雄。”
刘裕后从军，成为北府军将领冠军将军孙无终的司马。
公元399年十一月，孙恩在会稽起兵反晋，东南八郡纷起响应，朝野震惊。晋廷忙派卫将军谢琰、前将军刘牢之前往镇压。或因孙无终的荐举，刘裕转入刘牢之的麾下，担任参军。十二月，刘牢之率部抵达吴地，派刘裕领数十人侦察义军的动向。不巧碰上数千义军，刘裕率众迎战，在随从战死大半的情况下仍手舞长刀，酣战不止。后来，刘牢之的儿子刘敬宣及骑兵主力相继前来，起义军溃退，刘裕乘胜收复山阴。孙恩逃回海上。
公元401年五月，孙恩攻克会稽郡，杀死谢琰。十一月，刘牢之再次领兵东征，孙恩败退。刘牢之驻扎上虞，派刘裕戍守句章城。句章城矮小，士兵又不到数百名，刘裕常常披坚执锐，身先士卒，每战都冲锋在前，起义军这才退回浃口。
公元402年春，孙恩频繁进攻句章城，每次都被刘裕击败。三月，孙恩北击海盐县，刘裕跟踪追击，在海盐县城旧址筑起城池。起义军连日攻城，城内兵力空虚，刘裕就挑选数百人组成敢死队，都脱掉盔甲，手持短兵器，击鼓呐喊冲出城。
起义军遭到震慑，士气大丧，丢盔卸甲逃散，大帅姚盛被斩。刘裕虽然连战连胜，但考虑到众寡悬殊太大，于是假装弃城而逃，诱使起义军蜂拥进城。他乘其懈怠，发兵伏击，大败义军。六月，孙恩转进渡海，准备突袭丹徒，聚集部众达十余万。刘牢之还驻山阴，京师震动。刘裕闻讯，日夜兼程，与起义军同时抵达丹徒。当时敌我众寡悬殊，又加上长途急行军十分疲惫，而丹徒守军又无斗志。
孙恩率兵数万，攻打蒜山，遭刘裕部猛攻而大败，跳崖投水而死者甚众。八月，朝廷加刘裕为建武将军、下邳太守，派他领水军追击至郁洲，又大败孙恩，迫使其南逃。十一月，刘裕在海盐再度击破孙恩。自此，他三战三捷，俘虏义军数以万计，而义军遭遇“饥馑疾疫”，死亡过半，从浃口撤至临海。
在转战三吴的几年中，刘裕屡充先锋，每战挫敌，其军事干略得到初步显露。他不仅作战勇猛，披坚执锐，冲锋陷阵，且指挥有方，富有智谋，善于以少胜多。当时诸将纵兵暴掠，涂炭百姓，独有刘裕治军整肃，法纪严明]。他率水军继续追讨孙恩，迫使其投海而死。
孙恩起兵，消耗了晋廷兵力，造成京防空虚，这给盘踞长江上游军事重镇荆州、虎视三吴的桓玄以可乘之机。
公元402年，骠骑大将军司马元显率军西讨桓玄，桓玄也率荆楚大军南攻司马元显。司马元显派刘牢之抵御，刘裕也随军前往。刘牢之率部到达溧州时，遭遇桓玄所部，刘裕请求发起攻击，未得同意。刘牢之打算派刘敬宣到桓玄营中讲和，遭到刘裕与刘牢之的外甥何无忌联袂坚决谏阻，刘牢之不听。桓玄攻入建康，杀司马元显，收夺刘牢之兵权，以其堂兄桓修代之。刘牢之惧祸而逃，后自缢身亡。刘裕审时度势，暂投桓玄以行韬晦。由于刘裕屡建军功，于北府旧部中颇有声望，故桓玄也不敢小视他，任命他为中兵参军。
公元403年初，孙恩的妹夫卢循再次起事。五月，桓玄派刘裕讨伐，杀其大帅张士道。卢循渡海南逃，刘裕因功被加封为彭城内史。十二月，桓玄篡位，对司徒王谧说道：“昨日看见刘裕，气度不凡，是人中豪杰。”于是更对刘裕款待备至，恩宠有加。
桓玄的妻子刘氏颇能识人，她多次劝桓玄除掉刘裕，但桓玄却以要借刘裕荡平中原为由拒绝。同时，桓玄称帝后为消除隐患，欲瓦解北府兵，大力剿杀北府兵旧将，北府军几乎遭到灭顶之灾。正在桓玄盘算之际，刘裕也在暗中和北府兵残余兵将联络，伺机反攻桓玄。
公元404年二月，刘裕以打猎为名，聚集北府兵残余兵将一千七百余人，在京口举兵起义，歼灭了桓楚在此的兵力，杀死桓修。接着，众人推刘裕为盟主，传檄四方，各地纷起响应。
桓玄自从获悉刘裕率众起义后，成天忧心忡忡，想不出对策。有人说道：“刘裕等力量弱小，哪里具备成气候的力量，陛下何必担忧呢？”
桓玄回答说道：“朕看刘裕堪称当代雄才；刘毅家无多少储蓄，却像掷骰子一样捐出百万；何无忌，刘牢之的外甥，很像他舅舅。他们联合起来，共举大事，怎能说他们不会成功呢？”
桓玄先派手下猛将吴甫之及皇甫敷带领精兵抵抗刘裕，刘裕先于江乘杀吴甫之，至江乘以南的罗落桥时奋力作战，又杀皇甫敷，继续进攻。