东晋自偏安以来，时刻面临着来自北方的威胁。
虽然祖逖、庾亮、殷浩、桓温都曾先后北伐，但无一成功。
晋元兴三年（0年），刘裕起兵讨伐篡晋称帝的桓玄。
次年，拥戴晋安帝复位，控制东晋朝政。
彼时，南燕统治集团内部矛盾日益加剧，慕容超信用奸佞，诛戮贤良，赋役苛重，激起民众强烈反抗。
为了晋朝的强大，刘裕决定兴师北上。
刘裕为抗击南燕，外扬声威，遂欲挂帅北伐。
公元 09年二月，南燕军队侵扰淮北，就正好给了刘裕一个机会。
他上皇帝，要求北伐，获得朝廷批准后，他迅速出兵，五月就到了下邳。
两次北伐，前后灭南燕，破北魏，亡后秦，收复山东，河南，关中等地，光复洛阳、长安两都。
后来，长安虽然在一年多后得而复失，但潼关以东、黄河以南和山东全境已划入晋朝版图，“七分天下，而有其四”，江淮流域得到保障。
为刘宋永初和元嘉年间，休养生息，出现“余粮息亩，户不夜扃”的局面提供北部疆域的屏障，仍不失为取得较大成果和有重大历史意义的北伐。
唐代史学家朱敬则称赞此次北伐：“西尽庸蜀，北划大河。自汉末三分，东晋拓境，未能至也。”
辛弃疾在《永遇乐·京口北固亭怀古》一词中称赞：“金戈铁马，气吞万里如虎。”
义熙五年（09），南燕主慕容德死，其侄慕容超袭位，纵兵肆虐淮北，掳去晋两郡太守，驱掠百姓千余家。
刘裕因此上表北伐，三月，他统领晋军向北挺进。
南燕大将—公孙五楼见晋师威猛，向慕容超建议扼据大岘，坚壁清野，但被拒绝。
刘裕看准时机，冒险越过大岘山隘，一举攻克临胊，夺得大量辎重。
紧接着，晋军将士在刘裕的亲自鼓动下迅速进击，直逼燕都广固。
慕容超遁入城中坚守不出，双方因此进入相持阶段。
晋军一方面高垒重堑，将广固团团围住，以燕人之粮充实军用。
一方面招降纳降，采取分化瓦解之策。
南燕大将—桓遵兄弟及徐州刺史—段宏相继归附，尤其是尚郎—张纲被俘，对刘裕十分有利。
最后正是利用他所设计的攻城器械，从而拿下燕都，并活捉了慕容超。
刘裕以广固久守不降为由，入城后，尽杀王公以下三千人以泄愤。
齐境克服，刘裕本想停镇下邳，荡凊河洛，但孙恩妹夫卢循复集孙恩残部，败晋军于豫章。
因此，刘裕不得不班师回朝。
回京后，先后督师镇压卢循、剿灭割据长江中上游的刘毅、谯纵势力，逼走司马休之，使南方出现了百年来从未有过的一统局面。
义熙十二年（16）一月，后秦主姚兴死，姚泓继位，内部叛乱迭起，政权不稳。
刘裕认为这是灭亡后秦的良机。
彼时，刘裕图以晋室名声安抚北方人民，故想奉司马德之名北伐。
司马德因而上出兵，以修谒晋室山陵，最终刘裕就与司马德一同率兵出发。