晋惠帝时，晋朝统治集团内部纷争，有所谓“八王之乱”，互相攻杀凡十余年（参看“鹤立鸡群”）。接着，祸变未平，而西北和北方的五个民族，又乘机脱离晋朝的统治，先后独立，并且向南进攻，即历史上所谓的“五胡乱华”晋怀帝和愍帝都被俘杀害。晋朝不得不放弃中原，退到长江以南的东南沿海一带，称为东晋。（参看“中流击楫”）

当初，司马睿为左丞相，镇守建康（今南京）。眼见首都长安失守，晋愍帝被匈奴族的刘曜所杀，广大地区沦陷，广大人民遭殃，而这位执掌大权的左丞相却稳坐江南，无动于衷。祖逖、刘琨等爱国将领一面领兵北伐，一面遣使上《劝进表》，劝司马睿继任帝位，把国家大事勇敢地担当起来。鼓励他发愤图强，不要怕困难。并且说：国家接连遭到这么多的危难，使朝廷深深忧虑，是可以理解的。但是若能从危难中获取教训，奋起救危赴难，那么坏事也许就可以变成好事：“多难”反倒可以激励我们复兴晋朝，巩固邦国；“深忧”也可使皇上认清形势，痛下决心。这一段话，在原文中有这么两句：“或多难以固邦国，或殷忧以启圣明。”（参看“枕戈待旦”），从这两句话，后来就演化出“多难兴邦”这句成语。

这样，司马睿就在那时当上了东晋的第一代皇帝，即晋元帝。可是晋元帝到底没有北伐的决心，对于祖逖、刘琨反多疑忌，刘琨终被杀害，祖逖也忧愤而死。东晋偏安东南的局面一直继续了一百多年。

但“多难兴邦”这句成语却流传了下来。历代的爱国志士，每当国家遭遇困难忧患的时候，往往用这句成语来自励和激励别人。