晋朝的奠基者是司马懿。其是魏文帝曹丕的托孤重臣，因数次抗阻诸葛亮北伐和扫平割据辽东公孙渊而声威日隆。249年趁少主曹芳拜谒高平陵的契机，解除曹爽兵权而独掌朝政（高平陵是魏明帝曹叡陵墓，在洛阳南九十余里）。

司马懿之子司马昭秉政时，进封晋王，篡魏之心已昭然若揭。不堪傀儡生涯的高贵乡公曹髦率童仆数百讨伐之，结果被司马昭心腹贾充指使的武将成济弑杀。司马昭另立曹奂为帝。

咸熙二年（265年）八月，司马昭猝死，其子司马炎继承晋王爵位。同年十二月即逼迫魏元帝曹奂禅让而即帝位，改国号为晋，史称西晋。280年三月，晋军“卒八万，方舟百里”入建业，吴主孙皓迎降，结束了自董卓之乱起近百载的分裂割据局面。

但平吴之后，司马炎迅速腐朽堕落，卖官鬻爵入私囊，甚至“禁断天下嫁娶”以充后宫。上行下效，官僚贵族亦竞相效仿。其中荆州刺史石崇和外戚王恺的奢侈斗富就发生在此时期。而司马炎将皇位传给痴呆不任事的惠帝司马衷更是自取灭亡的败笔。正是惠帝皇后贾南风的擅权胡为，引发西晋宗室诸王争夺最高统治权的混战——八王之乱，致使社会矛盾全面爆发。

兵戈涂炭中西晋逐渐走向覆灭，永嘉五年（311年）刘渊开创的匈奴汉国攻陷洛阳，俘获晋怀帝司马炽。怀帝之侄司马邺逃奔长安后为帝，但316年即赤膊衔璧出降，西晋灭亡。

此时司马氏在江南的最高统治者是琅琊王司马睿，其以安东将军、都督扬州江南诸军事的职衔镇守建康（即建业，因避讳司马邺而更名），故愍帝被杀后，司马睿在江南重建晋朝，史称东晋。

东晋立国，完全是琅琊王氏鼎立辅助的结果。在王氏家族核心王导的运作下，江南世家大族对司马睿的态度从“居月余，世庶莫有至者”转变到竞相尊崇拜访，由此君臣之礼始定。所以司马睿称帝时，竟邀王导共坐，同受百官朝贺，这就是流传甚广的“王与马，共天下”。也反映了东晋士族门阀专政的特征，此后东晋朝政基本由王、庾、桓、谢等南渡大族轮流执掌。这使得统治集团内部矛盾错综复杂，内争不息。

先有权臣庾冰为私利促使病重的司马衍舍弃尚在襁褓的幼子，而立同母弟司马岳为继承人，以使皇位继续在他妹妹庾文君所生之子中传承，不至因与皇帝血缘关系疏远而权柄受损。后有都督中外诸军事的桓温废黜东晋第七任皇帝司马奕。桓温曾灭掉了割据蜀地的成汉政权，并在356年攻克了羌族首领姚襄占据的洛阳，后又废黜司马奕立威，以司马睿幼子司马昱yù为新帝。但桓温未能改元称帝即因病去世。

然其子桓玄却实现了父愿，402年桓玄以征讨擅权的司马元显为名，举兵入建康，控制朝政。此时皇帝是司马德宗，愚笨且不善言语，智商堪比惠帝司马衷。403年桓玄废帝自立，国号楚，但数月后就被北府兵将领刘裕推翻，司马德宗复位。自此曾以贩履、讨薪为生的刘裕因功参掌朝政，且随着相继灭掉北方的南燕和后秦，声威权势不断飙升。前420年，刘裕废黜晋恭帝司马德文自立为帝，改国号为宋。至此偏安江南的东晋退出历史舞台。