晋武帝司马炎称帝后便着手准备灭掉吴国。晋泰始五年（269），晋尚书左仆射羊祜都督荆州诸军事，镇守襄阳。他操练士兵，增强军队的战斗力。同时经常与晋武帝商量盘算灭吴的大计，羊祜为晋灭吴做了大量的准备工作。

晋咸宁四年（278）羊祜病逝，司马炎任命杜预为镇南大将军都督荆州诸军事，以继续羊祜未竟的大业。279年，杜预和王濬上表晋武帝请求发兵征讨吴国，朝廷中张华等主战派也努力排除贾充、荀勖等人异议，奉劝晋武帝发兵，司马炎同意了请求，任命张华为度支尚书，主持伐吴大计，掌管漕运粮饷，同时，下诏伐吴。晋咸宁六年（280）三月，晋龙骧将军王濬自武昌直取建业，吴军望旗而降，王濬兵甲满江，旌旗遮天，威势甚盛。

三月十五日，率领八万士兵，百里船队进入石头城（今江苏南京北郊）。吴帝孙皓向王濬投降。至此，吴国灭亡。全国复归统一。