陶侃平定了蘇峻的叛亂以后，東晉王朝暫時獲得了安定的局面。這時候，北邊卻亂了起來。

　　后趙國主石虎（石勒兒子）死了以后，內部發生大亂，后趙大將冉閔稱帝，建立了魏國，歷史上稱為冉魏；鮮卑族貴族慕容皝（音ｈｕǎｎｇ）建立的前燕又滅了冉魏。公元３５２年，氏族貴族苻健也乘機占領了關中，建立了前秦。

　　后趙滅亡的時候，東晉的將軍桓溫向晉穆帝（東晉的第五個皇帝）上書，要求帶兵北伐。桓溫是個很有軍事才能的人，他在當荊州刺史的時候，曾經進兵蜀地，滅掉了成漢，給東晉王朝立了大功。

　　但是東晉王朝內部矛盾很大。晉穆帝表面上提升了桓溫的職位，實際上又猜忌他。桓溫要求北伐，晉穆帝沒有同意，卻另派了一個殷浩帶兵北伐。

　　殷浩是個只有虛名、沒有軍事才能的文人。他出兵到洛陽，被羌族人打得大敗，死傷了一萬多人馬，連糧草武器也丟光了。

　　桓溫又上了道奏章，要求朝廷把殷浩撤職辦罪。晉穆帝沒辦法，只好把殷浩撤了職，同意桓溫帶兵北伐。

　　公元３５４年，桓溫統率晉軍四萬，從江陵出發，分兵三路，進攻長安。前秦國主苻健派兵五萬在峣關抵抗，被晉軍打得落花流水。苻健只好帶了六千名老弱殘兵，逃回長安，挖了深溝堅守。

　　桓溫勝利進軍，到了灞上。長安附近的郡縣官員紛紛向晉軍投降。桓溫發出告示，要百姓安居樂業。百姓歡天喜地，都牽了牛，備了酒，到軍營慰勞。

　　自從西晉滅亡以后，北方百姓受盡混戰的痛苦。他們看到桓溫的晉軍，都高興地流著眼淚說：“想不到今天還能夠重新見到晉軍。”

　　桓溫駐兵灞上，想等關中麥子熟了的時候，派兵士搶收麥子，補充軍糧。可苻健也厲害，他料到桓溫的打算，就把沒有成熟的麥子全部割光，叫桓溫收不到一粒麥子。

　　桓溫的軍糧斷了，呆不下去，只好退兵回來。但是這次北伐畢竟打了一個大勝仗，晉穆帝把他提升為征討大都督。

　　以后，桓溫又進行了兩次北伐。最后一次，進攻前燕，一直打到枋頭（今河南浚縣西南），后來，因為被前燕切斷糧道，遭到失敗。

　　桓溫長期掌握東晉的軍事大權，野心越來越大。有一次，他自言自語地說：“男子漢如果不能流芳百世，也應當遺臭萬年。”

　　有個心腹官員知道他的野心，向他獻計，說要提高自己的威信，就先得學西漢霍光的辦法，把現在的皇帝廢了，自己另立一個皇帝。

　　那時候，晉穆帝已經死去。在位的皇帝是晉廢帝司馬奕（音ｙì）。桓溫帶兵到建康，把司馬奕廢了，另立一個司馬昱（音ｙù）當皇帝，這就是晉簡文帝。桓溫當了宰相，帶兵駐在姑孰（今安徽當涂）。

　　過了兩年，晉簡文帝病重，留下遺詔由太子司馬曜繼承皇位。這就是晉孝武帝。桓溫本來以為簡文帝會把皇位讓給他，聽到這個消息十分失望，就帶兵進了建康。

　　桓溫到達建康那天，隨身帶的將士，都是全副盔甲，手里拿著明晃晃的武器。朝廷官員到路邊去迎接時，看到這個情景，嚇得變了臉色。

　　桓溫請兩個最有名望的士族大臣王坦之、謝安到他官邸去會見，王、謝兩人早已聽說桓溫事前在客廳的背后埋伏一批武士，想殺掉他們。所以，王坦之到了相府，渾身出冷汗，連衣服都濕透了。

　　謝安卻十分鎮靜。進了廳堂坐定之后，他對桓溫說：“我聽說自古以來，講道義的大將，總是把兵馬放在邊境去防備外兵入侵。桓公為什么卻把兵士藏在壁后呢？”

　　桓溫聽了，也有點不好意思，說：“我也是不能不防備點兒。”說著，就命令左右把后面埋伏好的兵撤去。

　　桓溫看到建康的士族中反對他的勢力還不小，不敢輕易動手。不久，就病死了。

　　桓溫死后，謝安擔任了宰相，桓溫的弟弟桓沖擔任荊州刺史，兩人同心協力輔佐晉孝武帝，東晉王朝出現了團結的氣氛。