晉國始出于周成王的弟弟叔虞(詳見《桐葉封弟》一文)，叔虞姓姬，字子于。當時是把唐做為封地，唐這個地方位于黃河與汾水之東，方圓一百里，因此稱為唐叔虞。

到了叔虞的兒子晉侯爕父的時候，遷徙到了晉水一帶，把唐國改名為晉國。又經過了五代，到了晉靖侯時期，晉國的歷史才開始有準確的文字記載。此時，天下風起云涌，國人暴動，世道動蕩，晉國就在這個時候開始崛起。

晉靖侯的重孫晉穆侯有兩個兒子，長子名叫公子仇，少子名叫公子師。當時晉國的大夫師服說：“君上給兒子的起名很奇怪啊，太子叫做仇，仇的意思是仇敵，幼子叫做師，師是能成其眾的意思。名是自命的，物是自定的，如今長幼的名字彼此悖理，晉國以后肯定會出亂子。”師服的話預示晉國將有一場動亂。

晉穆侯死后，其弟殤叔自立為君，太子仇率領他的族人殺了殤叔即位，就是晉文侯。

此時，西周被犬戎所滅，周平王遷都洛邑，中國歷史進入春秋時期。《史記》記載，周平王東遷之后，王室衰微，齊、楚、晉、秦等諸侯國開始壯大。這個時候晉國已經是一個比較強大的諸侯國了。

晉文侯仇去世之后，其子昭侯伯即位，把他的叔叔公子師分封到曲沃城，派晉靖侯的另一位旁系孫子欒賓為公子師的相，從此公子師號稱曲沃桓叔。

公子仇這一支以翼城為都城，是晉國的大宗;公子師這一支以曲沃城為根據地，是晉國的小宗，當時的曲沃城比翼城還要大。桓叔此時已經五十八歲了，愛好德政，晉國的百姓都來歸附他。有人感嘆：“晉國的禍亂要從曲沃發生了，枝強于干，不作亂更待何時？”

不久，晉國大臣潘父弒殺了晉昭侯，想擁立桓叔為晉國國君，從公子仇殺殤叔到此時是晉國公族的第一次內亂。但是潘父沒有成功，晉國人擁立昭侯的兒子即位，是為晉孝侯，并將潘父殺掉。

曲沃桓叔死后，經過他的兒子曲沃莊伯、孫子曲沃武公兩代積蓄力量。公元前710年，曲沃武公率兵進入陘廷，聯合陘廷攻打大宗，這是晉國公族的第二次內亂。在第二年春天的一次決戰中，曲沃武公在晉都城翼城打敗了大宗的軍隊，殺了晉哀侯。晉哀侯的兒子晉小子侯即位，但不久也被武公誘殺！

雖然此時小宗已經把大宗打得毫無還手之力，但是并沒有得到周王室的承認，同一年，周恒王下令虢國君主虢仲討伐曲沃武公，武公被迫敗退回曲沃，周天子立晉哀侯之弟晉侯緡為晉的國君，曲沃未能吞并晉國。

又經過長達28年的積蓄力量，公元前679年，曲沃武公再度出兵討伐大宗，終于攻陷了大宗的都城翼城，殺了晉侯緡。這次，武公把繳獲的晉國寶器賄賂周僖王，希望得到周天子的關照。公元前678年，周僖王正式授予武公晉侯稱號，但只能建立一軍。武公封侯后不久，便出兵攻打周王室，殺死夷邑大夫詭諸，執政大臣周公忌父逃奔虢國①。晉國小宗經過六十多年的持續努力，終于奪取了大宗的權力，晉國第二次內亂宣告結束。

公元前676年，晉武公辭世，其子晉獻公即位。晉獻公再一次大規模的屠戮公族，他采取大夫士蔿的計謀，使勢力龐大晉公族諸公子互相殘殺，進而全部消滅以利君權鞏固。晉國自公子仇殺殤叔開始，公族內部你死我活的爭權奪利、血腥殺戮貫穿了整個西周直至春秋中期，數百年間，從未停止過。然而，晉國公族內部的爭權奪利遠遠沒有停止，不久之后的“驪姬之亂”將晉國的內訌推向頂峰，這也是晉國的第三次內亂。(詳見《驪姬之亂》一文)

從晉獻公開始，由于公族精英越來越少，不得不大量起用異姓大臣輔佐朝政，這雖然使得新建的晉國充滿活力，也為戰國初六卿把權，以及最終三家分晉埋下了隱患。