據記載,最早的晉侯墓被發現於現在的山西是正確的。
墓地於2003年5月非典期間因盜被發現，當時在盜坑周圍見到散落的大量木炭和殘斷銅魚，據初步的鉆探結果和現場分析，判斷這裏是壹處西周到春秋時期的重要墓地。
2005年7月初，縣文物部門組織人員到墓地鉆探，在上述盜坑周圍探明3座中字型大墓。7月底，山西省考古研究所組成羊舌考古隊進駐工地開始工作，在3座大墓以東約70米的地方又發現壹組2座中字型大墓(編號為M1和M2)和車馬坑，並確定近數十年未被盜掘。
羊舌村在曲沃縣城東北方向約15公裏，著名的天馬-曲村遺址在其西北。天馬-曲村遺址位於滏河北側腹地，羊舌晉侯墓地位於滏河南側的嶺地上，兩者間是寬闊的滏河河谷及臺地，羊舌晉侯墓地與天馬-曲村內的北趙晉侯墓地隔河谷相望，直線距離4500米。
在發掘大墓的同時，考古隊還對墓地及周圍進行了考古調查、小範圍鉆探和搶救性的發掘清理，初步搞清了該墓地性質和大致的分布範圍。墓地大體範圍南北長400、東西寬300米，總面積約12萬平方米。