據《左傳》《史記》記載，春秋時期，晚年的晉獻公寵愛驪姬，為了讓驪姬生的兒子接班，他犯了糊塗，導致太子申生被逼自殺，另外兩個兒子重耳和夷吾也出國避難。
重耳的母親是狄國人，他帶著手下來到狄國。狄國十分厚待這位大國外甥，讓他安身，給他娶媳婦，重耳在此度過了十二年平和安樂的生活。
此時的晉國已經發生了巨變，經過幾番周折，公子夷吾回國繼位，就是晉惠公。晉惠公深知重耳是個有志向之人，他手下也都是一頂一的高手，怕哥哥回來跟自己爭君位，就起了歹心，打算派人去狄國行刺。
風聲走的很快，傳到了重耳那裡，他跟手下人一商量，狄國距離晉國太近了，人身安全很難保障。聽說霸主齊桓公不錯，很會任用人才，大家都是人才，乾脆去齊國落戶算了。
就這樣，重耳一行人離開狄國，一路上歷經坎坷，輾轉來到了齊國。齊桓公果然名不虛傳，對重耳等人厚待有加，還把本宗族的一位姑娘給他做了妻子。
沒過多久，齊桓公去世了，齊國發生了內亂。可此時的重耳，已經是五十奔六十的人了，多年的漂泊生活，磨滅了鬥志，他只想在這溫柔鄉中安度晚年，只要齊國一天不哄自己，就多待一天吧。
老大頹廢成這樣，手下人不幹了，他們開始想各種辦法，要離開齊國。重耳的這位齊國妻子，也是深明大義之人，不想讓身負大才的丈夫就此沉淪，她協助眾人把重耳騙出了齊國。
不愉快的離開了齊國，重耳也沒法再回去了，只好再次走上流亡之路，這一次他們輾轉來到了強大的楚國。
楚國的國君，是雄才大略的楚成王，他用對待諸侯的禮節接待了重耳。對於楚成王的美意，重耳最初是拒絕的，他覺得沒底氣這樣被對待，手下人給他打了氣，說公子你千萬不要客氣了，楚國國君都這樣對你，這是天意，天意就不要勉強了。就這樣，重耳一行人在楚國暫時落腳了。
楚成王對待重耳，可真叫一個誠心實意，時不時的就擺宴款待。有一次，大家喝高興了，楚成王半開玩笑的說，公子以後回國繼位了，如何報答老夫啊？
重耳給出了一個響亮的回答，「若以君之靈，得反晉國，晉楚治兵，遇於中原，期辟君三舍。」意思是說，如果托您的福，我能回到晉國，他日晉楚兩國不幸交戰，我當撤軍九十里（一舍是三十里）。
一段時間以後，秦國國君秦穆公，聽說重耳在楚國落腳，特意派人前來迎接，要護送他回晉國繼國君位。在秦穆公的一番操作之下，重耳回到晉國繼位，就是晉文公。
幾年之後，晉國同楚國發生了衝突，兩軍交戰之前，晉文公下令後撤九十里。楚軍以為晉軍膽小，加速進攻，結果中了晉軍的埋伏，損失慘重，晉文公也經由此戰成為齊桓公之後的春秋霸主。
這就是「退避三舍」的來歷！