漢獻帝建安十五年（公元210年），江東孫權手下的名將周瑜去世，年僅36歲。病重時，他向孫權推薦魯肅接替自己——「魯肅智略足任，乞以代瑜。」孫權遂納其言，任命魯肅接管周瑜留下的部眾四千多人，駐屯陸口（今湖北嘉魚縣西南），總領東吳的荊州軍事。
不過，《三國演義》說魯肅接任了周瑜的「大都督」其實出於小說家言，這兩位其實都不曾做過「大都督」。
魯肅接手的是周瑜留下的怎樣「遺產」呢？
總的來看，可以說是「喜憂參半」。好的一面是，周公瑾羽扇綸巾，談笑間、檣櫓灰飛煙滅。孫、劉聯軍在赤壁一戰（208年）中大獲全勝，決定性地遏制住了曹操勢力向南擴張的勢頭。而壞的一面是，赤壁戰後，盤踞荊州北部的曹軍仍對江東虎視眈眈，而劉備則屯兵長江南岸的公安，這樣一來，東吳等於義務地為劉備防禦曹軍。這一態勢對於東吳既不划算又深感吃力。有鑒於此，210年，劉備親往京口（今江蘇鎮江），藉口幫助東吳分擔當面曹軍的壓力，從孫權那裡借得盼望已久的南郡（今湖北江陵），由於南郡是當時荊州的首郡，日後便出現了「劉備借荊州」的說法。
但周瑜對此是不滿意的，公安緊靠南郡，而當時的南郡太守就是周瑜自己，在他看來，「劉備寄寓，有似養虎」，所以周瑜乾脆向孫權建議軟禁劉備。打算將這位「梟雄」連帶荊州，全部置於東吳方面的掌握之下。可惜天不假年，周瑜英年早逝，這個問題就只能留給後繼者魯肅去解決了。
結果，魯肅來了個「改弦更張」。
如果說，周瑜屬於東吳陣營中的「鷹派」，對劉備態度強硬的話，魯肅則是一個不折不扣的「鴿派」，兩人看法完全不同。劉備在東吳時，正是魯肅力勸周瑜，曹操的威脅確實很大，東吳儘管開始治理荊州，恩信尚未普及（周瑜也承認「百姓未附」），應當把南郡借給劉備，讓他來安撫荊州，多給曹操樹敵，這才是上策。孫權聽從了魯肅「樹操之敵」的建言，這才將南郡借於劉備。南郡到手後，加上長江以南的四郡，劉備在荊州舊有七郡中得到五郡，基本據有荊州，成為雄據一州的割據勢力。
說起來，魯肅早就認識到荊州的重要價值。早在公元200年，魯肅與孫權「合榻對飲」時，魯肅就對孫權提出了「先鼎足江東，進而盡長江之所極，建號稱帝，一統江山」的戰略策略。既然要「盡長江之所極」，「若據而有之，此帝王之資」的荊州自然是志在必得的。既然如此，為什麼魯肅在接班之後，卻一改往日夙願與前任周瑜的戰略，在荊州方向變得「保守」、「忍讓」起來了呢？
這就是魯肅在形勢判斷上勝過周瑜的地方。周瑜顯然是把「孫劉聯盟」當作戰術問題看待的。赤壁之戰時曹兵勢大，所以需要與劉備聯合抗戰。既然戰爭已經過去，就不再需要孫劉聯盟了。這種意見其實很危險。因為這時劉備集團的軍事力量較之赤壁戰前已大大增強，孫劉聯盟一旦破裂，顯然只有北方的曹操會從中取得漁翁之利。
而魯肅在開工之前早就做好了功課。面對強大的曹操勢力時，他堅持把「孫劉聯盟」作為戰略問題對待。魯肅認識到，這一聯盟的維持與鞏固，關係到江東生死存亡的長遠利益。劉備與曹操是不僅是「敵」，更是「仇敵」，只要曹操勢力仍然存在，江東方面就不用擔心劉備「倒戈一擊」。「借南郡」雖在表面上失去了土地，而劉備接管後駐紮在此的大將關羽與其部隊，實際上成了東吳在西線的保護傘，擋住了曹操大將曹仁從襄陽方向的威脅。後來的事實證明，這一點對孫權方面十分重要。從公元215年到217年，曹操與孫權在東線連續交戰。你來我往之間，既有孫權十萬大軍圍合肥而不下，也有曹操三次南下，一度打到距離長江百里之處。東吳雖有水戰之利，其陸軍（毋寧稱為水軍陸戰隊）平原野戰的能力，卻實在無法與曹軍抗衡，因此孫權以舉國之力，也只能在淮河一線與曹軍打個平手而已，幸好劉備把守的荊州方向無虞，江東才無亡國之憂。
由於對天下大勢有著清醒的認識，魯肅堅持「孫劉聯盟」從未發生過動搖。雖是「同盟」，但劉備與孫權兩方在荊州的疆界犬牙交錯，邊界守軍也多次發生摩擦。而魯肅則總是顧全大局，以友好的姿態將事態大事化了。這點倒是頗為符合他在《三國演義》里的「人設」——雖然不是反派人物，卻總是唯唯諾諾，只是一位忠厚長者而已。
就像《三國演義》的讀者一樣，人們不禁要問，魯肅這樣的做法，能不能得到上司的認同呢？陳壽在《三國志》里記載，孫權日後就對陸遜抱怨，魯肅「勸吾借（劉）玄德地，是其一短」，可見孫老闆內心還是有些不滿意的。不過，正如《三國志》隨後所說，孫權「忘其短而貴其長」。終魯肅一世，孫權從未動過撤換他的念頭。
魯肅可以說是深諳與孫權相處之道——這位上司，最大的期待就是「問鼎天下」。在這方面，有一個典型例子。赤壁之戰凱旋後，孫權開慶功會，魯肅要進屋向孫權行禮，孫權站起身來還禮，然後和魯肅半開玩笑地說，我下了馬來迎接你，夠給你面子吧？沒想到魯肅居然冷冷地表示否定，令在場眾人都很吃驚。落座之後，魯肅才慢悠悠地說，等到主公統一了九州，完成帝業，用馬車來迎接我，那才有面子。一句話說得孫權龍顏大悅，情不自禁地鼓起掌來。後來孫權稱帝時，魯肅已經去世，孫權還特地說起魯肅的這段話，說明這段話的確讓孫權很是動心。
處理「孫劉聯盟」自然是擺在魯肅這位周瑜接班人面前的棘手問題。
雖然魯肅向來主張與劉備友好，但這並不意味著，他就是尸位素餐的碌碌之輩，甚至被劉備收買的「第五縱隊」了。在維護江東的根本利益方面，魯肅與前任周瑜一樣毫不含糊。他不是不想擁有荊州，而是想在不破壞孫劉聯盟大局的前提下獲得荊州——劉備在向孫權借地時曾表示，一旦奪取益州立即歸還荊州。
公元214年，劉備如願奪取了益州，但他卻繼續開出「空頭支票」——奪取涼州就還荊州。孫權脾氣再好對此也無法忍受。立即派兵襲取了劉備占領的長沙、桂陽、零陵三郡。劉備不肯相讓，親自帶兵五萬出川支援關羽。孫權也不示弱，親自坐鎮陸口，並派魯肅引兵一萬進屯益陽（今湖南益陽），與關羽對峙，氣氛非常緊張。就在這個劍拔弩張的緊急關頭，魯肅擔心孫劉聯盟破裂，曹操坐收漁人之利，故而不顧個人安危，主動要求與關羽「單刀赴會」，通過談判解決爭端。（結果在《三國演義》里完全顛倒了過來）。魯肅理直氣壯地向關羽歷數了自赤壁之戰以來東吳對劉備的扶持與合作，指責「劉豫州（劉備曾為豫州牧）」為一己之私，不講道德，不顧盟好，今天已經得到益州，又企圖吞併荊州。這樣的事，連凡夫俗子都不忍心去做，何況是領袖人物呢？被陳壽稱為「萬人之敵，為世虎臣」的關羽對此也無辭以答。
明清之際的王夫之在《讀通鑑論》中點評，這是魯肅「以義折羽，以從容平孫權之怒，尚冀吳、蜀之可合」。此言的確不虛，魯肅絕不願「孫劉聯盟」破局，為此還曾勸說孫權不「圖取關羽」，保全「孫劉聯盟」以實現帝王大業。恰好此時，曹操在關中發動攻勢，向漢中進軍。益州安全受到嚴重威脅。劉備害怕腹背受敵，遣使求和。最後雙方妥協，以湘水為界瓜分荊州。劉備讓出湘水以東的長沙、桂陽二郡給東吳，自己仍據有湘水以西的武陵、零陵二郡。而孫劉聯合抗曹的聯盟也繼續得以保持，實在可以說是一個「雙贏」的結果。魯肅於此，自然功不可沒。只可惜，魯肅去世不久後，孫權便派其接班人呂蒙襲取荊州，拋棄了魯肅竭力維護的「孫劉聯盟」。而這，已是另一個故事了。