晉征南將軍羊祜聞陸凱病歿，認為伐吳時機成熟，晉咸寧二年，也是孫吳天璽元年十月羊祜上書武帝伐吳，但遇到大臣賈充等反對。適益州兵變，認為當務之急宜平益州為主，伐吳這事以致遷延。
有詔，羊祜有參軍王浚，被奉調為廣漢太守，發兵討益州亂卒，幸即蕩平。
王浚得任益州刺史，講信立威，綏服蠻夷。
武帝征又召王浚為大司農，羊祜獨密表留王浚，謂欲滅東吳，必須憑借上流。王浚才可專閫，不宜內用，武帝乃仍令留任，且加王浚龍驤將軍，監督梁益二州軍事。
時吳中有童謠雲︰「阿童復阿童，餃刀浮渡江。不畏岸上獸，但畏水中龍。」
王浚籍隸弘農，小名正叫做阿童，小具大志，豐姿俊逸。
燕人徐邈，有女慧美，及笄未嫁，徐邈甚是鐘愛，令女自擇偶，迄未當意。
會徐邈出守河東，王浚得迭為從事，年少英奇，頗為徐邈所賞識。
徐邈因大會佐吏，使女在幕內潛窺，女指王浚告母，謂此子定非凡器。徐邈聞女言，即將女嫁王浚為妻，琴瑟和諧，不消細說。嗣王浚投羊祜麾下，羊祜亦加優待，每事與商。
羊祜兄子羊暨嘗伺間語羊祜道︰「浚好大言，恐滋他患，宜預加裁抑，休使胡行！」
羊祜粲然道︰「如汝怎能知人？浚有大才，一得逞志，必建奇功，願勿輕視！」
徐女尚垂青眼，何況羊叔子。及王浚得監督梁益二州，羊祜欲借上流勢力，順道伐吳，並因王浚名與童謠相符，即表聞晉廷，請飭王浚密修舟楫，為東略計。
武帝依言詔王浚，王浚即大作戰艦，長百二十步，可容二千余人，艦上用木為城，架起樓櫓，四面開門，上可馳馬往來，又在各船頭上，繪畫首怪獸，以懼江神。工作連日不休，免不得有木頭竹屑，被水漂流，隨江東下。
吳建平太守吾彥，留心西顧，瞧見江心竹木，料知上流必造舟楫，當即撈取呈報，謂晉必密謀攻吳，宜亟加戍建平，堵塞要沖。
吳主皓方盛築昭明宮，大開苑囿，侈築樓觀，采取將吏子女，入宮縱樂，還有何心顧及外侮？
得了吾彥的表章，簡直是不遑細覽，便即擱過一邊。
吾彥不得答詔，自命工人冶鐵為鎖，橫斷水路，作為江防。
適吳西陵督軍步闡，懼罪降晉。吳大司馬陸抗，陸凱從弟，自樂鄉督兵討步闡，圍攻西陵。
羊祜奉詔往援，自赴江陵，別遣荊州刺史楊肇攻陸抗。
陸抗分軍抵御，擊敗楊肇。
羊祜聞楊肇敗還，正擬親往督戰，偏西陵已被陸抗攻入，步闡被誅，屠及三族。
羊祜只好付諸一嘆，率兵還鎮。
武帝罷楊肇官，任羊祜如舊。
羊祜乃斂威用德，專務懷柔，招徠吳人。有時軍行吳境，刈谷為糧，必令給絹償值，或出獵邊境，留止晉地，遇有被傷禽獸，從吳境奔入，亦概令送還。就是吳人入掠，已為晉軍所殺，尚且厚加殯殮，送尸還家。如得活擒回來，願降者听，願歸者亦听，不戮一人，吳人翕然悅服。
羊祜又嘗通使陸抗，互有饋遺。陸抗送祜酒，羊祜對使取飲，毫不動疑。及陸抗有小疾，羊祜合藥饋抗，陸抗亦即取服。
部下或從旁諫阻，陸抗搖首道︰「羊叔子豈肯鴆人？」叔子即祜表字。
陸抗又遍戒邊吏道︰「彼專行德，我專行暴，是明明為叢敺雀了。今但宜各保分界，毋求細利。」
羊祜對吳，無非籠絡計策，即陸抗亦為所愚。吳主孫皓反以為疑，責陸抗私交羊祜。陸抗上疏辯駁，並陳守國時宜十二條，均不見行。
孫皓且信術士刁元言，謂︰「黃旗紫蓋，出現東南。荊揚君主，必有天下。」乃大發徒眾，杖鉞西行，凡後宮數千人，悉數相隨。行次華里，正值春雪兼旬，凝寒不解，兵士不堪寒凍，互相私語道︰「今日遇敵，便當倒戈。」
孫皓頗有所聞，始引兵還都。
陸抗憂國情深，抑郁成疾，在鎮五年，竟致溘逝，孫吳又失一重臣，陸抗遺表以西陵建平，居國上游，不宜弛防為請。
吳主孫皓因命陸抗子陸晏、陸玄、陸機、陸雲分統陸抗部軍。陸抗長子名元景，次名元機，又次名雲，陸機、陸雲善屬文，並負重名，獨未諳將略。吳主卻令他分將父兵，真所謂用違其長了。
術士尚廣，為吳主卜筮，上問休咎。尚廣希旨進言，說是歲次庚子，青蓋當入洛陽。
吳主大喜，已而臨平湖忽開，朝臣多稱為禎祥。臨平湖自漢末湮塞，故老相傳︰「湖塞天下亂，湖開天下平。」吳主皓以為青蓋入洛陽，當在此時，因召問都尉陳順。
陳順答說道︰「臣止能望氣，不能知湖的開塞。」
孫皓乃令退去，陳順出語密友道︰「青蓋入洛，恐是餃璧的預兆。今臨平湖無故忽開，也豈得為佳征麼？」
嗣復由歷陽長官奏報，歷陽山石印封發，應兆太平。傳聞歷陽山上有七個洞孔並排羅列，且洞孔里面呈黃赤色，時人習俗把此稱之為石印，也即指石頭上有彩色的紋理。民間也流傳說︰「石印顯露，天下太平。」孫皓又遣使致祭，封山神為王，改元天紀。
東吳方相繼稱慶，西晉已潛擬興師，羊祜繕甲訓卒，期在必發，因首先上表，復力請伐吳，略雲︰
「先帝順天應時，西平巴蜀，南和吳會，海內得以休息，兆庶有樂安之心，而吳復背信，使邊事更興，夫期運雖天所授，而功業必由人而成。蜀平之時，天下皆謂吳當並亡，蹉跎至今，又越十三年，是謂一周。今不平吳，尚待何日？議者嘗謂吳楚有道後服，無禮先強，此乃諸侯之時耳，今當一統，不得與古同論。夫適道之言，未足應權，是故謀之雖多，而決之欲獨。」
「凡以險阻得存者，謂所敵者同，力足自固，苟其輕重不齊，強弱異勢，則智士不能謀，而險阻不可保也。蜀之為國，非不險也，高山尋雲霓，深谷肆無影，束馬懸車，然後得濟，皆言一夫荷戟，千人莫當，及進兵之日，曾無藩籬之限，新將搴旗，伏尸數萬，乘勝席卷，徑至成都，漢中諸城，皆鳥棲而不敢出，非皆無戰心，力不足以相抗也。」
「至劉禪降服，諸營堡者索然俱散，今江淮之隘，不過劍閣，山川之險，不如岷漢，孫皓之暴，侈于劉禪，吳人之困，甚于巴蜀，而大晉兵眾，多于前世，資儲器械，盛于往時，今不于此平吳，更阻兵相守，征夫苦役，日尋干戈，經歷盛衰，不可長久，宜乘時平定以一四海，今若引梁益之兵，水陸俱下，荊楚之眾，進臨江陵，平南豫州，直指夏口，徐揚青兗，並會秣陵，鼓旆以疑之，多方以誤之，以一隅之吳，當天下之眾，勢分形散，所備皆急，一處傾壞，上下震蕩，雖有智者，不能為謀。」
「況孫皓恣情任意，與下多忌，將疑于朝，士困于野，平常之日，獨懷去就，兵臨之際，必有應者，終不能齊力致死，已可知也。又其俗急速，不能持久，弓弩戟楯，不如中國，唯有水戰，是其所長，但我兵入境，則長江非復彼有，還保城池，去長就短，我軍懸進，人有致節之志，吳人戰于其內，徒有憑城之心，如此則軍不逾時，克可必矣。乞奮神斷，毋誤事機，臣不勝櫜鞬待命之至。」
這表呈上，武帝很為嘉納，即召群臣會議進止。賈充、荀勖、馮紞，力言未可，廷臣多同聲附和，且言秦涼未平，不應有事東南，武帝因飭羊祜且緩進兵。
羊祜又復申表固請，大略謂︰「吳虜一平，胡寇自定，但當速濟大功，不必遲疑。」
武帝終為廷議所阻，未肯急進。羊祜長嘆道︰「天下不如意事，常十居八九，當斷不斷，天與不取，恐將來轉無此機會了。」既而有詔封羊祜為南城郡侯，羊祜固辭不拜。
平時嘉謨入告，必先焚草，所引士類，不令當局得聞，或謂羊祜慎密太過，羊祜慨然道︰「美則歸君，古有常訓。至若薦賢引能，乃是人臣本務，拜爵公朝，謝恩私室，更為我所不取呢。」
又嘗與從弟羊琇書道︰「待邊事既定，當角巾東路，言歸故里，不願以盛滿見責。便是我師哩。」如此志行，頗足令後人取法。
咸寧四年春季，羊祜患病頗劇，力疾求朝，既至都下，武帝命乘車入視，使衛士扶入殿門，免行拜跪禮，賜令侍坐。
羊祜仍面請伐吳，且言︰「臣死在朝夕，故特入覲天顏，冀償初志。」
武帝好言慰諭，決從羊祜謀。羊祜乃趨退，暫留洛都。武帝不忍多勞，常命中書令張華，餃命訪羊祜。
羊祜語張華道︰「主上自受禪後，功德未著，今吳主不道，正可吊民伐罪，混一六合，上媲唐虞，奈何舍此不圖呢？若孫皓不幸早歿，吳人更立令主，雖有眾百萬，也未能輕越長江，後患反不淺哩。」
張華連聲贊成，羊祜唏噓道︰「我恐不能見平吳盛事，將來得成我志，非汝莫屬了。」張華唯唯受教，復告武帝。
武帝復令張華代達己意，欲使羊祜臥護諸將。
羊祜答道︰「取吳不必臣行，但取吳以後，當勞聖慮，事若未了，臣當有所付授，但求皇上審擇便了。」未幾疾篤，乃舉杜預自代。
杜預已起任度支尚書。至是因祜推薦，即拜預為鎮南大將軍，都督荊州諸軍事。
杜預尚未出都，羊祜已疾終私第，是年為孫吳天紀二年，晉咸寧四年十一月，羊祜病故享年五十八。
然而晉朝對伐不伐吳仍有二派紛爭，一派以王浚和張華為首主伐吳，一派以賈充為首反對伐吳。
正是這年，孫皓令自昭明宮門至朱雀橋間修建百府，沿途作府舍，並開大道，便男女異行，于夾道連同築高牆，或作竹藩。他還不知孫吳已處于危亡之時。
武帝聞羊祜病故，素服臨喪，慟哭甚哀。是時天適嚴寒，涕淚沾著須鬢，頃刻成冰，及御駕還宮，特賜羊祜東園秘器，並朝服一襲，錢三十萬，布百匹，追贈太傅，予謚曰成。
羊祜本南城人，九世以清德著名。自祜出鎮方面，起居服食，仍守儉素，祿俸所入，皆分贍九族，或散賞軍士，家無余財，遺命不得厚殮，並不得以南城侯印入柩。武帝高羊祜讓節，許復本封。
原來羊祜曾受封巨平侯，巨平系是邑名，與南城不同。襄陽百姓，聞羊祜去世，追憶遺惠，號哭市中。羊祜生前在襄陽時，好游峴山，百姓因就山立祠，歲時享祭，祠外建碑，道途相望，相率流涕，後來杜預號此碑為墮淚碑。
正擬舉兵伐吳，忽聞涼州兵敗于叛賊樹能機，刺史楊欣，又復戰死，武帝又未免躊躇，僕射李熹，獨舉匈奴左部帥劉淵，使討涼州亂黨樹機能，侍臣孔恂諫阻道︰「非我族類，其心必異，劉淵豈可專征？若使他討平樹機能，恐西北邊患，從此益深了。」武帝乃不從李熹言。
西晉因西北未平，尚不暇顧及東南。吳主孫皓，還道是四境平安，樂得婬佚。每宴群臣，必令沉醉，又嘗置黃門郎十余人，密為監察，群臣醉後忘情，未免失檢，那黃門郎立即糾彈，孫皓即令將失儀諸臣，牽出加罪，或剝面，或鑿眼，可憐他無辜遭譴，徒害得不死不活，成為廢人，這已前章細敘。
晉益州刺史王浚，察知東吳情事，遂奉表晉廷，略謂︰「孫皓荒婬凶逆，凶暴反常，宜速征伐。如一旦孫皓死，吳國立一賢君王，則成晉之勁敵，至時很難迅平東吳。臣造船七年，未得出發，反致朽敗。且臣年七十，死亡無日，願陛下無失時機，亟命東征！」
武帝復召廷臣會議，賈充、荀勖等仍執前說，力阻行軍，唯張華憶羊祜言，贊同王浚議。
適將軍王渾，調督揚州，鎮守壽陽，與吳人屢有戰爭，遂上言︰「孫皓不道，意欲北上，應速籌戰守為宜。」
朝議以天已嚴寒，未便出師，決待來春大舉，武帝亦樂得休暇。
一日，武帝正召入張華弈棋，忽由襄陽遞入急奏，武帝不知何因，忙即展覽，奏中署名，是荊州都督杜預，大略說是︰
故太傅羊祜，與朝臣異見，不先太博謀，獨與陛下密議伐吳，故朝臣益致齟齬。凡事當以利害相較，今此舉之利，十有八九，而其害止于無功耳。近聞朝廷事無大小，異議蜂起，雖人心不同，亦由恃恩不慮後難，故輕相同異也。昔漢宣帝議趙充國所上事，獲效之後，召責前時異議諸臣，始皆叩頭而謝，此正所以塞異端，杜眾枉耳。今自秋以來，討賊之形頗露，若又中止，孫皓怖而生計。或徙都武昌，更完修江南諸城，遠其居民，城不可攻，野無所掠，則明年之計，亦得無及矣。時哉勿可失，惟陛下察之！
武帝覽畢，順手遞視張華。
張華看了一周，便推枰斂手道︰「陛下聖明神武，國富兵強，號令如一。吳主荒婬驕虐，誅殺賢能，及今往討，可不勞而定，幸勿再疑！」
武帝毅然道︰「朕意已決，明日發兵便了。」張華乃趨出。
翌晨由武帝臨朝，面諭群臣，大舉伐吳，即命張華為度支尚書，量計運漕，接濟軍餉。
賈充聞命，忙上前諫阻，荀勖、馮歔，亦附和隨聲。
武帝不禁動怒，瞋目視賈充道︰「卿乃國家勛戚，為何屢次撓我軍謀？今已決計東征，成敗不干卿事，休得多言！」
賈充踫了一鼻子灰，又見武帝變色，且驚且駭，忙即免冠拜謝。荀勖、馮歔二人，亦隨著磕頭。
武帝方才霽顏，命賈充為使持節、假黃鉞、大都督，行冠軍將軍楊濟駿弟為副，于太康元年正月，統率二十余萬大軍六路伐吳。一路由鎮軍將軍瑯琊王司馬出涂中（安徽與南京交界的滁河流域——當涂），二路由安東將軍王渾出江西（安徽江北一帶——牛渚），三路由建威將軍王戎出武昌，四路由平南將軍胡奮出夏口，五路由鎮南大將軍杜預出江陵，六路由龍驤將軍王浚與廣武將軍唐彬，率巴蜀士卒，浮江東下，東西並進，共二十余萬人。看其將軍之中，杜預地位最高，他是鎮南大將軍，而其余五人只是將軍。分派既定，武帝才輟朝還宮。此年正好是咸寧五年十一月。
吏部尚書山濤，素以公正著名，嘗甄拔人物，各為題奏，時稱為山公啟事。他見武帝決意伐吳，不便多嘴，至退朝後，但私語同僚道︰「自非聖人，外寧必有內憂。今若釋吳以為外懼，未始非策，何必定要出兵呢？」
山公語亦似是而非，彼時禍根已伏，即不伐吳，亦豈能免亂？及東征軍陸續出發，西方捷報又至，武帝益銳意東略，督促進軍。
這正是︰孫皓實為亡國君，時機錯過豈能來？徘徊多年終不定，一旦意決軍山海。
評︰晉武帝滅吳之策一直搖擺不定，其總覺晉邊不穩，時有叛亂，且又有賈充等大臣的反動，羊祜和王浚多次上書，乘孫皓昏暗，及時伐吳，平定天下。後又有許多大臣將軍主張伐吳，晉武這才下定了決心，分派軍隊大舉伐吳，這才又翻開了歷史的一頁。