！
269年（泰始五年），司马炎除任命大将军卫瓘、司马伷分镇临淄、下邳，加强对孙吴的军事布置以外，又特地调任羊祜为荆州诸军都督，假节，并保留他散骑常侍、卫将军原官不变。当时，西晋和孙吴各有一个荆州，形成南北对峙局面。西晋的荆州包括今天的陕西、河南的一小部分和湖北北部地区。吴国的荆州则有今天的湖北和湖南的大部分地区。晋吴间的边界线以荆州为最长，所以这里是灭吴战争的关键地区。
羊祜到任后，发现荆州的形势并不稳固。不但百姓的生活不够安定，就连戍兵的军粮也不充足。于是，羊祜首先把精力放在开发荆州方面。羊祜大量开办学校，兴办教育，安抚百姓，怀来远人。并与吴国人开诚相待，凡投降之人，去留可由自己决定。还禁止拆毁旧官署。当时风俗，官长如果死在官署之中，后继者便说居地不吉，往往拆毁旧府，另行修建。羊祜认为，死生有命，不在居室，命令下属，一律禁止。最主要的是设计使吴国撤掉了对襄阳威胁最大的石城驻军，吴国石城驻军离襄阳七百多里，常常侵扰边境。羊祜深以为患，于是巧用计谋，使吴国撤销了守备。然后羊祜他把军队分作两半，一半执行巡逻戍守的军事任务，一半垦田。当年，全军共垦田八百余顷。羊祜刚来时，军队连一百天的粮食都没有，到后来，粮食积蓄可用十年。羊祜的这些措施迅速地安定了荆州的社会秩序，增强了军队的战斗力。晋武帝为表彰他的功绩，下令取消江北所有的都督建置，授予羊祜南中郎将的职务，负责指挥汉东江夏地区的全部军队。
羊祜在军中，常穿着轻暖的皮裘，系着宽缓的衣带，不穿铠甲。铃阁之下，应命侍卫的士卒也不过十几个人。并且，喜欢打猎钓鱼，常常因此荒废公务。有一天夜晚，他想出营，军司马徐胤手持柴戟挡住营门说：“将军都督万里疆域，哪能这样轻心放纵，将军的安危也就是国家的安危。除非我死了，今夜此门才得开。”羊祜正色改容，连连道歉，从此很少外出。[8]
不久，羊祜又被加封为车骑将军，并受到开府如三司之仪的特殊待遇。羊祜上表固辞：“臣恭敬地看到加恩的诏书下来，提拔臣与三公同等，臣自出仕以来才十几年，接受内外重任，官职显赫而重要，臣常常因为自己的才智不能上进，不可久居过当的恩宠而日夜战栗不安，荣耀变成了忧愁。臣听说过古人之言，品德还没有为众人心服而受高爵，就会使有才之臣不能奋进;功业没有使众人归附而享受厚禄，就不会使愿为国家出力的臣民受到鼓励。如今臣身为外戚，做事的成败关系到国家时局，应警惕过多的恩宠，并不忧虑被朝廷遗忘。而宫中之诏枉发，给予臣超常的荣誉，臣有何功可以担当呢？于心怎安呢？身居不称的高位，不久将会跌落下来，到那时想守住先人的陋室，也不可能了。违抗诏命，是触犯天子威严；曲心从命，又是如此犯难。古人有知过必举的见知法，大臣之节，能进则进，不可进则止。臣虽属小人之辈，也想缘用前人所诫，不忘此义。现在天下归服于晋已经八年，天子虽坐于侧席以延揽贤才，乡鄙贱人无所遗漏，然而臣不能推举有德之人，引荐有功之士，使陛下知道胜过臣的人还多，没有进入仕途的贤人还不少。假若还有像傅说那样的贤人被遗忘在筑墙者的行列，有像吕尚那样的才士被遗忘在屠市垂钓的场所，而朝中议事者不以枉用臣为非，臣居高位而又无愧，这样不是损失太大了吗？臣窃居官位虽然很久，从未像今天这样兼任文武要职受朝廷信任，居等同宰相的高位。况且，臣所见虽然狭小，光禄大夫李熹有高风亮节，行为公允正直；光禄大夫鲁芝，洁身寡欲，与人和谐而不苟同；光禄大夫李胤，清廉简朴而坦诚，身在朝廷，效力国家，守君臣之礼至老不渝。他们虽历任内外要职，而清廉简朴如贫寒人家，但都没有荣获我这样的宠位，臣超过他们，怎能满足天下人的期望，稍增日月之光呢？因此，臣决心守此臣节，不愿苟得高位。当今天下统一的道路尚未畅通，边陲战事时有发生，乞求保持原来的职务，使臣能迅速回到荆州屯垦戍边，不然的话，在京城留连日久，必然于对付敌国方面考虑不周。匹夫之志，有时也不可强夺。”
但朝廷未同意他的辞让。这一年，羊祜四十九岁。
公元270年（泰始六年），吴国在荆州的都督换上了名将陆抗。陆抗驻乐乡（今湖北江陵西南）后，便上书说：“为臣听说君主德行相等，而民众多者胜过民众少者，国力相等，则安定之国制服混乱之国，这大概是六国所以被强秦兼并，西楚所以为汉高祖打败的原因罢。如今敌国跨据四方，并非只有关右之地；割据九州，岂只鸿沟以西的土地而已。我国外无盟国可援，内无西楚那样强大，政务缺乏生气，百姓不得安定，而议论国事者所依恃的条件，只不过大江高山，围隔着我国的疆域，这不过是守卫国家最次的条件，不是明智之人首要考虑的事情。臣下常常追忆战国各国存亡的迹象，近观刘汉王朝灭亡的征兆，考证典籍，应验实事，深夜抚枕不能入睡，面对饭菜忘记进餐。从前匈奴未被破灭，霍去病辞却皇上为他所造府第；汉朝治国之道未得完美，贾谊为之悲哀哭泣。况且我为王室血缘所出，世代蒙受光荣的恩宠，个人的身名安危，与国家休戚相关，生死离合，义无苟且，早晚忧虑，想到这些就十分心痛。奉事君上的道义在于犯颜直谏而不欺瞒，身为臣下的节操不在屈膝卑躬而殉节，谨陈当今急务十七条如左。”十七条失去原本，故此不作记载。
当时宦官何定把持大权，干预朝政。陆抗上书说：“为臣听说创建国家、继承家业，不用小人，听小人谮谗，用奸邪之才，《尧典》对此作过告诫，因此诗人为此写诗怨刺，仲尼为此而叹息。春秋以来，降至秦汉，朝代灭亡之征兆，没有一个不是由此而起。小人不明治国之道理，见识浅陋，即使他们竭尽心力保全名节，也不能胜任，更何况这类人向来颇存奸邪之心，爱憎情感变化无常！如果害怕失去他们，则此类无所不至。如今委他们以朝廷重任，借他们以专制权威，还希望出现和乐的盛世之音，清明纯正的社会风气，这是绝不可能之事。如今任职官吏，特殊才能者虽少，然而他们或是王室贵族的后代，自小受到道德教化的浸染，或是清苦自立之人，其资质才能值得任用，自然可以根据他们的才干授官任职，以此抑制、黜退小人，然后社会风气才可纯净，朝中政务不致沾污。”但不为吴主孙皓采纳。
吴主孙皓用诸将之策，多次令吴军入侵晋国边界，使百姓疲弊。陆抗认为有弊无利，便于公元272年（凤凰元年）上书说：“为臣听说《周易》重视顺应时势，《左传》赞美伺机进击，所以夏桀罪孽甚多商汤王才出兵讨伐，商纣荒淫暴虐周武王才授钺出征。如果时机不到，则商汤王宁肯被囚禁于玉台作忧伤的思虑，周武王宁愿在孟津撤军而不作轻妄举动。如今我们不致力于富国强兵，勤勉农耕广积粮食，让文武人才得以施展运用，百官衙门公署不得玩忽职守，使黜陟分明以激励各级官吏，使刑罚得当以表明劝惩奖抑，以道德教育各级官吏，用仁义安抚全国百姓，然后顺承天命，利用时机，席卷天下。如果听任诸将舍身求名，穷兵黩武，功辄耗费数以万计的国家钱财，使士卒困苦憔惫，敌人并没有因此衰败，而我们自己却已困乏不堪！如今只去争取帝王的资格，而被小小利益遮障双眼，这是臣子的奸恶，不是为国之良策。过去齐、鲁两国交战三次，鲁国胜了两次而很快就灭亡了，这是什么原因？因为两国大小实力强弱不同。何况如今用兵征战所获得的战果，还不能补偿所遭受的损失。况且依仗兵力没有人民的支持，这是古代已有的明鉴，实在应暂停出兵征战的计划，来积蓄军民的力量，静待时机，就不会有什么悔恨的事发生。”但孙皓依旧不采纳。
后陆抗闻武昌左部督薛莹征被捕下狱。陆抗上书说：“才德出众者，国家之瑰宝，社稷之财富，各种政务有了他们才有条理秩序，四方人才有了他们才能教化成德。已故大司农楼玄、散骑中常侍王蕃、少府李勖，都是当世优异人才，一代显著人士，他们起初蒙受主上恩宠，从容任官行职，而后来不久即被诛杀，有的被灭族绝嗣，有的被弃荒远之地。《周礼》上有赦免贤人之刑法，《春秋》里有宽恕善人的义理。《尚书》有言：‘与其杀害无辜，宁可违犯成法’。王蕃等罪名尚未被确定，即被处以死罪，他们心怀忠义，却身遭极刑，岂不令人心痛！且受刑死去，本已无知觉，竟然还要将其焚尸扬灰，抛尸流水，露尸水边，恐怕这并非先王之正典，或许为甫侯立法时所要戒免。因此百姓哀痛惊惧，士民同悲。王蕃、李勖已死，后悔已来不及，我诚恳地希望陛下赦免楼玄出狱。而近闻薛莹又遭逮捕。薛莹的父亲薛综曾为先帝献策，辅佐过文皇帝，到薛莹继承父业，注意品行的修养，如今坐罪，实属可以宽恕。为臣担心有关主管官员不知事情详情，如再将他杀害，更加失去百姓的期望，乞求主上施恩，原谅赦免薛莹的罪过，哀怜众犯，清澄法纲，则是天下的幸事。”
陆抗虽多次上疏陈言，以匡不逮。但均不为孙皓采用，陆抗鞭长莫及，也只好恪尽职守，慎保边圉。