孙权在稳定江东之后，于建安八年（0）、建安十二年（07）、建安十三年（08）三次讨伐荆州的门户江夏，并且最终消灭了当时的江夏太守黄祖。
【第一次讨伐黄祖】
建安八年(0)，孙权在孙策击败黄祖四年后再次掀起了讨伐荆州的战事，当时他率领大军一路向西，成功的击败了黄祖的水军，但并没有打下江夏地域的重镇，当时孙权麾下大将凌操勇往直前，击破了黄祖的前锋，但也因此轻舟独进，被黄祖麾下大将甘宁所射杀。（孙权麾下的重臣徐琨也在讨伐黄祖的途中中流失而死，但现在无法确定在那一次。）
而此时山越贼寇又开始叛乱，孙权于是撤军。孙权路过豫章时，派吕范平定鄱阳，程普讨伐乐安，太史慈统领海昏，韩当、周泰、吕蒙等都被任命为那些难以治理的各县县令或县长，次年，孙权的三弟丹阳太守孙翊为左右所害，孙权以从兄孙瑜代替了他。
【第二次讨伐黄祖】
孙权第二次讨伐是在建安十二年（07），这一次孙权并没有收获太多，只是掳掠部分百姓就返回了。
【甘宁来降】
甘宁，字兴霸，益州巴郡临江人（一是南阳人，客居于巴郡）。原来是刘璋的部下，后来和沈弥、娄发等人一起起事反对刘璋，其叛乱被赵韪所平定，遂东附刘表，就此住在南阳，但并没有受到刘表重用，他后来又转往黄祖那里寻求依托，黄祖也一样将他作平常人养着，之后黄祖被孙权所击败，后退时甘宁将兵为其断后。他沉着冷静，举弓劲射，射杀孙权的破贼校尉凌操。孙军不敢再追，黄祖性命这才得以保全。甘宁立下如此大功，可黄祖仍不重用。
据《吴书》记载一开始甘宁率领八百人投靠刘表，但发现刘表骨子里就是一个文人，不习军事，在当时天下不宁、群雄纷争的形势下，终将一事无成。于是怕刘表失败后牵累到自己，遂准备去投靠东吴，但因为黄祖在江夏，无法过去，就此留下来归附来他，三年下来黄祖都没有重视甘宁，其后甘宁射杀凌操，有大功，黄祖仍然不重用甘宁。
当时黄祖麾下都督苏飞数次向黄祖推荐甘宁，黄祖不但没有听从，反而令人诱惑甘宁的部下，消弱甘宁的力量，甘宁于是准备离开黄祖，但又害怕走不了，结果独自忧郁苦闷。苏飞察知甘宁之意，邀请甘宁，置酒欢宴，酒酣之际，对他：“我数次推荐，主上不肯任用您。日月流逝，人生几何？应该早做长远打算，寻一个知己，成一番大事！”甘宁停了一会，：“我也想走，可惜没有合适的机会。”苏飞：“我请主上派你去做邾长，那时，你可以自己决定去就。”甘宁非常高兴。
于是，苏飞提出让甘宁任邾长，黄祖同意。甘宁招回原来离去的一些手下，又聚集一些愿意相从的人，一共数百人，带着他们投奔了孙权。
这样，甘宁就归附了东吴。周瑜、吕蒙都共同推荐他显达于朝，孙权加倍看重他，视同旧臣一样。甘宁献计：“如今汉家运数日益衰微，曹操更为骄横专断，最终要成为篡汉的国贼。南荆地区，山势屏障利便，江河流畅通行，确是我国西边的有利地势。我早已看出刘表考虑问题无远见，儿子们又差劣，不是能继传他基业的料子。主上应当尽早设谋进取，不可落在曹操之后。图谋刘表的计划，第一步先从黄祖下手。黄祖如今年老，昏聩无能，军资粮食都很缺乏，身边的人在愚弄欺瞒他，而他一味地贪图钱财，在下属官吏兵士们头上克扣索取。这些人都心怀怨恨，而战船及各种作战器具，破损而不加修整，荒误农耕，军队缺乏训练有素的队伍。主上现在前往进取，必定将他打败。一旦击败黄祖的队伍，即可击鼓西进，前据楚关，军势即增大扩广，这样可逐渐谋取巴蜀之地了。”
孙权对他的建议十分赞同。当时张昭在坐，他诘难甘宁：“吴国自身危急，如果军队真的西征，恐怕必然导致国内大乱。”甘宁回答张昭：“国家将萧何那样的重任交给阁下，而您却留守担心出乱子，用什么来追慕古人呢？”孙权举起酒杯敬送给甘宁：“兴霸，今年即出征西进，如同这杯酒，我决定把它拜托给你了。你尽管勉力提出作战方略，使我们一定能打败黄祖，如此就是你立了大功，何必计较张长史的话呢？”
孙权于是第三次讨伐黄祖。
【第三次讨伐黄祖】
孙权在第三次讨伐黄祖的作战中取得了关键性的胜利。
当时面对孙权的进攻，黄祖任部将张硕为先锋，陈就为舰队首领，本人留守江夏。战前，张硕率部乘大船侦察江岸，却被同样在侦察的凌操之子凌统发现。当时，乘船的凌统身边只有数十勇士，但仍登上了张硕的船，可能是在夜幕掩护下伪装成张硕部卒，奇袭张硕军。张硕被凌统所杀，所部水兵尽数被擒。
得知张硕被杀，黄祖当即命陈就率两艘蒙冲舰守沔口，还让大力士和弓箭手在河边的崖埋伏，向敌军的大船投掷石头和火把。为了打败黄祖的蒙冲，周瑜派出大舰队，却被崖掷下的石头摧毁。几时的战斗过后，周瑜认识到黄祖的军械并非如此欠缺，孙权只能面对士卒疲惫伤亡惨重的现实。
为了扭转战局，周瑜命凌统、董袭率一百敢死队每人穿上两件盔甲乘大船冒着石头和火把冲锋。经过艰苦的战斗，凌统、董袭最终成功切断了两艘蒙冲间的联系，这也鼓舞了孙权军的斗志。吕蒙在近战中格杀陈就。失去首领的黄祖大军反被处于少数的孙权军歼灭。在吕蒙全歼黄祖军之前，凌统分兵攻陷江夏。
无力抵抗孙权的黄祖逃离江夏，却被骑士冯则追上枭首。孙权下令将黄祖首级盛放在容器中验看。得到黄祖首级后，孙权将其献祭亡父孙坚。
据《吴书》记载，孙权曾做好了两个匣子，用来盛黄祖和苏飞的首级。苏飞托人向甘宁求告。甘宁：“就算苏飞不，难道我甘宁会忘记他的恩情吗？”时孙权摆酒，为诸将庆功。甘宁走下席位向孙权叩头，血泪交流，对孙权诉苏飞过去对自己的恩义，并且明：“甘宁我如果不遇苏飞，早已死填沟壑，当然也就不能尽忠报效您了。如今苏飞罪当斩杀，我冒昧地向您求情，免他一死。”
孙权感动，但仍然道：“我可以放过他，可是他若逃跑，怎么办呢？”甘宁担保：“苏飞免受斩杀，受您再生之恩，即使赶他走，他也不会离开，哪有逃跑之理！如果他跑了，就把我的首级代替他的装入匣中！”孙权同意甘宁的请求，赦免了苏飞。