第一次北伐失利后，诸葛亮短期内本来并不准备再次发动作战，然而计划不如变化快，东吴大破曹休之后，诸葛亮看了机会，于是乘火打劫，再次北伐。
然而这一仗曹魏方面早有准备，曹真早就在陈仓布局防守，诸葛亮无功而返，第二次北伐也没有结果。
【再次出兵】
据《汉晋春秋》记载，第一次北伐失利后，有人劝诸葛亮再次发兵，诸葛亮却：“大军在祁山、箕谷的时候，都多于敌军（注1），但没有打败敌人，反而被敌人打败，问题不在于兵少，而在于将领。现在我打算减少兵将，显明责罚，反思过失，将来另想变通的办法。如果不能这样，即使兵多也没有什么用处！从今以后，凡是一心为国家分忧效忠的人，只要多多批评我的过错，那么大事就可以安定，敌人就可以打垮，大功就可跷足而待了。”
于是考察有功将士，连微的功劳也不遗漏，对壮烈之士，一一加以甄别，引过自责，把自己的过失在境内公开宣布，练兵讲武，准备将来进取。将士精简干练，民众于是忘记既往的兵败了。
也就是诸葛亮在第一次北伐失利后，本来是先准备反思一下，没有想短时间内再次出兵，然而后来曹休兵败，魏军东下，关中虚弱，诸葛亮于是打算出兵攻魏，这也就是第二次北伐的背景。
【无奈退兵】
然而道高一尺魔高一丈，诸葛亮想趁火打劫，曹魏也早有准备。曹真在平定三郡之后，认为诸葛亮以后必攻陈仓，于是命将军郝昭、王生守陈仓，修筑城池。
建兴六年（8）冬，诸葛亮发动第二次北伐，出兵散关围陈仓，为魏将郝昭所拒，诸葛亮劝降不成，而又粮草不继，曹魏援军也快到来，诸葛亮于是不得已退还汉中。魏将王双来追，被斩。
诸葛亮包围陈仓后，先是派郝昭同乡靳详于城外数次游郝昭投降，但被郝昭坚决拒绝了。此事在《魏略》里有记载。
诸葛亮包围陈仓后，让郝昭同乡人靳详在城外远远地劝降，郝昭在城楼上对靳详：“魏国的律法，你是熟悉的，我的为人，你是了解的。我深受国恩而且门第崇高，你不必多，只有一死而已。你回去告诉诸葛亮，就来攻打吧。”靳详把郝昭的话告诉了诸葛亮，诸葛亮又让靳详再次劝告郝昭，：“兵众悬殊，抵挡不住，何必白白自取毁灭。”郝昭对靳详：“前面已定了，我认识你，箭可不认识你。”靳详只好返回。
当时诸葛亮自以为几万兵马，而郝昭才有一千多兵众，又估计东来的救兵未必就能赶到，于是进军攻打郝昭，先用云梯、冲车攻城，郝昭便用火箭射云梯，当云梯燃烧时，梯上的人便被烧伤，郝昭又用绳子系上石磨，掷击汉军的冲车，冲车被击毁。诸葛亮就又制做了百尺高的井字形木栏（井阑），以向城中射箭，用土块填塞护城的壕沟，想直接攀登城墙；郝昭又在城内筑志一道城墙，令井阑失效。诸葛亮又挖地道，想从地道进入城里，郝昭又在城内挖横向地道进行拦截。诸葛亮又用冲车，但被打折。
这场战争是中国历史上记载的第一次使用火的箭的记录，关于这场战争的记载，也成了汉语“火箭”一词在历史上的首次出现。
昼夜攻守相持了二十多天，诸葛亮仍无法攻下，此时曹真派遣费曜（即费瑶）领援军到来，诸葛亮唯有退军。
得知诸葛亮再次出兵后，曹叡派驿马召张郃到京师，还亲自到河南县城，设置酒宴为张郃送行，讨伐诸葛亮。
曹叡派遣三万士兵以及武卫、虎贲两营的勇士护卫张郃，还问张郃：“等将军到了前线，诸葛亮会不会已经占领了陈仓？”张郃知道诸葛亮孤军深入，不会携带太多的粮草，不能久攻，就回答：“估计臣还没到前线诸葛亮就已经撤走了。臣屈指计算，诸葛亮的粮草支撑不了十天。”张郃昼夜行军到达南郑，诸葛亮果然撤退了。
虽然诸葛亮无功而返，但也不是毫无战果，曹魏大将王双领兵追击诸葛亮，结果被诸葛亮反杀，就此被蜀汉拿了一血。王双此人虽然在曹魏内部有些地位，然而军事能力并不强，早先在曹丕三路大军大举南下时随曹仁出战就被吴军俘虏，这次干脆追击不成反而丢了性命。
【失败的原因】
诸葛亮第二次北伐虽然再次以失败而告终，但实际上损失很。和头次北伐不一样，这次北伐本身就是一个投机行动，诸葛亮之前并没有做好冬季作战的准备，他是看到曹休兵败，魏军南下，关中虚弱的情况才临时出兵的。
这也是第二次北伐失败的第一个原因，诸葛亮本身准备不足，粮草补给也不够，所以诸葛亮仅包围陈仓不到一个月，就补给不足，被迫退兵了。
除了诸葛亮本身的原因之外，曹魏集团早就有所准备也是诸葛亮失败的一个重要原因。在诸葛亮第一次北伐震惊陇右之后，曹魏内部已经对于蜀汉开始有所防备，作为曹魏的大将军曹真就很明白陈仓的重要性，并且早早的就派郝昭等人在此固守，所以郝昭虽然兵力不多，但准备充分，导致诸葛亮短时间内无法拿下陈仓，第二次北伐就此夭折。
【战后封赏】
此战之后，魏明帝曹睿对于曹真、张郃以及郝昭等功臣都进行了封赏。对于曹真增邑，并前二千九百户，诏令张郃回师京城，任命他为征西车骑将军。
对于郝昭，魏明帝不仅下诏褒奖其善于守城，并赐爵关内侯，回到洛阳后，魏明帝还亲自接见了他，对中书令孙资：“你的乡里居然有这般豪爽的人，为将灼如此，朕还有什么可忧虑的呢？”更打算重用他，然而不久郝昭就病重了，最终去世。
注1：曹真当时是曹魏的大将军，他麾下部队可以就是主力部队了，赵云的部队只能是偏师，实力上应该不如曹真的，这里记载可能有误。