“纸上谈兵”出自《史记·廉颇蔺相如列传》。
战国时期，赵国大将赵奢曾以少胜多，大败入侵的秦军，被赵惠文王提拔为上卿。他有一个儿子叫赵括，从小熟读兵书，张口爱谈军事，别人往往说不过他。因此很骄做，自以为天下无敌。然而赵奢却很替他担忧，认为他不过是纸上谈兵，并且说：“将来赵国不用他为将罢、如果用他为将，他一定会使赵军遭受失败。”果然，公元前259年，秦军又来犯，赵军在长平(今山西高平县附近)坚持抗敌。那时赵奢已经去世。廉颇负责指挥全军，他年纪虽高，打仗仍然很有办法，使得秦军无法取胜。秦国知道拖下去于己不利，就施行了反间计，派人到赵国散布“秦军最害怕赵奢的儿子赵括将军”的话。赵王上当受骗，派赵括替代了廉颇。赵括自认为很会打仗，死搬兵书上的条文，到长平后完全改变了廉颇的作战方案，结果四十多万赵军尽被歼灭，他自己也被秦军箭射身亡。
明朝刘如孙根据这个有名的历史故事，写了一首诗，其中有一句“朝野犹夸纸上兵”。后来，人们便引申出“纸上谈兵”这个成语，用来比喻只会空谈教条，却不能解决实际问题。