刘知远出生于沙陀族，自幼便展现出不凡的军事才能和坚韧不拔的性格。他在动荡的社会环境中摸爬滚打，积累了丰富的军事经验。在石敬瑭建立后晋的过程中，刘知远发挥了重要作用，凭借战功逐渐成为后晋军中举足轻重的将领。
当时的政治局势可谓风云变幻。后晋在石敬瑭割让幽云十六州并向契丹称儿皇帝后，就陷入了一种极为尴尬和危险的境地。石敬瑭死后，石重贵继位，他试图改变后晋对契丹的屈辱地位，由此引发了后晋与契丹之间的频繁战争。在这些战争中，后晋的国力被不断消耗，国内政治腐败、经济衰退，百姓生活苦不堪言。而刘知远一直置身于这些纷争之中，他冷眼旁观着后晋朝廷的兴衰，心中也在暗暗谋划着自己的未来。
开运三年（946 年），契丹再次大规模入侵后晋。后晋军队在战场上节节败退，国内一片混乱。此时的刘知远手握重兵，却按兵不动。他深知后晋的气数已尽，不愿卷入这场必败的战争，而是选择保存自己的实力。在契丹军队长驱直入，后晋朝廷摇摇欲坠之际，刘知远依然在自己的领地内整军经武，等待着最佳的时机。
当后晋都城开封被契丹军队攻破，后晋灭亡后，局势陷入了短暂的混乱。契丹虽然占领了中原地区，但他们的统治并不稳固。契丹军队在中原地区烧杀抢掠，引起了广大汉族百姓的强烈不满和反抗。耶律德光试图在中原地区建立起契丹的统治秩序，但他们的文化、制度与中原地区存在巨大差异，这种强行的统治方式引发了诸多矛盾。
刘知远敏锐地察觉到了这一局势变化。他深知民心所向的重要性，于是决定利用百姓对契丹的不满情绪来实现自己的政治抱负。他首先在自己的根据地太原地区采取了一系列安抚百姓的措施。他减轻了百姓的赋税负担，开仓放粮，救济那些因战乱而流离失所的灾民。这些举措使得他在当地赢得了广泛的民心，百姓们对他感恩戴德，视他为救世主。
同时，刘知远也在积极地扩充自己的军队。他招募了大量的流民和壮士，对他们进行严格的军事训练。他深知要想在这个乱世中立足，强大的军事力量是必不可少的。在军队的训练过程中，刘知远亲自督导，他向士兵们灌输忠诚和荣誉的观念，使得这支军队逐渐成为一支纪律严明、战斗力强大的劲旅。