唐朝时期，梁崇义由于臂力很大成为长安城赫赫有名的人，他能够随意的把长兵器卷曲起来。他投靠到平定“安史之乱”的名将来瑱并来到了襄阳。梁崇义是个沉默寡言的人，平时在来瑱帐下没有什么话说，在大家眼里是个成熟稳重的人，也因此他逐步地升到了偏将的军职。

　宗宝应元年，来瑱去京城拜见皇帝时受到到他人诬陷而被杀。来瑱的将士们听说以后都逃回了襄阳，此时群龙无首，来瑱的将士们都在议论纷纷由谁来担任新的首领。此时军中具有一定地位的人有梁崇义、薛南阳、李昭，他们三人彼此推三阻四，都不能决定由谁来当家作主。此时将士们开诚布公地说：“梁将军为人持重，我们都认同襄阳的部队由他来常管。”于是大家便一致推举梁崇义为帅。梁崇义掌管部队后获得了朝廷的认可，并封他为节度使。