魏晋葛洪《抱朴子·杂应》描绘老君形象时说：“前有二十四朱雀，后有七十二玄武。”《遐览篇》中还有“青龙符、白虎符、朱雀符、玄武符”，当时玄武还只是一个护卫之神，但民众对他的信仰从未间断，只是职掌和地位还不太显赫。后来玄武成为道教奉祀的大神，其信仰的兴盛就与其在民间的影响有着直接的关系。据唐段成式《酉阳杂俎·续集》卷三记载，南北朝北魏太和八年，有个姓朱的道长云游庐山，“忽然蟠蛇如堆缠绵，俄变为巨龟。仿之山叟，云是玄武”，视龟蛇同时出现为玄武显灵。又五代于逖《灵应录》曰：“沈仲霄之子于竹林中，见蛇缠一龟，将锄击杀之。其家数十口，旬已相次而卒。有次者曰：‘玄武神也。’”从《酉阳杂俎》和《灵应录》等书记载来看，都不同程度地显示了道教信众对玄武的信崇，杨亿《谈苑》称翊圣真君又号黑煞将军，与真武、天蓬、天猷并为天界大将军，宋以后尊为北极四圣，从此以后，真武在道教众神中的地位逐渐提高。
关于玄武更名为真武的原因，众说纷纭。一说为避宋真宗的讳，此说见于《集说诠真》等书中，另一说为避赵宋“圣祖”赵玄朗的讳，此说见于《朱子语类》中。玄武改为真武后，玄武的名称很少有人提及了。北宋时期，真武的形象仍是龟蛇。到了南宋，真武人格化的传说开始日益繁盛。宋太祖时，已有真武、天蓬等为天上大将之说。宋高承《事物纪原》中即记载了宋真宗天禧元年，“营中有卒见龟蛇者，军士因建真武堂。二年闰四月，泉涌堂侧，汲不渴，民疾疫者，饮之多愈”。真宗闻言，下诏建观，赐名“祥源”，于是人格化的真武诞生了。据《夷坚志》、《云麓漫钞》等书记载，其形象多道服羽梳，披发仗剑，颇为勇猛。真武作为道教所奉祀的大神，并且在民间有着广泛而深入的信仰，就再也不能作为原来星辰龟蛇的形象活跃于道教神坛之上了。故有关真武身世、神迹的传说便逐渐流传开来，《道藏》、《续文献通考》、《三教搜神大全》、《历代神仙通鉴》等书中，均载有诸多有关真武身世的传说和神异故事。
道教经书中描绘真武的形象是披发跣足、身着玄袍、金甲玉带，仗剑怒目，足踏龟蛇，顶罩圆光，形象十分威猛。《元始天尊说北方真武妙经》记载，真武帝君原来是净乐国太子，生而神灵，察微知运。长大成人后十分勇猛，唯务修行，发誓要除尽天下妖魔，不愿继承王位。后遇紫虚元君，授以无上秘道，连越游东海，又遇天神授以宝剑。入武当修炼。居四十二年功成圆满，白日飞升，玉帝下令敕镇北方，统摄玄武之位，并将太和山易名为武当山，意思是“非玄武不足以当之”。