张三丰十三岁时，其母林氏想念他，张云庵也不留，于是张三丰拜辞归家，专究儒业。
元世祖中统元年，张三丰举茂才异等。元中统二年，张三丰文学才识，列名上闻，以备擢用，然而做官不是其向来的志向。
元至元元年秋，游燕京。当时元朝刚刚在燕京定都，诏令旧列文学才识者待用。张三丰声望渐起，始与平章政事廉希宪相交。廉希宪惊异他的才能，奏补为中山博陵令。
元至元二年，张三丰父母病逝，张三丰弃官丁忧，不久断绝仕进的想法，奉讳归辽阳，终日哀毁。闲居数年，张三丰束装出游，将田产托付给族人，嘱代扫墓，带领二行童相随。游历各地名山古刹，吟咏闲观，且行且住。几乎三十年，均无所遇。
元延佑年间，张三丰六十七岁，入终南山修炼，拜火龙真人为师，得金丹之旨。山居四载，功效寂然。闻近斯道者，必须法财两用，平生游访，兼颇好善，囊箧殆空，不觉泪下，火龙怪之，进告以故，乃传丹砂点化之诀，命出山修炼。立辞恩师，和光混俗者数年。
元泰定元年春，南至武当山，调神九载而道成。隐显遨游又十余年。
元至正初年，由楚还辽阳，省墓讫，复之燕市，公卿故交，死亡已尽矣。
元至正十九年，秦淮渔户沈万山，又名万三，好善乐施，张三丰传道于沈万三。沈万三自号三山道士。临别，先生预知万三有徙边之祸，嘱曰：东南王气正盛，当晤子于西南也。不久返回陕西，居宝鸡金台观。
元至正二十六年九月二十日，自言辞世，留颂而逝。士民杨轨山置棺殓讫，临窆复生。
明初入蜀，至太和山，时五龙，南岩、紫霄三宫都毁于战乱，张三丰带领道徒除去荆榛，扫除瓦砾，创建草庐而居住，庐名遇真宫，收徒邱元靖，不久离去。入成都，劝说蜀王朱椿入道，不听，退还襄邓间，踪迹莫测。
明洪武十七年，明太祖朱元璋以华夷宾服，诏求张三丰，不赴。明洪武十八年，明太祖强迫沈万三敦请张三丰，不赴。
明洪武二十四年，明太祖派遣三山道士沈万三寻访，不得。明洪武二十五年，张三丰遁入云南，恰逢明太祖徙沈万三于海上，缘此践约来会，同炼天元服食大药。
明洪武二十六年，药成，张三丰至贵州平越福泉山，朝真礼斗，候诏飞升。
明永乐五年，明成祖派遣给事中胡濴、指挥杨永吉等寻访张三丰，不得。
明永乐十年，命孙碧云于武当建宫拜候，并致书相请，不得。
张三丰把儒家倡导的仁义与道家炼丹的铅汞画等号，称“仙家铅汞即仁义的种子”。在他那里，阴阳家五行的金木水火土、儒家五德的仁义礼智信和人体五经的肝肺心脾肾是一一对应的。他在《五德篇》中说：“仁属木也，肝也；义属金也，肺也;礼属火也，心也；智属水也，肾也；信属土也，脾也。”