當稱帝後，張被提升為中書侍郎(國務秘書)兼永州刺史。譙王李忠福造反，被殺。洛陽涉案同夥數百人，案件久拖不決。請張處理此案。不久，張找到了有罪的人，於是他殺了張和，其余受冤屈的人都平靜下來。皇帝很高興張說他沒有冤枉正直的人，寬恕有罪的人，並在處理案件時親自安慰他。當時，唐玄宗(李隆基)是壹個王子。張說，他和褚無良陪太子讀書，對太子特別親近有禮。第二年，張說他被提升為中國科學院秘書長(國務院副總理)，負責監督國家歷史的編纂。
公元711年(景雲二年)，唐睿宗對身邊的朝臣說:“算命先生告訴我，五日之內宮中會有叛亂，我們要早做防範。”人們不知道該怎麽辦。張對說:“這是對太子的暗算。如果讓太子監督國家大事，陛下就有了壹定的名分，自然會讓那些漢奸沒有可乘之機，避免災難。”明白了張的意思，便命監督國事。公元712年，皇太子(李隆基)登基為帝，太平公主推出蕭知中、崔琨等人為宰相。因張說不附自己(太平公主)，封他為尚書左丞(政協主席)，不準他參與處理政事，所以留他為東都(洛陽市長)。張知道太平公主等人造反，就偷偷把劍交給玄宗()讓他早做決斷。接受了張的建議。蕭知中等人被殺後，讓張做了刺史(宰相)，封他為燕國公，讓他享受200個老百姓的貢獻。
此前，邊城駐軍超過60萬。張說，當時天下太平，於是他向提議，讓二十萬人退伍回家種田。認為有問題，張對他說:“邊城雖有大量駐軍，但軍官只是作為自己的護衛，謀取私利。對付敵人，是精兵，而不是大量。以陛下的精明，圈子裏的人都怕妳威風。妳不用擔心退兵會引來敵人侵略。我願意保證我家幾百人的生命安全。”皇帝(李隆基)於是同意了他的提議。
張說他講究操守，說話算數(守信用)，喜歡推薦提拔年輕人，非常關心君臣朋友之間的仁義。李隆基當太子時，參與了許多秘密計劃，最後成了唐玄宗的大臣。