后来,梁王从其藩国入朝,与太子刘启同车进宫。行过司马门时,没有下车就想进去。恰巧张释之值班,他立刻赶上前去,阻止太子和梁王不许入宫。随即又将此事据实劾奏给文帝。说太子和梁王是明知故犯,应以不敬论处。原来汉初宫中有一条禁令,就是以司马门为最重,凡天下上事或四方贡献,无论贵贱,均在司马门前接收。除天子外,任何人在司马门都得下车。如果违纪,按律应罚金四两。可是张释之这回碰了个钉子,文帝觉得他是小题大做,并不理睬他的奏章。好在此事被文帝母亲薄太后听说了,她很认同张释之的看法,所以召见文帝,责备他纵容儿子。文帝这才意识到自己的不当,并且非但不怪张释之多事,反而更欣赏张释之的品格,为他能守法不阿而再次超拔他为中大夫。而且过了没多久又升他为中郎将。
又一日,文帝带着他的宠妃慎夫人出游霸陵。霸陵是文帝正在修建的陵寝。文帝这天兴致很高,尤其看见自己的陵寝负山面水,形势甚佳,情不自禁道:“人生不过百年,总有一天都要死去。我死以后,如果能用北山之石为椁,再加丝絮杂漆,涂封完密,一定能坚固不破,还有什么人能来盗摇呢?”随从一旁的臣子们自然都是一片赞同之声。不料,张释之却又给他泼了一盆冷水:“臣以为,如果皇陵之间藏有珍宝,使人艳羡,就使用北山为椁,南山为户,两山合成一陵,中间还是不免会有缝隙可乘;否则,就是没有石椁,又何必担心贼人盗掘呢?”