自行谢罪。武帝便命张汤处理此案，张汤将责任完全归到庄青翟头上，以知见故纵罪对庄青翟进行了处罚。庄青翟受到处罚后，心中对张汤很是不满。

    丞相府三长史(丞相的高级佐官)朱买臣、王朝、边通原来官位皆在张汤之上，后来因被罢官撤职反居张汤之下，见到张汤必须低头参拜，但心中对张汤很不服气。张汤对他们又不讲情面，经常使他们处于非常尴尬的境地。因此他们经常计议，寻机陷害、报复张汤。他们见时机已到，便与丞相庄青翟商议计策。他们抓了一个叫田信的商人，说张汤每次上奏的事，无论是否属于国家机密，田信都预先得知，其囤积居奇获得的暴利也与张汤平分。这件事上奏给武帝后，武帝就质问张汤：“朝廷每有举措，缘何有商人总是事先就知道。莫非有人泄露不成？”张汤当然称自己不知道此事。武帝听后，心中很是不快。这时御史中丞减宣已经将李文案调查清楚，上奏给汉武帝。武帝再次质问张汤，张汤仍然否认。武帝于是转命廷尉赵禹审理此案。赵禹曾与张汤共事多年，此时对张汤说：“你也太不知轻重了。你自从审案以来，诛杀了多少人，你自己还不知道吗？现在这么多人都说你有罪，皇上不愿将你打入死牢，而是想让你自行了断。你还辩解什么呢？不如就此自决，还可保全家人！”张汤至此也知道难逃一死，于是向赵禹索取了一张纸，提笔写道：“臣张汤本没有什么功劳，以刀笔小吏起家，幸蒙陛下宠信，位列三公，无以塞责。然而设计谋害我的，是相府三长史也！”写罢，他将纸递给赵禹，自己取剑在手，拼命一挥，当即毙命。

    张汤死后，家中老母及兄弟子侄，皆伏尸痛哭，计议着要厚葬张汤。张汤老母道：“他身为朝廷重臣，如今被人陷害而死，还用什么厚葬呢？”张汤死后也没有留下多少财产，即使留下的少量财产也都是武帝历次赏赐的。于是其兄弟子侄将其草草收殓，仅用牛车载着棺材出葬，棺外无椁，十分简略。武帝接到赵禹的回报后，看了张汤的遗书，心中也有些懊悔，接着又听说了张汤的丧事十分简朴，才明白张汤确实是蒙冤而死，但为时已晚，只好杀掉了三长史。不久，丞相庄青翟也自杀身亡。武帝又起用了张汤之子张安世。张安世后来官至光禄勋、大司马，封富平侯，成为朝廷重臣。

    张汤是不是被冤枉的，他死后的事实是最具有说服力的。张汤死后，家中薄有资产，可见张汤虽然是个酷吏，在官场上也用过一些阴谋手段，但是他的确算是一个廉吏！