与汤交，遍见汤贵人。汤给事内史，为宁成掾，以汤为无害，言大府，调为茂陵尉，治方中。
武安侯为丞相，徵汤为史，时荐言之天子，补御史，使案事。治陈皇后蛊狱，深竟党与。于是上以为能，稍迁至太中大夫。与赵禹共定诸律令，务在深文，拘守职之吏。已而赵禹迁为中尉，徙为少府，而张汤为廷尉，两人交驩，而兄事禹。禹为人廉倨。为吏以来，舍毋食客。公卿相造请禹，禹终不报谢，务在绝知友宾客之请，孤立行一意而已。见文法辄取，亦不覆案，求官属阴罪。汤为人多诈，舞智以御人。始为小吏，乾没，与长安富贾田甲、鱼翁叔之属交私。及列九卿，收接天下名士大夫，己心内虽不合，然阳浮慕之。
是时上方乡文学，汤决大狱，欲傅古义，乃请博士弟子治尚书、春秋补廷尉史，亭疑法。奏谳疑事，必豫先为上分别其原，上所是，受而著谳决法廷尉，絜令扬主之明。奏事即谴，汤应谢，乡上意所便，必引正、监、掾史贤者，曰：“固为臣议，如上责臣，臣弗用，愚抵于此。”罪常释。即奏事，上善之，曰：“臣非知为此奏，乃正、监、掾史某为之。”其欲荐吏，扬人之善蔽人之过如此。所治即上意所欲罪，予监史深祸者；即上意所欲释，与监史轻平者。所治即豪，必舞文巧诋；即下户羸弱，时口言，虽文致法，上财察。于是往往释汤所言。汤至于大吏，内行脩也。通宾客饮食。于故人子弟为吏及贫昆弟，调护之尤厚。其造请诸公，不避寒暑。是以汤虽文深意忌不专平，然得此声誉。而刻深吏多为爪牙用者，依于文学之士。丞相弘数称其美。及治淮南、衡山、江都反狱，皆穷根本。严助及伍被，上欲释之。汤争曰：“伍被本画反谋，而助亲幸出入禁闼爪牙臣，乃交私诸侯如此，弗诛，后不可治。”于是上可论之。其治狱所排大臣自为功，多此类。于是汤益尊任，迁为御史大夫。
会浑邪等降，汉大兴兵伐匈奴，山东水旱，贫民流徙，皆仰给县官，县官空虚。于是丞上指，请造白金及五铢钱，笼天下盐铁，排富商大贾，出告缗令，鉏豪彊并兼之家，舞文巧诋以辅法。汤每朝奏事，语国家用，日晏，天子忘食。丞相取充位，天下事皆决于汤。百姓不安其生，骚动，县官所兴，未获其利，奸吏并侵渔，于是痛绳以罪。则自公卿以下，至于庶人，咸指汤。汤尝病，天子至自视病，其隆贵如此。
匈奴来请和亲，群臣议上前。博士狄山曰：“和亲便。”上问其便，山曰：“兵者凶器，未易数动。高帝欲伐匈奴，大困平城，乃遂结和亲。孝惠、高后时，天下安乐。及孝文帝欲事匈奴，北边萧然苦兵矣。孝景时，吴楚七国反，景帝往来两宫间，寒心者数月。吴楚已破，竟景帝不言兵，天下富实。今自陛下举兵击匈奴，中国以空虚，边民大困贫。由此观之，不如和亲。”上问汤，汤曰：“此愚儒，无知。”狄山曰：“臣固愚忠，若御史大夫汤乃诈忠。若汤之治淮南、江都，以深文痛诋诸侯，别疏骨肉，使蕃臣不自安。臣固知汤之为诈忠。”于是上作色曰：“吾使生居一郡，能无使虏入盗乎？”曰：“不能。”曰：“居一县？”对曰：“不能。”复曰：“居一障间？”山自度辩穷且下吏，曰：“能。”于是上遣山乘鄣。至月余，匈奴斩山头而去。自是以后，群臣震慴。
汤之客田甲，虽贾人，有贤操。始汤为小吏时，与钱通，及汤为大吏，甲所以责汤行义过失，亦有烈士风。
汤为御史大夫七岁，败。
河东人李文尝与汤有卻，已而为御史中丞，恚，数从中文书事有可以伤汤者，不能为地。汤有所爱史鲁谒居，知汤不平，使人上蜚变告文奸事，事下汤，汤治论杀文，而汤心知谒居为之。上问曰：“言变事纵迹安起？”汤详惊曰：“此殆文故人怨之。”谒居病卧闾里主人，汤自往视疾，为谒居摩足。赵国以冶铸为业，王数讼铁官事，汤常排赵王。赵王求汤阴事。谒居尝案赵王，赵王怨之，并上书告：“汤，大臣也，史谒居有病，汤至为摩足，疑与为大奸。”事下廷尉。谒居病死，事连其弟，弟系导官。汤亦治他囚导官，见谒居弟，欲阴为之，而详不省。谒居弟弗知，怨汤，使人上书告汤与谒居谋，共变告李文。事下减宣。宣尝与汤有卻，及得此事，穷竟其事，未奏也。会人有盗发孝文园瘗钱，丞相青翟朝，与汤约俱谢，至前，汤念独丞相以四时行园，当谢，汤无与也，不谢。丞相谢，上使御史案其事。汤欲致其文丞相见知，丞相患之。三长史皆害汤，欲陷之。
始长史硃买臣，会稽人也。读春秋。庄助使人言买臣，买臣以楚辞与助俱幸，侍中，为太中大夫，用事；而汤乃为小吏，跪伏使买臣