成帝诏令发兵一千人剿捕，费时一年多，仍不能擒灭。有人向大将军王凤建议说：“盗匪数百人在天子脚下作乱，而讨伐不能奏效，难以向四边蛮族显示汉朝之威。昆只有选任贤明能干的京兆尹才行。”于是王凤推荐前高陵令王尊，征召入京任命为谏大夫，署理京辅都尉，代行京兆尹的职责。他上任不到一个月，盗匪肃清。而后正式擢升王尊为京兆尹。
成帝即位初期，丞相匡衡再次上奏说：“射声校尉陈汤，以二千石官员的身份出使西域，专门负责西域蛮夷事务，他不能持身以正，做部下的表率，反而盗取所没收的康居王国财物，并告诫下属官员说：‘远在外域发生的事，不会核察追究。’此事虽发生在大赦之前，但他已不适宜再担任官职。”陈汤获罪被免官。后汤上言：“康居王侍子，非王子。”按验，实王子也。汤下狱当死。
后来，陈汤上书说：“康居王送来当人质的王子，并不是真王子。”然而经过查验，确实是真王子。陈汤被捕入狱，依罪应被处死。太中大夫谷永上书为陈汤辩护说：“我听说楚国因为有子玉、得臣，晋文公因此坐不安席；赵国有廉颇和马服君赵奢，强大的秦国便不敢进犯井陉；近代汉朝有郅都、魏尚，匈奴则不敢从沙漠南下。因此可说，能征善战、克敌制胜的将领，是国家的爪牙，不可以不重视他们。
这正是：君子听到战鼓之声，则思念将帅之臣。我看关内侯陈汤，从前击斩郅支单于，威震蛮夷各国，所向披靡，一直打到西海。自汉朝开国以来，在疆域之外作战的将领，还从未有过这样的战功！如今，陈汤因报告失实而获罪，长期囚禁监狱，历时这么久仍不能结案，执掌刑法的官吏意欲致他死罪。从前，白起为秦国的大将，南伐楚，攻陷郢都；北击赵国，坑杀赵括降卒四十万，却因极微小的过失，在杜邮被赐死。秦国百姓怜惜他，无不流涕。
而今陈汤亲执武器，席卷匈奴，喋血于万里之外。把战功呈献在皇家祖庙，向上帝禀告，天下武士无不思慕。他不过因为说错话而获罪，并不是什么严重的罪恶。《周书》说：‘记人之功，忘人之过，这才适合当人君。’犬马对人有劳苦之功，死后尚且要用车帷伞盖将它们好好埋葬，作为回报，何况是国家的功臣呢！
我恐怕陛下忽略了战鼓的声者，不领会《周书》的深意，忘记报答功臣的效劳，象对待平庸臣子那样对待陈汤，终于听从掌刑官吏的建议，将他处死，使百姓心中耿耿，有秦民那样的遗恨。这不是勉励大臣为国赴难效死的作法！”
奏章上去后，天子下令释放陈汤，但剥夺爵位，贬为士伍。正好，西域都护段会宗被乌孙王国的军队围困，段会宗用驿马上书，请求成帝征发西域诸国军队，以及汉朝在敦煌的军队救援。丞相王商、大将军王凤昆以及百官会议数天也作不出决定。
王凤说：“陈汤富于谋略，又熟悉外国的情况，可以询问他。”成帝在宣室殿召见陈汤。陈汤在进攻郅支单于时，中了风寒，两臂不能屈伸，入见时，成帝下诏准许他不必跪拜，把段会宗的奏书拿给他看。陈汤回答说：“我认为这件事一定没什么可忧虑的。”成帝说：“你为什么这样讲？”陈汤说：“五个胡兵才能抵挡一名汉兵，为什么呢？
因为他们的刀剑不锋利，弓弩也不强。最近听说颇学得一些汉人制作兵器的技巧，然而仍是三个胡兵抵挡一个汉兵。再说，《兵法》上说：‘客兵必须是守军人数的两倍，才能对敌。’现在围困段会宗的敌兵人数不足以战胜他，请陛下不必忧虑！况且军队轻装日行五十里，重装备则日行三十里。
现在段会宗打算征发西域诸国和敦煌的军队，部队行军需较长时间才能赶到，这成了所谓报仇之军，而不是救急之兵了。”成帝说：“那怎么办呢？围困一定可以解除吗？你估计什么时候可以解围？”陈汤知道乌孙之兵，不过是乌合之众，不能久攻，以经验推测，不过数日。
因此回答说：“现在已经解围了！”又屈指计算日期，然后说：“不出五日，就会听到好消息。”过了四天，军书到，声称已经解围。大将军王凤上奏，要求任命陈汤为从事中郎。从此大将军幕府的大事，均由陈汤一人决定。