陈汤就前往长安去求官，得了一个太官献食丞的职位。
几年后，富平侯张勃与陈汤交往，很看重他的才能。
初元二年，汉元帝下诏，令列侯推举茂才，张勃便推举了陈汤。
在待职期间，陈汤的父亲去世了，但陈汤却没有回乡奔丧，
此事被司隶校尉上告给皇帝，揭发陈汤不守孝道，推举他的张勃举荐不实，
张勃被削去封邑两百户，此时张勃刚好去世，也被皇帝赐“谬侯”的谥号，陈汤则被捕入狱。
后来他又被推举为郎官，并多次请求出使外国。
几年后，陈汤被提升为西域副校尉，与都护甘延寿一同赴任。
“汉宣帝时，匈奴发生内乱，五位单于争夺继承权，”
“呼韩邪单于和郅支单于都将自己的儿子送到汉朝作人质，呼韩邪单于还亲自前往朝拜宣帝。”
“郅支单于就认为呼韩邪单于衰败才投降汉朝的，他自己不可能再返回匈奴，”
“于是他立刻向西收取匈奴右边的地方，但汉朝正好派兵护送呼韩邪返回匈奴，于是郅支率兵西进攻破呼偈、坚昆、丁令，兼并了三国。”
“他怨恨汉朝拥护呼韩邪而不帮助自己，便囚禁羞辱了汉朝使者江乃始等人。”
“初元四年，郅支单于遣使索要在汉朝作人质的儿子，并称愿归附。”
“经过商议后，由卫司马谷吉将其子送回，但郅支单于却杀害了谷吉。”
“他知道自己得罪了汉朝，呼韩邪单于又日渐强大，他便西逃至康居国，在康居军的帮助下，”
“他袭击乌孙，还征发百姓为他筑城，派使者去向阖苏、大宛等国，要求他们每年贡献财物。”
“后汉朝派遣三波使者向郅支索要谷吉遗体，他不但拒绝汉朝诏书还侮辱扣押使者，”
“还以嘲讽的语气上书汉元帝，称愿归附汉朝并派遣质子。”
“建昭三年，陈汤与甘延寿前往西域赴任。”
“陈汤为人沉着有远见，多计谋策略，喜欢建奇功，他每次经过城镇、山川，都会登高观察地形。”
“陈汤接到出使的命令后，就与甘延寿谋画，他认为夷狄畏强是他们的天性，西域原本就属于匈奴，”
“现在郅支单于威名远扬，常侵犯欺凌乌孙、大宛等国，又经常为康居国王出谋划策，想要降服这两国。”
“如果郅支得到乌孙、大宛两国，再从北攻伊列、西取安息、南逐月氏、山离乌弋，那么西域诸国的处境就很危险了。””
“况且郅支为人剽悍好战，又多次打胜战，容许他长期存在必是西域的祸害。”
“郅支单于驻地虽远，但他们没有坚固的城池和强大的弓弩防守，”
“如果能发动屯田的将士，再征调乌孙等国的军队，直接攻到他们的城下，”
“他们将无处可逃，又没办法守城自保，这样千载功业便可一朝而成。”
“甘延寿同意陈汤的判断，便准备上奏朝廷，但陈汤阻止了他并说，”
“如果皇帝和公卿大臣商议此事，一定不会支持这样非常规的计策。”
“甘延寿犹豫不决，恰逢他生病之时，陈汤便假托朝廷调令，征发西域城郭诸国的军队与车师、戊己校尉所属的屯田将士。”
“甘延寿得知此事，急忙阻止，结果陈汤大怒手按宝剑大骂甘延寿，现在部队已经集结，你是要败坏大家的士气吗。”
“甘延寿无奈只好听从陈汤的安排，他们部署好进军序列和路线，增设了扬威、白虎、合骑三个校尉，汉兵、诸胡兵共四万余人。”
“此后他们又上疏朝廷，承认假传命令的罪过，并上报了军事部署。”
“他们即日领兵出征，将六个校尉分为两路，其中三个校尉从南路翻越葱岭，取道大宛，”
“另外三个校尉则由他们自己率领，从温宿国出发，从北路入赤谷，过乌孙，进入康居国境内。”
李白：康居国副王率领数千骑兵入侵赤谷城东，杀害、掠夺了乌孙大首领的千余众，
抢走了很多牲畜和财物，又与汉军后续部队遭遇，抢走了不少辎重。
陈汤立即出动西域诸**队袭击他们，斩首四百六十人，抢回被掳走部民四百七十人交还给大昆弥，所得马、牛、羊充作军资，还俘虏了抱阗贵族伊奴毒。
待进入康居东界后，陈汤下令军队不得掳掠。
他沿途秘密招见康居贵族屠墨，向他展示汉军军威和信誉，并与他饮酒立誓订立盟约。
陈汤并没有直接率军到郅支单于城下，而是在离城六十里处安营扎寨，又捕获了康居贵族贝色子的儿子开牟，并让其做向导带路。
贝色子为屠墨母亲的弟弟，他们都怨恨郅支单于，于是向汉军介绍了郅支单于的情况。