汉武帝元鼎元年（前116），张骞第二次出使西域，选择的路线与第一次出使时不同，走的是丝绸之路天山廊道（北道）。基本路线是从长安出发，经敦煌和楼兰，向北到达吐鲁番盆地，再沿着天山北麓西行，经伊犁河谷、昭苏草原，最后抵达乌孙国都赤谷城。
大月氏为何不与汉朝结盟夹击匈奴？
张骞第一次入西域来到大宛后，大宛王感到非常高兴。大宛王早就听说汉帝国广阔富饶，但是由于匈奴人的阻挠，无法和汉朝通使。大宛王派出翻译和向导护送张骞，取道康居，前往大月氏。
康居本是锡尔河北岸一个斯基泰人部落。斯基泰人是驰骋欧亚的游牧民族，向东一直控制到锡尔河的北岸。在中亚北部的锡尔河与南部的阿姆河之间，有一片叫做索格底亚那的地区，也就是粟特。此时锡尔河南岸的粟特人在康居人的统治下，因此汉代称粟特人为“康居人”。粟特人起源于乌兹别克斯坦的泽拉夫善河。公元前329年，亚历山大东征大夏（今阿富汗）、粟特和北印度（今巴基斯坦），遭到了粟特人的顽强抵抗。亚历山大征服粟特后，娶粟特公主Roxane（禄珊妮）为妻，以通婚的方式加强对当地的统治。发动安史之乱的安禄山也叫这个名字。“禄山”是粟特语，意为“光明”。一般称男性为“禄山”，称女性为“禄珊妮”，类似于佛教中的比丘和比丘尼。16世纪欧洲文艺复兴时期，著名画家拉斐尔曾以此为素材，创作了一幅名画《亚历山大和禄珊妮的婚礼》。
康居王对张骞也很友好，护送他至阿姆河北岸的大月氏王庭。大月氏当时由前王夫人（一说太子）当政，他们已经征服了阿姆河南岸的大夏（Bactria）。大夏王黑离欧克里（Heliocles）统治时期（前145-前130），大夏不断发生内乱，大部分国土被安息王国侵占，只剩下大夏本土和粟特南半部。在匈奴和乌孙的打击下，大月氏从伊犁河迁入中亚，首先占据河中地区，迫使当地斯基泰人南迁安息和大夏。大约在前140-前130年间，大月氏征服了大夏，“都妫水北为王庭”。张骞出使大夏时（前128），大月氏人仍在阿姆河北岸，以大夏为臣。
张骞归国后不久，大月氏人就跨过阿姆河灭亡了大夏。此后，西方人称大月氏人为“吐火罗人”，并把他们居住的地方称为“吐火罗斯坦”，但中国史书仍称为“大月氏”。张骞将大夏的首都称为“蓝市城”，其实就是亚历山大城，来自希腊语Alexandria。张骞在大夏一年多，但并未说服大月氏与汉朝合击匈奴，只能归国。
为了避开匈奴，张骞选择昆仑山北麓丝绸之路南道归国，准备经瓦罕走廊、塔什库尔干、于阗（今新疆和田）、扜弥（今新疆克里雅），再经青海羌人部落返回长安。但他还是在青海羌人地区落入匈奴之手。一年之后，匈奴单于去世，张骞带着妻子和仆人堂邑父才回到长安。
张骞第一次出使西域虽然未能达到预期的目的，但此行的意义却十分重大。张骞介绍了帕米尔高原以西许多国家的情况，还知道了汉帝国的南边是身毒国（今印度）。身毒国和四川、云南有着民间贸易往来，蜀布和邛竹杖经身毒转运到大夏。他还注意到中亚当地没有漆器和丝绸。司马迁《史记·大宛列传》和班固《汉书·西域传》，就是根据张骞的报告撰写而成的。
张骞第二次入西域的终点乌孙国都赤谷城，该遗址目前尚未找到，但考古学家在伊犁河流域发现了乌孙王的墓地。乌孙王墓是一种大型土墩墓。从考古学上看，大月氏与乌孙的文化大致以博格达峰为界，以东是大月氏，属于苏贝希文化；以西为乌孙，属于土墩墓文化。
张骞在乌孙受到了乌孙王的热烈欢迎，但乌孙王惧于匈奴的势力，不敢与汉朝联盟，只是派使者随张骞回到长安答谢汉武帝。张骞第二次出使西域，他本人只到达了乌孙，但他派出了许多副使，到达了大宛、康居、大月氏、大夏、安息、条支、奄蔡、身毒、于阗、扜弥等国。因张骞第一次出使时，了解到中亚当地无漆、丝，因此第二次出使时带了大量的丝绸。这也是丝绸之路上有史可稽的第一批传往西方的中国丝绸。
1842年，东欧克里米亚半岛克赤遗址发现了一批中国文物，其中有一种平纹地暗花的汉代丝绸，即汉代文献所说的“绮”。绮在魏晋以后改称为“绫”。张骞副使到达了北高加索库班河流域的奄蔡，奄蔡之西即为克里米亚。这里发现的汉代丝绸，应该就是在张骞时代传入欧亚草原的。在新疆营盘墓地的7号墓中，也有此种丝绸出土。在意大利庞贝遗址的壁画中，也可以看到身着透明丝绸的女祭司的形象。
1978年，苏联和阿富汗的考古学家联合发掘了著名的“TiliaTepe”（黄金之丘）。Tilia是“黄金”的意思，Tepe是突厥语，意为“土丘”。此处共有9座墓，但在发掘了6座墓之后，就被苏联入侵阿富汗所打断。此墓年代应为公元前1世纪前后，共出土2万多件金器，多数嵌有绿松石、红玉髓等宝石。在发掘的6座墓中，5座墓主为女性，1座为男性。最新的研究表明，6座女性墓的墓主人中，至少有一半应是大月氏的国王，而大月氏有以女性为王的传统。关于男性墓的墓主人，林梅村认为可能是中国史书记载的贵霜第一位国王丘就却的父亲。这些墓采用箱式木棺，与在新疆尼雅遗址发现的一些木棺形制相似。除金器外，墓中还出土了安息、罗马、印度的钱币和中国的铜镜，显示出墓葬复杂多元的文化内涵。拥有如此丰富的黄金宝藏和精细复杂的制造工艺，也难怪西迁后的大月氏不愿跟汉朝结盟，再与匈奴为敌了。