百年来，旅客乘火车往来于北京至包头之间，享用着这条铁路所带来的便捷。然而当年建设它的艰难，如今已鲜为人知了。
1908年8月，詹天佑主持修建的京张铁路完工在即，他便拟定了将铁路延伸到绥远的计划，这样既能改善西北的交通状况，又利于开发大同煤矿。清政府虽然予以批准，但苦于国库空虚，只好将铁路分段延长，先修到大同；同时发行了修筑张同铁路的债券，以补国库供给之不足。
1909年9月，京张铁路通车，詹天佑奉调修筑粤川汉和粤汉铁路。此前，他将省吃俭用之节余，连同8个儿女名下的钱，共十几万元（银元，下同）买了张同铁路债券。属下工程司（师）们闻知詹天佑带了头，纷纷认购。直到上世纪80年代初，时年83岁的詹天佑之三子詹文耀对此仍记忆犹新。他回忆说，当时父亲以他的名义买了一万八九千元债券。
京张铁路通车前夕，邮传部（清廷掌管轮船、铁路、电报、邮信四种业务的机关）准奏修筑张同铁路，一应勘测、设计、施工等事宜，均由京张铁路局兼办。在京张铁路完工并通车之际，张同段动工。
1911年10月，张同铁路修到了山西境内阳高县，此时辛亥革命爆发。民众早已对清廷不满，纷纷响应而“停工闹革命”；加之英国中英公司停拨京奉（奉天，今沈阳）铁路余利，致使经费来源断绝，大同虽近在咫尺，施工却不得不中止。
1912年（始设交通部）冬，京张、张绥二铁路局合并为京张张绥铁路管理局。停工一年多的张同段终于复工，由阳高西展。因中英公司仍拒绝提取京奉铁路余利，筑路经费只好由京张铁路微薄的营业收入提拨。
1914年3月，张同铁路完工通车。线路短短几十里，却因经费“不给力”而断断续续地修了一年半。1915年6月，京张张绥铁路管理局借款100万元，作为补充大同至丰镇段所用。当年9月，铁路修到内蒙古丰镇并通车。
1916年1月，京张张绥铁路管理局改为京绥铁路管理局，京张张绥铁路遂称京绥铁路。
1917年10月，京绥铁路第4次募集100万元。同年12月，京绥铁路大同运煤支线进行勘测；1918年4月动工，7月通至平旺，9月1日修到口泉。
1920年10月，京绥铁路第6次募集短期贷款100万元，用于修筑卓资山至绥远工程。1921年，卓资山至绥远段完工；5月1日，京绥铁路丰台至绥远城全线通车。
1922年12月，绥包段竣工。次年1月1日，京绥铁路正式通至包头，仍沿用旧名京绥，至1928年6月随北京更名北平而改称平绥。
从1905年10月动工到1922年底，京绥铁路历经17年之久。全路工程及设备费用共计5649万元，其中除由交通部拨款累计2200余万元及由该铁路盈余划拨500余万元之外，有2800余万元均系筹募负债而来。尤其自大同展修丰镇起，即有迭募公债之举；嗣后节次展修，节次募债，内债不足，又借外债，所幸终于修成。
