泰来自古以来就是祖国北疆的一部分。唐虞三代直至周、秦为泼貊族居住之地；两汉、三国、魏、晋、南北朝时为夫余国和鲜卑族居住之地；隋、唐时期为室韦族居地；辽代为上京道泰州辖地；金代沿续辽制，泰来属泰州之地；元属中书省泰宁路；明为兀良哈三卫之朵颜属地；清为扎来特旗，后为大赉厅所辖。

民国五年（1916年）改升为县，称泰来县，隶属于黑龙江省龙江道管辖。民国十八年（1929年）东北政务委员会成立，废道制，县归省直辖，泰来县直隶黑龙江省，为二等县。康德元年（1934年）十二月一日伪满洲国改行帝制，实行地方行政机构改革，成立龙江省公署，本县划归龙江省管辖。东北光复后，民国三十六年（1947年）公布东北新省区方案，将伪龙江省改为嫩江省，泰来县归嫩江省所辖。全国解放后，划东北为三省，泰来县隶属于黑龙江省所辖。

1961年10月7日恢复嫩江地区，泰来县隶属于嫩江地区；1985年1月3日，齐齐哈尔市与嫩江地区合并，泰来县隶属于齐齐哈尔市。