甘肃白水江国家级自然保护区的前身是1963年在让水河、丹堡河施业区内划定的3.96万公顷自然保护区，1978年5月31日，省革命委员会批准建立甘肃省白水江自然保护区，包括原白水江林业局的白马河、让水河、碧口、 丹堡河、红土河5个施业区。1979年8月，根据林业部批示精神，保护区暂定名为“林业部白水江自然保护区管理局”，实行以部为主的部省双重领导体制。

1982年元月，实行部、省、地三级管理，并明确了各级的管理职责。1990年6月林业部通知更名为“甘肃白水江国家级自然保护区管理局”。1992年2月，甘肃省将原陇南地区管理的六项工作收归省林业厅管理，恢复到1982年以前的管理体制，同年将文县林业局管理的岷堡沟保护站移交我局管理，面积由原来的208409公顷增加到223671公顷。2010年9月，根据国务院办公厅国办函（2009）92号文件精神，进行了范围调整， 将岷堡沟保护站及白马河、丹堡河、让水河保护站部分区域移交文县林业局管理，总面积调整为183799公顷。