Vùng đất Bù Gia Mập thời xa xưa thuộc địa bàn cư trú của các dân tộc thiểu số như Xtiêng, Mnông, Mạ, Chơ Ro... Đến năm 1698, chúa Nguyễn Phúc Chu sai Chưởng cơ Nguyễn Hữu Cảnh vào kinh lý vùng đất hoang hóa phương Nam. Ông đặt vùng đất mới này (Nam Bộ) thành phủ Gia Định gồm 2 huyện là Tân Bình và Phước Long, đặt dinh Trấn Biên. Địa bàn huyện Bù Gia Mập thuở trước thuộc dinh Trấn Biên, huyện Phước Long.
Năm 1788, chúa Nguyễn chia đất Gia Định thành bốn dinh, trong đó huyện Bù Gia Mập thuộc dinh Trấn Biên. Đến năm 1808, tổng Bình An được nâng lên thành huyện Bình An, huyện Phước Long thành phủ Phước Long, dinh Trấn Biên đổi thành trấn Biên Hòa. Vùng đất Bù Gia Mập thuộc huyện Bình An.
Năm 1827, khi triều đình nhà Nguyễn chia đất Nam Bộ thành 5 trấn thì Bù Gia Mập thuộc trấn Biên Hòa. Để mở rộng đất đai, triều đình nhà Nguyễn dồn dân và lập nhiều đồn ải mới, trong đó có phần đất huyện Bù Gia Mập.
Năm 1838, phủ Phước Long có thêm huyện Phước Bình (cắt từ huyện Phước Chánh và huyện Bình An). Lúc này huyện Bù Gia Mập thuộc huyện Phước Bình, phủ Phước Long, tỉnh Biên Hòa.
Năm 1862, triều đình nhà Nguyễn ký Hòa ước Nhâm Tuất nhường ba tỉnh miền Đông Nam Kỳ gồm Biên Hòa, Gia Định, Định Tường cho thực dân Pháp. Thực dân Pháp đã đẩy mạnh việc điều tra, khảo sát vùng rừng núi để thiết lập các đại lý hành chính và đồn binh của Pháp. Theo đó, Pháp chia ranh giới hành chính của ba tỉnh miền Đông, riêng tỉnh Biên Hòa, Pháp vẫn giữ hai phủ là Phước Long và Phước Tuy và 4 huyện như cũ. Địa bàn huyện Bù Gia Mập thuộc huyện Bình An, phủ Phước Long.
Năm 1912, thực dân Pháp lập các đại lý hành chính trong vùng đồng bào dân tộc Xtiêng quanh khu vực núi Bà Rá, lấy tên đại lý Sông Bé1. Để lừa mị đồng bào dân tộc ít người, Pháp dựng lên chiêu bài “đất Thượng của người Thượng” và lập ra 6 tổng tự trị của người Xtiêng ở Bù Nho, Bù Cháp, Đắk Ơ,... Đây là những vùng đất thuộc huyện Bù Gia Mập ngày nay.
Năm 1924, thực dân Pháp cho thành lập quận Bà Rá. Địa bàn Bù Gia Mập ngày nay là phần đất thuộc quận Bà Rá, tỉnh Biên Hòa. Năm 1925, thực dân Pháp đổi tên quận Bà Rá thành quận Phú Riềng. Địa bàn huyện Bù Gia Mập ngày nay là phần đất thuộc quận Phú Riềng, tỉnh Biên Hòa. Năm 1927, đổi tên quận Phú Riềng thành quận Sông Bé, trung tâm hành chính đóng tại Bù Kroai (thuộc xã Đức Hạnh ngày nay). Địa bàn huyện Bù Gia Mập là phần đất thuộc quận Sông Bé, tỉnh Biên Hòa. Năm 1933, thực dân Pháp tiếp tục đổi tên quận Sông Bé thành quận Núi Bà Rá. Địa bàn huyện Bù Gia Mập là phần đất thuộc quận Núi Bà Rá, tỉnh Biên Hòa.
Ngày 22-10-1956, chính quyền Ngô Đình Diệm ra Sắc lệnh số 143-NV hình thành tỉnh Phước Long và chính thức thành lập tỉnh vào ngày 22-3-1957, với một phần đất phía bắc của tỉnh Biên Hòa và quận Bù Đốp của tỉnh Thủ Dầu Một. Lúc đầu Phước Long được chia thành 2 quận là quận Châu Thành Phước Bình (tức quận Sông Bé) và quận Bù Đốp. Trong giai đoạn này, huyện Bù Gia Mập là phần đất nằm trong quận Sông Bé.
Ngày 21-3-1958, chính quyền Ngô Đình Diệm ra Nghị định số 781/BNV/NĐ thành lập thêm hai quận mới là quận Phước Hòa (vùng Bù Gia Mập và Bù Trăng Lơ) và quận Phước Tâm (quận Đức Phong), trung tâm tỉnh lỵ đặt tại Phước Bình.
Năm 1961, quận Phước Hòa bị giải thể, quận Bù Đốp đổi thành quận Bố Đức, nâng tổng Bù
Đăng thành quận Đức Phong và lập thêm quận mới là Đôn Luân. Như vậy, ở thời điểm đó, tỉnh Phước Long (trong đó có vùng đất Bù Gia Mập hiện nay) có 4 quận là Phước Bình, Bố Đức, Đức Phong và Đôn Luân. Địa bàn Phước Long ngày nay là phần đất thuộc quận Phước Bình, tỉnh Phước Long.
Trong giai đoạn này (1961), huyện Bù Gia Mập thuộc tỉnh Biên Hòa. Đến tháng 5-1951, sáp nhập hai tỉnh Thủ Dầu Một và Biên Hòa thành tỉnh Thủ Biên, huyện Bù Gia Mập thuộc quận Sông Bé, tỉnh Thủ Biên. Tháng 6-1960, tỉnh Phước Long chính thức hình thành (trong đó có vùng đất Bù Gia Mập). Do đặc điểm tình hình thực tế, tỉnh Phước Long không tổ chức đơn vị hành chính theo quận, huyện mà lập thành các K2. Đến cuối năm 1971, hai tỉnh Phước Long và Bình Long hợp nhất thành Phân Khu Bình Phước, năm 1972 đổi thành tỉnh Bình Phước.
Đối với hệ thống đơn vị hành chính quận, huyện (còn gọi là K) ở Phước Long được thành lập từ tháng 6-1960, đến ngày giải phóng hoàn toàn miền Nam (tháng 4-1975). Tháng 6-1960, thành lập K2, K3, K43; tháng 6-1961 thành lập K1, K5 tháng 6-1962, K5; tách thành K5 và K8. Cũng trong năm này ta thành lập K19, K50, sau đó nhập lại thành K59. Tháng 6-1963, sáp nhập K5 và K8 thành K58. Đầu năm 1964, sáp nhập K1, K2, K7 thành K127, sau đó tách K127 thành K16 và K17. Năm 1967, sáp nhập K10 và K19 thành K29. Năm 1967 hợp nhất K8 và K20 thành K28, năm 1968, thành lập K11 và sáp nhập K4 và K đường 10 thành K14 và thành lập K25.
Năm 1970, thành lập lại K14. Năm 1971, chia K25 thành K11, K14, K17. Sau khi tỉnh Bình Phước được thành lập năm 1972, K14 và K28 nhập lại thành K Bù Gia Mập. Như vậy, các K đều có nhiều biến động: lúc thì độc lập, lúc sáp nhập, rồi tách ra cho phù hợp với tổ chức và nhân sự.
Sau ngày miền Nam hoàn toàn giải phóng, tỉnh Bình Phước sáp nhập cùng tỉnh Thủ Dầu Một thành tỉnh Bình Thủ. Đến ngày 2-7-1976, theo quyết định của Quốc hội, tỉnh Sông Bé được thành lập trên cơ sở tỉnh Bình Thủ cùng ba xã An Bình, Đông Hòa, Bình An của quận Thủ Đức, tỉnh Gia Định. Phước Long là một trong 9 huyện thị của tỉnh Sông Bé, hợp nhất từ ba huyện Bù Đốp (Bố Đức), Phước Bình và Bù Đăng (Đức Phong) theo Quyết định số 55/CP ngày 11-3-1977, của Hội đồng Chính phủ.
Trung tâm hành chính huyện Bù Gia Mập
Ngày 19-9-1980, theo Quyết định số 299/CP của Hội đồng Chính phủ, một số xã thuộc huyện Phước Long được điều chỉnh địa giới. Theo đó, xã Đa Kia được chia thành hai xã là Bù Nho và Long Hưng.
Đến thời điểm này, huyện Bù Gia Mập gồm 15 xã là Sơn Giang, Đức Hạnh, Minh Hưng, Nghĩa Trung, Đoàn Kết, Đắk Nhau, Đắk Ơ, Thống Nhất, Thọ Sơn, Đa Kia, Bình Thắng, Bù Nho, Long Hưng, Phước Bình, Phước Tín.
Ngày 9-4-1986, Hội đồng Bộ trưởng ban hành Quyết định số 40/HĐBT thành lập thêm xã Đồng Nai. Huyện Phước Long, lúc này có 16 xã.
Ngày 4-7-1988, Hội đồng Bộ trưởng ra Quyết định số 112/HĐBT chia tách huyện Phước Long chia thành hai huyện là Phướ Long và Bù Đăng, đồng thời tách xã Phú Riềng. Như vậy, huyện Bù Gia Mập có 10 đơn vị hành chính trực thuộc gồm các xã Bình Thắng, Phú Riềng, Long Hưng, Đức Hạnh, Bù Nho, Đa Kia, Đắk Ơ, Phước Bình, Phước Tín, Sơn Giang.
Tháng 11-1996, Kỳ họp thứ X Quốc hội khóa IX đã phê chuẩn việc chia tách tỉnh Sông Bé để thành lập hai tỉnh là Bình Phước và Bình Dương. Phước Long (trong đó có huyện Bù Gia Mập) là một trong 5 đơn vị hành chính cấp huyện trực thuộc tỉnh Bình Phước.
Ngày 26-12-1997, theo Nghị định số 119/1997/NĐ-CP của Chính phủ, xã Đắk Ơ của huyện Bù Gia Mập tách thành 2 xã Đắk Ơ và Bù Gia Mập1. Ngày 18-3-1998, thành lập xã Phú Trung và xã Long Bình. Năm 2007, xã Bình Sơn và Bình Tân được tách lập từ xã Bình Phước của huyện Phước Long cũ và năm 2009 xã Phước Tân được thành lập.
Từ tháng 1-1997 đến năm 2009, huyện Bù Gia Mập chung với huyện Phước Long là một trong 10 huyện thị của tỉnh Bình Phước.
Năm 2009, huyện Bù Gia Mập được thành lập trên cơ sở điều chỉnh địa giới của huyện Phước Long theo Nghị định số 35/NQ-CP ngày 11-8-2009 của Thủ tướng Chính phủ.
