평안남도 강서군 강서면 덕흥리에서 부친 백윤상, 모친 방효열의 2남 1녀 중 장남으로 출생.
백선엽 장군은 일본 제국 강점기 시대 식민지 조선에서 태어났다.

어린 나이에 부친을 잃고, 매우 가난한 환경에서 태어나 학교를 다닐 수 없어 학비 없이 공부 할 수 있는 평양사범학교를 졸업한 후, 만주 봉천군관학교를 졸업하였다.

만주군 소위로 자무스의 군부대에 임관하였다.

명월구의 간도특설부대에 소대장으로 임명되어 갔을 때는, 부대는 팔로군(중국 공산당) 토벌 작전을 하고 있었다. 간도 특설대는 1938년 12월 간도 지역에 소련 공산당 게릴라와 중국 공산당과 싸우기 위해 창설되었다.

일본이 2차 세계대전에서 항복함으로 한반도는 일본 제국으로 부터 해방되었다.

소련군이 38선 군사 분계선 북쪽을 점령하자, 평양에서 살던 백선엽 장군은 김일성 공산주의 체제를 거부하고 38선을 넘어 남한으로 내려왔다.