第一次國共合作正式建立后，革命形勢迅速發展，迫切需要建立一支可靠的革命武裝力量。早在1921年12月，共產國際代表馬林會見孫中山的時候，就向他建議創辦軍官學校，以建立革命軍的基礎。鑒于過去長時期內依靠舊軍隊從事革命活動屢遭失敗的痛苦教訓，孫中山在籌劃改組國民黨的同時，也積極醞釀創辦一所軍官學校。

　　1923年9月，孫中山派以蔣介石為首的代表團訪問蘇聯，學習蘇聯的建軍經驗。11月15日，中國國民黨臨時中央執行委員會第6次會議通過了建立革命義勇軍的決議。11月27日，中國國民黨臨時中央執行委員會第11次會議，議決建立軍官學校的有關事項。1924年1月24日，孫中山以大元帥名義委任蔣介石為陸軍軍官學校籌備委員會委員長。孫中山還任命鄧演達、王柏齡、沈應時、林振雄、俞飛鵬、張家瑞、宋榮昌七人為籌備委員。1月28日，確定以原廣東陸軍學校和廣東海軍學校的舊址長洲要塞——黃埔為軍官學校的校址，故稱黃埔軍校。孫中山兼任軍校總理。5月3日，蔣介石被委任為校長。5月9日，廖仲愷被委任為軍校的國民黨代表。隨后，李濟深被任命為教練部主任，鄧演達為副主任兼總隊長；王柏齡、葉劍英為教授部正、副主任；戴季陶、周恩來為政治部正、副主任。11月，中共廣東區委委員長周恩來接任政治部主任；林振雄為管理部主任；周駿彥、俞飛鵬為軍需部正、副主任；宋榮昌、李其芳為軍醫部正、副主任；何應欽為總教官。11月29日，又增設教育長，由胡謙擔任。還聘請布留赫爾等蘇聯紅軍將領為軍事顧問。軍校籌備工作基本就緒。