辛亥以前，孙中山虽领导多次武装起义，却没有革命的军队，起义大多是凭借革命党人奋不顾身的勇气，或联络会党、民军，或运动清军反正以举事。迨民国倾覆，军阀混战，孙中山痛感没有自己的军队来维护新生的共和政权。孙中山在其早期革命过程中亦曾尝试过组织和训练革命武力，如1903年在日本东京青山开办过一所革命军事学校，1913-1914年又在东京办过“浩然庐”，授予党人以军事训练，但均因时间短，人数少，无具体效果可言。1917年下半年，孙中山从粤督陈炳焜手中争取到20营警卫军，约5000人，交陈炯明统率。革命党终于有了一支自己的武力，孙不惜倾全力培植之，甚至批准全体官兵宣誓入党，期望这支“党军”成为真正能达成革命任务的“革命军”，不料终因陈炯明的反叛而成泡影。
1924年国民党改组，同时也开启了国民党的建军时代，其标志就是黄埔军校的创立。
黄埔军校的创立，也是以俄为师的结果。早在1921年底共产国际代表马林会见孙中山时，曾建议创办军官学校，作为建立革命武装之基础。1923年10月，国民党党务讨论会通过设立陆军讲武堂案。11月，国民党临时中央执行委员会决议定学校名称为“国民军军官学校”，并定校长为蒋介石，政治部主任为廖仲恺。1924年1月24日，孙中山委派蒋介石为军校筹备委员会委员长，校名改为“中国国民党陆军军官学校”，校址指定在广州东面珠江口的黄埔岛上，从此这所军校就以“黄埔军校”而著称。2月6日，军校筹备处成立，随即展开建校和招生工作。5月5日，黄埔第1期学生入校，6月16日正式开学。6月16日本是两年前陈炯明反叛孙中山之日。孙中山选择这一天举行开学典礼，表明陈炯明叛变使孙中山创巨痛深，以至于孙中山要让全校师生铭记这一天。