为了整顿军队军衔混乱状况，以适应其军事上的需要，国民政府决定对军衔进行修订。1935年3月，颁布了新的军衔等级表，把上将分为第一、第二两级，增设特级上将。整个军衔等级为六等十八级。

1952年中国人民解放军计划实施军衔制度，正式将“军衔”一词定为一正式术语确定下来，并一直沿用。台湾地区仍使用“军阶”。香港、澳门二地对军衔、军阶没有特别的区分，新加坡也使用军衔一词。

新中国正式实行军衔制是在1955年：9月27日，国家主席毛泽东主持了元帅军衔和勋章授予典礼，授予朱德、彭德怀、林彪、刘伯承、贺龙、陈毅、罗荣桓、徐向前、聂荣臻、叶剑英10人以中华人民共和国元帅军衔。同一天，国务院隆重举行授予将官军衔的典礼仪式，周恩来总理发布命令，授予粟裕等10人大将军衔。

1965年5月22日，三届全国人大常委会第九次会议通过了《关于取消中国人民解放军军衔制度的决定》，6月1日开始实施。

1986年下半年，随着军队建设的需要，中央军委常务会决定实行新的军衔制。

1988年7月1日，规定军官军衔设3等11级：一级上将、上将、中将、少将；大校、上校、中校、少校；上尉、中尉、少尉。

1994年5月12日，修改后的现役军官军衔设3等10级，即取消原条例中的一级上将军衔，明确规定“中央军事委员会主席不授予军衔”，“副主席的职务等级编制军衔为上将”。

1995年9月10日，规定预备役军官军衔设3等8级：少将；大校、上校、中校、少校；上尉、中尉、少尉。

中国现近代军衔：
近代

北洋军<军衔>

将官：上将、中将、少将。

校官：上校、中校、少校。

尉官：上尉、中尉、少尉、准尉。

士官：上士、中士、下士。

士兵：上等兵、一等兵、二等兵。

国民革命军<军衔>

将官：(特级、一级、二级)上将、中将、少将.

校官：上校、中校、少校。

尉官：上尉、中尉、少尉、准尉

士官：上士、中士、下士。

士兵：上等兵、一等兵、二等兵。

现代

（2009年后）军官军衔设下列三等十级：

将官：上将、中将、少将；

校官：大校、上校、中校、少校；

尉官：上尉、中尉、少尉。

士官：一级军士长、二级军士长、三级军士长、四级军士长、上士、中士、下士。

兵：上等兵、列兵。

军官军衔对应肩章从低到高是：

尉官：一杠一星，少尉；一杠二星，中尉；一杠三星，上尉。

校官：两杠一星，少校；两杠二星，中校；两杠三星，上校；两杠四星，大校。

将官：金色橄榄枝加一颗金星，少将；金色橄榄枝加二颗金星，中将；金色橄榄枝加三颗金星，上将。