Приказом ВМ СССР № 0231 от 21 декабря 1950 года были учреждены знаки для офицеров, окончивших средние военные училища (трехгодичный курс), Знаки отличались эмблемой рода войск. В нижней части знака до 1954 года указывался год окончания учебного заведения, позднее в соответствии с Приказом МО СССР от 21 августа 1954 года на шильд была помещена аббревиатура «СССР». С 1958 года эмблемы родов войск были заменены Гербом СССР и буквами «ВУ». В конце 50-х - начале 60-х годов большинство средних военных училищ преобразуются в высшие.  6 февраля 1961 года Приказом МО СССР № 24 был учрежден новый знак.