Создан в 1946 году как Научно-исследовательский артиллерийский институт реактивного вооружения № 4 (тогда в составе 20 научных и 20 вспомогательных лабораторий, а также 16 испытательных лабораторий). Это положило начало всей ракетно-космической отрасли страны.
В институте впервые в стране были разработаны (группа М.К. Тихонравова) предложения по изучению космического пространства с помощью ИСЗ (первая половина 50 гг.), проведены многие другие исследования.
За время существования института подготовлено более 100 докторов и 2000 кандидатов наук, 19 лауреатов Ленинской и 35 - Государственной премии. Генерал-лейтенанты Г.А. Тюлин, Ю.А. Мозжорин, Е.Б. Волков, И.В. Мещеряков удостоены звания Героя Социалистического Труда. На Боевом Знамени института два ордена. Огромны заслуги института в прошлом, но не менее значимы и в настоящем времени. Более 50% научных сотрудников являются дипломированными учёными.
С 1 декабря 2010 г. проведена очередная реорганизация ФГУ «4 ЦНИИ Минобороны России».