Построен в 1898 году на пожертвования московского купечества, институт стал старейшим научно-практическим учреждением Европы и первой онкологической больницей в России, где были заложены основы российской онкологической науки и службы.

Институт создал свою научно-клиническую школу, которую прошли многие ныне ведущие онкологи России и других государств.

В институте работали академики РАН - А.И. Абрикосов, Б.В. Петровский; члены-корреспонденты РАН - П.А. Герцен, Н.Н. Петров; академики РАМН - С.С. Дебов, Б.И. Збарский, Л.А. Зильбер, А.С. Зильбер, А.С. Павлов, А.И. Савицкий, Л.М. Шабад; члены-корреспонденты РАМН - Л.Н. Новикова, Б.В. Огнев, Б.Е. Петерсон и многие другие выдающиеся ученые, внесшие существенный вклад в развитие онкологии в России.

С 1922 по 1933 г. директором института был выдающийся ученый-хирург, основатель Московской школы онкологов П.А. Герцен. За значительный вклад П.А. Герцена в развитие института и онкологической науки в России в 1947 г. Центральному научно-исследовательскому онкологическому институту Наркомздрава РСФСР было присвоено его имя.

С 1982 г. по 2013 г. институт возглавлял академик РАМН, профессор В.И. Чиссов.

С 2013 г. по настоящее время директором института является академик РАН, профессор Андрей Дмитриевич Каприн. 

В 2014 году институт вошел как филиал в ФГБУ «НМИЦ радиологии» Минздрава России.

Андрей Дмитриевич Каприн назначен его Генеральным директором.