El colegio fue fundado el 23 de enero de 1948 durante el gobierno de José Luis Bustamante y Rivero, con la denominación de Colegio Nacional. Funcionó inicialmente en una casona de Lince. Dos años después se trasladó a una nueva sede más amplio de 50 184 m² , siendo inaugurado con el rango de Gran Unidad escolar en 1950 durante el gobierno del General Manuel A. Odría. Fue bautizado con el nombre del ilustre marino peruano que luchó en la guerra del Pacífico: Manuel Melitón Carvajal Ambulódegui (1847 – 1935), compañero del Almirante Miguel Grau y uno de los comandantes del monitor Huáscar, que tuvo un heróico comportamiento en el Combate de Angamos. Sus primeros Directores fueron: el profesor J. Franco (1948-50) y el filósofo Julio A. En el año 2009, en el segundo gobierno del presidente Alan García, el colegio Melitón Carvajal fue incluido en el Programa Nacional de Recuperación de las Instituciones Públicas Educativas Emblemáticas y Centenarias, con el fin de modernizar y reforzar la infraestructura y brindar en los colegios estatales, una educación de excelencia con igualdad de oportunidades para todos. La estructura remodelada fue inaugurada y entregada a la comunidad el día 26 de mayo del 2010, en una ceremonia que contó con la presencia de presidente Alan García y el ministro de Educación, José Antonio Chang Escobedo. Actualmente denominada “Institución Educativa Emblemática Melitón Carvajal” con el modelo de Jornada Escolar Completa. La actual Directora designada por concurso: Mg. Consuelo Elizabeth Soto Meza y su equipo directivo conformado por: Mg. Manuel Tomás Gonzales Benites, Lic. Rubén Darío Ramos Morales, Lic. Miguel Ángel López Paredes y Lic. Liliana Esther Olaya Saldarriaga.