Para conocer los orígenes de esta localidad enclavada en la Sierra de la demanda hay que remontarse a la Edad Media, época en la que era una de las pocas villas que no dependía de Salas de los Infantes, ya que en el siglo XIV era una de las pertenencias de don Nuño de Lara y don Pedro de Haro; esta situación se alargó hasta el año 1432, época en la cual Carazo pasó a manos de Pedro Fernández de Velasco, que le fue cedida mediante el Monasterio benedictino de Santo Domingo de Silos.
La villa de Carazo, rodeada por la peña de Carazo y por los montes Soncarazo y el Enebral, fue también ocupada en época romana, de la que aún quedan vestigios en el interior del pueblo, en la zona conocida como la Serna. Antaño, debido a su situación estratégica, estaba cruzada por una gran vía de comunicación construida por los romanos y que unía Clunia con Tritium Magallum.