Karangrejo berasal dari 2 kata, yaitu karang yang berarti batu atau pekarangan atau hutan , dan -rejo yang berarti ramai atau sejahtera. Desa Karangrejo berdiri antara tahun 1825 - 1833 pada masa berkobarnya Perang Diponegoro. Konon menurut cerita, Dusun Karangjati ( Desa Karangrejo sekarang) dijadikan markas besar. Ditempat ini Pangeran Diponegoro menyusun kekuatan pada saat perang melawan Belanda.
Berikut nama- nama kepala desa yang pernah menjabat :
I Dari Tahun 1901 – Tahun 1946 adalah Glondong H Thayib
II Dari Tahun 1946 – Tahun 1986 adalah Kasan Dimejo
III Dari Tahun 1986 – Tahun 1994 adalah Patnani
IV Dari Tahun 1994 – Tahun 2002 Sutinah Rahayu
V Dari Tahun 2002 – Tahun 2012 adalah Slamet Rahardjo
VI Dari Tahun 2012 – Tahun 2018 adalah Ngateman
VII Dari Tahun 2019 - Sekarang adalah Patnani