1 октября 1929 г. на базе ремонтных мастерских коксохимзавода возник Кемеровский механический завод, он входил в состав треста «Сибуголь». Уже 1 марта 1930 года заработал литейный цех, спустя два месяца - механический. Предприятие было частью программы индустриализации Кузбасса. В довоенное время завод выполнял заказы по оборудованию новых шахт Кузбасса. Военный период — особая страница в истории завода. Он передается в подчинение Наркомату боеприпасов и с сентября 1941 года завод был перепрофилирован для изготовления военной продукции. Непрерывным конвейером пошли на фронт снаряды. Предприятие принимает эвакуированных — Ногинский завод грампластинок — оборудование и людей. Оборудование разместили в цехах, а семьи приехавших приняли в свои дома и квартиры заводчане. Мощность завода увеличилась. Предприятие перевыполняет государственные задания 1942, 1943, 1944 годов. Наркомат боеприпасов постоянно отмечает успешную работу коллектива в годы Великой Отечественной войны.

В послевоенные годы часть машиностроительных мощностей была переориентирована на выпуск оборудования для сельского хозяйства — сельхозмашин, режущих частей к ним и пр. На заводе проводится частичная реконструкция, переоснастка технологических линий, разворачивается движение рационализаторов и изобретателей. С 1955 года ведется работа по выпуску новой продукции — подборщиков к зерноуборочным комбайнам.

В перестроечные годы сокращение государственного заказа привело к необходимости искать рынки сбыта продукции и соответственно перестраивать производство. Но удалось сохранить кадровую основу коллектива и «держать под парами» основные мощности.

Теперь КМЗ — это федеральное государственное унитарное предприятие военно-промышленного комплекса России. Имеет постоянный государственный заказ. За счет свободных площадей и двойных технологий освоен выпуск запчастей к легковым автомобилям и сельхозмашинам. Со своими изделиями вышли на рынки спортивного и школьного инвентаря.

В 2012 г. ОАО "КМЗ" присоединился к структуре холдинговой компании ОАО "НПК "Техмаш", который входит в состав госкорпорации "Ростехнология".