В качестве эксперимента разработан был уменьшенный вариант СМК — с одной башней. За счёт этого сократилась длина машины (на два опорных катка), что положительно сказалось на динамических характеристиках. В отличие от предшественника, КВ (так назвали экспериментальный танк) получил дизельный двигатель. Первый экземпляр танка был изготовлен на Ленинградском Кировском заводе (ЛКЗ) в августе 1939 года. Первоначально ведущим конструктором танка был А. С. Ермолаев, затем — Н. Л. Духов.

30 ноября 1939 года началась Советско-финская война. Военные не упустили случая испытать новые тяжёлые танки. За день до начала войны (29 ноября 1939 г.) СМК, Т-100 и КВ отправились на фронт. Их передали 20-й тяжелотанковой бригаде, оснащённой средними танками Т-28.

Первый бой КВ принял 17 декабря при прорыве Хоттиненского укрепрайона линии Маннергейма.

КВ всех модификаций использовались до самого конца войны. Но их постепенно вытесняли более совершенные тяжёлые танки ИС. 

По иронии судьбы, последней операцией, в которой КВ использовались в большом количестве, стал прорыв линии Маннергейма в 1944 году. Командующий Карельским фронтом К. А. Мерецков лично настоял на том, чтобы его фронт получил именно КВ (Мерецков командовал армией в Зимней войне и тогда буквально влюбился в этот танк). Уцелевшие КВ собрали буквально по одному и направили в Карелию — туда, где когда-то началась карьера этой машины.

К тому времени небольшое количество КВ всё ещё использовалось в качестве танков. В основном после демонтажа башни они служили как эвакуационные машины в подразделениях, оснащённых новыми тяжёлыми танками ИС.

Частично экранированный КВ-1, установленный у музея-диорамы «Прорыв блокады Ленинграда» возле г. Кировска