Песня была частью сюиты, написанной композитором А. Новиковым и поэтом Яковым Шведовым в 1940 году по заказу ансамбля Киевского Особого военного округа. В ней воспевалась девушка-партизанка времён гражданской войны. А вся сюита посвящалась Григорию Ивановичу Котовскому. Однако песня в довоенные годы так и не исполнялась. Клавир её был потерян. У авторов остались только черновики. Композитор вспомнил об этой песне четыре года спустя, когда ему позвонил художественный руководитель Краснознамённого ансамбляА. В. Александров и попросил показать песни для новой программы этого прославленного художественного коллектива. В числе других Новиков показал и «Смуглянку», которую прихватил на всякий случай. Но именно она и понравилась Александрову, который тут же начал её разучивать с хором и солистами.

Впервые ансамбль спел песню в Концертном зале имени Чайковского в 1944 году. Запевал её солист Краснознамённого ансамбля Николай Устинов, которому песня эта в значительной степени обязана своим успехом. Концерт транслировался по радио. «Смуглянку» услышало, таким образом, очень много людей. Её подхватили в тылу и на фронте. Песня, в которой говорилось о событиях войны гражданской, была воспринята как песня о тех, кто героически боролся за освобождение многострадальной молдавской земли в Великую Отечественную войнуПесня звучала и в фильме «В бой идут одни „старики“» 1973 года.