Существует легенда о том, что уже в VI веке до н.э. Конфуций семь дней беспрерывно наслаждался звучанием мелодий на «ребрах тигра» (металлических пластинах, издающих звуки различной высоты), считается, что этот механизм изобрел в 1796 году швейцарский механик Антуан Фавр.
В Западной Европе этот механический музыкальный инструмент появился в конце XVII века. Поначалу это был «птичий органчик» для обучения певчих птиц, а затем его взяли «на вооружение» бродячие музыканты.
Так появился музыкальный инструмент для тех, кто не умеет играть. Крутишь ручку — раздается музыка. Чаще всего звучал тогдашний шлягер «Прелестная Катарина» (по-французски «Сharmant Katarina») От названия песенки и произошло название инструмента — шарманка.

В Россию шарманка пришла в начале XIX века, и знакомство россиян с новым инструментом началось именно с французской песенки «Шарман Катрин». Песенка сразу всем очень понравилась, а к инструменту прочно пристало название «катеринка», или «лее шарманка».
Есть ещё предположение, что первичным было название не шарманка, а ширманка.
«…И произошло от ширм, из-за которых Пульчинелла, почти всегдашний спутник шарманщика, звонким своим голосом призывает зевак и любопытных появившиеся у нас оргАны были неразлучны с кукольною комедиею» (очерк «Петербургские шарманщики» из «Физиологии Петербурга» Д. В. Григорович).
Голландцы утверждают, что первая шарманка появилась на их родине. И было это лет 500 назад. Однако из вещественных доказательств у них есть только чертеж конца XV века — столь ветхий, что на нем трудно что-либо разобрать. Из тех образцов, что дошли до нас, самый древний был сделан во Франции в начале XVII века.

Зачастую нам кажется, что шарманка — это просто большая музыкальная шкатулка и мелодия рождается в ней с помощью валика со штырьками и железной пластинки с «хвостиками». Валик крутится, расположенные в нужном порядке штырьки задевают за «хвостики» — вот вам и «На сопках Маньчжурии». Однако не все так просто. Да, существуют шарманки с таким механизмом и даже с механизмом ксилофона, когда штырьки валика задевают музыкальные молоточки, ударяющие по металлическим клавишам, но это уже производные.

Настоящая шарманка — почти орган, и ее устройство намного сложнее, чем мы думаем. Чтобы шарманка заиграла, нужно сначала повернуть ее ручку — ворот. Эта ручка приводит в движение сразу два механизма: штырек, закачивающий воздух в мехи внизу инструмента, и музыкальный валик с нанесенными углублениями — шпильками. Валик, вращаясь, приводит в движение рычаги, которые, цепляясь за шпильки, двигаются вверх-вниз в заданном порядке. В свою очередь, рычаги приводят в движение трости, которые открывают и закрывают воздушные клапаны. А клапаны контролируют подачу воздуха в трубы, аналогичные органным, благодаря которым и звучит мелодия.

Крутя ручку, шарманщик мог воспроизвести 6?8 мелодий, записанных на валике. Такие «кулачковые устройства» были известны еще со времен античности: маленькие выступы-«кулачки» крепятся на вращающихся цилиндрах или дисках, попеременно включая звучание той или иной ноты.
На одном валике записывалась только одна мелодия, но валик было нетрудно заменить. В 20-м веке вместо валиков стали использовать перфорированные бумажные ленты, на которых каждому звуку соответствует определенное отверстие. Нередко шарманка снабжается е приспособлением, которое специально звук прерывистым и дрожащим, чтобы лучше удавалось «выжать слезу» у слушателей.
Но еще бывали язычковые шарманки — сейчас они попадаются в качестве детских игрушек.
Интересно: со временем колки шарманки стирались, звук становился невнятным и навязчивым – отсюда «Ну, опять свою шарманку завел!..»

Кукольники для своих представлений объединялись с шарманщиками, и с утра до вечера ходили с места на место, повторяя помногу раз приключения Петрушки. Актёр таскал на плече складную ширму и узел, или сундучок с куклами, а музыкант – тяжёлую, до тридцати килограммов, шарманку.

Остановившись на сельской базарной площади, музыкант опирал на ногу-подставку шарманку, и начинал играть, собирая зрителей. Петрушечник же в это время, зайдя внутрь ширмы, перекладывал кукол в большой карман, нашитый на уровне его груди на ситец одной из рам, брал в рот «пищик», и представление начиналось.

Шарманщик всегда был партнером по очень важной причине – речь Петрушки из-за пищика была недостаточно внятной, и шарманщик, ведя диалог, повторял фразы, помогая таким образом зрителям понимать смысл его слов.
Ещё шарманщик выступал и в роли «понукалки» — представлял зрителям Петрушку, спорил с ним, подсказывал, предупреждал или пытался отговорить от дурных поступков, играл на шарманке или других музыкальных инструментах, когда по ходу действия были необходимы музыкальные вставки.
Когда представление заканчивалось, музыка смолкала, редкие медяки падали в шапку, положенную на землю возле ширмы; потом актёры собирали свои пожитки, и шли дальше, в следующий двор, или следующую деревню.

100—200 лет назад шарманщики ходили по дворам и играли популярные романсы, вальсы или любимые в народе массами песни вроде «Разлуки» Жители окрестных домов слушали уличную музыку и бросали шарманщику из окон мелкие монетки. Иногда у шарманщика на плече сидела обезьянка, которая участвовала в выступлении, — она строила рожицы, кувыркалась на земле и даже танцевала под музыку.
Или же компаньоном был большой попугай, который за копеечку вынимал из коробки свернутые в трубочку билетики «со счастьем» – на бумажке было написано, что ожидает человека в будущем. И ведь верили… Часто вместе с шарманщиком ходил совсем маленький мальчик и тоненьким голоском пел жалобные песни (о судьбе уличных музыкантов лучше всего почитать роман Гектора Мало «Без семьи»).