1.Gabriel's Oboe
2.The Falls - Album Version
3.Playing Love from The Legend of 1900
4.Nostalgia from Cinema Paradiso
5.Looking for You (Love Theme) from Cinema Paradiso
6.Malena (Main theme)
7.Remembering (Ricordare)*
8.Deborah's Theme from Once Upon A Time In America
9.Cockeye's Song from Once Upon a Time in America
10.Main Theme from Once Upon a Time in America
11.Main Theme from Once Upon a Time in the West
12.Ecstasy of Gold from The Good, the Bad, and the Ugly
13.Main Theme from Casualities of War
14.Death Theme from The Untouchables
15.Journey from Moses
16.Theme from Moses
17.Main Theme from Marco Polo
18.Dinner
19.Nocturne

Ма родился в семье китайских родителей-музыкантов, певицы Марины Лу Явэнь (卢雅文) и дирижёра и композитора Ма Сяоцзюня (马孝骏). Семья переехала в Нью-Йорк, когда Ма было семь лет.

Ма начал играть на скрипке, альте и виолончели в четырёхлетнем возрасте. В возрасте пяти лет Ма впервые выступил перед публикой, а в семилетнем возрасте появился на американском телевидении в концерте под управлением Леонарда Бернстайна. В пятнадцать лет Ма окончил школу и выступил как солист с Гарвардским Оркестром Рэдклифа в исполнении «Вариаций на тему рококо» Чайковского. В дальнейшем Йо-Йо Ма учился в Джульярдской школе, Колумбийском университете, а затем и в Гарвардском университете.

Впрочем, к этому времени выступления со знаменитыми оркестрами постепенно обеспечили ему мировую известность. Положительный отзыв, в частности, получили его записи и исполнения сюит для виолончели И. С. Баха, а также исполнения камерной музыки, особенно с пианистом Эммануэлем Аксом, его близким другом по Джульярдской школе.

В 1977 году Ма женился на своей давней подруге — альтистке Джил Хорнор. У них двое детей, Николас и Эмили. Старшая сестра Ма Юю, Ма Ючэн (馬有乘), также родившаяся в Париже, скрипачка, замужем за гитаристом Майклом Дэдапом из Нью-Йорка. Вместе они руководят Обществом Детских Оркестров (ОДО) на Лонг-Айленде.

Сейчас Ма играет в собственном ансамбле (Silk Road Ensemble), целью которого является объединение музыкантов из разных стран, которые исторически связаны вокруг Великого Шёлкового Пути. Записи под маркой Sony Classical.

Основной концертный инструмент Ма — Доменико Монтаньяна, виолончель венецианской работы 1733 года. Этот двухсотсемидесятилетний старинный инструмент по имени Петуния, стоимостью 2,5 миллиона долларов, был случайно забыт Ма в одном из Нью-Йоркских такси, однако был впоследствии благополучно найден. Ма также играет на страдивариевской виолончели Давыдова, которая прежде принадлежала Жаклин Дю Пре и была передана Ма после её смерти Вюттоновским музыкальным обществом. Дю Пре прежде высказывалась о «непредсказуемости» инструмента, но Ма склонен отнести это на счёт импульсивной манеры её игры, хотя, добавляет он, нужно «нежно успокоить» Страдивари перед исполнением. Инструмент настроен исключительно на манер барокко с тех пор как Ма играет на нём. Ещё у Ма есть инструмент из углепластика, сделанный фирмой Луи и Кларк из Бостона.

В 1994 году участвовал в записи саундтрека к фильму «Прах времён». В 1997 году Ма был представлен в саундтреке к голливудскому фильму «Семь лет в Тибете» с Бредом Питтом, в 2000 году — в саундтреке к фильму «Крадущийся тигр, затаившийся дракон». В 2005 году участвовал в записи саундтреков к фильму «Мемуары гейши» на музыку Джона Уильямса (виолончель, соло).