Ефим Копелян родился в маленьком белорусском городке Речице в еврейской семье, где помимо Ефима было еще пять сыновей. 
Отец его Залман Давидович Копелян был лесозаготовителем. Но при этом настолько мудрым человеком, что все соседи советовались с ним, как с раввином. Мать Маша Мордуховна была очень яркой, красивой женщиной с выразительнейшими чертами лица, которые позаимствовал у нее сын Ефим — огромные карие глаза, густые черные брови.

В 1929 году Ефим, окончив школу, решил пойти по стопам двух своих братьев и отправился в Ленинград учиться на архитектора. Но «неисповедимы пути Господни». Копелян испытывал достаточно сильную материальную нужду, поэтому подрабатывал и токарем в вечернюю смену, и актёром массовки в постановках Большого драматического театра. В итоге театр настолько покорил его, что Ефим решил учиться в студии. В труппу БДТ он был зачислен по окончании обучения.