Родился в богатой купеческой семье Константинополя. Род Раллисов происходил с острова Хиос. Получил своё первоначальное образование на острове Халки Мраморного моря. Продолжил свою учёбу в Лондоне, где работал служащим в фирме Раллис — Маврояннис. В 1875 году он отправился в Париж, где учился живописи в Школе изящных искусств, в мастерской Жана Жерома. Работы Раллиса были впервые выставлены в Парижском салоне 1875 года. Был членом «Общества французских художников», которое наградило его знаком почёта в 1885 году и серебряной медалью в 1889 году. Несколько позже, его работы были выставлены на выставках Королевской академии художеств Лондона.
В 1885 году Раллис получил греческий Орден Спасителя и в том же году он получил французское гражданство. В 1900 году Раллис стал кавалером Ордена Почётного легиона. В том же, 1900, году он был членом жюри Всемирной выставки в Париже. Совершил множество путешествий в Грецию, Малую Азию, Палестину и Египет, собирая материалы для своих работ.
Его жизнь протекала между Парижем и Каиром, где Раллис открыл и содержал свою вторую мастерскую. В Каире Раллис жил в зимние месяцы до 1904 года.
В 1885 году посетил Афон. В 1896 году Раллис выставил свои работы на «Первой египетской выставке» (Александрия). После первой Олимпиады современности 1896 года и до самой своей смерти, он неоднократно выставлял свои картины в Афинах, не в последнюю очередь в силу своей дружбы с первым президентом Международного олимпийского комитета (МОК) Димитриосом Викеласом. В Греции получил серебряные медали на выставке «Олимпия» в 1888 году и на «Международной афинской выставке» 1903 года. Своим завещанием Раллис оставил имущество и несколько своих работ Национальной галерее Греции. Завещание было принято Национальной галерей в 1910 году. В 1911 году в Париже был учреждён «Приз Теодора Раллиса». В 1912 году в Греции был проведен первый «Конкурс Раллиса».
Под влиянием Жерома, Раллис обратился к тематике, экзотического для европейцев, Востока. Но при этом «Восток» Раллиса — это, в основном, современный ему Восток и характеризуется бόльшим реализмом. Первая известная «восточная» работа Раллиса это «Египетский солдат» 1878, в которой Раллис следует формам академической живописи и в которой прослеживается влияние Жерома. В числе любимых тем художника были религиозные сцены православного эллинизма, в которых лица полны благочестия и невинности.
