Монастырь VI века Ванис-Кваби, имеющий до 9 ярусов или этажей подземных помещений представляет собой пещерный город. Подъём в эту обитель возможен только с помощью верёвок и специального снаряжения. Рукотворные пещерные города-монастыри и города-крепости часто встречаются в горах Кахетии и Картли. Среди них известны Самсар и Уплис-Цехе (вблизи Гори). В первом замечателен высеченный в вулканических породах пещерный купольный храм XII века с изящными колоннами и арками. Во втором - античный пещерный театр, созданный в песчаниках ещё в начале новой эры.

В долине реки Кавтуры, впадающей в Куру выше Тбилиси, находится Наберали - группа из трёх пещер, соединённых между собой проходами. Средняя пещера снабжена «лифтом» - балками, с помощью которых и крепившихся к ним верёвок поднимали вверх, в пещеру, человека или груз. Неподалёку, на высоте 1300 м над уровнем моря, на левом берегу реки Куры, в огромной скале вулканического происхождения разместился самый выдающийся пещерный город - монастырь Вардзиа.

Летопись Грузии рассказывает, что строительство Вардзии начал в XII веке грузинский царь Георгий III, а заканчивала его дочь, царица Тамара. Сохранившиеся в главном храме фрески изображали Тамару, держащую в руках план Вардзии, её отца в парадных облачениях и мужчину за их спинами - по преданию, Шота Руставели, служившего у царицы Тамары казначеем.

Вардзиа - это почти отвесный срез высокой конусообразной горы, и в этом срезе, точно пчелиные соты, зияют чёрные отверстия пещер. Попасть в пещеры в прошлом можно было сверху по верёвке, спущенной с обрыва. Ныне в пещерный город снизу ведёт тропа к маленькой железной двери, за которой находится подземная обитель.

Вардзиа создана безвестными строителями как естественная крепость и способна была выдержать длительную осаду врага. В распоряжении обитателей были двухкомнатные, трёхкомнатные и даже четырёхкомнатные квартиры, состоящие из притвора, главной комнаты и кладовой. У всех «встроенная», высеченная в скале, «мебель» - скамьи и очаги, ниши для сна, складывания постели, посуды, книг, светильников.

Центром монастыря был подземный двухъярусный храм Успения Богоматери. Фрески, украсившие стены церкви, созданы в 1186 году, и эту дату историки считают годом рождения Вардзии. Живопись главного храма восстановлена. Во время работ обнаружили надпись, которую, как оказалось, оставил правитель Картли, эристави Рати Су-рамели. Это он стоит за спиной царицы, а не поэт Шота Руставели, как считалось прежде.

От церкви Успения, высеченной в глубине скалы, расходятся по разным ярусам кельи и подсобные помещения различного назначения и специально оборудованные: тронный зал и судилище с каменными скамьями по стенам и углублением в стене для трона, комнаты царицы Тамары, большое количество внутренних малых церквей с тайниками, винные погреба, хлебопекарни, трапезная, конюшни, погреба, кузница, аптека, библиотека.

Неподалёку от главного храма начинается тоннель, ведущий вглубь скалы, к роднику с глубоким бассейном, наполненным отличной питьевой водой и способным обеспечить всех жителей города, число которых доходило до 20 тысяч человек. Согласно поверью, воды родника священны. Протяжённость водопроводов достигает четырёх километров. Глиняные двойные трубы идут в различных направлениях. Одна труба меньшего диаметра вложена в другую - большего, так что между ними остаётся пространство. Кроме водоснабжающей системы имелись трубы, подававшие молоко с верхнего яруса, где были пастбища скота.

В Вардзии сохранилась разветвлённая система подземных ходов в рост человека. Все пещеры связаны между собой. Найденные следы бесчисленных замурованных потайных ходов, многокилометровых тоннелей свидетельствуют о сложной оборонительной технике пещерного города. Всего, по разным оценкам, в монастыре было от 1500 до 600 помещений.

Три с половиной столетия враг не мог одолеть Вардзию, но в 1551 году персидский шах Таммах, воспользовавшись помощью изменников, завоевал её и всё, что было ценного в обители, вывез. Не успели жители восстановить свой быт, как в конце XVI века горный район был захвачен турками, начались гонения на христиан, и монахи вынуждены были уйти из Вардзии навсегда. Вместе с собой они унесли тайну места захоронения царицы Тамары. Известно лишь, что она любила навещать созданный ею монастырь. Народные легенды уверяют, что по завещанию царицы её прах был погребён в одном из тайных подземелий.