Я собирал кластер на основе nginx и нескольких backend серверов с апачем. Система распределения нагрузки мне в нем понравилась. веб-фолдер замаунтил по nfs (хотя думаю что AFS будет даже лучше, небыло времени играться), перевел сессии на МуСКЛ (если маунтить по nfs и сессии то работает очень медленно, а над тем как еще можно сделать небыло времени/желания думать).
В принципе под ДДОС атакой за полчаса получилось перенести все проекты на сервере на такую систему, т.е. поднимается достаточно легко. Единственное, чего у меня нет, так это кластера БД. Есть отдельный сервер СУБД для сессий, но это все. Тоже думаю над master-master в MySQL.
Кластер в данном случае я собирал не столько для надежности, сколько для того чтобы ДДОС пережить, потому в схеме есть центральный сервер (тот, где nginx крутится), который если ляжет, то все.. в плане отказоустойчивости не сильно хорошо.
Учитывая последний момент (и то, что все мои сервера имеют прямые инетные адреса), выход из данной ситуации я вижу такой: nginx с настроенными backend серверами поднимается на всех машинах, а не на одной и делается round bobbing DNS, т.е. динамический IP для домена, который для разных клиентов указывает на разные сервера.
Хотя мне этот вариант так-же не сильно нравится в плане надежности, но если случиться что-то плохое с каким-то из серверов, то 80% клиентов (в случае 5ти серверов) будут сайт нормально видеть. А там можно со скриптами поиграться, которые проверяют все сервера каждую минуту и, если какой-то лежит, то или в ДНС правку делают соответствующую либо меняют что-то в конфигах серверов/роутеров так, чтобы под IP упавшего сервера был виден другой, исправный.
Лично меня вариант с одним nginx на надежном сервере вполне устраивает, тем более, что второй, который с динамическим адресом в моем случае неприменим.
И еще, по поводу OpenVZ. Полгода назад ее виртуальные машины не умели работать со свопом. Т.е. оператива заканчивается и все сервисы вылетают. Это плохо, может, правда, уже поправили.