Первоначальные сведения о MPI включают в себя использование программы mpiexec, но на самом деле эта программа просто оболочка (dirt in a wrapper). Используя эту программу отладка созданных приложений разрешается для GDB, однако я не фанат этого отладчика, ибо в Visual Studio отладчик приятнее сделан. Но отлаживать программу mpiexec при отсутствии исходных кодов нецелесообразно, а компилировать реализацию MPI нет настроения. Оказывается есть тупое решение в стиле Gumbo! Сначала надо прописать путь к devenv.exe в переменную окружения PATH, чтобы вызов devenv из командной строки завершался счастливо. После этого создается bat файл следующего содержания:
set PMI_ROOT_HOST=%COMPUTERNAME%
set PMI_ROOT_PORT=9222
set PMI_ROOT_LOCAL=1
set PMI_RANK=номер процессора
set PMI_SIZE=общее число процессоров
set PMI_KVS=mpich2
devenv имя.sln
Для отладки программы на N процессоров логично создать N файлов.
При их запуске запустится Visual Studio, из которого пожно запустить debug. Процессор 0 должен запускаться первым, т.к. он проводит инициализацию и много прочей фигни. Да, окошек с Visual Studio будет много, но любой аварийный вылет будет словлен соответствующим дебаггером со всеми прилагающимися прелестями - своим стеком, локальными переменными и т.п.