Вы писали:
Программа хочет, чтобы она функционировала во времени, т.е. ЖИЛА.

Вот, собственно, вы и указываете водораздел свободы, которой на самом деле не бывает. Работа программы ДОЛЖНА быть изначально таким образом организована, чтобы программа захотела жить. Инстинкт самосохранения типа, уровень, где программа не может вносить изменения. ДОС, так сказать... Так что субъект ваш изначально запрограммирован ущербным. Программа, предоставленная сама себе полностью, со способностью модифицировать все уровни, сразу же зависнет, и без внешних ограничений на способы функционирования она не только развиваться, даже существовать не сможет. Это не технический вопрос, это вопрос свободы, а ее нет, потому нет и подобных решений. Супер-интеллект будет создан, с этим никто не спорит (если успеем до сингулярности), но он будет с признаками инициированной нами лоботомии. А в остальном - просто супер.