Бермудский, ерунду пишут. Я сам собрал не одну программу по их технологии, в том числе и Firefox. Если сборку делать правильно, с полным отслеживанием системных изменений, то программа не оставляет следов в системе. Просто некоторые сборщики не заморачиваются полным отслеживанием, чтобы побыстрее собрать и лишь бы работало. Кстати, сам менеджер PortableApps, который служит для установки программ с их сайта, тоже портативный и можно носить с собой на флешке.