Предположим на компьютере клиента только что установленный Win.

Он запускает с флешки Firefox Portable.

Как сделать, чтобы он имел возможность

1) просматривать PDF файлы с момощью FoxIt Reader Portable (щелчком по ссылке)
2) Открывать в OpenOffice Portable doc/xls/... файлы.

Все эти Portable приложения находятся на флешке. Как их связать друг с другом?

А выбрать при открытии файла в "открыть с помощью" приложение, и поставить галочку "запомнить выбор", не получается?

Если тип файла уже есть в перечне обрабатываемых, то поменять используемое для его открытия расширение можно вручную. Если нет - кажется, было расширение для добавления обрабатываемых Файрфоксом типов файлов, MIME Edit