結論：
ログイン時の[OK]ボタンをShiftを押しながらクリックして、デスクトップが落ち着くまで押しっぱなしにするとスタートアップフォルダの中身を実行しないでデスクトップを起動することができます。
いやー。
メンテのためのバッチファイルを作成してテストしている途中、無限ループになるバッチをスタートアップに突っ込んで、そのまま再起動してしまったからさあ大変。
で、どっかでWin95(or 98)ではWindowsロゴが表示されているときにShift押しながらログインすればスタートアップを実行しないで起動できるという情報を見て、XPでもその機能は残ってるんじゃないかと予想。
XPだったらどこのタイミングよ?ということでログイン時にShiftキーを押しっぱなしにしてみたところ、ビンゴでした。
いや、あせったわ～。
XP SP3で確認しました。