Powershellでは、正規表現の指定はシングルクオートで行いましょう。
上図では1つめがダブルクオートで、2つめがシングルクオートで正規表現を指定しています。
2つめのシングルクオートで指定した場合は、$1のキャプチャが正常に動作しているのに対して、1つめのダブルクオートで指定した場合は動作していません。
Powershellではダブルクオート内の$○○は変数展開されるので、1つめの場合は”$1″変数が展開されてしまっているというオチです。
ぱっと見ではわかりにくい障害になるので、そもそもPowershellで正規表現を使う場合はシングルクオートで指定する、というのが良さそうです。