Чтобы превратить эту ошибку в завершающую, нужно использовать параметр ErrorAction. Он является общим параметром — то есть встроенным в каждый командлет PowerShell.