Ele é substituído pelo número do histórico, mesmo se eu tentar escapar dele com uma barra invertida.
Responder1
Não há necessidade de escapar se você quiser apenas um ponto de exclamação no prompt.
PS1='foobar!'
Veja o que acontece.
Como posso escapar de um ponto de exclamação na variável de ambiente PS1?