Responder1
Você pode brincar com o espaçamento:
\documentclass{article}
\usepackage{xcolor,amsmath}
\DeclareMathOperator{\suc}{Suc}
\begin{document}
By applying rule~2 (\texttt{apply\_rupple\_step}), the left hand side of the step-case is rippled to:
\[
\colorbox{orange}{\strut
case $b'$ of $0 \Rightarrow (\suc a) \mid (\suc z) \Rightarrow \suc(\colorbox{white}{$\max a \lfloor z \rfloor$})$%
}
{} = \max \lfloor b' \rfloor
\colorbox{orange}{\strut
$\suc \colorbox{white}{a}$%
}
\]
\end{document}
Em última análise, você pode usar apenas \colorbox{<color>}{<stuff>}
para destacar o conteúdo. Adicionei \strut
para garantir uma altura de linha de base consistente da caixa colorida resultante, além de usar texto onde parecia necessário. Observe que <stuff>
dentro de a \colorbox
está definido no modo de texto.