
Responder1
A sintaxe \cal{R}
está errada desde o primeiro dia do LaTeX.
Antigamente, a maneira correta de obter um “R” caligráfico era
{\cal R}
mas há cerca de 30 anos a nova sintaxe
\mathcal{R}
foi proposto e o antigo foi descontinuado.
\documentclass{article}
\usepackage{amsmath}
\usepackage{amsthm}
\theoremstyle{definition}
\swapnumbers
\newtheorem{definition}{Definition}
\newcommand{\cR}{\mathcal{R}}
\newcommand{\cH}{\mathcal{H}}
\newcommand{\id}{\mathit{id}}
\begin{document}
\begin{definition}
A quasitriangular Hopf algebra is a pair $(H,\cR)$ where $H$
is a Hopf algebra and $\cR\in\cH\otimes\cH$ and obeys
\begin{gather*}
(\Delta\otimes \id)\cR=\cR_{13}\cR_{23}, \quad
(\id\otimes \Delta)\cR=\cR_{13}\cR_{12},\\
\tau\circ \Delta h=\cR(\Delta h)\cR^{-1}, \forall h \in H
\end{gather*}
\end{definition}
\end{document}