Não sei por que essa equação contém erros. Obrigado se você puder me ajudar.
\documentclass{article}
\usepackage{array}
\usepackage{amssymb,amsthm,amsmath}
\begin{document}
\begin{equation*}
\left[h(t)-\lambda t\right]_k=h_{k}-\frac{\lambda}{2 \pi}\int_{0}^{2\pi}e^{i\theta(1-k)}d\theta= \left\{\begin{array}{lcm}
h_{k}-\lambda & if & k=1 \\
\\ h_{k} & if & k \neq 1 \\
\end{array} \right. \\
\end{equation*}
\end{document}
Responder1
O tipo de coluna mestá errado. Além disso, você tem um rastro \\que não pertence a esse lugar.
No entanto, você deve usar cases.
\documentclass{article}
\usepackage{amssymb,amsthm,amsmath}
\begin{document}
\begin{equation*}
[h(t)-\lambda t]_k
= h_{k}-\frac{\lambda}{2 \pi}\int_{0}^{2\pi}e^{i\theta(1-k)}\,d\theta
= \begin{cases}
h_{k}-\lambda & \text{if $k=1$} \\[2ex]
h_{k} & \text{if $k \neq 1$}
\end{cases}
\end{equation*}
\end{document}
Observe que removi o \lefte \right; Eu adicionei \,na frente do símbolo diferencial.
