
решение1
Одним из решений является использование библиотеки tikzmark
:
\documentclass{article}
\usepackage{amsmath}
\usepackage{tikz}
\usetikzlibrary{fit, % new
tikzmark} % new
\usepackage{lipsum}
\begin{document}
\lipsum[1][1-2]
\[
\begin{pmatrix}
~\tikzmarknode{a}{\hat{A}}
& \hat{B} & \hat{C}^{-1} & D \\
~\tilde{A} & \tilde{B} & \tikzmarknode{b}{\tilde{C}^{-1}}
& D \\
\end{pmatrix}
\]
\begin{tikzpicture}[overlay,remember picture]
\node [draw=red, semithick, inner sep=2pt, rounded corners,
fit=(a) (b), label=below:{$=\Lambda^T$}] {};
\end{tikzpicture}
\vspace{2ex}
\lipsum[1][3-4]
\end{document}
что после двух компиляций дает:
Редактировать:
Другая возможность - нарисовать вашу матрицу как TiкМатрица Z. В этом случае вы не резервируете вертикальное пространство для метки узла, как это сделано \vspace{2ex}
в первом примере:
\documentclass{article}
\usepackage{amsmath}
\usepackage{tikz}
\usetikzlibrary{fit,
matrix}
\begin{document}
\begin{center}
\begin{tikzpicture}
\matrix (m) [matrix of math nodes,
left delimiter=(,right delimiter=)
]
{
\hat{A} & \hat{B} & \hat{C}^{-1} & D \\
~\tilde{A} & \tilde{B} & \tilde{C}^{-1} & D \\
};
\node [draw=red, semithick, inner sep=2pt, rounded corners,
fit=(m-1-1) (m-2-3), label=below:{$=\Lambda^T$}] {};
\end{tikzpicture}
\end{center}
\end{document}
что после одной компиляции дает:
решение2
Вот решение, не требующее загрузки каких-либо пакетов.
\documentclass{article} % or some other suitable document class
\begin{document}
\[
\begin{array}{@{}c@{}}
\left(\begin{array}{@{} |ccc|c @{}}
\cline{1-3}
\hat{A} & \hat{B} & \hat{C}^{-1^{\mathstrut}} & D \\
\tilde{A} & \tilde{B} & \tilde{C}^{-1} & D \\
\cline{1-3}
\end{array}\right) \\
\Lambda^{T}~
\end{array}
\]
\end{document}
решение3
Вот вариант с nicematrix
.
\documentclass{article}
\usepackage{nicematrix}
\begin{document}
\[
\begin{pNiceMatrix}[last-row, left-margin=.5em]
\Block[draw, rounded-corners]{2-3}{}\hat{A} & \hat{B} & \hat{C}^{-1} & D\rule{0pt}{3ex}\\[1ex]
\tilde{A} & \tilde{B} & \tilde{C}^{-1} & D\\
\Block{1-3}{\Lambda^{T}{\rule{0pt}{3ex}}}
\end{pNiceMatrix}
\]
\end{document}
При желании вы можете изменить цвет поля, установив
\Block[draw=red, rounded-corners]