Признаться, вот эта фраза
повергает в ступор, потому что студент же видит обе матрицы! Соответственно он видит - не может не видеть, - равны они или нет! И раз приравнял, значит, видит, что они равны, разве нет?
Поэтому отвлечёмся от слепого студента и рассмотрим задачку в общем виде.
Перво-наперво, необходимым условием того, что обратная матрица равна транспонированной, является равенство 1 определителя матрицы (с точностью до знака). Потому что для обратной матрицы определитель равен 1 делить на определитель исходной, а для транспонированной определитель тот же, что у исходной.
И такое, вообще говоря, возможно. Более того, для матрицы, у которых обратная равна транспонированной, существует специальное название: ортогональная матрица. Условием ортогональности матрицы является то, что её строки и столбцы ортонормированы, то есть скалярное произведение строки на любую другую строку равно 0, а на саму себя равно 1.
Как пример можно взять любую матрицу поворота осей координат. Такая матрица ортогональна. Если поворот совместить с отражением, то это тоже будет ортогональная матрица, но её определитель будет равен -1.