В лекции http://mathprofi.ru/linejnye_preobrazovanija.html для перевода оператора A в другой базис указана формула A' = T^(-1)AT, где T матрица перехода из базиса Е в Е'.

Возьмем вектор x из E. Ax = y. Применив A к x получили вектор y в E.

Tx = x' получили x в базисе E'. A'x' = y'. Заменим A' по формуле на T^(-1)ATx' = y'.

Так вот, судя по этому нужно зачем то x' перевести в E' с помощью T, хотя он же уже в E', Потом применяем оператор A, а потом с T^(-1) возвращаем в E. Но у нас вектор y' который в E'. 

и второе разложим еще больше формулу A'x' = y', T^(-1)ATx' = y', T^(-1)ATTx = y',  T^(-1)T^(-1)ATTx = y, какой геом смысл в TT и T^(-1)T^(-1)