케일리 해밀턴 공식에 의해
A^2 -(a+b)A+(ad-bc)E=0 인데 주어진 식에 의해 ad-bc=0 이므로 A는 역행렬을 갖지 않는다.

위의 내용을 이용해서 풀면 될듯한데.
문제가 조금이상합니다. B=-A라는 것뿐 문제와는 상관이 없네요.
오타가 있는 것 같습니다.
그렇게 해야 답이 나올 듯합니다.

이차정사각행렬 A, X에 대하여 AX=E 이면 A의 역행렬은 X이다.
여기서 (A+3E)의 역행렬을 구하려면 (A+3E)X=E 로 놓고 X의 값을 구해야한다
근데 조건에서 A^2 =A, B=-A 이므로 X는 B와 E를 이용해서 나타낼 수 있다.
(A+3E)(aB+bE)=E 로 놓고 전개하여 정리하면
b= 1/3 , a= 1/12
따라서 X=1/12 B + 1/3E = -1/12A+1/3E