Explicație pas cu pas:
Am scris câteva explicații și pe foaie, dar dacă nu înțelegi, aștept întrebări. La punctul b) e teorema Kronecker Capelli care spune ca un sistem este compatibil daca rangul matricei coeficienților este egal cu rangul matricei extinse.
Tie îți cere sa arati ca e incompatibil pentru a=b=1, dar pt a=b=1 rangul matricei coeficienților (adică al lui A) este 2. Asa ca este suficient sa arati ca exista un minor de ordin 3 al matricei extinse si ca astfel rangul ei este 3 si nu 2. Deci ca rangul matricei coeficienților este diferit de cel al matricei extinse, asa ca sistemul este incompatibil.