Пусть х км/ч - скорость течения реки, тогда скорость катера против течения 12-х км/ч, по течению 12+х км/ч. Против течения катер шёл 20/(12-х) ч, по течению 14/(12+х) ч, всего, по условию, 3 часа. Решаем уравнение:

20/(12-х) + 14/(12+х) = 3 - умножаем обе части на (12-х)(12+х)

20(12+х)+14(12-х)=3(12²-х²)

240+20х+168-14х=432-3х²

3х²+6х-24=0

х²+2х-8=0

D=2²+4·8=36

x=-4 - скорость не может быть отрицательной

х=2 км/ч - скорость течения реки