質問箇所だけを解説するなら、
aは正だから 3<a の両辺にaを足して、
3+a<a+a → 3+a<2a → a<2a-3
---------------------------
x²-(2a+3)x+a²+3a<0
→ (x-a)(x-(a+3))<0
aは0~4の間にあるので、
→ a<x<a+3…①'
x²+3x-4a²+6a<0
→ x²+3x-2a(2a-3)<0
→ (x+2a)(x-(2a-3))<0
aは3/4~4の間であれば、
→ -2a<x<2a-3…②'