素朴に解いた例です
x³+ax²+bx+c を (x+1)² で割ると、商がx+(a-2)、余りが、(-2a+b+3)x+(-a+c+2)
余りが、2x+7 であることから、(-2a+b+3)=2、(-a+c+2)=7
整理すると、-2a+b=-1 ・・・ ① 、-a+c=5 ・・・ ②
x³+ax²+bx+c を (x-1) で割ると、商がx²+(a-1)x+a+b-1、余りが、(a+b+c-1)
余りが、17 であることから、a+b+c+1=17
整理すると、a+b+c=16 ・・・ ③
①,②,③ を連立方程式として解き、a=3,b=5,c=8