便宜上BD=EC=cとします
AD=a+c、AE=b-c、AD=AEなので
a+c=b-c b-a=2c・・・①、c=(b-a)/2・・・②となります
点Bを通りDEに平行な直線とACとの交点をPとする
するとPC=b-aとなり①の2cとなる
また、EC=cであるからPE=cである
点Pを通りACに垂直な線分を書くと∠PEF=45°、∠EPF=90°より三角形PEFは直角二等辺三角形になり、PF=cとなる
同様に点Fを通りADに垂直な線分を書き、その交点をQとする
すると∠QDF=45°、∠DQF=90°より三角形QDFは直角二等辺三角形となる
また、①のb-a=2cよりa=b-2cとなりこれはAPと等しい
よってAP=aでありFQ=aである
したがって三角形BDFの面積はBD×FQ×1/2=c×a×1/2=ac/2
三角形CEFの面積はCE×FP×1/2=c²/2
よってこれらの和はac/2+c²/2=(c²+ac)/2
ここで②より c=(b-a)/2なので、
【{(b-a)/2}²+a(b-a)/2】={(a²-2ab+b²)/4+(2ab-2a²)/4}/2={(b²-a²)/4}/2=(b²-a²)/8=-a²/8+b²/8
となり四角の中は、-1/8,1/8になるんじゃないかと思います
最後の計算部分です