✨ ベストアンサー ✨
学校の教科書棒用の問題集の解答などをみるとMは下向き、mは上向が正の方向っぽくなってますよね。慣性系をU字にとってるのか、物体ごとにとってるのかは分かりかねますが普通に上、下どちらかを正として良いと思います。その方が２つの物体の運動の向きが逆であることも符号で表現されて分かりやすいと思います(どちらも正で取ってる問題集も座標の取り方をわかっていれば運動の向きは分かりますが)。
束縛条件に関しては、たとえば以下のようにできると思います。
滑車の中心(ないし天井)を原点として下向きにx軸を取る。
x+X=Const.
あとは自国で2階微分してください。
U字に取るなら
X-x=Const.
でいいかと