y=[x]sin^2пx
y'=[x]2пsinпxcosпx

так получается??
только препод сказал, что для вещественных X это так, а для целых надо рассматривать левосторонние и правосторонние производные??это зачем?

Затем, что функция у тебя разрывная. Она же содержит множителем целую часть.
Ну, а в точке разрыва у тебя могут быть только односторонние производные.

Только постарайся не противопоставлять вещественные и целые числа. В программировании - пожалуйста, в математике - не стОит