Разъясните, пожалуйста, вот такое.

[5,5] и {5,5}

В первом случае берется целое число, т.е. 5.
Во втором случает берется дробная часть, т.е 0,5.

А если вот так вот:

[-5,5] и {-5,5}

В этом случае ведь по-другому?..

В математике, насколько мне известно, на этот счет нет единого стандарта. Можно понимать целую часть как то, что получается после зануления цифр после запятой, а можно как максимальное целое, не превосходящее заданного числа. Обычно в задачах дается соответствующее уточнение. Если уточнения нет, то, возможно, речь идет об исключительно положительных числах..

Да, целая часть такая штука - в компьютере это просто отбрасывание дробной части, а в математике (в основном) наибольшее целое не превосходящее данное, да

Уточнения нет...
Там в задании решить уравнение, а потом сумму корней умножить на число [-2.35]