Определить максимальное число n, для которого можно правильно вычислить результат, помещающийся в int.
Например, для функции n*n. Как это правильно осуществить?

Не понял. А что, нельзя просто взять MAXINT (ну, или numeric_limits<int>::max(), если уж C++), и вычислить обратную заданной функцию для этого числа? В твоем случае это будет квадратный корень. Приведешь результат к целому - это будет максимальное число, которое безошибочно отработает.

Спасибо.

А в Паскале как можно найти этот "MAXINT"?

В Паскале точно так же есть константы MaxInt и MaxLongInt (первая - для типа Integer, вторая - для LongInt).

Хорошо, если получается в явном виде найти обратную функцию.