Определить радиус и центр такой окружности, проходящей хотя бы через три различные точки заданного множества точек на плоскости, что минимальна разность количества точек, лежащих внутри и вне окружности.

thanks...

Перебираешь все тройки точек. Из каждой строишь треугольник, где ищешь кординаты центра и радиус. Сравниваешь расстояние от каждой точки до центра с радиусом. Отнимаешь от кол-во тех, где расстояние меньше радиуса, те, где больше.

Можно поступить так:
есть 3 точки, запишем систему из 3 уравнений.:

теперь раз есть 3 точки, то подставляя соответсвенно координаты точек в эти уравнения, получаем систему линийных уравнений.
(3 уравнения, 3 неизвестных) и находим радиус и центр.
Это математическая модель решаемой задачи.