Цитата
а в чем заключается метод перебора?
Из первого множества последовательно выбираешь тройки вершин (алгоритм выборки ищи на форуме), и каждую точку из второго множества проверяешь, принадлежит ли она треугольнику (это тоже есть). Если все точки второго множества принадлежат этому треугольнику, то вычисляем его площадь, сравниваем с текущим минимумом, и (если вновь найденная площадь меньше предыдущей) запоминаем координаты вершин и саму площадь... То же самое повторяем для всех комбинаций вершин из первого множества, в результате получаешь либо 0 (нет таких точек), либо координаты вершин и площадь (которая является минимальной)