На плоскасти дан проезвольный треугольник треугольник и точка, как определить лежит эта точка внем или нет (все это в двухмерной системе кoординат Х и Y)
http://algolist.manual.ru/maths/geom/belong/poly2d.php