Есть задача. Определить площадь поверхности выпуклого многогранника,
зная только координаты точек в 3D системе координат (x, y, z).

Помогите пожалуйста ее сделать. Дайте ссылки по описанию алгоритма.
Заранее спасибо...

http://www.math.ru/lib/book/djvu/geometry/krug&shar.djvu

Строишь выпуклую оболочку:
QuickHull 3D

Реализация на С++ есть здесь: Выпуклая оболочка в пространстве, если тебя это интересует

А потом находишь площади всех полученных треугольников. Вот и все...