> у меня на плоскости 2.89 примерно влезло...
В квадрат со стороной один?
r*(1+1+1/sqrt(2)+sqrt(3)/sqrt(2))=1
r*(2+(sqrt(2)+sqrt(6))/2)=1
r = (2+(sqrt(2)+sqrt(6))/2)**-1
А в пространстве мысль такая.
Если в цилиндре с высотой 2 и радиусом 1 удастся расположить 3 точки так, чтобы расстояния между ними были 2R, то, обрастив эти точки мясом, получим в цилиндре высотой 2*(1+R) и радиусом (1+R) три шара радиусом R, или, после масштабирования, в цилиндре высотой и диаметром 1 три шара радиуса R/(1+R)/2
А эти три точки я решил брать так. Понятно, что одна из них должна быть на верхнем основании, и ещё одна на нижнем, иначе легко раздвинуть.
Ну вот, я и брал точки так: в полярной системе координат, в которой основаниям цилиндра соответствуют +-1, одна точка ровно на высоте 0 с угловой координатой 0, другие две на высоте +-1 с угловой координатой +-икс. Составив уравнение на синусквадрат этого икса, после всяких вычислений я получил то, что получил. Почему это оптимальный вариант? Не знаю, мне так кажется, можно составить уравнение и для высоты a, и углы брать +-b, но как правило, максимум посередине.