дана система
3z-5w=13-27i
4z-iw=42+12i, где iw - комплексно-сопряженное произведение

меня как раз и смущает это произведение, что с ним делать?

по идее ничего с ним не надо делать. расписываешь w=x+iy. первое уравнение умножаешь на 4, второе на 3, отнимаешь их (избавляешся от z), приравниваешь мнимые и действительные части, получаешь w, подставляешь в одно из исходных уравнений, получаешь z