Как скомпилировать программу в pascalabc.net вместе с музыкой, чтобы при загрузке готовой программы необязательно было иметь их на компьютере. Чтобы и код программы и сама музыка была в одном exe.

Может быть, просто взять Inno Script Studio и набросать установщик, а для тех, кто против установки, архив?

Гипотетически могут быть какие-то варианты с сохранением в ресурсы программы, но надо смотреть, как делается открытие медиапотока в коде. Для браузеров на движке IE можно было res URI указывать, чтоб ходить по ресурсам.