L'ensemble a été créé en 1927 sous l'impulsion de trois musiciens amateurs de la commune de Petersbach : Alfred Ludmann, Eugène Etter et Georges Marth. Rassemblant 14 musiciens à ses débuts, l'Harmonie était rattachée aux Sapeurs-Pompiers de la commune, faute de moyens propres. C'est Georges Marth qui composait lui même les partitions jouées par le groupe de musiciens. A partir de 1933, l'Harmonie de Petersbach devient indépendante. Aujourd'hui, ce sont 27 musiciens qui la composent, sous la direction de Serge Drommer.