Helium Horse Fly est né en mars 2009 à Liège, en Belgique, et est le fruit de la rencontre entre la chanteuse Marie Billy, le guitariste Stéphane Dupont, le bassiste Dimitri Iannello et le batteur Tom
Malmendier.
Le style de Helium Horse Fly est au carrefour de plusieurs courants musicaux. Stéphane, principal compositeur du groupe, est originaire de Besançon (France), où il a fait partie de formations aussi diverses que la Nef des Fous (chanson française) ou Daverio (hardcore chaotique déstructuré). Si l'on ajoute l'appartenance à la scène free jazz de Tom et le goût prononcé pour le dadaïsme de Dimitri, on retrouve tout naturellement de nombreuses influences dans Helium Horse Fly, et le groupe présente un savant mélange entre des harmonies sombres et tortueuses, le goût d'une certaine forme de liberté rythmique et d'une certaine violence, une touche de lyrisme, le tout avec un son résolument rock'n roll et porté par le timbre et l'univers si particuliers et envoûtants de Marie.
Au printemps 2010, Helium Horse Fly donne ses premiers concerts et enregistre son premier EP A dispute to redefine clearly frontiers between devils and angels, dont une première sortie digitale a lieu le
19 avril 2010, suivie d'une sortie physique le 31 octobre 2010. Cette sortie est saluée par la presse et le titre Lights se verra lauréat du concours PureDemo organisé par la radio belge PureFM. Son successeur, l'EP Fishing For Ghosts, sortira le 14 décembre 2011. Début 2012, Bastien Dupont remplace Tom Malmendier. Le groupe a joué en Belgique et en France (Bruxelles, Liège, Lille, Besançon, ...), et a ouvert pour des groupes tels que Black Math Horseman, Overmars, Binaire, Aside From A Day, Generic, Lilly
Wood & The Prick, …