Frédéric Gérard avait longtemps arpenté les trottoirs monmartrois, en compagnie de son âne (« Lolo ») et en qualité de vendeur de produits des quatre saisons, avant de devenir propriétaire d'un cabaret, Le Zut, situé selon les sources rue Norvins ou rue Ravignan, établissement qui, se souvient Mac Orlan qui y assista, « termina sa courte carrière lors d'une bagarre mémorable qui dura toute une nuit. » Lorsqu'il emménage au Lapin Agile, il garde avec lui son singe, son chien, son corbeau, ses souris blanches, ainsi que son âne, avec lequel il vend du poisson dans les rues de Montmartre, afin de compléter ses revenus.
Figure pittoresque de la vie montmartroise, avec « sa tenue qui tenait de Robinson Crusoé, du trappeur de l'Alaska et du bandit calabrais », « Frédé » chantait des romances sentimentales ou des chansons réalistes en s'accompagnant au violoncelle ou à la guitare, dont il jouait avec un talent qui ne faisait pas l'unanimité. Surtout, il n'hésitait pas à offrir des repas et des boissons dans son cabaret aux artistes désargentés, en échange d'une chanson, d'un tableau ou d'un poème.
Aristide Bruant, toujours client régulier du Lapin Agile, se lie d'amitié avec le tenancier, et lorsque le bâtiment est promis à la démolition en 1913, il le rachète et laisse « Frédé » en assurer la gérance.
