À l'automne 1935, elle est découverte dans la rue par Louis Leplée, gérant du cabaret Le Gerny's, sur les Champs-Élysées. À cette époque, Piaf fredonne principalement des chansons du répertoire de Fréhel. Leplée lui choisit comme nom d'artiste « la môme Piaf » (un « piaf », familièrement, est un moineau, et « la môme Moineau » existait déjà). Le succès arrive. Son talent et sa voix hors normes sont remarqués entre autres par le compositeur Raymond Asso, et par Marguerite Monnot, compositrice et pianiste virtuose, sa future, et fidèle, grande amie, qui l'accompagnera tout au long de sa carrière et composera pour elle les musiques de Mon légionnaire, Hymne à l'amour, Milord, Les Amants d'un jour.
En 1936, elle enregistre son premier disque, Les Mômes de la cloche, chez Polydor, et connaît un succès public et critique immédiat. Mais en avril, on retrouve Leplée assassiné à son domicile parisien. On découvre qu'il fréquentait les milieux du banditisme de Pigalle, ce qui précipite Édith dans le scandale. Elle est mise en cause par la presse et risque de retourner d'où elle est venue : la rue et les petits cabarets de misère. Elle passe cependant à Bobino et à L'Européen à la fin du printemps.
Mais, quelques disques et un peu de scène ne peuvent nourrir une artiste débutante. À la fin de l'été, elle reprend contact avec Raymond Asso, auquel elle avait refusé Mon légionnaire (créé par Marie Dubas en 1935, titre que Piaf reprend début 1937, avec le Fanion de la légion). Après Leplée, Asso devient son nouveau mentor. Il la prend en main et la fait travailler pour en faire une chanteuse professionnelle de music-hall. À l'automne 1936, elle décroche l'Alhambra. Au printemps 1937 elle est à nouveau à Bobino. Mais, Édith veut plus : l'ABC. Le plus prestigieux music-hall parisien.