Hermelin tillbringade många år utomlands, bland annat i USA, Tyskland, Australien, på Jamaica och i den brittiska armén i Indien. Från och med 1909 fram till sin död 1944 vistades han på Lunds hospital/S:t Lars sjukhus i Lund. Det var där han gjorde sina översättargärningar. Hermelin hade tidigare råkat i många svårigheter, bland annat på grund av sin periodvisa alkoholism.
Det var på S:t Lars sjukhus Hermelin översatte verk från latin, tyska och persiska av bland andra Attar, Jalal al-din Rumi, Jacob Böhme, Emmanuel Swedenborg, poeten Omar Khayyam (Rubaiyat), Shaikh Sa'di, Firdausi och Sana'i. Hermelins mystika tolkning av Bibeln och Koranen var att den mänskliga "personligheten" är intet och Gud allt. Syftet med hans översättningar var att de skulle tina upp "vår frusna tankeförmåga" och "sätta hjertats vågor i svallning". Härigenom skulle människan bli mänskligare. Hermelin menade, som han skriver i ett brev till ett tryckeri i Lund, att hans översättningar tjänade ett praktiskt syfte; genom läsningen skulle man "komma äntligen från sounds to things, från sken till verklighet".