Pesnička vznikla, keď si gitarista skupiny Peter Buck, jedného dňa kúpil mandolínu a snažil sa v ten deň pri telke naučiť na nej hrať. Ako si na nej skúšal rôzne riffy, nahrával sa pri tom. Na druhý deň si to vypočul a časť z toho, čo tam počul, sa stala základom pre Losing My Religion.

Spevák Michael Stipe sa vyjadril, že text je o túžbe po niekom, o neopätovanej láske: „Je to klasická popová pesnička o posadnutosti. Najlepšie pesničky sú podľa mňa tie, ktoré si vypočujete a stotožníte sa s nimi. Poviete si: Áno, to som ja.“

Klip režíroval indický režisér Tarsem Singh a je plný náboženských obrazov inšpirovaných Caravaggiovymi maľbami. Obsahovo si požičal z Márquezovej poviedky Veľmi starý pán s obrovskými krídlami, v ktorej na Zem padol anjel a ľudia ho za peniaze vystavovali.