Le livret de Jaroslav Kvapil (en), basé sur les contes de Karel Jaromír Erben et de Božena Němcová, a été écrit avant que Kvapil n'ait eu le moindre contact avec le compositeur. L'intrigue contient des éléments qui apparaissent également dans La Petite Sirène de Hans Christian Andersen et Ondine de Friedrich de La Motte-Fouqué1. Cette histoire a été décrite comme un « triste conte de fées moderne », dans la même veine que sa pièce précédente, Princessa Pampeliška2. Le livret a été complété en 1899, alors Kvapil a commencé à chercher des compositeurs intéressés à mettre son texte en musique. Ses amis compositeurs étaient engagés avec d'autres œuvres, mais ont signalé que Dvořák était à la recherche d'un projet. Le compositeur, toujours intéressé par les histoires d'Erben, a lu le livret et a composé son opéra assez rapidement, puisque la première esquisse date du et que l'opéra était achevé à la fin de novembre3. Venant après ses quatre poèmes symphoniques inspirés par les ballades folkloriques de Erben de 1896 à 1897, Rusalka peut être considéré comme le point culminant de l'exploration par Dvořák d'une « grande variété de techniques musicales associées au théâtre4 ».
Rusalka a été créée à Prague le , avec Růžena Maturová dans le rôle de Rusalka. L'opéra a connu un très grand succès5. En 1950, plus de 600 représentations avaient été données au Théâtre national de Prague.
La première représentation hors de Tchécoslovaquie a eu lieu à Ljubljana6. L'opéra a été donné à Vienne par une compagnie tchèque en 1910. En Catalogne, il a été créé au Grand théâtre du Liceu de Barcelone le . Dans une traduction en allemand, il a été monté à Stuttgart en 1935. La création par la John Lewis Musical Society au Royaume-Uni dans une version anglaise de Christopher Hassall date de 1950. Ensuite l'opéra a été donné en 1959 au Sadler's Wells Theatre sous la direction de Vilem Tausky ; en 1983 une production de l'English National Opera a été filmée et diffusée plusieurs fois3. En revanche, il fallut attendre 1982 pour une création française, à Marseille sous la direction de János Fürst, et encore vingt ans pour une création lyonnaise et parisienne.