Либерман стала первой, кто в 1971 году записал эту песню. Настоящую же известность песне принесло исполнение Роберты Флэк (Roberta Flack) в 1973 году. Четыре недели хит держался на первом месте в Billboard Hot 100. Затем он был смещен песней "Love Train" в исполнении The O'Jays, и вновь вернулся на лидирующие позиции в чартах США, обогнав "Love Train".
В 1975 году инструментальная версия “Killing Me Softly” стала музыкальной темой фильма “Подмокшее дело”, с Полом Ньюманом в главной роли. Автор песни Чарльз Фокс фигурирует как дирижер этой композиции.
Новую кавер-версию этой песни в 1988 году выпустил R&B исполнитель Al B. Sure! на дебютном альбоме “In Effect Mode”. Версия имела неплохой успех, а Al B. Sure! был выбран в 1989 году как лучший новый соло-исполнитель R&B среди мужчин. В 1996 году песню перепела хип-хоп группа The Fugees, где солировала Лорен Хилл (Lauryn Hill). Их версия достигла второго места в чартах радио-эфира США и аналогичной позиции в Великобритании, где поднялась до первого места, и разошлась тиражом в миллион копий. На волне успеха исполнения The Fugees в 1996 году был сделан ремикс из версии Роберты Флэк, который возглавил Hot Dance Music/Club Play Chart.
Среди прочих, свою версию этой песни сделали известные исполнители: Энгельберт Хампердинк, Фрэнк Синатра, Тори Амос, Ева Кессиди, Перри Комо, Арета Франклин, Майкл Джексон и The Jacksons, Энн Мюри (Anne Murray), Лютер Вэндросс (Luther Vandross), Тони Брэкстон (Toni Braxton), Алишия Киз, Джако Пасториус, Ширли Бэсси, The Youngblood Brass Band, The Plain White T's.
В 2002 году песня стала значительной частью сюжета фильма "Всё о мальчике" ("About A Boy"), режиссёры Крис Вайц и Пауль Вайц (Chris Weitz, Paul Weitz). Главный герой фильма мальчик Маркус попадает под насмешки своих одноклассников потому, что решается исполнить песню на концерте школьных талантов. У подростков школы песня вызывает ассоциации с женственностью, излишней романтичностью и эмоциональностью. Маркус же исполнил её ради своей матери, для которой песня была любимой.
В 2006 году песня становится популярным гимном среди болельщиков ирландского футбольного клуба Шелбурн. Слова песни были немного изменены на “Dillon Me Softly with His Song”, обращаясь к бывшему защитнику Шону Диллону (Sean Dillon). После перехода Диллона в футбольный клуб Данди Юнайтед, гимн последовал за ним.
В разные годы и в разных странах песня была переложена на датский, испанский, итальянский, немецкий, норвежский, португальский, финский, чешский, шведский, эстонский, японский языки. К сожалению, о существовании песни на русском языке неизвестно.