La registrazione televisiva è del 1965, ma il brano fu composta nel febbraio dell’anno precedente e registrata per il primo album del duo, Wednesday Morning, 3 A.M. pubblicato il 19 ottobre 1964.
Inizialmente la canzone era intitolata The Sounds of Silence, ed è con questo nome che è apparsa sui primi album e sul singolo. Nelle raccolte successive il titolo fu cambiato nella forma singolare The Sound of Silence. Entrambe le forme del nome sono presenti nel testo della canzone.
Il brano fu usato nel film Il laureato, e appare nei titoli iniziali, nella scena della piscina con Dustin Hoffman (esecuzione integrale) e durante la parte finale; è stato utilizzato anche in altre pellicole ed è stata eseguito al Ground Zero Memorial di New York dallo stesso Paul Simon accompagnandosi con la sola chitarra acustica, in un clima di grande commozione, durante la Celebrazione del 10º anniversario dell’attentato dell’11 settembre 2001.