Mescid-i Harâm’da Hacerülesved’in tam karşısında Kâbe’ye 19 m. uzaklıkta yer alır. Suya bu isim “bol ve akıcı olma, Cebrâil’in konuşma sesi, akarken çıkardığı ses, şimşek sesi, nereden geldiği belli olmayan ses” anlamlarındaki zemzem ile (zemzeme, zemmezem, zümmezim, zemmizem) arasında bir ilişki kurularak verilmiştir
