Tyfodd y ddinas yn y lle cyntaf yn y dyffryn lle y mae Afon Sheaf(sydd yn rhoi ei henw i Sheffield) yn cyfarfod â'r Afon Don.
Ceir ef yn y gair ysgubor "barn" sy'n deillio o ysgubawr hen ffurf luosog ysgub "sheaf".