Gulsparven förekommer i buskmarker, beteshagar och skogsbryn samt på hyggen över hela landet med tyngdpunkt över de södra och mellersta delarna. De flesta nordliga populationerna flyttar regelbundet till södra Sverige, Danmark och Finland under vintern, medan bestånden i de mellersta och södra delarna av landet är mer stationära och uppehåller sig oftast i samma område året om.