La banda alcanzó un notable éxito en las listas británicas con trece top 20 hits durante la década de 1970, cinco alcanzando el número 2 como la hoy clásica y legendaria «The Ballroom Blitz» y «Block Buster! «Hell Raiser» fue lanzado en mayo y alcanzó la posición 2, el éxito fue repetido por los sencillos posteriores, «The Ballroom Blitz» (septiembre de 1973) y «Teenage Rampage» (enero de 1974). «Little Willy» alcanzó un sorprendente número 3 en la Billboard Hot 100 de Estados Unidos después de una reedición en 1973, convirtiéndose en el mayor éxito del grupo entre el público estadounidense. La banda continúa tocando, y en marzo de 2011 inició su gira por Sudamérica acompañando a Journey. La banda estuvo de gira de nuevo en marzo de 2008 bajo la bandera “Sweet Fanny Adams Revisited Tour”. Del 26 de abril al 13 de mayo de 2007 Andy tocó en Alemania, Bélgica, Austria e Italia, y en esta gira tocó canciones de Sweet Fanny Adams, incluidos algunos de sus otros éxitos.
En efecto, el tema “Love Is Like Oxygen” se confunde a menudo con una canción de ELO. El primer álbum para el nuevo sello Polydor, Level Headed (para muchos críticos su obra maestra), presentó a Sweet experimentando mediante la combinación de rock y los sonidos clásicos “a-la-clavesin”, un enfoque similar al de la banda británica Electric Light Orchestra (ELO). Top 20 Chart entraron con “Action” como el grupo más duro, junto con “Stairway To The Stars”, el cual fue el sencillo final para el sello RCA en agosto de 1977. Los años 1976 y 1977 presentaron a Sweet con dos álbumes más orientados al acto teatral glam metal. El primer sencillo del álbum aún no publicado fue “Lost Angels”, este sencillo fue solo un éxito en Alemania. Entre octubre de 1976 y enero de 1977 Sweet escribió y grabó el nuevo material en el Kingsway Recorders y los estudios Audio Internacional de Londres, para su siguiente álbum.
El 2009 vio el retorno de la banda a Canadá para giras agotadas, espectáculos en el Teatro Mae Wilson y Casino Regina, así como el Nakusp Music Festival y el Rockin 'The Fields en Minnedosa, Manitoba. En enero de 2009, The Sweet no solo se presentó en el Industry's Pollstar Awards, sino que también tuvo una breve actuación en el teatro Nokia, donde se celebró el evento, siendo la primera vez en la historia de la ceremonia que una banda se ha presentado a la feria. Después de una primera comparecencia en la estación radial de rock de Los Ángeles, 95.5 KLOS, en el popular programa radiofónico Mark & Brian, comenzó la gira “Are you ready Steve? Al mismo tiempo, el sitio web personal de Andy fue lanzado como una base de datos de información sobre su trabajo como músico, productor y cantante. El grupo finalmente consiguió un nuevo cantante permanente cuando Peter Lincoln (ex Sailor) llegó en julio de 2006. Grant incluso saltó de teclados para ser la voz solista, e incluso el bajo cuando fue necesario, en las fechas en que el grupo no tenía cantante (Phil Lanzon, a continuación, Steve Mann, volvió temporalmente en las teclas cuando Grant era el cantante). Después de la muerte de Mick Tucker en 2002, Scott truncó el nombre de la banda a simplemente “The Sweet”, una vez más. Después de la salida de Tucker, Scott cambió el nombre de la banda a 'Sweet Andy Scott's'.
En el cuidado LP «Sweet Fanny Adams» (primero para la banda llamándose solo como Sweet) el grupo apareció con sus características y agudas voces en armonías, lo cual fue una tendencia que continuó en todos los álbumes de Sweet. Los siguientes dos sencillos del año fueron «Little Willy» y «Wig-Wam Bam», tema que alcanzó el número 4 en la misma lista. De hecho, en las actuaciones en directo el repertorio de The Sweet consistía en caras B, con canciones y popurrís de varios temas de rock and roll clásicos; rara vez fueron los sencillos lado A marca Chinn/Chapman los que tocaron en directo. El primer álbum oficial de Sweet fue titulado con el curioso y complejo nombre de Funny How Sweet Co-Co Can Be lanzado a finales de 1971, pero falló en las listas de ventas. Sweet inicialmente trató de combinar varias influencias musicales, incluyendo la música sesentera con sonidos de pop juvenil como The Archies y The Monkees y con el uso de un rock más pesado al estilo de grupos como The Who. A la vez, otra banda del Reino Unido publicó un sencillo con tv azteca casino el mismo nombre de Sweetshop, por lo que ellos se vieron en la necesidad de cambiar el suyo al definitivo The Sweet. Posteriormente, se contrató al bajista y cantante Steve Priest, proveniente de una banda local llamada The Army, quien previamente había tocado con otra agrupación de Londres, The Countdowns. En enero de 1968, Brian Connolly y Mick Tucker abandonan Wainwright's Gentlemen para formar otra banda, a la que hacen llamar Sweetshop.
Reuniones y nuevas formaciones
El lado B “Krugerrands” fue sacado a continuación como un sencillo (bajo el verdadero nombre de Andy Scott), pero al igual que su predecesor, pasó totalmente inadvertido en listas, a excepción de Sudáfrica, donde llegó al Top 10. Scott lanzó su segundo sencillo “Gotta See Jane”, en 1983, bajo el nombre de “Ladders”. La última presentación de su trabajo en vivo fue el 5 de diciembre de 1996 en Bristol, Inglaterra (solo dos meses antes de su muerte), pero luego canceló la gira por problemas contractuales y en definitiva por enfermedad. Ian Gibbons (que había tocado con The Kinks y The Records) y luego Malcolm Pearson, llegaron en lugar de Lanzon hasta ocupar dicho puesto Steve Mann (ex Liar, ex Lionheart, ex McAuley Schenker Group), quien arribó en diciembre de 1989 por un extenso período de cinco años y medio. Como McNulty se trasladó al lugar del cantante, Jeff Brown vino a hacerse cargo del bajo a principios de 1989. Priest fue invitado a unirse a Tucker y a Scott para una gira por Australia de 1986, pero él se negó. En 1985, Scott y Tucker reformaron Sweet con nuevos músicos, el cantante Paul Mario Day (ex Iron Maiden, ex More, ex Wildfire), el teclista Phil Lanzon (ex Grand Prix, ex Lionheart, ahora con Uriah Heep), y el bajista Malcolm McNulty (que ahora es el cantante de los roqueros glam Slade).
El teclista fundador de la banda Gary Moberley y Ian Gibbons también hicieron de relleno en las giras con el grupo de ese año, al igual que Chris Goulstone. Combatió contra la mortal enfermedad por cinco años sin éxito y está enterrado en una tumba (sin nombre) en el cementerio Chorleywood House. Scott dijo que Ronnie James Dio, que acababa de partir de Rainbow, fue abordado en enero de 1979 para unirse como nuevo cantante del grupo. Otro sencillo del álbum, “California Nights” (mayo de 1978), con Steve Priest como el cantante, alcanzó el puesto 23 en las listas alemanas y fue el último éxito relevante en la carrera de los Sweet. La siguiente canción fue “Action” (julio de 1975), llegó al Reino Unido a la posición 15 (desde 1975, todos los discos editados por RCA y Polydor publicaron el nombre de la banda simplemente como Sweet). La banda también fue frecuentemente citada por ellos, siendo una de sus principales influencias; era frecuente que Sweet interpretara un popurrí de sus temas en sus conciertos durante muchos años. Fue el sencillo más exitoso del grupo en el Reino Unido, el cual rápidamente alcanzó el número 1 en las listas del país.