Karl Wilhelm von Tolli vanemad olid [[Vestli mõis]]as sündinud [[Vana-Nõmpa mõis]]nik ([[Kärla vald|Kärla]]) leitnant [[Konrad Friedrich von Toll]] (1749–1821) ja Justine Wilhelmine von Ruckteschell (1752– ), kes oli [[Vaimõisa mõis|Vaimõisa]] ja [[Keskvere mõis]]niku [[Gustav Wilhelm von Ruckteschell]]i (1723–1808) tütar.
Karl Wilhelm von Toll astus [[1796]] Vene sõjaväkke. [[1799]] tegi ta kaasa [[AleksanderAleksandr Suvorov]]i sõjaretke [[Itaalia]]sse. [[1805]] määrati ta kindralstaapi ja ta osales [[major]]ina [[Austerlitzi lahing]]us. Seejärel sõdis von Toll [[Türgi|türklaste]] vastu. [[1812]]. aastal oli ta [[Mihhail Kutuzov]]i [[kortermeister]] ja [[1813]] [[Michael Andreas Barclay de Tolly| Barclay de Tolly]] kortermeister. Pärast [[Leipzigi lahing]]ut sai von Toll [[kindralleitnant|kindralleitnandiks]], [[1823]] keisri kindraladjutandiks ning 1. armee kindralstaabi ülemaks. [[1825]] ülendati ta jalaväekindraliks. [[1829]]. aastal võttis ta kindralstaabi ülemana osa Vene-Türgi sõjast. [[11. juuni]]l [[Kulevca]] piiramise ajal annetati talle krahvitiitel. [[Poola]] sõjakäigu ajal [[1831]] oli ta kindral [[Hans Karl von Diebitsch-Sabalkanski|Diebitschi]] staabiülem. Diebitschi surma järel võttis armee juhtimise enda kätte marssal [[Ivan Fjodorovitš Paskevitš]] ja [[8. september|8. septembril]] 1831 vallutati [[Varssavi]]. See oli viimane sõjaretk, mille von Toll kaasa tegi. Seejärel sai ta Vene riiginõuniku ametikoha ja suundus poliitikasse. [[1833]] määrati ta Venemaa teedeminstriks.
Karl Wilhelm von Toll suri [[1842]] ja maeti perekonna hauakabelisse [[Aruküla mõis]]as [[Järvamaa]]l.
