Das ist nur zum Teil richtig. Wenn im GPO Policies eingestellt werden, dann werden die auf Standard zurück gesetzt. Sobald Du in einem GPO mit Preferences arbeitest, hast Du recht. Alles was Du in den Administrativen Vorlagen einstellst, ist nach dem Löschen des GPO wieder weg, alles was in Einstellungen gesetzt wird, musst du selbst wieder entsorgen. Du setzt einen Wert auf 1 und löscht das GPO, der Wert 1 steht immer noch drin. Du musst zuerst den Wert löschen und dann erst das GPO entfernen.
https://www.gruppenrichtlinien.de/artikel/was-sind-gruppenrichtlinien
Richtlinien (Policies) unterscheiden sich im Verhalten von Einstellungen (Preferences). Das ist einer der Gründe, warum sie auch im GP Editor als jeweils eigene Knoten in der Baumstruktur dargestellt sind.
Du kannst das mit den Policies einfach selbst schnell testen. Auf einem Client ohne Domain GPEDIT.MSC aufrufen, z.B. eine Einstellung für den WSUS setzen, in HKEY_LOCAL_MACHINE\SOFTWARE\Policies\Microsoft\Windows\WindowsUpdate nachsehen ob der Wert vorhanden ist. Jetzt aus GPEDIT.MSC die Änderung wieder entfernen, und schon ist es in der Registry weg. Genauso funktioniert es auch in der Domain, da nur mit gpupdate, übrigens ohne /force. ;)