vbsでレジストリの削除 

Option Explicit
On Error Resume Next

Dim objWshShell     ' WshShell オブジェクト

Set objWshShell = WScript.CreateObject("WScript.Shell")
If Err.Number = 0 Then
    ' 値を削除する場合は、最後に \ を付けない
    objWshShell.RegDelete("HKCU\Hoge\Test1")
    ' キー全体を削除するには最後に \ を付ける
    objWshShell.RegDelete("HKCU\Hoge\")
    WScript.Echo "レジストリを削除しました。"
Else
    WScript.Echo "エラー: " & Err.Description
End If

Set objWshShell = Nothing

ネタ元