DELETE DupRows.*
FROM MyTable AS DupRows
INNER JOIN (
SELECT MIN(ID) AS minId, col1, col2
FROM MyTable
GROUP BY col1, col2
HAVING COUNT(*) > 1
) AS SaveRows ON SaveRows.col1 = DupRows.col1 AND SaveRows.col2 = DupRows.col2
AND SaveRows.minId <> DupRows.ID;
Por supuesto, debe extender col1, col2 en los tres lugares a todas las columnas.
Editar:acabo de sacar esto de un script que conservo y lo volví a probar, se ejecuta en MySQL.