¿Qué tal esto:
SELECT *
FROM users
ORDER BY RAND()
HAVING RAND() * 1000 < 10
La cláusula WHERE RAND() * 1000 < 10 elige aleatoriamente incluir cada fila con una probabilidad del 1%. No es exactamente una LIMIT variable pero hará más o menos lo mismo.