Me enfrento al problema similar que usted. Hay alrededor de 2-3 segundos de retraso cuando se procesa el primer trabajo.
Después de buscar, encontré que laravel queue workerdefault 3 segundos de suspensión.
Lo que significa que el primer trabajo se retrasará 3 segundos en el peor de los casos.
Para resolverlo, simplemente especifique --sleep=0 cuando ejecute el trabajador. Espero que ayude.
php artisan queue:worker --sleep=0