Actualice una tabla MySQL con clasificaciones de registros dentro de grupos

update winners
set rank = (
    select count(score) + 1
    from winners w2
    where w2.category_id = winners.category_id and w2.score > winners.score
)

count(*) evaluará a cero incluso cuando ninguna fila coincida con la condición, es decir, la clasificación superior. Si quisieras un rango denso, podrías hacer esto:

update winners
set rank = (
    select count(distinct score) + 1
    from winners w2
    where w2.category_id = winners.category_id and w2.score > winners.score
)

EDITAR:según su comentario, encontré una consulta que funciona. (Funciona en SQL Server y no estoy familiarizado con las peculiaridades de MySQL). http:// sqlfiddle.com/#!9/1159f/1

update winners
inner join (
    select w.id, w.category_id, count(w2.score) + 1 rank
    from winners w left outer join winners w2
        on w2.category_id = w.category_id and w2.score > w.score
    group by w.id
) r
    on r.id = winners.id
set winners.rank = r.rank