No puede usar MAX() en un WHERE . Así que envuélvalo en una subconsulta como:
SELECT Name, Message
FROM flux_chat_messages
WHERE id >= (SELECT MAX( id ) - 5 FROM flux_chat_messages)
ORDER BY id ASC
También probablemente podrías tener
SELECT Name, Message
FROM flux_chat_messages
ORDER BY id DESC
LIMIT 5
e invierta los resultados en su programa (o use otra subconsulta para eso)