max() no funciona de la forma esperada en SQL para Mongo. Esto quizás va a cambiar en futuras versiones, pero a partir de ahora, max, min se usarán con claves indexadas principalmente internamente para fragmentación.
consulte http://www.mongodb.org/display/DOCS/min+and+max+Query+Specifiers
Desafortunadamente, por ahora, la única forma de obtener el valor máximo es ordenar el desc de la colección en ese valor y tomar el primero.
transactions.find("id" => x).sort({"sellprice" => -1}).limit(1).first()