Es un comportamiento bastante extraño. Acabo de ejecutar tu código localmente y todo funcionó. ¿Puede verificar que está utilizando la versión del controlador 0.18.2? Si es así, asegúrese de que esa sea la única versión instalada (solo como control de cordura).
No creo que deba hacer ninguna diferencia, pero no estaba ejecutando #group desde MongoMapper, estaba usando solo la gema. Podrías intentarlo también. Aquí está el código que ejecuté:
require 'rubygems'
require 'mongo'
d = Mongo::Connection.new.db('blog')
c = d['post']
p c.group("function(x) { return { month: x.date.getMonth(), year:x.date.getFullYear() }; }",
nil,
{ :count => 0 },
"function(x,y){y.count++}",
true)
