Si cambia la última línea por la siguiente, debería funcionar:
return {qty:sum1, qtybs:sum2};
La regla es que el valor de retorno de la función reduce debe tener la misma "forma" que el segundo argumento a emitir (que es la entrada a reducir) ya que la salida de reduce se retroalimenta a la función reduce. Ver http://www.mongodb.org/display/DOCS/MapReduce# MapReduce-ReduceFunction para más detalles.