Con su SQL original como base (si desea ordenar primero por id y luego por sub_id):
$sql="select * from gallery group by sub_id order by id desc, subid desc limit 0,4";
Si no se pretende eliminar los "duplicados", se podría usar el siguiente sql en lugar del anterior:
$sql="select * from gallery order by id desc, subid desc limit 0,4";