Necesitas usar la función Raw de eloquent.
DB::raw(your sql)
En su caso, la siguiente consulta debería funcionar:
->orderBy(DB::raw('convert(name using gbk)'))
Si desea usar sql sin procesar en sus instrucciones where, puede usar la función de acceso directo whereRaw() y para seleccionar selectRaw() función.
