¿Se quedó sin memoria al hacer una consulta grande?

Suponiendo que está utilizando el controlador MySQL Connector/J proporcionado por MySQL, creo que la solución se encuentra en esta página del manual (Observe el parámetro 1 de Connection::createStatement() ):

stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY,
              java.sql.ResultSet.CONCUR_READ_ONLY);
stmt.setFetchSize(Integer.MIN_VALUE);