¿Cómo escribir una restricción sobre un número máximo de filas en postgresql?

Quassnoi tiene razón; un disparador sería la mejor manera de lograr esto.

Aquí está el código:

CREATE OR REPLACE FUNCTION enforce_photo_count() RETURNS trigger AS $$
DECLARE
    max_photo_count INTEGER := 10;
    photo_count INTEGER := 0;
    must_check BOOLEAN := false;
BEGIN
    IF TG_OP = 'INSERT' THEN
        must_check := true;
    END IF;

    IF TG_OP = 'UPDATE' THEN
        IF (NEW.owner != OLD.owner) THEN
            must_check := true;
        END IF;
    END IF;

    IF must_check THEN
        -- prevent concurrent inserts from multiple transactions
        LOCK TABLE photos IN EXCLUSIVE MODE;

        SELECT INTO photo_count COUNT(*) 
        FROM photos 
        WHERE owner = NEW.owner;

        IF photo_count >= max_photo_count THEN
            RAISE EXCEPTION 'Cannot insert more than % photos for each user.', max_photo_count;
        END IF;
    END IF;

    RETURN NEW;
END;
$$ LANGUAGE plpgsql;


CREATE TRIGGER enforce_photo_count 
    BEFORE INSERT OR UPDATE ON photos
    FOR EACH ROW EXECUTE PROCEDURE enforce_photo_count();

Incluí el bloqueo de tablas para evitar situaciones en las que dos transacciones simultáneas contarían fotos para un usuario, vería que el recuento actual es 1 por debajo del límite y luego ambas se insertarían, lo que haría que pasaras 1 por encima del límite. Si eso no le preocupa, sería mejor eliminar el bloqueo, ya que puede convertirse en un cuello de botella con muchas inserciones/actualizaciones.