La documentación de RDS realmente explica por qué sucede esto y sugiere que ni siquiera necesita el certificado de CA:
El cliente ignora esencialmente el tercer parámetro. Estoy apostando al establecer el tercer parámetro en NULL , no tiene sentido llamar a mysqli::ssl_set() si todos los parámetros son nulos.
Intente eliminar esa llamada de función por completo.