NHibernate MappingException:no persistente para byte[]

Si lo leí correctamente, en realidad está tratando de guardar el byte[] a la base de datos, que no puede funcionar, ya que byte[] no es una entidad mapeada.

Probablemente quieras escribir:

dl.Contents = new DownloadContent { Data = content };
db.session.SaveOrUpdate(dl); // content is wrong, since content is of type byte[]

Además, dado que no especificó un Inverse() , probablemente tendrá que SaveOrUpdate el DownloadContent primero, por lo tanto:

Download dl = new Download { OutFileName = "Test", DoForward = true };
DownloadContent dlc = new DownloadContent { Data = content };
dl.Contents = dlc;
db.session.SaveOrUpdate(dlc);
db.session.SaveOrUpdate(dl);