Dependiendo de la rapidez con la que necesite que se notifique a los usuarios, puede usar el sondeo (enviar una solicitud cada X segundos para ver si hay algo nuevo) o usar cometa .
En cualquier caso, necesitará un lenguaje de programación del lado del servidor para consultar la base de datos y entregar los resultados, y necesitará algo de javascript en el lado del cliente para enviar solicitudes y mostrar respuestas. Recomiendo encarecidamente usar la biblioteca jQuery, ya que simplifica mucho la incompatibilidad entre navegadores.