Добрый день.
Для повышения качества WebRTC-трансляции можно использовать
управление битрейтом, с учетом пропускной способности канала между публикующей стороной и сервером. В свою очередь, пропускную способность канала можно протестировать
при помощи iperf.
Также может помочь использование
TCP-транспорта для публикации и воспроизведения, но в этом случае возможно увеличение задержки трансляции.
Если возникают проблемы с качеством воспроизведения потока у подписчиком, можно использовать
транскодинг для ограничения разрешения потока, но это потребует больше ресурсов CPU сервера.