HD解像度で59.94iもしくは29.97p、23.976pの素材と仮定しますと、ProRes 422 HQで170GBということですので素材の時間は100〜120分程度でしょうか。このくらいの時間ですと、BDMVの仕様の範囲内のビットレートでほぼ25GBのBD-Rの容量を使い切れ るかと思います（150kwさんのご返信にもある通り、多少余裕をみたほうが良いと思います。私は5%程度空けるようにしています）。
それが25GBの半分（つまり12GB程度ということでしょうか）ということなので、ビデオのビットレートが低く設定されているのだと思います。
Premiere Pro（もしくはMedia Encoder）でBlu-ray向け書き出しをする際に、予測サイズを参考にしながらビットレートを高めてみてはいかがでしょうか。