知識のある人向けに書いておくと、Deferred系のレンダリングが台頭してから、メモリの帯域がネックになっているのは周知のはず。
元コナミでFOXエンジンのテクニカルディレクター、現Cygamesで Cyllista Game Engineを担当している多胡氏の記事も参考にな。
http://tech.cygames.co.jp/archives/2843/

パンタレイの設計者もPS4メモリに対して言及している。
http://game.watch.impress.co.jp/docs/series/3dcg/609419.html
清水氏「PS4は、ご存じのようにメインメモリとグラフィックスメモリ兼用のメモリ領域として8GBがあります。これが非常に威力を発揮していますね」
それでパンタレイではメモリ帯域を浮かそうとして、色をRGBで格納するところを、YUV(Ycbcr)で格納して失敗、精度不足問題が起きたってわけ。

おそらくメモリ帯域を限界まで酷使していた設計だったので、仮に強引に修正するとしても、メモリ帯域を大幅にオーバーしてしまい、性能が固定されたPS4などではまともに動かせないような状態だったのだと思われる。

パンタレイがYcbcrを採用していたソースはCEDEC 2014のdeep downのグラフィックス表現の技術解説ね。
http://www.4gamer.net/games/032/G003263/20140911067/

HDRやガンマコレクト、適切な四捨五入云々はこういった記事がある程度参考になるかも。
https://www.cryengine.com/community_archive/viewtopic.php?f=355&;t=76123