Khronos より 2014/07/11 現在、OpenGL ES 3.1 に対応している GPU。

Intel HD Graphics Atom Z3700/N/J
ARM Mali-T760
ARM Mali-T628
ARM Mali-T604
PowerVR Rogue G6230/6200
PowerVR Rogue G6430/6400
Vivante GC7000
NVIDIA Tegra K1
NVIDIA GeForce 600/700/800M
NVIDIA Quadro K

OpenGL ES 3.0 世代の GPU もそのまま 3.1 にも対応しているので、
今後増えていくと思われます。
Intel HD Graphics (BayTrail/IvyBridge 世代) は OpenGL 4.0/4.1 止まりで
ComputeShader に対応していませんでした。
OpenGL から ComputeShader を使えるようになるのは ES 3.1 の方が先かもしれません。

実際に利用するには OS/SDK/Driver 等の対応が必要になります。
Android L 以降で対応予定。
iOS の場合 ES 3.1 ではなく PowerVR G6430 向けに Metal が発表されています。


関連エントリ
CPU 負荷が低い 新しい 3D API
OpenGL ES 3.1 は OpenGL 4.x 相当で ComputeShader に対応