1U机架式服务器该用什么高性价比的GPU？

目前惠普的ProLiant DL360 Gen9上有跑远古大模型（LLM模型跑不动）用的是tesla P4，但是这款gpu实在太老了，想用T4又太贵，什么3090更别想了，根本安装不下