请问哪里可以设置GPU还是CPU运行？

[NebulaIC1805]

现在使用默认配置启动：
当前启动的LLM模型：['chatglm2-6b'] @ cpu
{'device': 'cpu',
'host': '127.0.0.1',
'infer_turbo': False,
'model_path': 'THUDM\chatglm2-6b',
'port': 20002}
当前Embbedings模型： m3e-base @ cpu
现在运行的时候开起来都是用CPU跑的。