测试环境

1. 测试设备:VivoPad3Pro(16G物理内存+16G融合拓展,天玑9300CPU
2. 不使用游戏模式
3. 使用性能模式
4. 上下文:16K
5. CPU调用线程:6/8
6. GooglePlay安装的PocketPal v1.8.9(59)版本

测试方法1

统一命题: 写一个500字的作文,来描述人工智能的现况和未来

1. Gemma-3-12b-it-Q4KM: 模型大小7.29GB 输出速度3.69TPS
2. Deepseek-R1-Distill-Qwen-7B-Q4KM: 模型大小4.68GB 输出速度6.03TPS
3. Deepseek-R1-Distill-Qwen-1.5B-Q4KM: 模型大小1.11GB 输出速度21.46TPS

测试方法2

PocketPal自带压力测试

1. Deepseek-R1-Distill-Qwen-1.5B-Q4KM: 输出速度24.7TPS 输入速度 58.01TPS 内存用量2GB(10%)
2. Deepseek-R1-Distill-Qwen-7B-Q4KM: 输出速度 6.59TPS 输入速度 12.43TPS内存用量5GB(32.2%)
3. Gemma-3-12b-it-Q4KM: 输出速度 3.91TPS 输入速度 7.44TPS内存用量8GB(49.2%)