设置参数，num_ctx，num_predict，把num_ctx设置大一点，具体多大不好说，我都是把已有上下文长度计算出来，然后再加上最大需要生成长度，num_predict设置成-1，可以最大把所有剩余上下文用完。
这需要自己用api或能够设置这些参数的app。