# SpQR

يتضمن خوارزمية التكميم [SpQR](https://hf.co/papers/2306.03078) بنية تكميم ثلاثية البت على مستوى مجموعتين مقسّمة إلى بلاطات 16x16 مع قيم شاذة متناثرة.

    

> [!TIP]
> للتكميم نموذج باستخدام SpQR، يُرجى الرجوع إلى مستودع [Vahe1994/SpQR](https://github.com/Vahe1994/SpQR).

حمّل نموذجًا مُكمَّمًا بتقنية SpQR باستخدام [from_pretrained()](/docs/transformers/main/ar/main_classes/model#transformers.PreTrainedModel.from_pretrained).

```python
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

quantized_model = AutoModelForCausalLM.from_pretrained(
    "elvircrn/Llama-2-7b-SPQR-3Bit-16x16-red_pajama-hf",
    dtype=torch.half,
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained("elvircrn/Llama-2-7b-SPQR-3Bit-16x16-red_pajama-hf")
```