diff --git a/AI_Web_Scraper/model_downloader.py b/AI_Web_Scraper/model_downloader.py index 9eddeba..c4e2d99 100644 --- a/AI_Web_Scraper/model_downloader.py +++ b/AI_Web_Scraper/model_downloader.py @@ -35,7 +35,7 @@ def download_model(config_path='./config.json'): model_name, cache_dir=local_path, quantization_config=quantization_config, - device_map="cpu", # 다운로드 시 CPU에 로드하여 메모리 절약 + device_map="auto" if quantization_config else "cpu", # 양자화 시 auto, 아니면 cpu torch_dtype="auto" ) tokenizer = AutoTokenizer.from_pretrained(