mirror of https://github.com/open-compass/opencompass.git synced 2025-05-30 16:03:24 +08:00

Mor-Li f8e41dfeb4 [Docs] fix needlebench examples

2025-04-27 16:36:59 +08:00

9.4 KiB

Raw Blame History

大海捞针(Needle In A Haystack)实验评估

大海捞针测试简介

大海捞针测试（灵感来自NeedleInAHaystack）是一种评估方法，它通过在长文本中随机插入关键信息，形成大型语言模型(LLM)的Prompt。该测试旨在检测大型模型是否能从长文本中提取出这些关键信息，从而评估模型处理长文本信息提取的能力，这可以反映LLM对长文本的理解基础能力。

任务介绍

在OpenCompass的NeedleBench框架中，为了全面评估模型在长文本信息提取和推理方面的能力，我们设计了一系列逐渐增加难度的测试方案。完整的介绍参见我们的技术报告。

单一信息检索任务(Single-Needle Retrieval Task, S-RT)：评估LLM在长文本中提取单一关键信息的能力，测试其对广泛叙述中特定细节的精确回忆能力。这对应于原始的大海捞针测试任务设定。
多信息检索任务(Multi-Needle Retrieval Task, M-RT)：探讨LLM从长文本中检索多个相关信息的能力，模拟实际场景中对综合文档的复杂查询。
多信息推理任务(Multi-Needle Reasoning Task, M-RS)：通过提取并利用长文本中的多个关键信息来评估LLM的长文本能力，要求模型对各关键信息片段有综合理解。
祖先追溯挑战(Ancestral Trace Challenge, ATC)：通过设计“亲属关系针”，测试LLM处理真实长文本中多层逻辑挑战的能力。在ATC任务中，通过一系列逻辑推理问题，检验模型对长文本中每个细节的记忆和分析能力，在此任务中，我们去掉了无关文本(Haystack)的设定，而是将所有文本设计为关键信息，LLM必须综合运用长文本中的所有内容和推理才能准确回答问题。

评估步骤

注意：在最新的OpenCompass代码中，NeedleBench数据集会自动从Huggingface接口加载，无需手动下载或配置数据集，您可以直接运行评测命令。

`OpenCompass`环境配置

conda create --name opencompass python=3.10 pytorch torchvision pytorch-cuda -c nvidia -c pytorch -y
conda activate opencompass
git clone https://github.com/open-compass/opencompass opencompass
cd opencompass
pip install -e .

配置数据集

我们在opencompass/configs/datasets/needlebench中已经预先配置好了关于常见长度区间(4k, 8k, 32k, 128k, 200k, 1000k)的长文本测试设定，您可以通过在配置文件中定义相关参数，以灵活地创建适合您需求的数据集。

评估示例

使用`VLLM`部署的 `Qwen2-5-7B` 模型进行评估

例如，使用VLLM部署的 Qwen2-5-7B 模型进行评估NeedleBench-128K的所有任务，可以在命令行中直接使用以下命令，该命令会调用预定义好的模型、数据集配置文件，而无需额外书写配置文件：

本地评估

如果您在本地评估模型，下面命令会调用机器的所有可用GPU。您可以通过设置 CUDA_VISIBLE_DEVICES 环境变量来限制 OpenCompass 的 GPU 访问。例如，使用 CUDA_VISIBLE_DEVICES=0,1,2,3 python run.py ... 只会向 OpenCompass 暴露前四个 GPU，确保它同时使用的 GPU 数量不超过这四个。

# 本地评估
python run.py --dataset needlebench_128k --models vllm_qwen2_5_7b_instruct_128k  --summarizer needlebench/needlebench_128k_summarizer

在Slurm集群上评估

如果使用 Slurm，可以添加 --slurm -p partition_name -q reserved --max-num-workers 16 等参数，例如下面：

# Slurm评估
python run.py --dataset needlebench_128k --models vllm_qwen2_5_7b_instruct_128k  --summarizer needlebench/needlebench_128k_summarizer --slurm -p partition_name -q reserved --max-num-workers 16

只评估子数据集

如果只想测试原始的大海捞针任务设定，比如可以更换数据集的参数为needlebench_single_128k，这对应于128k长度下的单针版本的大海捞针测试：

python run.py --dataset needlebench_single_128k --models vllm_qwen2_5_7b_instruct_128k  --summarizer needlebench/needlebench_128k_summarizer --slurm -p partition_name -q reserved --max-num-workers 16

您也可以进一步选择子数据集，如更换数据集--datasets的参数为needlebench_single_128k/needlebench_zh_datasets，仅仅进行中文版本的单针128k长度下的大海捞针任务测试，其中/后面的参数代表子数据集，您可以在opencompass/configs/datasets/needlebench/needlebench_128k/needlebench_single_128k.py中找到可选的子数据集变量，如：

python run.py --dataset needlebench_single_128k/needlebench_zh_datasets --models vllm_qwen2_5_7b_instruct_128k  --summarizer needlebench/needlebench_128k_summarizer --slurm -p partition_name -q reserved --max-num-workers 16

注意在评估前预先安装VLLM工具

# Install vLLM with CUDA 12.4.
# For other CUDA versions, please refer to the [official documentation](https://docs.vllm.ai/en/latest/getting_started/installation/gpu.html)
pip install vllm

这个命令将启动评估流程，其中参数 -p partition_name 用于指定 Slurm 分区名称，-q auto 用于指定 quota type（资源队列类型，例如 auto、reserved 等），--max-num-workers 32 用于设置最大工作进程数。

评估其他`Huggingface`模型

对于其他模型，我们建议额外书写一个运行的配置文件以便对模型的max_seq_len, max_out_len参数进行修改，以便模型可以接收到完整的长文本内容。如这里的的examples/eval_needlebench.py文件。完整内容如下

from mmengine.config import read_base
# we use mmengine.config to import other config files

with read_base():
    from opencompass.configs.models.hf_internlm.hf_internlm2_chat_7b import models as internlm2_chat_7b

    # Evaluate needlebench_32k, adjust the configuration to use 4k, 32k, 128k, 200k, or 1000k if necessary.
    # from .datasets.needlebench.needlebench_32k.needlebench_32k import needlebench_datasets
    # from .summarizers.needlebench import needlebench_32k_summarizer as summarizer

    # only eval original "needle in a haystack test" in needlebench_32k
    from opencompass.configs.datasets.needlebench.needlebench_32k.needlebench_single_32k import needlebench_zh_datasets, needlebench_en_datasets
    from opencompass.configs.summarizers.needlebench import needlebench_32k_summarizer as summarizer

    # eval Ancestral Tracing Challenge(ATC)
    # from .datasets.needlebench.atc.atc_0shot_nocot_2_power_en import needlebench_datasets
    # ATC use default summarizer thus no need to import summarizer

datasets = sum([v for k, v in locals().items() if ('datasets' in k)], [])

for m in internlm2_chat_7b:
    m['max_seq_len'] = 32768 # 保证InternLM2-7B模型能接收到完整的长文本，其他模型需要根据各自支持的最大序列长度修改。
    m['max_out_len'] = 4096

models = internlm2_chat_7b

work_dir = './outputs/needlebench'

当书写好测试的config文件后，我们可以命令行中通过run.py文件传入对应的config文件路径，例如：

python run.py configs/eval_needlebench.py  --slurm -p partition_name -q reserved --max-num-workers 16

注意，此时我们不需传入--dataset, --models, --summarizer 等参数，因为我们已经在config文件中定义了这些配置。你可以自己手动调节--max-num-workers的设定以调节并行工作的workers的数量。

可视化

我们已经在最新的代码中将结果可视化内置到summarizer实现中，您在对应的output文件夹的plots目录下可以看到相应的可视化。而不需要自己手动可视化各个深度和长度下的分数。

引用

如果使用了该方法，请添加引用:


@misc{li2024needlebenchllmsretrievalreasoning,
      title={NeedleBench: Can LLMs Do Retrieval and Reasoning in 1 Million Context Window?},
      author={Mo Li and Songyang Zhang and Yunxin Liu and Kai Chen},
      year={2024},
      eprint={2407.11963},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2407.11963},
}

@misc{2023opencompass,
    title={OpenCompass: A Universal Evaluation Platform for Foundation Models},
    author={OpenCompass Contributors},
    howpublished={\url{https://github.com/open-compass/opencompass}},
    year={2023}
}

@misc{LLMTest_NeedleInAHaystack,
  title={LLMTest Needle In A Haystack - Pressure Testing LLMs},
  author={gkamradt},
  year={2023},
  howpublished={\url{https://github.com/gkamradt/LLMTest_NeedleInAHaystack}}
}

@misc{wei2023skywork,
      title={Skywork: A More Open Bilingual Foundation Model},
      author={Tianwen Wei and Liang Zhao and Lichang Zhang and Bo Zhu and Lijie Wang and Haihua Yang and Biye Li and Cheng Cheng and Weiwei Lü and Rui Hu and Chenxia Li and Liu Yang and Xilin Luo and Xuejie Wu and Lunan Liu and Wenjun Cheng and Peng Cheng and Jianhao Zhang and Xiaoyu Zhang and Lei Lin and Xiaokun Wang and Yutuan Ma and Chuanhai Dong and Yanqi Sun and Yifu Chen and Yongyi Peng and Xiaojuan Liang and Shuicheng Yan and Han Fang and Yahui Zhou},
      year={2023},
      eprint={2310.19341},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

9.4 KiB Raw Blame History Unescape Escape