OpenCompass/opencompass/datasets/needlebench/readme_zh-CN.md

Needlebench：大海捞针测试评估基准

English | 简体中文

概览

Needlebench是一个全面的基准测试，旨在严格评估大型语言模型（LLMs）的信息检索和推理能力。借鉴了NeedleInAHaystack实验的灵感，Needlebench扩展了范围，包括多种任务，每个任务都旨在测试LLMs处理、回忆和与长文本中嵌入的信息进行推理的不同方面的能力。

目录结构

opencompass/datasets/needlebench/
├── atc.py          # 祖源追溯挑战
├── multi.py        # 多针信息推理
├── origin.py       # 单针信息检索
├── parallel.py     # 多针信息检索
└── readme.md

任务描述

单针信息检索 (origin.py)

单针信息检索任务是Needlebench套件的基础，关注LLM从特定长度的干草堆文本中回忆单个重要信息的能力。这个任务反映了原始的NeedleInAHaystack测试的目标，评估模型在大型文本体中识别和回忆特定信息的精确性。

多针信息检索 (parallel.py)

多针信息检索任务挑战LLM识别和提取广泛文本中的多个关键信息点的能力。它模拟了现实世界中的场景，其中需要从文档或报告中检索多个数据点、事实或数字，评估模型在浏览和从密集文本中提取相关信息的效率。

多针信息推理 (multi.py)

在检索任务的基础上，多针理由推理任务强调LLM使用检索到的信息进行复杂推理的能力。模型不仅需要回忆多个信息点，还需要进行逻辑推理，综合回答反映对不同信息点之间复杂关系理解的答案。

祖源追溯挑战 (ATC) (atc.py)

祖源追溯挑战是Needlebench套件中最复杂的任务，要求模型回忆和分析长文本中的每个细节，以解决需要理解复杂关系的问题，如家谱查询或详细案例分析。这个任务突出了模型处理和推理详细信息的需要，反映了现实世界中对复杂实际任务的要求。