竟思佳

SafeDialBench: A Fine-Grained Safety Benchmark for Large Language Models in Multi-Turn Dialogues

共同一作 (Co-first Author)

• 核心贡献: 提出首个系统性评估多轮对话安全性的综合基准，填补了LLM安全评估在多轮风险累积方面的空白
• 数据规模: 构建4,053条双语多轮对话（中文2,016条、英文2,037条），对话轮次3-10轮，覆盖6大安全维度、22个子类别、22个真实场景
• 技术创新: 首创三维度评估框架（识别、处理、一致性）+ 整合7种越狱攻击策略
• 关键发现: 评估了17个主流LLM（GPT-4o、Yi-34B-Chat、Llama3.1等），发现第4轮后安全性显著退化
• 影响力: 代码完全开源（CC BY 4.0），已被PsyLite、MultiBreak等多个后续研究引用，纳入Emergent Mind综述

PIARS: Progressive Induction-Aware Representation Separation for LLM Safety

第一作者 (First Author)

• 方法创新: 提出首个针对多轮越狱的表征工程防御方法，通过LoRA高效更新模型参数实现安全对齐
• 理论贡献: 首次提出Induction Degree (ID)概念，定量化多轮对话中的风险累积效应
• 技术方案: 设计多目标优化框架：(1)ID加权的表征分离损失 (2)安全边界约束 (3)效用保留损失
• 实验结果: 在Llama-3、Qwen2.5、Mistral等模型上，多轮越狱ASR平均降低50%以上，同时过度拒绝率降低40%，保持MMLU/GSM8K性能
• 研究价值: 为表征工程与多轮安全对齐提供了理论基础和实践路径，t-SNE可视化证实安全/不安全表征成功分离

发明专利

• 《一种基于大模型的电磁领域混合数据集自动生成方法》（中国航天科工项目产出）
• 《一种构建可信电磁雷达领域多模态大模型的一站式适配架构及方法》（中国航天科工项目产出）
• 《一种基于智能体'灵犀'的拟人化多轮对话客服方法》（中国移动项目产出）