paper.dinq.meAI 与前沿科学顶会 · 学术新星雷达
登录 DINQ
返回新星榜
YM

Yao Ma

ACL 2026ICLR 2026安全社会与人本理论与学习动力学对齐与偏好强化学习与后训练
新星分贡献者
51
一作贡献0
核心/参与17
方向广度13
合作网络9
0 一作 · 2 篇 · ACL 2026 / ICLR 2026

获取完整研究档案

首次获取该候选人的完整档案及 StartLux 评估共 20 积分;每位用户单独解锁,之后查看免费。主动刷新 20 积分。

联系方式

实时查找电子邮箱,费用不超过20积分;未找到邮箱不扣费。

2026 顶会论文

2
作者位次 #2/8ACL 2026Poster· Natural Language Processing

ARES : Adaptive Red-Teaming and End-to-End Repair of Policy-Reward System

Jiacheng Liang · Yao Ma · Tharindu Kumarage · Satyapriya Krishna · Rahul Gupta · Kai-Wei Chang · Aram Galstyan · Charith Peris

摘要

Reinforcement Learning from Human Feedback (RLHF) is central to aligning Large Language Models (LLMs), yet it introduces a critical vulnerability: an imperfect Reward Model (RM) can become a single point of failure when it fails to penalize unsafe behaviors. While existing red-teaming approaches...

安全对齐与偏好强化学习与后训练OpenReview 项目页

常见合作者