跳到正文
原文
rohanpaul_ai· @rohanpaul_ai · X·· 3 小时前AI 评分30

RLNF 用脑信号直接生成奖励

AI 导读

这对于个性化 AI 来说,简直太超前了。 唤醒信号通过简单的嵌入向量加 k-NN 评分得到奖励。 神经反馈强化学习(RLNF)在观看者注视生成图像时,直接从大脑读取其唤醒信号,并将其用作 RL 奖励。 这个方向现在看起来非常自然。人类偏好本来就在大脑里,RLHF 通过一次点击来传递它,而 RLNF 则将脑信号直接接入奖励。

正文 · AI 翻译

这对于个性化 AI 来说,简直太超前了。

唤醒信号通过一个简单的嵌入模型加上 k-NN 进行评分。

采用神经反馈的强化学习(RLNF),在观看者观看生成图像时,直接从其大脑读取唤醒信号,并将其用作强化学习的奖励。

现在看来,这个方向显得如此自然。人类偏好本来就存在于大脑中,RLHF 通过点击行为将其间接传递出来,而 RLNF 则将脑信号直接接入奖励机制。

来源:rohanpaul_ai · x.com