QMMMS's Blog

漫宿一瞥

真正的司辰不会面见虚源之神,环杉却在林地茂盛处与树中牝马会面。 找一处安静的地方 拉上窗帘,或戴上眼罩;光不必参与今天的练习 靠在沙发上,或躺在床上 把身体安放到它最容易忘记自己的姿势 双脚自然分开,脚趾向外,后跟相对 双腿与双臂微微张开,手掌向上,手指自然弯曲 轻轻闭上眼睛。留意颈部是否已经松开 如果它仍固执地记得白日的重量,就在颈下垫一个枕头 身体已经准备好了 做几次自然的深呼...

从SFT、RL到OPD。。。以及中间选择?

背景 监督微调和强化学习解决的是同一个问题:让模型更倾向于生成我们认为更好的输出: SFT 直接给出标准输出,让模型在固定样本上模仿 RL 让模型先生成,再用奖励函数评价结果,然后提高高奖励输出出现的概率。 在大模型后训练里,SFT 通常更稳定。给定输入 $q$ 和标准回答 $o$,训练目标就是提高 $\pi_\theta(o\mid q)$。梯度稳定,适合作为冷启动,但是...

RL in Memory

背景知识 监督微调的做法是给它标准答案,让它模仿;强化学习的做法则是让模型先生成,再用一个奖励函数评价这次生成的结果,然后提高高奖励输出出现的概率,降低低奖励输出出现的概率。 把语言模型写成强化学习里的策略,记为 $\pi_\theta$。给定输入 $q$,模型生成一个输出序列 $o=(o_1,o_2,\ldots,o_T)$。在自回归模型里,第 $t$ 个 token 的生成概率是: ...

平行世界中的某互联网厂实习回忆录

平行世界,虚拟时间,虚拟地点,虚拟公司,请不要对号入座 福利与工作环境 L 型工位,带两个柜子和人体工学椅,工位间的隔板很高,环境很不错。不过对于有些不太幸运的实习生,正式工位不够,就只能在走廊里架一个临时桌子当工位。 每个楼层分 A、B、C 区,只有 B 区有会议室,其他都是工位。会议室有各种规模的,几人到100多人。事实上,如果是谈具体的工作,那么十人左右的会议室完全足够了。10...

Who You Want to Be

很多时候,我们思考的一切,别人已经思考过了。 这篇文章尝试讲解 Gigachad、Virgin、Incel、Neckbeard、Wojak、Doomer等符号,作为认识自己的一些前置准备 引入 我们都知道这个男人 Gigachad。最纯净、最完美的肉体,全部人类雄性概念所提炼出的最高精华,斗志与耐性与黄金精神更是带给他的追随者无限惊喜。时而他鼓励人们走进健身房进行自我提升;时...