Absolutely freezing, a bit cold:语言模型怎样把形容词和程度修饰语放在同一条强弱轴上
在 5 个开源语言模型里,形容词和 very、absolutely 这类程度修饰语共用一条强弱轴。它与网络语料里的搭配统计一致,影响模型如何理解新词,在中文里同样成立,并直接参与下游生成。
关于模型表征与数学方法的研究笔记。
在 5 个开源语言模型里,形容词和 very、absolutely 这类程度修饰语共用一条强弱轴。它与网络语料里的搭配统计一致,影响模型如何理解新词,在中文里同样成立,并直接参与下游生成。