大模型爱情神器!16种MBTI自在定制 北大出品

来源:华体会全站官网登录入口 发布时间:2024-01-13 17:30:10 阅读: 1

  这项作业由FarReel AI Lab(前身是ChatLaw项目)和北大深研院协作研制,支撑给开源模型赋予性情。

  比方Character.ai上不同性情的对话bot,便是用户经过提示工程出来的。

  所以北大团队提出了一种办法,他们自主构建了十万条大规模MBTI数据,然后经过多阶段预练习、微调、DPO练习办法为它注入性情。

  行为数据集的意图是为了让大模型可以表现出不同性情的回应,这部分是对Alpaca数据集进行特性化修正完结。

  以练习一个INFP大模型为例,在第一阶段的有监督微调中运用行为数据会集“I”、“N”、“F”、“P”四个数据集,在第二阶段的有监督微调中,再运用一个额定的自我意识数据集。

  研讨团队表明,这种办法成功使Baichuan、Qwen、LLaMA、Mistral等模型完结不同MBTI类型的性情对齐使命。

  首要敞开的是根据Baichuan-7b-chat的16个中文模型以及根据LLaMA2-7b的16个英文模型。后续还将做更多弥补。

  数据集涵盖了丰厚多样的场景,旨在协助研讨者和开发者练习出可以了解和模仿不同 MBTI 性情的基座模型。这些模型不仅仅可以供给愈加人性化的互动体会,还可以在多种情境下供给精准的心理学洞悉。

  关于这项作业的考虑,研讨团队以为人类的思想就像从出生就具有的一个预练习模型,每个人的参数、练习数据或许不完全风仪,这也导致咱们的一些抽象思想和才能不同,长大后有人拿手数理逻辑、有人拿手情感演绎。

  而之后从小到大的学习、环境、阅历的工作都适当所以在对咱们的预练习大脑进行微谐和人类反应对齐,这样来看,所谓的MBTI性情根本都是后天外因影响下构成的,这也导致每个人都独具特色。

  也便是说可以尝试用微谐和人类反应对齐(DPO),去对各种预练习的基座LLM进行分阶段的练习,然后让模型具有不同的MBTI特点。

  团队的方针不仅是使这些模型具有不同的MBTI特点,还要模仿人类构成不同MBTI性情的进程。

  他们信任,这一共同的办法将为咱们在人格心理学范畴了解和运用大言语模型拓荒新的途径。请持续重视更多的开展,由于咱们持续探究言语模型和人类特性的令人入神的交汇点。