导读 本文介绍了通义星尘个性化大模型相关技术与应用。(本文整理自 2023 年 11 月 24 日 DataFunCon2023(深圳站)(线下)严明老师关于《通义星尘个性化大模型相关技术与应用》的演讲,文章内容均切合于当时时间点)
1. 大模型发展背景介绍
2. 通义星尘个性化大模型
分享嘉宾|严明博士 阿里巴巴 高级算法专家
编辑整理|王甲君
内容校对|李瑶
出品社区|DataFun
大模型发展背景介绍
通义星尘个性化大模型
-
一是实现从通用到个性化的转变,关键在于如何将基础大模型训练成具备拟人化、情感化特征,并能呈现出千人千面的个性化大模型。 -
二是探索大小模型协同的 AI 智能体,由于大模型难以独立完成所有任务,需研究大模型与小模型如何高效协同,形成 agent 范式,从而解决更为复杂的问题。例如,当大模型不具备图片生成能力时,如何通过协同机制自动调用或触发相应的小模型。 -
三是发展多模态大模型,希望能够提供图文对话等交互方式,不断探索实现多模态大模型的有效途径。 -
四是从安全合规到负责任的 AI。随着大模型能力的迅速增强,如何确保其受到正确的价值观约束,成为安全且有社会责任感的 AI,是必须面对的重要课题。
-
模型逻辑表达能力不够,对于一些诱导性问题,常常盲目肯定或自相矛盾; -
模型意识不够,缺乏负责任意识和同理心,有时虽然具备相关知识,但由于对价值观和相关意识的训练不足,仍会给出不理想的回答; -
专业知识的理解与应用能力不足,例如法律知识的理解和应用、数据相关专业知识等。