(相关资料图)
7月7日,2023世界人工智能大会(WAIC)“大模型时代的通用人工智能产业发展机遇以及风险”主题论坛在上海西岸举行。复旦大学MOSS系统负责人邱锡鹏在题为“大型语言模型MOSS:技术、实现与展望”主题演讲中表示,大语言模型在学术界已出现多年,今年正式走进了公众视野和人们的日常生活,给人工智能研究、从业者和人们的日常生活带来了巨大的变革。但通用大模型依然在可信性、安全性、逻辑性等方面存在挑战。今年4月,复旦大学自然语言处理实验室开发的新版MOSS模型正式上线,成为国内首个插件增强的开源对话语言模型,被行业称为中国版ChatGPT。邱锡鹏在会上说,作为一个大语言模型,MOSS可执行对话生成、编程、事实问答等系列任务。MOSS的开发步骤包括了自然语言模型的基座训练、理解人类意图的对话能力训练两个阶段,和ChatGPT具有相近的通用语义理解能力,但在推理能力和事实类知识方面仍有一定差距,目前MOSS系列在中文语义理解方面取得很大进步,未来将通过扩大模型规模和使用工具来进一步缩小差距。据介绍,上线以来,MOSS系统正在日夜迭代优化,目前MOSS团队正在通过参与大型语言模型生态建设,并在未来实现对话模型、模型微调、AIGT检测、模型对比和模型评测集一体的开源开放平台。邱锡鹏说,通用大模型不仅仅是工程问题,除算力需求大外,目前依然在可信性、安全性、逻辑性等方面存在很多挑战,需要高校研究团队进行重大科研攻关,解决智能涌现、复杂推理、高效架构、知识融合、学习策略等科学问题,为通用大模型的落地提供理论和技术支撑。MOSS近期的研究重点是如何理解复杂任务并进行任务分解后调用不同工具来完成任务。