生成式人工智能正在成为信息化、数字化、智能化的新技术基础。特别是,以大规模语言模型为代表的生成模型,具有强大的知识编码和存储能力、文本和代码理解和生成能力以及复杂的任务。它被认为是实现通用人工智能的技术路线之一,有望成为推动新技术变革和经济发展的重要技术,对科学和社会产生重大影响。当前,生成式人工智能正处于快速变革和迭代的关键时期,由于智能涌现的基本理论机制尚不明确、计算成本较高、生成内容的安全性需要提高、自动评估等问题。挑战,例如困难研究尤为重要,因为需要开发新的、高效且可靠的大规模模型。呈现生成人工智能基础理论创新和重大技术突破,推动系统性、原创性基础研究,从预训练数据治理、协调策略、知识丰富等多个层面建立模型,提高全周期安全性。技术的开发和应用对于提升国家战略地位和国际竞争力具有重要意义。
1、科学目标:该专项研究大规模模型的智能涌现机制,提高其处理复杂任务的能力,着力解决生成内容的安全性和可靠性问题,探索大规模模型的知识整合和创新应用。缩放模型,增强用户体验,并促进新技术的开发。
2.资助研究方向面向生成人工智能前沿科学方向和国家重大战略需求,考虑当前技术瓶颈和挑战,设置六个层次:“理论机制-架构设计-计算效率” - 安全调整-''。 “评估方法-应用实例”我们将重点研究高效可靠模型的基础理论和要素技术。 (1)生成模型智能涌现机制研究设计有效的分析工具,研究生成中智能涌现、情境学习、指令微调、思维链能力的数学机制。在此基础上,进一步提高模型的泛化能力、多步推理能力以及分解复杂任务的能力。 (2)针对生成模型的新型高效神经网络架构的研究考虑到生成人工智能中Transformer架构的复杂性问题,研究高效的模型架构和跨模态集成架构,例如self-attention,优化关键模块以提高模型处理能力长序列、多模态等场景下的能力和效率,探索非Transformer高效架构、可重构模块化架构等新的架构设计方法。 (3)大规模模型高效学习和推理方法研究,研究学习和推理方法并提出适配措施国产软硬件低通讯、高并发分布式训练算法提高低资源条件下模型推理效率,模型云探索边缘协同推理机制,保证性能和响应速度。 (4)研究符合人类价值偏好的可持续、可泛化、无冲突的大规模模型价值观和安全调整策略,实现安全伦理和认知推理能力的调整和超越。比例模型调整技术。该算法的良性和有效性提高了大规模模型安全伦理值调整算法的训练稳定性和应用可靠性。 (5)生成模型的自动评价方法我们考虑了模型生成内容的评价难题,开展了针对事实准确性、有用性、逻辑性、安全性、生成内容的多维度自动评价方法的研究。我们从无害性、遵循指令的能力、处理长文档的能力等方面构建了评估标准和相应的评估数据集。 (6)生成式人工智能的行业和专业模型研究;针对领域预训练和领域指导的微调,考虑到生成式人工智能技术在金融、教育、医学、科学等领域的应用挑战;开发研究方法,构建集成领域知识的增强模型,并探索突破性的生成式人工智能应用。
3、资助计划拟资助6个项目,资助强度为每个项目50万元。资助期限为一年,请在申请表上注明“2024年3月1日至2025年2月28日”为研究期限。
四、申报要求及注意事项(一)申报资格1.具有基础研究项目经历, 2.具有高级专业技术职务(职称)。进站博士后、在读研究生、无单位、非后勤人员不得申请。 (二)申报限制1、本专项项目不计入申报总数和实施项目数。 2. 申请人同一学年只能申请一项本专业领域的研究项目。 (三)申报注意事项1、特殊项目无纸化申报申报时间为2024年1月18日至2024年1月22日16:00。二、申请者须知(一)申请者在填写申请表前,应仔细阅读本专项指南及《2023年度国家自然科学基金项目指南》的相关内容,不符合项目指南及相关要求的项目将不予受理。 t。 (2)本专项项目的目的是围绕核心科学问题,汇聚日本优秀研究团队,进行研究,组成专项项目组。申请人可根据本项目解决的具体科学问题和项目指南中公布的资助研究方向,提供自己的项目名称、科学目标、研究内容、关键科学、挑战、技术路线和相应的研究经费等。制定的。 (三)申请人须登录科学基金网络信息系统http://grants.nsfc.gov.cn/(没有系统账户的申请人需到接收机构基金管理台申请开户),请按照申请流程进行操作概要及相关要求。 (4)资助类别请选择“特别项目”,子类别说明请选择“研究项目”,备注说明请选择“理学院一般研究项目”(申请代码1表示资助的研究项目。确定资助项目)信息科学系按照方向要求,申请代码从属于F02、F06,以上选择错误或未选的项目将不予受理)。 (5)申请表按照《专项-研究项目申请表编制指南》填写,开头应写明“生成人工智能基础研究:(填写六个研究方向之一)”有资格获得资助)。” “请具体说明。申请文本。申报应突出有限目标和重大突破,明确项目对实现总体科学目标、解决核心科学问题的贡献。如申请人已在从事与本专项相关的其他科技规划项目,请参阅申请正文中的“科研基础设施和工作条件”,了解拟申报项目与其他相关科技规划项目的区别与联系。项目。应在第3 节中讨论。 (六)申请人应严格遵守《国家自然科学基金资助项目资金管理办法》等相关规定和《国家自然科学基金项目资金预算表编制说明》的具体要求,按照“目标相关性、政策连贯性、经济合理性”的基本原则,精心创建。三、接收机构考虑(一)接收机构应当审核申请人提交的申请材料的真实性、完整性、合规性,以及申请人预算目标的相关性、政策连贯性、经济性,并审查合理性。 (二)电子申请表和单位附件须在规定的项目申请截止日期前在信息系统上一一核对提交,纸质申请表无需提交。项目获批后,请将纸质签字/盖章页附在申请表《国家自然科学基金项目预算表》末尾,一并提交。签名和盖章的信息必须与电子申请表完全一致。 (三)如依托单位2024年未上传《资助项目计划书》(以下简称《2024年度国家自然科学基金项目申请承诺书》)的,从信息系统下载《承诺书》并加盖依托单位法定代表人签名和公章。必须盖章。单位,并以电子扫描件的形式存入信息系统(今年只需上传一次)。仅当主机设备完成上述承诺步骤后才能提交申请。 (四)主办单位须在项目申请截止后24小时内通过信息系统在线提交项目申请清单。
名单提交后,国家自然科学基金委员会即可收到项目申请材料。 4.本次特殊咨询方式
国家自然科学基金委信息科学部二部
联络人:
吴国政、王志恒、谢果
联系电话:
010-62327929、010-62327807、010-62327090 (四)其他注意事项1、支持项目负责人应与支持项目负责人保持相互支持的关系,以实现专项总体科学目标。项目请注意以下事项。项目实施过程中的其他专项项目。 2、为加强项目间的学术交流,本项目将成立专门的项目管理协调小组,不定期举办相关领域的学术研讨会。资助项目负责人必须参加上述学术交流活动,并认真从事学术交流。
来源:国家自然科学基金委员会