检索结果-重庆医科大学图书馆

万方期刊

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

基于大语言模型的语料库查询自动生成方法

计算机工程 2024年

作者：张成辉罗景涂新辉陈雨霖武汉科技大学计算机科学与技术学院智能信息处理与实时工业系统湖北省重点实验室华中师范大学计算机学院

语料库查询语言(Corpus Query Language，CQL)是一种用于在语料库中进行检索和分析的查询语言，自然语言自动生成CQL指将用户以自然语言表达的查询需求自动转换为标准的CQL语句，从而大大降低了用户使用语料库的门槛。虽然大语言模型可... 详细信息

语料库查询语言(Corpus Query Language，CQL)是一种用于在语料库中进行检索和分析的查询语言，自然语言自动生成CQL指将用户以自然语言表达的查询需求自动转换为标准的CQL语句，从而大大降低了用户使用语料库的门槛。虽然大语言模型可以较好的完成自然语言生成任务，但是在CQL生成任务中效果还不是很理想。为此，提出一种基于大语言模型上下文学习的语料库查询自动生成方法T2CQL。首先，基于CQL的编写规则总结出一套简洁全面的Text-to-CQL语法知识，作为大语言模型实现Text-to-CQL的自动转换的基础，以弥补大语言模型在此领域知识储备的不足。然后，基于选定的嵌入模型，选取与当前自然语言查询最接近的前k个Text-CQL样本对，以帮助大语言模型理解语法知识并作为参照。最后，采用生成结果校准策略来减轻大语言模型在生成CQL时的偏差，通过校准模型偏差以提升模型生成CQL的性能。实验使用多个大语言模型在包含1177条数据的测试集上进行测试。实验结果表明，T2CQL方法显著提升了大语言模型在完成Text-to-CQL自动转换任务时的性能，最优的EX达到了85.13%。

关键词：语料库查询语言大语言模型上下文学习自然语言处理提示工程

一种聚焦于提示的大语言模型隐私评估和混淆方法

同方期刊数据库评论

在线全文

同方期刊数据库

学校读者我要写书评

暂无评论

信息网络安全 2024年第9期24卷 1396-1408页

作者：焦诗琴张贵杨李国旗北京航空航天大学可靠性与系统工程学院北京100191

虽然大语言模型在语义理解方面表现优异,但频繁的用户交互带来了诸多隐私风险。文章通过部分回忆攻击和模拟推理游戏对现有的大语言模型进行隐私评估,证明了常见的大语言模型仍存在两类棘手的隐私风险,即数据脱敏处理可能影响模型响应... 详细信息

虽然大语言模型在语义理解方面表现优异,但频繁的用户交互带来了诸多隐私风险。文章通过部分回忆攻击和模拟推理游戏对现有的大语言模型进行隐私评估,证明了常见的大语言模型仍存在两类棘手的隐私风险,即数据脱敏处理可能影响模型响应质量以及通过推理仍能获取潜在的隐私信息。为了应对这些挑战,文章提出了一种聚焦于提示的大语言模型隐私评估和混淆方法。该方法以结构化进程展开,包括初始描述分解、伪造描述生成以及描述混淆。实验结果表明,文章所提方法的隐私保护效果较好,与现有方法相比,处理前后的模型响应之间的归一化Levenshtein距离、Jaccard相似度和余弦相似度均有一定程度下降。该方法也有效限制了大语言模型的隐私推理能力,准确率从未处理时的97.14%下降至34.29%。这项研究不仅加深了人们对大语言模型交互中隐私风险的理解,还提出了一种用于增强用户隐私安全的综合方法,可有效解决上述两类棘手的隐私风险场景下的安全问题。

关键词：隐私风险大语言模型提示工程描述混淆

同方期刊数据库

万方期刊评论

在线全文

学校读者我要写书评

暂无评论

大语言模型驱动的立场感知事实核查

计算机应用 2024年第10期44卷 3067-3073页

作者：姜雨杉张仰森北京信息科技大学智能信息处理研究所北京100101

为解决事实核查领域的证据立场不平衡和忽略立场信息的问题,提出一种大语言模型(LLM)驱动的立场感知事实核查(LLM-SA)方法。首先,使用LLM推理并生成一系列与原始声明立场不同的辩证声明,使事实核查任务能够获取不同立场的视角;其次,通... 详细信息

为解决事实核查领域的证据立场不平衡和忽略立场信息的问题,提出一种大语言模型(LLM)驱动的立场感知事实核查(LLM-SA)方法。首先,使用LLM推理并生成一系列与原始声明立场不同的辩证声明,使事实核查任务能够获取不同立场的视角;其次,通过语义相似度计算衡量每个证据句子与原始声明及辩证声明之间的相关性,并从证据句子中分别选择与两者语义上最相近的k个句子,作为支持或反对原始声明的证据,从而获得代表不同立场的证据,有助于事实核查模型综合多角度的信息,更准确地评估声明的真实性;最后,引入BERT-StuSE(Bidirectional Encoder Representations from Transformers-based Stance-infused Semantic Encoding network)模型,利用多头注意力机制充分融合证据的语义和立场信息,并更全面、客观地判断声明和证据的关系。在CHEF数据集上的实验结果表明,与BERT方法相比,所提方法在测试集上的Micro F1值和Macro F1值分别提高了3.52、3.90个百分点,达到较好的水平。验证了所提方法的有效性,以及考虑不同立场的证据和充分利用证据的立场信息对事实核查的性能提升具有重要意义。

关键词：事实核查自然语言处理大语言模型提示工程立场感知多头注意力机制

经过提示的ChatGPT能否实现有效的情感支持？基于机器学习的探索性研究

万方期刊评论

在线全文

学校读者我要写书评

暂无评论

经过提示的ChatGPT能否实现有效的情感支持？基于机器学习的探索...

第二十五届全国心理学学术会议

作者：董王昊黄英辉周瑾宜王伟军华中师范大学心理学院湖北省武汉市洪山区珞喻路152 号430079 武汉理工大学管理学院湖北省武汉市洪山区珞狮路122 号430070

情感支持(Emotional Support)旨在减少情感困扰,帮助求助者理解并克服所面临的挑战。人工智能能否为人类提供情感支持,是长久以来备受关注的话题。ChatGPT是当前最具影响力的生成式人工智能,其突出的语言输出能力和前后文结合能力使得A... 详细信息

情感支持(Emotional Support)旨在减少情感困扰,帮助求助者理解并克服所面临的挑战。人工智能能否为人类提供情感支持,是长久以来备受关注的话题。ChatGPT是当前最具影响力的生成式人工智能,其突出的语言输出能力和前后文结合能力使得AI情感支持成为可能。本研究以ChatGPT为对象,通过设定专门的提示策略,发掘与验证其在情感支持中的能力。研究一:聚焦心理健康问答情景,目的在于探讨ChatGPT在单轮对话中的情感支持能力。基于由10903提问和19682回答组成的数据集,构建心理健康问答感知有用性的预测模型;通过特征敏感性分析及解释性机器学习方法,建立感知有用性的解释性模型,以识别影响感知有用性的关键性性语言线索及其影响方式,进而制定提示策略;然后采用统计分析方法比较提示之后的ChatGPT与人类咨询师在心理健康问答中的感知有用性。结果显示:在严重风险和中度风险问题上,提示后的ChatGPT达到了"人类咨询师"的平均水平(p> 0.05);而对于低风险和无风险问题,提示后的ChatGPT已经超过了"人类咨询师"的平均水平(6.80%和4.63%, p 提示,后者可用以评估ChatGPT会话的有效性。然后对提示后的ChatGPT和人类专家的情感会话有效性进行分析比较。结果发现:经过会话策略提示的ChatGPT的表现显著高于人类咨询师的平均水平(13.25%, p <0.001)。最后,还对ChatGPT在不同问题类型上的表现进行了对比与探讨,并指明了存在的不足以及未来展望。总体上,本研究以计算社会科学为导向,初步证实了ChatGPT的情感支持能力,为AI在心理健康领域的运用提供了有力支持。

关键词：情感支持人工智能 ChatGPT 提示工程机器学习

来源： cnki会议（国内）评论

在线全文

cnki会议（国内）

学校读者我要写书评

暂无评论

基于开源代码大语言模型提示的学生代码修复

华东师范大学学报（自然科学版） 2024年第5期 93-103页

作者：陈郅睿陆雪松华东师范大学数据科学与工程学院上海200062

随着机器学习技术的进步,旨在学习人类修复错误代码模式的自动程序修复技术可以辅助学生修复错误代码,提高学生的自主学习效率.在过去,自动程序修复模型或是基于人工设计的符号规则,或是基于数据驱动的方法.随着具有强大自然语言理解能... 详细信息

随着机器学习技术的进步,旨在学习人类修复错误代码模式的自动程序修复技术可以辅助学生修复错误代码,提高学生的自主学习效率.在过去,自动程序修复模型或是基于人工设计的符号规则,或是基于数据驱动的方法.随着具有强大自然语言理解能力和代码生成能力的大语言模型的出现,一些研究尝试使用提示工程进行自动程序修复.然而,现有研究主要评估诸如Codex和GPT-4这样的商用模型,一方面大规模使用的成本较高,另一方面在教育场景下存在数据隐私隐患.此外,这些研究大多使用简单的提示形式来评估模型修复程序的能力,且缺乏对结果的深入分析.为弥补上述工作的不足,通过提示工程评估了两个代表性的开源代码大语言模型,测试了不同的提示方法,例如思维链和少样本学习,并对结果进行了深入分析,最后提出了一些将大语言模型和编程教育场景结合的建议.

关键词：自动程序修复大语言模型提示工程

基于微调GPT3.5模型的高质量小说生成研究

万方期刊评论

在线全文

学校读者我要写书评

暂无评论

现代计算机 2024年第5期30卷 67-71页

作者：赵莉珺西藏民族大学信息工程学院咸阳712082

生成型已训练变换模型3.5(GPT3.5)特色小说文本的质量可以通过微调进一步提高,具体是通过美国开放人工智能研究中心(OpenAI)提供的GPT3.5模型的接口并对其进行改进,主要以收集高质量小说文本并对其进行信息提取、生成提示作为API数据的... 详细信息

生成型已训练变换模型3.5(GPT3.5)特色小说文本的质量可以通过微调进一步提高,具体是通过美国开放人工智能研究中心(OpenAI)提供的GPT3.5模型的接口并对其进行改进,主要以收集高质量小说文本并对其进行信息提取、生成提示作为API数据的输入。在微调过程中的细节处理和评估方法,证明了该模型在生成小说方面的优势和局限性。相比于微调中所用到的参数调整等方法而言,提示工程对于模型的调整具有相对大的权重,因此在微调控制方法中提示设计具有重要意义。通过探索高质量小说生成模型,研究机器与小说之美的距离,这对于NLP研究是非常有意义的。

关键词：微调 GPT3.5模型小说文本生成 OpenAI API 提示工程

审计大模型的构建及应用研究——以员工违规经商办企业专项审计为例

万方期刊

同方期刊数据库评论

在线全文

学校读者我要写书评

暂无评论

审计研究 2024年第4期 139-149页

作者：陈亚盛蒋礼蔚单敏庄平厦门大学管理学院 361000 国网福建省电力有限公司 350003

大语言模型等人工智能技术的飞速发展为提高内部审计质效带来了契机。本文设计基于“提示工程+检索增强生成+超参数调整”的审计大模型构建框架,并以员工违规经商办企业专项审计为例,在贯穿审计全流程的九个审计工作场景中,探索并实现... 详细信息

大语言模型等人工智能技术的飞速发展为提高内部审计质效带来了契机。本文设计基于“提示工程+检索增强生成+超参数调整”的审计大模型构建框架,并以员工违规经商办企业专项审计为例,在贯穿审计全流程的九个审计工作场景中,探索并实现了大语言模型在内部审计中的应用。研究结果表明,本文所设计的构建框架可以帮助审计人员在实务中构建与应用审计大模型,为将大语言模型应用于审计工作提供实现路径的参考。

关键词：审计大语言模型提示工程检索增强生成超参数调整

大语言模型在社交媒体文本生成领域的应用研究——以小红书平台为例

同方期刊数据库

万方期刊更多评论

在线全文

学校读者我要写书评

暂无评论

新媒体研究 2024年第6期10卷 16-20页

作者：马君锡王小刚兰州交通大学电子与信息工程学院

基于大语言模型提示工程,探索生成具有社交媒体特色文本的应用方法。以小红书平台为例,在不对模型进行任何微调的前提下,设计提示模板并结合小样本学习,引导大语言模型生成符合小红书特色的文本内容。研究发现,将提示与小样本示例结合,... 详细信息

基于大语言模型提示工程,探索生成具有社交媒体特色文本的应用方法。以小红书平台为例,在不对模型进行任何微调的前提下,设计提示模板并结合小样本学习,引导大语言模型生成符合小红书特色的文本内容。研究发现,将提示与小样本示例结合,能够显著提高生成文本的质量和相关性,同时保持文本内容的多样性和创新性。

关键词：大语言模型提示工程社交媒体文本生成小红书

万方期刊国家哲学社会科学学术...

在线全文

学校读者我要写书评

暂无评论

基于大语言模型的问答技术研究进展综述

数据分析与知识发现 2024年第6期8卷 16-29页

作者：文森钱力胡懋地常志军中国科学院文献情报中心北京100190 中国科学院大学经济与管理学院信息资源管理系北京100190 国家新闻出版署学术期刊新型出版与知识服务重点实验室北京100190

【目的】全面回顾和概述基于大语言模型的问答技术发展现状、机制原理以及应用趋势。【文献范围】选取与基于大语言模型的问答技术相关的73篇文献。【方法】系统梳理大语言模型的发展现状、参数高效微调策略,分别从面向简单问题的检索... 详细信息

【目的】全面回顾和概述基于大语言模型的问答技术发展现状、机制原理以及应用趋势。【文献范围】选取与基于大语言模型的问答技术相关的73篇文献。【方法】系统梳理大语言模型的发展现状、参数高效微调策略,分别从面向简单问题的检索增强生成问答推理以及面向复杂问题的提示工程问题推理两方面,深入解析各技术的原理机制、应用价值与存在问题。通过定性分析,全面概述基于大语言模型的问答技术研究进展,并提出未来研究方向。【结果】开源预训练大语言模型不断涌现,高效微调策略可显著提升模型垂直领域适配性。借助文本嵌入与近似最近邻检索技术,检索增强生成技术可有效提升问答可解释性与可信度。借助精心构造的提示工程,可大幅拓展大语言模型的复杂问题推理能力。【局限】大语言模型相关研究发展迅速,调研工作未全面覆盖。【结论】基于大语言模型的问答技术在语义表示、复杂推理等多个方面均取得显著进展,融合外部知识的检索增强生成技术与提示工程技术是当前大语言模型领域的主要研究热点,未来研究工作可在生成内容可控、可信等方面展开深入探索。

关键词：大语言模型问答技术向量检索提示工程