人工智能赋能制造业利润提升，我是如何夺冠新加坡首届 GPT-4 提示工程大赛的等 | Chatopera 行业快讯
Hai
1. HuggingFace 技术主管演示大语言模型的微调
大语言模型的微调一直是说起来容易做起来难的事儿。近日 Hugging Face 技术主管 Philipp Schmid 发表了一篇博客，详细讲解了如何利用 Hugging Face 上的库和 fsdp 以及 Q-Lora 对大模型进行微调，该过程需要消费 250 美元，但这对取得的成果来说，是一个小成本，以前单个 GPU 上使用 Q-Lora 对较小的大语言模型进行微调不是难事，但对像 Llama 3 70b 或 Mixtral 这样的大模型的高效微调直到现在仍是一个难题，现在借助 Hugging Face 平台，这件事情成为了可能。(来源 微博)
2. 减少幻觉与增强推理的综述，知识图谱提升大语言模型
幻觉现象指的是大语言模型在生成文本时可能会产生一些听起来合理但实际上并不准确或相关的输出，这主要是由于模型在训练数据中存在知识盲区所致。 为了解决这一问题，研究人员采取了多种策略，其中包括利用知识图谱作为外部信息源。知识图谱通过将信息组织成结构化格式，捕捉现实世界实体之间的关系，从而为机器和人类提供了一种理解复杂关系的方式。知识图谱减少幻觉方面的有效性的方法分为三个主要类别：知识感知推理、知识感知学习和知识感知验证。每个类别都包含了不同的技术，它们在提升LLMs性能方面都有独特的贡献。(来源 CSDN)
3. 腾讯混元大模型
由腾讯研发的大语言模型，具备强大的中文创作能力，复杂语境下的逻辑推理能力，以及可靠的任务执行能力。(来源 TKTOC)
4. 我是如何夺冠新加坡首届 GPT-4 提示工程大赛的
由新加坡政府科技局组织的首届 GPT-4 提示工程大赛冠军 Sheila Teo 写的《我是如何夺冠新加坡首届 GPT-4 提示工程大赛的》；Sheila 总结了 4 种提示词技巧：1. 借助 CO-STAR 框架构建高效的提示；2. 利用分隔符来分节构建提示；设计含有 LLM 保护机制的系统级提示；4. 仅依靠大语言模型分析数据集，无需插件或代码 — 实际案例分析 Kaggle 的真实数据集。尤其是她总结的 CO-STAR 框架，在让 LLM 做一些内容尤其是写作类任务时非常简单有效。 Context 上下文：为任务提供背景信息；通过为大语言模型（LLM）提供详细的背景信息，可以帮助它精确理解讨论的具体场景，确保提供的反馈具有相关性； Objective 目标：明确你要求大语言模型完成的任务。清晰地界定任务目标，可以使大语言模型更专注地调整其回应，以实现这一具体目标；Style 风格：明确你期望的写作风格。你可以指定一个特定的著名人物或某个行业专家的写作风格，如商业分析师或 CEO。这将指导大语言模型以一种符合你需求的方式和词汇选择进行回应； Tone 语气：设置回应的情感调，设定适当的语气，确保大语言模型的回应能够与预期的情感或情绪背景相协调。可能的语气包括正式、幽默、富有同情心等；Audience 受众：识别目标受众，针对特定受众定制大语言模型的回应，无论是领域内的专家、初学者还是儿童，都能确保内容在特定上下文中适当且容易理解；Response响应：规定输出的格式，确定输出格式是为了确保大语言模型按照你的具体需求进行输出，便于执行下游任务。常见的格式包括列表、JSON 格式的数据、专业报告等。对于大部分需要程序化处理大语言模型输出的应用来说，JSON 格式是理想的选择。(来源 宝玉 on X)
5. 多管齐下让人工智能更节能
世界经济论坛官网近日报道指出，为让人工智能发挥其变革潜力、提高生产力水平及社会福祉，人类必须确保它可持续地发展。这一愿景面临的核心难题在于，随着算力和性能的不断提升，能耗也在快速增长。AI生态系统，从硬件、训练协议到操作技术，都会耗费大量能源。鉴于此，科学家正在设法让其更节能。措施包括改变AI的运行策略、研制更节能的算法和芯片等。(来源 中国科技网)
6. Siyan 英语教学聊天机器人现在处于面向公众的实验阶段
Siyan 的英语教学聊天机器人现在处于面向公众的实验阶段。聊天机器人会在谈话过程中针对严重的语法错误进行反馈。Siyan 的语音聊天机器人支持：1. 不同的话题；2. 聊天机器人说的话会有中文翻译；3. 反馈个性化。(来源 Siyan on X)
7. 人工智能赋能制造业利润提升
近日，斯坦福大学发布的《2024年人工智能指数报告》显示，过去一年，超半数（55%）的受访企业利用人工智能为业务赋能，高于 2022 年的50%。具体而言，企业主要将AI技术应用于自动化联络中心、个性化定制内容与获取新客户等业务中。(来源 新浪网)
本期导读结束。支持我们，敬请订阅、分享。
Chatopera 云服务低代码定制聊天机器人。
