Meta发布Llama 3大语言模型，教育部公布首批“人工智能+高等教育”应用场景典型案例 | Chatopera 行业快讯
Hai
1. 大模型安全领域发布两项国际标准
4月16日，第27届联合国科技大会期间，在以“塑造AI的未来”为主题的AI边会上，世界数字技术院发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准，代表全球人工智能安全评估和测试进入新的基准。该标准为测试和验证生成式AI应用的安全性提供了一个框架，特别是那些使用大语言模型构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围，包括基础模型选择、嵌入和矢量数据库、RAG或检索增强生成、AI应用运行时安全等，确保AI应用各个方面都经过严格的安全性和合规性评估，保障其在整个生命周期内免受威胁和漏洞侵害。(来源 中国科技网)
2. 如何在Windows安装Ollama大语言模型工具并实现无公网IP异地远程使用
近些年来随着ChatGPT的兴起，大语言模型 LLM 也成为了人工智能AI领域的热门话题，很多大厂也都推出了自己的大语言模型，并或多或少的开源了自己的大语言模型，今天就来分享一个最近很火，且对于小白来说比较好上手本地部署的运行本地LLM的工具Ollama。
方法概述：1. 运行Ollama；2. 安装Open WebUI；3. 安装内网穿透工具；4. 创建固定公网地址。以上就是如何在Windows系统本地安装Ollama大模型工具并使用docker部署Open WebUI，结合cpolar内网穿透工具实现公网访问本地LLM，并配置固定不变的二级子域名公网地址实现远程访问的全部流程。 (来源 CSDN)
3. Meta震撼发布Llama 3大语言模型
Meta抛出了目前最强的开源大模型Llama 3，Llama 3 8B和Llama 3 70B是目前同体量下，性能最好的开源模型。而且在未来几个月内，Meta还会推出更多的版本。英伟达高级科学家Jim Fan认为，之后可能会发布的Llama 3-400B以上的版本，将成为某种“分水岭”，开源社区或将能用上GPT-4级别的模型。扎克伯格向媒体表示，“我们的目标不是与开源模型竞争，而是要超过所有人，打造最领先的人工智能。” (来源 36氪)
4. 教育部公布首批“人工智能+高等教育”应用场景典型案例
为深入贯彻落实国家关于开展“人工智能+”行动的战略部署，积极推动高等教育与人工智能技术的融合发展，利用智能技术支撑人才培养模式的创新、教学方法的改革、教育治理能力的提升，我司组织了首批“人工智能+高等教育”典型应用场景案例的征集和论证工作，寻找、发掘和推广在人工智能技术应用上具有代表性、前瞻性且能够产生积极影响的高等教育实践案例。经高校申报、专家论证等环节，确定首批18个“人工智能+高等教育”应用场景典型案例，现予以公布。(来源 中国教育和科研计算机网)
5. MaxKB：基于 LLM 大语言模型的知识库问答系统
MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。1Panel 官方出品。特点：开箱即用：支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化，智能问答交互体验好；无缝嵌入：支持零编码快速嵌入到第三方业务系统；多模型支持：支持对接主流的大模型，包括本地私有大模型（如 Llama 2）、Azure OpenAI 和百度千帆大模型等。(来源 微博)
6. vLLM：由伯克利大学LMSYS组织开源的大语言模型高速推理框架
vLLM是一个由伯克利大学LMSYS组织开源的大语言模型高速推理框架，旨在提升实时场景下语言模型服务的吞吐与内存使用效率。它是一个快速且易于使用的库，能够与HuggingFace无缝集成。vLLM的核心是PagedAttention算法，这是一种新颖的注意力算法，通过引入操作系统的虚拟内存分页思想，显著提高了大型语言模型的服务效率。(来源 CSDN)
7. 李彦宏：不赚钱，做大模型干吗？
“开源模型会越来越落后。”Create 2024百度AI开发者大会上，百度创始人李彦宏，断言称，“大家以前用开源觉得开源便宜，其实在大模型场景下，开源是最贵的。” 不少行业、垂直大模型多是通过对Llama等开源大模型进行微调或修改实现。如果没有Llama，国内大模型整体水平会被国外甩下不少身位。(来源 36氪)
本期导读结束。支持我们，敬请订阅、分享。
Chatopera 云服务低代码定制聊天机器人。
