#头条新闻创作邀请赛#

如是说

事件已经开始迅速展开，捷伊大型词汇数学模型 (LLM) 已经开始以非常慢的速率合作开发。就在过去几个月，他们有了革命性的ChatGPT和那时的GPT-4。明确定义，GPT代表（Generative Pre-trained Transformer），是下层词汇数学模型，而ChatGPT是为会话设计的具体实现。比尔·盖茨 (Bill Gates) 简述 OpenAI 的工作时称，“人工智慧时代已经开始”。假如您感到难以跟得上快速变化的步伐，那么您并不孤独。就在刚才，超过 1000 名科学研究相关人员签署了一份联名信，要求在未来三个月内中止体能训练比 GPT-4 更强大的 AI 系统。

尽管控制技术成就显著，但它仍然是死板。尽管它的名字，OpenAI 长久以来一直受到许多人的批评，因为它没有正式发布她们的数学模型，甚至被许多人称为ClosedAI。科学研究相关人员和发烧友都在努力寻找对外开放源码代替品。

假如您错失了最近的发展，您假如查看 Meta 的LLaMA ( GitHub )，它假如强于 GPT-3。它是在 GNU 许可证下赢得许可证的，尽管它并非严格对外开放源码的，但您可以在注册后赢得权重股。这种对外开放显然是为的是 LLaMA 的利益，街道社区迅速就继续合作开发它。它迅速以llama.cpp的形式移殖到 C/C++，麻省理工学院的科学研究相关人员将其扩展到一个命令跟随数学模型，例如 ChatGPT，并将其命名为Alpaca。还有GPT4All，这篇昌明是关于它的。我将迅速如是说它，最后，您将介绍怎样在邻近地区运行它以及会发生什么。

但首先，让他们深思一下街道社区在短时期内合作开发对外开放版的速率有多快。为的是介绍这些控制技术的布森戈，上面是各个 GitHub 存储库的 GitHub 北天（衡量畅销程度）。作为参考，流行的PyTorch 框架在六年内搜集了约 65,000 四颗星。上面的图象是约。一个月。

GPT4全部

但是那时，让他们更深入地如是说GPT4All。这是Nomic AI的副手式闲聊机器，刚刚公合作开正式发布。怎样基于现有的词汇数学模型（如 LLaMA）创建类似 ChatGPT 的副手式闲聊机器？答案可能会让您目瞪口呆：您与闲聊机器交互并尝试介绍它的行为。就 gpt4all 而言，这意味着从申明可用的统计管理工具搜集各种问题和提示信息样品，然后将它交给 ChatGPT（更广义地说是 GPT-3.5-Turbo）已聚合 806,199 个高效率的提示信息聚合对。接下来，整理统计数据并删掉低多元性积极响应，并确保统计数据囊括广泛的主题。体能训练统计数据后，她们发现她们的数学模型比同类表现更好。

对我来说，其中一个主要吸引力在于作者正式发布了数学模型的定量 4 位版。这是什么意思？实际上，您在数学模型中以较高的精确度而并非全精确度执行某些操作，因此可以拥有更紧凑型的数学模型。尽管像 ChatGPT 这样的数学模型在 Nvidia 的A100等专用硬件上运行，这是一款配备高达 80 GB RAM 的硬件怪兽，价格为 15,000 美元，但对于 GPT4All，这意味着您可以在消费级硬件上执行该数学模型。那时，让他们开始运行您自己的：

设置东西

运行 GPT4All 的说明很简单，只要您安装了已经开始运行的 Python。只需按照GitHub 存储库上的设置

说明进行操作即可。

https://github.com/nomic-ai/gpt4all 浏览定量检查点（请参阅自己尝试）。这是 4.2 Gb 的大小，我以 1.4 Mb/s 的速率浏览它，所以这需要一段时间克隆环境将检查点复制到chat设置环境并安装要求跑步

我在 M1 MacBook Pro 上对此进行了测试，这意味着只需导航到chat- 文件夹并执行./gpt4all-lora-quantized-OSX-m1.

这一切假如只花你几分钟。就我而言，浏览是最慢的部分。在我的机器上，结果是实时返回的。

结果

那时，准备运行的 GPT4All 定量数学模型在基准测试时表现怎样？尽管有详尽的基准测试集，但以下是您可以预期的许多快速见解：

尽管有许多明显的错误（NLP-> NLU），但实际上我对输出感到非常惊讶。

让他们尝试许多更有创意的东西，比如诗歌：

我发现这确实非常有用——同样，考虑到这是在 MacBook Pro 笔记本电脑上运行的。尽管它可能不在 GPT-3.5 甚至 GPT-4 级别，但它肯定有许多魔力。

使用注意事项

使用 GPT4All 时，请牢记作者的使用注意事项：

“GPT4All 数学模型重量和统计数据仅用于科学研究目的并仅赢得许可证，禁止任何商业用途。GPT4All 基于 LLaMA，具有非商业许可证。辅助统计数据是从 OpenAI 的 GPT-3.5-Turbo 搜集的，其使用条款禁止合作开发与 OpenAI 进行商业竞争的数学模型。”

此外，请注意 ChatGPT 具有多项安全功能。

结论

对外开放源码项目和街道社区努力在实施控制技术和加速创意方面非常强大。GPT4All 就是一个显着的体现。从根本上说，我认为这为闭源数学模型的业务方面提供了一个有趣的视角。假如您提供 AI 作为服务，那么需要多长时间才能让发烧友对您的 AI 进行足够长的探索以能够模仿它？对于 GPT4All 的案例，她们的论文中有一个有趣的注释：她们花了四天的时间，GPU 成本 800 美元，OpenAI API 调用 500 美元。这绝对是非凡的。