2023 年 10 月 5 日

今天,我们与 Docker、LangChain 和 Ollama 的朋友们一起推出了一款用于构建 GenAI 驱动的应用程序的新堆栈。GenAI 堆栈是快速开始构建 GenAI 支持的应用程序的绝佳方式。它包括 Neo4j 作为向量搜索和知识图谱的默认数据库,并且完全免费提供。
在本文发布的同时,Docker 的 CTO Justin Cormackk 正在 DockerCon 2023 的舞台上谈论它,与 LangChain 创始人 Harrison Chase、Ollama 联合创始人 Jeff Morgan 以及 Neo4j 图形大师、我的好朋友 Michael Hunger 一起。请在此处查看直播:https://www.dockercon.com
我非常喜欢 GenAI 堆栈中的三件事
所有这一切,只需一个简单的 docker compose up
即可触手可及!
如果您想立即开始,请查看构建示例支持代理应用程序的团队的技术博客文章。
如果您想了解一下它是如何产生的背景故事,请继续阅读!
好的,它是如何产生的呢?
GenAI 和 LLM 非常强大,令人难以置信的技术,它们充满了希望。但这也是一个极其快速发展的领域,开发者们在实践中不断学习。即使您正在阅读这篇博客文章,LangChain 也许已经发布了两个新版本!
大约一个月前,我和 Docker 首席执行官 Scott Johnston 进行了交谈。我们谈论了生活、宇宙、经营以开发者为中心的公司……以及如今开发者构建 GenAI 支持的应用程序是多么困难。
Scott 告诉我他想要创建一个预构建的 GenAI 堆栈,该堆栈包含经过良好集成的最佳技术,并附带示例应用程序,让开发者可以轻松上手。我们开始探索这样的堆栈应该包含哪些内容。
让我们为您的 LLM 添加一些知识!
在 Neo4j,我们花了大量时间思考 LLM 支持的应用程序以及图形在其中扮演的角色。从根本上说,所有数据都代表着现实世界中的某些事物,而现实世界中的几乎所有事物都以某种方式相互关联。图形可以表示数据中这些隐藏的模式和复杂的关系,使 GenAI 模型能够更好地理解世界,尤其是理解您的数据以及您对世界的看法。
图形和 LLM 的强大组合是为什么我们看到 Neo4j 在构建 LLM 支持的应用程序中获得了巨大的普及和采用。当我们将本机向量搜索作为我们的核心功能的一部分添加 时,使用量激增,将向量揭示的隐式关系与图形揭示的显式和事实关系和模式相结合。
Neo4j 还允许用户创建知识图谱,这些图谱将 LLM 与事实关系相结合,使客户能够从语义搜索和生成式 AI 应用程序中获得更丰富的见解,并提高准确性。虽然 LLM 在语言技能方面很出色,但由于缺乏对真理的理解,它们会产生幻觉。知识图谱解决了这个问题。
将整个技术栈整合在一起
我们将 Docker 世界领先的平台的力量与我们自身在图数据库技术、原生向量搜索和知识图谱方面的独特优势相结合,为开发者打造了一流的体验,使他们能够立即开始使用 GenAI。我们还邀请了 Harrison 和 Jeff 将两个关键组件集成到这个技术栈中:一个用于 LLM 的编程和编排框架 (LangChain),以及在本地运行和管理这些 LLM 的方法 (Ollama).
这是一次紧张的合作。我们想在 DockerCon 2023 之前创造出一些东西:一个让数千名开发者了解它并成为首批实际使用它的开发者的时刻!
Gen AI Stack 现在已作为 Docker Compose 文件在 Docker Desktop 学习中心和 GitHub 上提供。它具有多种配置,旨在解决流行的 GenAI 使用案例,并在 Docker Hub 上提供可信的开源内容。它的组件包括通过 Ollama 预先配置的开源 LLM、Neo4j 的图数据库和知识图谱、LangChain 编排以及一系列支持工具、代码模板、操作指南和 GenAI 最佳实践。

并且开始使用非常简单!docker compose up
!
您可以在 我们的博客文章 和 Docker 的博客 中了解更多信息。Michael 和 Harrison 也将在 DockerCon 主题演讲后进行联合演讲,我们将在 NODES 2023 上深入探讨这个问题,NODES 2023 是 Neo4j 为全球开发者、数据科学家、架构师和数据分析师举办的免费 24 小时在线会议。
最后的想法
如果我们想让 GenAI 更容易被开发者使用,使其更加用户友好,从而使这项技术民主化,让每个人都能利用它的潜力,从内容生成到解决问题,这一点至关重要。
GenAI Stack 是朝着这个方向迈出的一大步,我为我们参与其中感到自豪。我迫不及待地想看看大家会用它来构建什么。