今天,我们与 Docker、LangChain 和 Ollama 的朋友们一起推出了一款用于构建 GenAI 驱动的应用程序的新堆栈。GenAI 堆栈是快速开始构建 GenAI 支持的应用程序的绝佳方式。它包括 Neo4j 作为向量搜索和知识图谱的默认数据库,并且完全免费提供。

在本文发布的同时,Docker 的 CTO Justin Cormackk 正在 DockerCon 2023 的舞台上谈论它,与 LangChain 创始人 Harrison Chase、Ollama 联合创始人 Jeff Morgan 以及 Neo4j 图形大师、我的好朋友 Michael Hunger 一起。请在此处查看直播:https://www.dockercon.com

我非常喜欢 GenAI 堆栈中的三件事

    1. 它捆绑了您入门所需的核心组件,并已在 Docker 容器 中为您集成和设置。
    2. 它使使用新模型变得非常容易,这些模型可以在本地机器上托管(例如 Llama2)或通过 API 托管(例如 OpenAI 的 GPT)。
    3. 它已经设置好,可以帮助您使用检索增强生成 (RAG) 架构 用于 LLM 应用程序,在我看来,这是将 LLM 集成到应用程序并使其访问您自己数据的最简单方法。

所有这一切,只需一个简单的 docker compose up 即可触手可及!

如果您想立即开始,请查看构建示例支持代理应用程序的团队的技术博客文章

如果您想了解一下它是如何产生的背景故事,请继续阅读!

好的,它是如何产生的呢?

GenAI 和 LLM 非常强大,令人难以置信的技术,它们充满了希望。但这也是一个极其快速发展的领域,开发者们在实践中不断学习。即使您正在阅读这篇博客文章,LangChain 也许已经发布了两个新版本!

大约一个月前,我和 Docker 首席执行官 Scott Johnston 进行了交谈。我们谈论了生活、宇宙、经营以开发者为中心的公司……以及如今开发者构建 GenAI 支持的应用程序是多么困难。

Scott 告诉我他想要创建一个预构建的 GenAI 堆栈,该堆栈包含经过良好集成的最佳技术,并附带示例应用程序,让开发者可以轻松上手。我们开始探索这样的堆栈应该包含哪些内容。

让我们为您的 LLM 添加一些知识!

在 Neo4j,我们花了大量时间思考 LLM 支持的应用程序以及图形在其中扮演的角色。从根本上说,所有数据都代表着现实世界中的某些事物,而现实世界中的几乎所有事物都以某种方式相互关联。图形可以表示数据中这些隐藏的模式和复杂的关系,使 GenAI 模型能够更好地理解世界,尤其是理解您的数据以及您对世界的看法。

图形和 LLM 的强大组合是为什么我们看到 Neo4j 在构建 LLM 支持的应用程序中获得了巨大的普及和采用。当我们将本机向量搜索作为我们的核心功能的一部分添加 时,使用量激增,将向量揭示的隐式关系与图形揭示的显式事实关系和模式相结合。

Neo4j 还允许用户创建知识图谱,这些图谱将 LLM 与事实关系相结合,使客户能够从语义搜索和生成式 AI 应用程序中获得更丰富的见解,并提高准确性。虽然 LLM 在语言技能方面很出色,但由于缺乏对真理的理解,它们会产生幻觉。知识图谱解决了这个问题。

将整个技术栈整合在一起

我们将 Docker 世界领先的平台的力量与我们自身在图数据库技术、原生向量搜索和知识图谱方面的独特优势相结合,为开发者打造了一流的体验,使他们能够立即开始使用 GenAI。我们还邀请了 HarrisonJeff 将两个关键组件集成到这个技术栈中:一个用于 LLM 的编程和编排框架 (LangChain),以及在本地运行和管理这些 LLM 的方法 (Ollama).

这是一次紧张的合作。我们想在 DockerCon 2023 之前创造出一些东西:一个让数千名开发者了解它并成为首批实际使用它的开发者的时刻!

Gen AI Stack 现在已作为 Docker Compose 文件在 Docker Desktop 学习中心和 GitHub 上提供。它具有多种配置,旨在解决流行的 GenAI 使用案例,并在 Docker Hub 上提供可信的开源内容。它的组件包括通过 Ollama 预先配置的开源 LLM、Neo4j 的图数据库和知识图谱、LangChain 编排以及一系列支持工具、代码模板、操作指南和 GenAI 最佳实践。

并且开始使用非常简单!docker compose up!

您可以在 我们的博客文章Docker 的博客 中了解更多信息。Michael 和 Harrison 也将在 DockerCon 主题演讲后进行联合演讲,我们将在 NODES 2023 上深入探讨这个问题,NODES 2023 是 Neo4j 为全球开发者、数据科学家、架构师和数据分析师举办的免费 24 小时在线会议。


注册 NODES 2023

最后的想法

如果我们想让 GenAI 更容易被开发者使用,使其更加用户友好,从而使这项技术民主化,让每个人都能利用它的潜力,从内容生成到解决问题,这一点至关重要。

GenAI Stack 是朝着这个方向迈出的一大步,我为我们参与其中感到自豪。我迫不及待地想看看大家会用它来构建什么。

 

探索: