基于NVIDIA NIM 平台的知识问答系统实现客服功能_1000 api credits to use any nim

前言：

NVIDIA联合CSDN推出了《NVIDIA NIM黑客松训练营》，通过对着提供的实验手册，学习了基于NVIDIA的NIM平台知识问答系统，简单的一段代码就可以实现一个AI智能问答系统。而且这次活动注册账号即可获得到免费的1000tokens，如果进行企业用户认证还可以获取更丰富的功能。

本人也是很早就接触了一些AI的应用，如ChatGPT、豆包coze应用等,AI的应用可以给工作与生活上都带来了颠覆性的认知，可以加快处理的效率与减少重复的工作量。在以前都是要先学习python语言，然后再学习AI的框架，而且手里也要有高配置的IT硬件资源，比如GPU、显卡等算力资源。

今天给大家推荐一个基于NVIDIA的NIM生成式AI平台，可以不需要额外的学习太多AI相关的相关知识体系，就可以以API的形式接入到目前的开发应用中，而且还提供了多种开发语言支持的代码，比如python、nodejs、shell脚本、docker等，可以在不到10分钟即可实现一个最简单的AI产品，接下来由我来介绍一下NIM的体验过程。

一、NVIDIA NIM生成式AI平台是什么？

NVIDIA NIM 微服务提供基于NVIDIA推理软件的预构建容器。通过NIM平台开发者可以轻松地构建各种生成式AI应用，如 Copilots、ChatGPT聊天机器人等。与传统的模型部署方式相比，NVIDIA NIM显著提高了部署效率，将所需时间从数周缩短至几分钟：

• NVIDIA NIM平台是Nvidia专为生成式AI模型推理设计的产品。
• NIM代表NVIDIA Inference Microservices，即英伟达推理微服务。
• NIM提供了多种使用方式，包括NVIDIA NIM API、作为NVIDIA AI Enterprise平台的一部分，以及NVIDIA NIM自托管容器。

NVIDIA NIM可以灵活部署在云、数据中心和工作站上，充分利用Nvidia的AI推理能力。NIM平台提供了一套行业标准API，使开发者能够轻松地部署AI模型，通过几行代码即可实现。该平台与流行的LLM编排工具（如LangChain和LlamaIndex）紧密集成，便于开发者构建聊天机器人、AI助手等应用程序。

1.1 NVIDIA NIM生成式AI平台模型介绍 ：

NVIDIA NIM 微服务产品提供了非常丰富多样的AI场景及模型教程，这样可以覆盖大多数开发者想实现的AI场景。

接下来先通过一个示例来演示一下如何使用基于NVIDIA NIM 平台的知识问答系统，并且还提供了一个较为完整的案例。

1.2 NVIDIA NIM平台

首先打开基于NVIDIA NIM 平台网址，点击下面的“Try Now”按钮。

打的这个页面中，点击“Try Now”按钮，即可跳转一个登陆注册开通基于NVIDIA NIM 平台免费的API权限，点击“Login”，在弹出的“Get Started with your free API credits”框中，输入你的企业邮箱，点击“Next”按钮：

因为是新一次，首先做一下账号的注册，填写好邮件和密码后，点击“创建账户”：

此时，会给邮件发送一验证码，记得在邮件中找到并复制验证码并进行验证：

验证完成后，需要填写一个用户名，再点击创建账号：

进入后，左侧是所有模型的分类，右上角可以显示有多少次数，免费的次数。1000多，够我们进行测试了。

如何快速实现一个知识问答系统实现客服功能

首先安装一下python环境，再安装相关的包依赖：

pip install langchain_nvidia_ai_endpoints langchain-community langchain-text-splitters faiss-cpu gradio==3.50.0 setuptools beautifulsoup4

然后我们把下面的代码复制粘贴到一开始创建的 Python 文件中，例如“nim_test.py”

# -*- coding: utf-8 -*