Nvidia 是负责发明第一个 GPU 的技术巨头——GPU是生成人工智能模型的一项现在至关重要的技术，周二发布了 一款新软件，它有可能解决人工智能聊天机器人的一个大问题。

Nvidia 表示，该软件 NeMo Guardrails 旨在确保由大型语言模型 (LLM) 提供支持的智能应用程序(例如 AI 聊天机器人)“准确、适当、切合主题且安全”。

AI 开发人员可以使用开源软件为 AI 模型设置三种类型的边界：主题、安全和安全护栏。

主题护栏将阻止 AI 应用程序探索对于预期用途而言不必要或不可取的领域中的主题。Nvidia 举了一个客户服务助理不回答有关天气的问题的例子。

这种类型的护栏在Bing Chat首次发布并开始泄露公司机密时会很有用。

安全护栏旨在解决错误信息和幻觉问题。

使用时，它将确保 AI 应用程序以准确和适当的信息响应。例如，通过使用该软件，可以加强对不当语言和可靠来源引用的禁令。

安全护栏只会限制应用程序访问被认为不安全的外部应用程序。

Nvidia 声称几乎所有软件开发人员都将能够使用 NeMo Guardrails，因为它们易于使用，可与广泛的支持 LLM 的应用程序一起使用，并可与企业应用程序开发人员使用的所有工具(如 LangChain)一起使用。