文章主题:英伟达公司, NeMo Guardrails, AI聊天机器人, 受限信息

666AI工具大全,助力做AI时代先行者!

财联社4月26日讯(编辑 黄君芝)随着ChatGPT等AI聊天机器人自去年底以来迅速“走红”,对于它们安全问题的相关警告也层出不穷。尽管背后的开发者也在竭尽全力地想办法解决这些问题,比如实施资讯过滤和人类纠正那些被标记的问题,但效果都不尽人意。

鉴于这一情况,英伟达公司(Nvidia Corp.)于本周二推出了一款名为“NeMo Guardrails”的开源工具包,旨在禁止AI聊天机器人在提供受限信息时出现偏差,从而使人工智能驱动的应用程序更加精准、恰当、符合主题和相关安全标准。

每个人都能意识到大型生成语言模型的强大之处,正如英伟达应用研究副总裁Jonathan Cohen所言,我们需要以安全可靠的方式部署这些模型,以确保其发挥出最大的作用。

英伟达阐述,“NeMo Guardrails”将成为一道“屏障”,旨在保护终端用户免受人工智能程序的不当影响。通过将其融入传统软件,此系统将能够辨别用户所提出的问题,同时评估机器人是否具备回答这些问题的能力。此外,该系统还会判断生成的答案是否基于事实,从而确保聊天机器人在提供答案时遵循正确的规范。

“英伟达推出‘NeMoGuardrails’:开源工具包助力AI聊天机器人合规和安全”

例如,一位员工向人力资源的聊天机器人咨询公司是否为希望 adoption 的员工提供支持。机器人将利用“NeMo Guardrails”系统来回应此问题,并提供与公司利益相关的文本信息。然而,若询问机器人同一问题有多少员工成功利用了此类福利,可能会遇到拒绝指令的情况,因为这些数据属于保密范畴。

Cohen透露,英伟达在Guardrails基础架构领域已经积累了”多年的经验”,然而,大约一年前,他们意识到了这种技术在GPT-4和ChatGPT等模型上的巨大潜力。

自那一刻起,我们便致力于开发NeMo Guardrails这一版本, he继续说道,”在企业环境中部署的人工智能模型安全工具的重要性不言而喻。”

“英伟达推出‘NeMoGuardrails’:开源工具包助力AI聊天机器人合规和安全”

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公写作、生活好得力助手!

搜索微信号AIGC666aigc999或上边扫码,即可拥有个人AI助手!