文章主题:FTC, 大语言模型产品, 虚假陈述, 深度伪造视频

666AI工具大全,助力做AI时代先行者!

媒体周四消息显示,OpenAI正在接受美国联邦贸易委员会(FTC)的调查。FTC致民事调查要求信给OpenAI公司,调查的重点包括OpenAI旗下聊天机器人ChatGPT是否因发布虚假信息,伤害到相关个人,OpenAI如何处理相关风险。

FTC的这份调查,意味着美国监管机构首次正式发起对人工智能聊天机器人带来的风险的审查。由Lina Khan领导的FTC拥有广泛的权力,来监管不公平的和具有欺骗性的商业行为。FTC的调查意味着ChatGPT这一当前全球最火的应用程序面临潜在的法律威胁。

FTC在信中写道:

在应对大型语言模型产品可能产生的虚假、误导或诽谤性陈述方面,我已经采取了一系列措施来减轻潜在风险。具体而言,首先,我针对可能出现的问题进行了全面的研究和分析,以便更好地理解潜在风险的性质和范围。其次,为了确保模型的准确性,我对数据进行了严格的筛选和清洗,以排除任何可能影响模型输出的不良信息。此外,我还采用了多种技术手段,如数据增强和模型压缩等,来提高模型的鲁棒性和稳定性,从而降低错误输出的可能性。最后,对于可能产生负面影响的言论,我将采取适当的措施进行监测和管理,以确保及时发现并处理相关问题。综上所述,我已经尽力在多个层面上降低了大型语言模型产品可能带来的负面影响,以保障信息的准确性和安全性。

在当下,立法者们对于深度伪造视频所带来的风险感到尤为担忧。这种视频可能会错误地记录下真实人物所进行的令人尴尬的行为或所发布的令人尴尬的言论,从而引发一系列法律问题和社会不安。

有专业人士指出,FTC的监管范围或许过于广泛。根据科技贸易组织进步商会首席执行官Adam Kovacevich的观点,当我们谈论ChatGPT可能对某人产生负面影响并损害其声誉时,这显然是FTC的职责范围内的问题。然而,这种情况下,问题似乎更多地涉及到言论自由领域,更多地属于言论管理范畴,超出FTC的权限。

FTC在信中针对OpenAI公司的数据安全措施和隐私政策提出了质疑,以确保其没有出现任何不公平或欺诈性的行为。信中提到,FTC引用了2020年发生的一起事件作为依据,那时OpenAI公开了一个严重的错误,使得用户能够查看他人的聊天记录以及与支付有关的敏感信息。

FTC的信件中详细列出了数十个问题,涵盖了众多主题。其中,信中针对ChatGPT的设计技术细节、人工智能模型的训练实践、OpenAI公司的市场推广活动、用户信息处理方式、以及用户对聊天机器人的理解和认识等方面提出了质疑。为了更好地了解这些问题,FTC呼吁OpenAI公司提供相关内部资料。

FTC的举动并非突然。早在今年5月,该机构就已经发出警报,提醒企业关注它们如何运用人工智能技术,特别是新兴的生成式人工智能工具,以对消费者产生实际且重大的影响。

周四当日,Lina Khan在美国众议院司法委员会作证,她因其强硬的执法立场而遭到共和党议员的强烈批评。在听证会上被问及对OpenAI的调查时,Khan拒绝发表评论,但表示:

FTC更广泛的担忧包括,ChatGPT和其他人工智能服务被训练了大量数据,而没有检查什么样的数据被这些公司所使用。我们听说有报道称,在回应其他人的询问时,人们的敏感信息被泄露。我们听说,诽谤性言论以及完全不真实的事情正在发生。这就是我们所担心的欺骗。

随着火遍全球,生成式人工智能产品越来越成为全球各地监管机构的关注焦点。今年5月,拜登政府寻求制定一项国家人工智能战略,以防范错误信息和该技术的其他潜在缺点。今年3月,意大利监管机构一度禁止ChatGPT,同时检查该公司对个人信息收集的情况等。几周后,在OpenAI提高了其隐私政策的可访问性并推出了验证用户年龄的工具后,ChatGPT在意大利恢复上线。

本文来自华尔街见闻,欢迎下载APP查看更多

FTC就人工智能模型的数据安全和隐私practices提出质疑

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公写作、生活好得力助手!

搜索微信号AIGC666aigc999或上边扫码,即可拥有个人AI助手!