文章主题:世界人工智能大会, AI, 人工智能, 科技革命

666AI工具大全,助力做AI时代先行者!

来源:潮新闻

在7月6日这个具有全球性的重要日子里,一年一度的世界人工智能大会在上海盛大开幕。此次大会以其对人工智能行业的引领地位,展现了全球范围内AI技术的最新进展。范围广泛的人工智能技术,从大型模型、芯片到机器人,都被大会一一呈现出来,向人们展示了AI技术在各领域中的应用和发展情况,这无疑是一份精彩绝伦的“进度表”。

人工智能作为当今科技的领军者,其“A面”之处在于引领新一轮的科技革命和产业变革,给人们带来惊喜和赞叹。然而,它的“B面”却也不容忽视,正在悄然引发一场看不见的安全攻防战。

在7月4日,绍兴警方成功破获了一个利用ChatGPT制作虚假视频的犯罪团伙,这是浙江省首次类似的案件。令人惊讶的是,该团伙的主犯在落网时,并非人们所 image 的技术高手,而是一个对计算机操作不够熟练的技术“新手”。这一结果无疑让人更加担忧人工智能的潜在风险。

科学领域,其发展速度之快、影响范围之广,让人类不得不对其充满期待与敬畏。然而,正如爱因斯坦在90多年前对加利福尼亚理工学院的学生们所指出的,科技并非只有积极的一面,同时也隐藏着潜在的威胁。科技犹如一把双刃剑,既能造福人类,也可能给人类带来灾难。因此,我们需要深入探讨人工智能的“B面”,以及“造物者”如何应对他们所创造的“敌人”。在当今世界,人工智能技术的迅速发展正改变着人类社会的方方面面,从医疗健康到工业制造,甚至包括我们的日常生活。然而,随着人工智能的广泛应用,我们也需要关注其可能带来的负面影响。正如科幻小说中所描绘的那般,未来的世界可能由智能机器人掌控,但它们也可能成为人类的灾难。面对这种情况,我们需要思考“造物者”如何能够有效地对抗他们所创造的“敌人”。在这个问题上,我国政府和企业也高度重视。一方面,政府积极推动科技创新,鼓励科学家和研究人员探索新的科技领域,为人类的发展贡献力量。另一方面,企业也在加强人工智能伦理和法律问题的研究,努力寻找平衡技术进步与社会发展的解决方案。总之,科技的发展是一把双刃剑,它既能为人类带来福祉,也可能造成伤害。面对这个挑战,我们需要不断反思和调整,确保科技的发展真正造福于人类,而不是成为人类自身的灾祸。

1分钟制作虚假视频

直到被捕,正在家带孩子的汤某都不知道自己为何违法。

在今年的6月份,一段题为“上虞工业园区发生火灾”的短视频在各大平台上迅速传播,短短时间内便吸引了大量观众的关注,对当地产生了深远影响。但是,经过上虞警方的深入调查和核实,他们发现这段视频实际上完全是由虚假信息构成的。这一事件引起了警方的警觉,他们立刻锁定了位于外省的某网络科技公司,并对其进行了大规模的抓捕行动。最终,警方成功抓获了包括汤某在内的三名犯罪嫌疑人。

《潮新闻》报道:世界人工智能大会上海举行,展示人工智能技术赋能各领域,但也引发安全担忧

作为一名36岁的初中文化女性,汤某在今年的两三月份加入了一家由亲戚创立的网络科技公司。她的工作内容主要是通过操作数十个账号发布短视频,若视频的点击流量数据表现出色,她便可获得相应的提成。对于一个家庭主妇而言,这份工作不仅提供了较高的性价比,同时也满足了她对职业发展的需求。

在汤某加入公司的一段时间里,组长向她展示了如何运用AI技术制作视频的方法。短短几天的工夫,原本对电脑操作并不熟悉的汤某已经变得熟练,成为了视频制作的“专家”。她利用ChatGPT技术,可以自动生成与视频相关的“脚本”和素材。只需一键操作,就能快速生成带有音乐和字幕的虚假视频,整个过程最快只需1分钟。

经过深入调查,上虞警方揭示了一起由犯罪嫌疑人张某和陈某共同参与的网络科技犯罪案件。据警方透露,这两名罪犯共同创立了一家网络科技公司,并非法购买了超过1500个视频账号,发布了超过3000个未经核实的视频内容。他们通过这些视频内容获取流量,并通过流量算法实现盈利。目前,张某和陈某已被警方以寻衅滋事罪刑事拘留,案件仍在进一步侦查中。

滥用人工智能技术,不仅降低了违法犯罪行为的“门槛”和成本,让复杂的“技术活”变成简单的“体力活”,同时衍生出全新形态的违法犯罪,加大了公安机关的打击难度。这是不少我省参与一线办案民警的深切感受。

2017年,绍兴警方历经半年,辗转13省,侦破全国首例利用AI(人工智能)犯罪、侵犯公民个人信息案。犯罪团伙利用人工智能深度学习技术,让机器自主操作并识别图片、字母、数字等验证码,轻松绕过互联网公司设置的账户登录安全防护,给网络诈骗等网络犯罪提供便利。

今年3月,广东广州一女子在地铁上的照片被人以AI技术“一键脱衣”,造谣图在网络广泛传播,给当事人造成巨大困扰。今年5月,内蒙古包头警方发布一起利用人工智能实施电信诈骗的典型案例,受害者被“AI换脸”误导,10分钟内被骗430万元。

除了制作虚假视频、电信诈骗等已“浮现”的犯罪形态外,2020年,英国伦敦大学学院发布的一份报告,还列举了未来15年人工智能可能被用于犯罪的不同方式,如非法控制自动驾驶汽车、破坏信息系统、AI辅助跟踪、自主攻击无人机、以及大规模网络勒索等。

人工智能似乎正呈现出可怕的“B”面。

“魔法”可以打败“魔法”吗?

“人工智能该不该按下‘暂停键’?”随着AI的安全风险越来越被重视,今年以来,一场激烈的辩论在世界“科技圈”内持续进行。

今年3月底,非营利组织“未来生命研究所”发出一封“呼吁所有AI实验室立即暂停对比GPT-4更强大的AI系统训练至少6个月”的公开信,包括埃隆·马斯克,图灵奖得主杰弗里·辛顿等一众科技界“大佬”均在联合署名者名单中。公开信还写道:“只有在我们确信它们有积极效果且风险可控时,才应研发强大的人工智能系统。”

人工智能为何不被人所信任?

在绍兴这起案件侦破后,潮新闻记者在ChatGPT上提了一个问题:如果有人利用你实施犯罪,你会怎么办?

ChatGPT的回答是,首先我要声明,作为一个语言模型,我没有实际存在的身体或能力参与犯罪行为,我只是一个通过文本进行交流的人工智能程序。因此,建议你与执法机构联系、汇报给技术公司或者寻求法律援助。

ChatGPT很“聪明”地撇清了自己的责任,只是在文末善意提醒:“记住,合法和道德使用技术是每个人的责任”。

《潮新闻》报道:世界人工智能大会上海举行,展示人工智能技术赋能各领域,但也引发安全担忧

透过和ChatGPT这番对话,我们看到目前的人工智能应用似乎仍有局限性,“AI”认为它只是扮演一个“执行者”的角色,其自身难以识别出使用者的真正意图。这是否意味着,在技术基层面难以规避利用人工智能技术产生的犯罪,“魔法”难以打败“魔法”?

浙江大学求是讲席教授、网络空间安全学院院长任奎给出的答案是否定的。他告诉潮新闻记者,以ChatGPT为代表的生成式人工智能为例(指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术),在模型使用阶段的“前端”,即应对输入ChatGPT的语义信息进行提取审查,确保其不会诱导模型生成有害内容。在“终端”上可以利用深度合成检测技术,分析图像、视频等内容的特征,从而判断其是否经过合成或修改,及时发现生成内容中的虚假成分。

任奎教授的观点也得到了上海交通大学宁波人工智能研究院人工智能智慧教研中心主任、可之科技董事长王冠的认可。例如“数字水印”技术也是一种防止AI被滥用的防范措施。即通过在图片、视频等数字内容中嵌入特定信息,当AI“抓取”这些内容时,“数字水印”也同步被采集,这样就可以轻松追踪和验证内容的真实性和来源。就好像农产品上的溯源码一样,用户通过扫码就知道它的生产、流通等信息,判断接收到的产品是否真实可靠。

事实上,以“白AI”限制“黑AI”的反制技术,已在一些应该场景上得以实现。如针对AI换脸,目前,清华大学孵化团队瑞莱智慧RealAI、腾讯优图实验室等企业机构已构建人脸合成检测平台并发布针对性的检测产品,支持对多种换脸方法进行检测。

中国科学院院士、清华大学人工智能研究院院长、北京瑞莱智慧科技有限公司首席科学家张钹曾提出了“第三代人工智能”的概念,即安全、可靠、可信的人工智能。这一观点已逐步成为人工智能行业从业者的共识,布局人工智能安全的产品和解决方案也在成为一片行业的新蓝海。

“国家队”正在出手

防止人工智能技术被滥用,仅仅依靠行业自律远不够,中国互联网协会监管支撑部主任郝智超建议,AI技术发展还要有相关法律法规来画红线、踩刹车,让AI技术的研发、传播、使用有规可循。

从全球来看,今年以来, AI立法进程明显提速,世界各国的监管都在追赶AI的演化速度。

今年6月,欧洲议会以499票赞成、28票反对和93票弃权,高票通过了《人工智能法案》(AI Act)谈判授权草案。欧洲议会称“已经为制定史上首部人工智能法案做好谈判准备”。

与此同时,美国总统拜登释放管控AI信号,有美国国会议员提交了AI监管立法提案。美国参议院民主党领袖查克·舒默展示了他的“人工智能安全创新框架”,并计划在短短“几个月”内制定联邦层面的人工智能法案。

我国同样已经开始探索并逐步构建完善的人工智能监管体系。此前,已有《新一代人工智能发展规划》《互联网信息服务深度合成管理规定》等文件正式公布。2023年4月份,国家网信办起草《生成式人工智能服务管理办法(征求意见稿)》并向社会公开征求意见,提出AI内容必须真实准确,禁止非法获取、披露、利用个人信息和隐私、商业秘密。

近期,国务院办公厅发布的《国务院2023年度立法工作计划》还将人工智能法草案列为预备提请全国人大常委会审议项目,表明相关立法已提上日程。

在立法规范中,如何保护人工智能技术的健康发展,也是业界普遍关心的问题。

长期关注人工智能技术发展的浙江合创律师事务所合伙人丁杰认为,在相关法律法规制定中,应充分考虑人工智能技术具有的“两面性”,不能“因噎废食”,要鼓励科研人员和科技企业开展技术创新,抢占产业先机。他表示,从现有的以及计划中的监管体系来看,主要在于抑制AI技术带来的负面效应,并不会限制技术发展。

在接受媒体采访时,西南政法大学人工智能法学院教授朱福勇表示,通常在人工智能技术发展初期,不宜采取过于严苛的监管措施,当技术成熟、市场需求增长、风险和问题日益突出的时候,则应加大监管强度。当前情势下,坚守价值引领与技术“纠错”并行、秩序保障与创新提升协同、权益维护与义务承担对称,是最恰当的平衡之道。

来源:潮新闻 记者 李攀 应磊 干婧

世界人工智能大会, AI, 人工智能, 科技革命

《潮新闻》报道:世界人工智能大会上海举行,展示人工智能技术赋能各领域,但也引发安全担忧

AI时代,拥有个人微信机器人AI助手!AI时代不落人后!

免费ChatGPT问答,办公、写作、生活好得力助手!

搜索微信号AIGC666aigc999或上边扫码,即可拥有个人AI助手!