科学

【编者按】2022年11月30日，可能将成为一个改变人类历史的日子——美国人工智能开发机构OpenAI推出聊天机器人ChatGPT。它不仅催生了人工智能界的又一轮高光期，还并不常见地被誉为“蒸汽机时刻”、“iPhone时刻”甚至“钻木取火时刻”。 这一年来，被称为“生成式人工智能”的革命性技术激发了全球科技界“把所有软件和硬件重做一遍”的冲动，让具有先发优势的AI基础设施提供商价值暴涨，使得从医疗到航天的科学探索获得被加倍赋能的前景，传说中“奇点”的到来从未变得如此具有可能性。 正如历史上任何一次技术变革，ChatGPT也给我们带来了深深的焦虑。既有对AI威胁人类生存的科幻式恐惧，也有对砸掉我们饭碗、骗取我们钱财、操纵我们心灵的现实担忧。连OpenAI自身，也刚刚经历了一场危机，差点没躲过一夜坍塌的命运。 这一年让我们产生了更多疑问：大语言模型下一步的进化方向是什么？AI芯片短缺何时解决？训练数据快要耗尽了吗？中国的百模之战会如何演化？AI技术发展应加速还是减速？AGI（通用人工智能）是否会存在其他形式？为此，我们邀请了2023年在AI赛道奔跑的业内人士回答这些问题，并提出他们自己的问题。如果你也有自己的回答或提问，欢迎告诉澎湃科技（www.thepaper.cn）。 就在ChatGPT推出一周年前夕，其开发机构OpenAI经历了一场令人瞠目的高层“地震”。联合创始人之一的首席科学家伊利亚·苏茨克维（Ilya Sutskever）联合董事会其他成员，突然解职了联合创始人、首席执行官山姆·奥特曼（Sam Altman），将另一位联合创始人、总裁克雷格·布罗克曼逐出董事会。在经历约100个小时的剧情反复反转后，奥特曼又回归OpenAI恢复旧职。（详见澎湃科技报道《奥特曼重返OpenAI任CEO！全程回顾100小时“宫斗”大戏细节》。） 尽管OpenAI尚未公布董事会这一决定的真正原因，但业界普遍猜测其背后体现了人工智能技术发展和安全的矛盾。“所谓‘对齐’（注：对齐指引导人工智能系统的行为使其符合设计者的利益和预期目标）就是个伪命题，小小OpenAI董事会尚且无法‘对齐’，更何况复杂的人类社会。”科幻作家陈楸帆向澎湃科技表示，“真正的危险并非在于技术本身，而是在于资本主义追求有效加速主义的底座。” 有效加速主义（Effective Accelerationism，e/acc）指的是一些硅谷精英发起的科技价值观运动，他们认为人类应该无条件地加速技术创新以颠覆社会结构，而这种对社会的颠覆本质上对人类有利。奥特曼被认为是有效加速主义的代表。 “在我看来，加速是毫无疑问的。”IDEA（粤港澳大湾区数字经济研究院）AI安全普惠系统研究中心讲席科学家王嘉平对澎湃科技解释道，“安全也是技术，技术当然要加速，只是说那么多个技术是不是同步发展。” “也许有效加速主义的存在正是为了逼迫super-LOVE-alignment（超级‘爱’对齐）的出现，正如道家所说‘反者道之动’，它们是一种更高维度上的动态关系，互为对立，互相激发，纠缠共生。”陈楸帆说。 超级“爱”对齐中的爱是大写的，即“大爱”，大体意思是让AI“对齐”“无条件对人类的爱”，正如科幻作家艾萨克·阿西莫夫提出的“机器人三定律”所体现的精神。苏茨克维被认为是超级“爱”对齐的代表。 “一直以来有两种声音，一方面各个企业投入了巨大的资源，不遗余力地推动通用人工智能技术的发展。另一方面，以马斯克为代表的人士，曾经呼吁暂停训练更先进的大语言模型6个月。”上海市数据科学重点实验室主任、复旦大学教授肖仰华表示。对于人工智能应该加速还是减速，他发出警告：传统的技术治理模式可能已经不再适用于通用人工智能。在通用人工智能技术对人类社会可能产生剧烈影响时，有足够理由担心它对人类文明是否会带来毁灭性的影响。“机器认知能力超过人类，这是一个必然的趋势，我们可能未来要长期接受这样的状态。” 对于未知的未来，中国人工智能行业的一线人士们最想知道答案的问题是什么？ “大模型有自主意识后，当它的智能和能力媲美和超过创造者时，它需要以什么样的态度来看待创造者？超级智能在智力和能力上比人更强时，我们如何跟它们共存？”蚂蚁集团副总裁、金融大模型负责人王晓航问道。 北京智谱华章科技有限公司CEO张鹏好奇：“实现AGI是不是真的需要让机器拥有自我意识？” 北京开放传神科技有限公司（OpenCSG）创始人兼CEO陈冉问道：“未来是否会出现AGI或AIGC（注：人工智能生成内容）‘联合国’？” 科幻作家顾备则关心：“如何思考人类与数字生命共存的可能未来？”“让人类逃离掉肉体的低级趣味或病痛束缚，达到高级的精神追求，是人们对数字生命的美好展望，然而这不可避免地涉及到技术普惠等社会议题。我们需要对数字生命进一步拓展想象力。” 以下为采访实录，因篇幅原因有删减： 澎湃科技：就最近OpenAI的“宫斗”，怎么看AI技术发展的加速与减速，安全与利润之间的关系？ 肖仰华（上海市数据科学重点实验室主任、复旦大学教授）：OpenAI这一次的“宫斗”或者说高管调整，一定程度上是人工智能技术发展和安全的矛盾的体现。自ChatGPT成为全球性现象级产品以来，整个通用人工智能的发展呈现出加速的趋势，发展和安全这对矛盾的冲突也日益激烈。一直以来有两种声音，一方面各个企业投入了巨大的资源，不遗余力地推动通用人工智能技术的发展。另一方面，以马斯克为代表的人士，曾经呼吁暂停训练更先进的大语言模型6个月。中国政府也发出了全球人工智能治理的倡议，国内外很多知名学者都发起加强人工智能治理的呼吁，两种声音此起彼伏。OpenAI这一次的宫斗戏码，只不过是在这对矛盾基础上进行了再一次演绎。 为什么大家对这对矛盾如此重视？这是因为传统的技术治理模式可能已经不再适用于通用人工智能。以往在工业文明时期，技术带来社会治理问题的模式往往是先发展再治理，比如工业文明早期的环境污染问题。但是通用人工智能技术和历次工业文明时期的技术革命有着本质的不同，因为通用人工智能是关于智能的革命，而历次技术革命包括蒸汽机电力，都是人类智能本身的一个产物。关于智能本身的革命是一场元革命，是历次技术革命所不能比拟的，因为其形成的是智能和智力，涉及人类生活、工作、科研、教育几乎所有行业，人类的智力活动在日常生活中几乎无处不在。 那么我们很难想象，一旦通用人工智能大量使用之后，当它具备了人类水平的智能之后，就很容易渗透进社会发展的每一根毛细血管，所以它对人类社会的影响将十分广泛且深远。它给人类带来的机遇前所未有，带来的挑战也是前所未有的，足以对人类造成毁灭性伤害。 对比人类的社会系统和自然生态系统，社会系统对应的是人类的文明，它相比而言极为脆弱，而大自然作为生态系统，实际上有着极强的健壮性和自我修复能力。在通用人工智能技术对人类社会可能引起剧烈影响时，我们有足够理由担心它对人类文明是否会带来毁灭性的影响。 这种影响并不是像科幻电影中“终结者”对人类肉体的消灭，或者像《流浪地球》中的人工智能阴谋论，而是潜移默化地影响人类社会，特别是对人类智力倒退的影响需要引起足够担忧。当下一代小朋友大量使用ChatGPT做作业、写作文会怎样？实际上这已经发生了，而我们原本的写作文、解题的过程就是训练下一代智力水平的过程。一个新手不经过1万小时的训练不可能成为一个专家，在ChatGPT这类产品被大量使用之后，我们每一个新手养成专家的路径就会被截断，我们赖以训练自己智力的写作训练的机会就会被剥夺，这个时候人类智力倒退可能就是一个不可避免的现象。 这种智力的倒退带来的一定是文明的崩塌，所以这就是我们要引起足够重视的。尤其很多时候，这不是一种剧烈的震荡，而是温水煮青蛙似的，渐进式地逐步消磨人类的智力水平，这种风险其实是我们容易忽略的。 那么我们应该如何看待AI发展和安全的激烈矛盾？事实上用辩证的角度去看，安全和发展并不矛盾，唯有安全才能发展，安全是发展的前提。我们只有把AGI锁在保险箱里，让其可溯源、可解释、可控制、可信赖，我们才可以放手去发展它。反之，如果没有建立起安全的前提，那么这样的发展可能会给人类社会带来极大的负面影响。 我们想想，发展技术的目的是什么？仍然是以人为本。如果人都不存在了，社会都不存在了，技术又为谁服务呢？所以安全和发展的矛盾看似冲突，但实际上是可以调和的，我们要善于把握这种矛盾的相互转换，不要盲目将其对立，要在兼顾安全的前提下发展，做到安全和发展的兼顾。 陈楸帆（科幻作家）：这一事件可以看出，所谓“对齐”就是个伪命题，小小OpenAI董事会尚且无法“对齐”，更何况复杂的人类社会。 真正的危险并非在于技术本身，而是在于资本主义追求有效加速主义的底座。我有一个更meta（元）的想法，也许有效加速主义的存在正是为了逼迫super-love-alignment（超级“爱”对齐）的出现，正如道家所说“反者道之动”，它们是一种更高维度上的动态关系，互为对立，互相激发，纠缠共生。过去几百年间e/acc（Effective Accelerationism，有效加速主义）一直占据主导，带来社会进步的同时也导致了许多问题的出现，比如生态环境问题。人类-技术-环境在动态平衡中寻找着发展的最大公约数。现在的GPT以及将来可能的AGI，正是让这个结构发生了微妙的变化，令整个行星生态系统到达了某种临界点，需要重新校准。这个校准的核心关键在于我们是否能够想象出超越资本主义之外的新的价值框架，形成共识。 王嘉平【IDEA（粤港澳大湾区数字经济研究院）AI安全普惠系统研究中心讲席科学家】：技术当然要加速发展。安全也是技术，技术当然要加速，只是说那么多个技术是不是同步发展。如果是只管一个方向的技术，完全不管安全技术的发展，那肯定是不对的。但是直接说先暂停推进技术发展，这是没有道理的，一个机构不研究，其他机构也会研究，一个国家不研究，别的国家也会研究，重要的是足够重视产业健康发展所需要的所有技术。 所以在我看来，加速是毫无疑问的。而且加速带来一个更重要的事情是，有更强大的手段和能力，因为你其实不知道未来会面临什么，来自哪里的威胁，如果现在减速，可能未来也许会面临别的什么挑战，技术肯定是在有机会发展的时候尽量发展。但只是说技术里有好多部分，不能偏科地发展。 澎湃科技：大模型可能在何种情况下表现出何种人格倾向？ 梁家恩（云知声智能科技股份有限公司董事长兼CTO）：现在大模型可以模拟很多风格，比如鲁迅风格、莎士比亚风格。不同风格可能是人格的一部分，这种倾向更多还是从数据里学到，它本身不会像人一样成长出不同的性格，而在于训练的人究竟该如何处理这些数据，让它更好显示一种风格。当然如果AI设计人员针对性地设计一种人格，我相信也是有空间的。 至于大模型进化出“自主意识”意义上的人格，我目前没看到这种迹象。 陈磊（信也科技副总裁、大数据及AI负责人）：第一，这和数据有很大关系，学了莎士比亚，输出的内容更莎士比亚了。第二是智能涌现，通过某种思维链的方式做出创造。这两点是有人格倾向的基础。但坦率说，挺难判断大模型是否会有人格的变化。 陈楸帆：人类有将自身情感投射到外物的惯性，所谓拟人化，表现在科技领域就是试图让创造物表现出接近人类的特质，无论是外形、行为、交互还是动机。大模型的人格倾向其实是人类不断调参的结果，因为这是人类唯一能够进行自然理解并交流的方式，但语言表征的人格化是否意味着机器真正理解了背后的深层含义与世界模型，目前还不得而知。 澎湃科技：如何应对AGI带来的传播革命，包括虚假信息升级？ 陈楸帆：在我的小说《假面神祇》里，想象了一个deepfake技术泛滥的未来，因为成本以及使用门槛足够低，所以任何人都可以制造出足以乱真的伪造图片、音频、视频并在媒体上传播。 因为人眼已经无法辨别真伪，只能通过技术上的“矛盾之争”来解决，一方面是工具平台需要接受监管，采用数字水印等技术进行标注，防范滥用，另一方面在社交媒体需要不断升级的“deepfake探测器”，来筛查、过滤、提醒用户哪些信息可能含有AIGC（人工智能生成内容）生成的元素。 当然，更难以防范的是围绕着复杂叙事展开的伪造，比如同一个新闻事件有着完全不同的视角与立场，传递出来的信息也就千差万别，而这些信息经过算法的回声效应，过滤放大又将极化受众的意识形态，最终人类必将面临一场“叙事战争”。 陈磊：第一，AI生成的大量内容要有标签。第二，通过技术手段侦测AI内容的合理性、准确性。当然，出了问题以后怎样处罚是另一个层面了。 张鹏（北京智谱华章科技有限公司CEO）：我看过一个权威机构的报告，当时他们在写报告的时候，互联网上已经大约有10%的数据是由模型生成的，已经无法跟人类生成的数据区分了，未来这个比例会持续上升，这里面可能也包含虚假信息的问题。这也是伦理安全问题，如何能够把机器生成的数据，尤其是虚假的数据、有问题的数据区分出来，或者防范产生这些数据，这也是一个很大的挑战。 陈冉【北京开放传神科技有限公司（OpenCSG）创始人兼CEO】：首先我是唯物主义者、无神论者，但我在今年5月就看出GPT有一些人格特征了。大模型算一次工业革命，比互联网更加牛，它主要解决的问题是人的知识积累问题、人的知识积累有无上限的问题。比如三甲医院大夫的水平是有界限的，到达一定年龄得退休，这些经验被大模型学了以后不断积累，大模型不会退休，它正好取代或辅助了那些有经验、有知识的人，是知识的积累和延续。如果这是真的，那就是时间问题。...