尊龙凯时新版APP首页外滩大会AI十问：未来AI的智能进步可能遵循怎样的规律？|

　　“生成式AI”狂奔近两年✿★✿，AIGC与人类✿★✿、产业乃至世界的联系正在不断加深✿★✿，未来AI的智能进步可能遵循着怎样的规律？AI会怎样影响到产业✿★✿，又会如何和人类抢工作？

　　在2024 Inclusion·外滩大会✿★✿，关于AI的产业落地✿★✿、人文思考贯穿着各场演讲写作业错了就塞一个东西在下面✿★✿、论坛讨论✿★✿、媒体采访等环节✿★✿，记者整理了2024年外滩大会来自业界✿★✿、学界各位大咖的“AI十问”✿★✿，在这一年✿★✿，人们对AI的未来想象更为清晰✿★✿，乐观犹存✿★✿，更多需要思考的问题也正被看到✿★✿。

　　“互联网之父”✿★✿、著名未来学家✿★✿、《连线》杂志创始主编凯文·凯利谈到了这个“极其重要但难以回答的问题”✿★✿。“没有确切的答案”成为凯文·凯利的答案✿★✿。他提醒✿★✿，OpenAI✿★✿、微软尊龙凯时新版APP首页✿★✿、Google等都押注在大语言模型✿★✿，业内相信如果我们不断地扩大语言模型的规模✿★✿，人工智能就会变得更聪明✿★✿，但事实上✿★✿，这更多是一种直觉✿★✿，未经认证✿★✿。

　　凯文·凯利表示写作业错了就塞一个东西在下面✿★✿，现在的只擅长回答基于已知事实的问题✿★✿，类似大家上学时读了一大堆书而显得无所不知的聪明学生✿★✿，但它们并不擅长提出新问题写作业错了就塞一个东西在下面✿★✿，也无法进入未知的领域✿★✿。未来✿★✿，能否进行复杂的多步思维链✿★✿、回答未知的问题✿★✿，是业界需要尝试寻找答案的一项重要问题✿★✿。

　　应用突破是中国通用人工智能技术（AGI）发展的关键✿★✿，但目前AI真正的大规模落地应用✿★✿、大众化的产品仍未出现✿★✿，大模型公司大多在亏本烧钱✿★✿，引发了“AGI泡沫”的担忧✿★✿。

　　百川智能创始人✿★✿、CEO王小川在外滩大会否认了“AGI泡沫”的说法✿★✿，他认为目前大模型的发展从结果上看是符合行业预期的✿★✿，他提出✿★✿，为了推动大模型迈向下一个发展阶段✿★✿，关键在于实现两大融合✿★✿：一是将知识搜索与大模型相结合✿★✿，二是大模型强化的结合✿★✿。

　　MiniMax创始人✿★✿、CEO闫俊杰则认为✿★✿，AGI的发展还需要耐心✿★✿。他表示✿★✿，如果模型错误率可以下降到个位数✿★✿，那么模型就是一个可信赖的状态✿★✿，AI也有可能从助手变成一种生产力✿★✿，这种变化会带来真正大众化的产品✿★✿，为行业带来本质的变化✿★✿。他期待通过技术的优化来拓展AI的边界✿★✿。

　　“人工智能就是人类文明的下一个阶段✿★✿。我们正在通过人工智能重塑人类文明✿★✿，从而创造出一种新的文化✿★✿。在这种文化中✿★✿，我们将不再是唯一的物种✿★✿。”凯文·凯利表示尊龙凯时新版APP首页✿★✿，人工智能并不能像人类一样思考✿★✿，他们有着不同的思维方式✿★✿，有点像飞机一样✿★✿，飞机并不会像鸟儿那样拍打翅膀✿★✿，而且飞行的方式完全不像动物✿★✿，人类曾经尝试通过仿生学来制造像鸟一样飞行的飞机✿★✿，但未能如愿✿★✿。同理✿★✿，人工智能被设计成模仿人类思维✿★✿，但是机器思考的方式截然不同✿★✿，这意味着✿★✿，这样不同的思考方式能让AI产生出不寻常的想法和答案✿★✿。

　　复旦大学计算机科学技术学院教授尊龙凯时新版APP首页✿★✿、上海市数据科学重点实验室主任肖仰华则表示✿★✿，人类与其担心AI产生意识✿★✿，不如先去担心AI过速发展引发失控的风险✿★✿。他认为✿★✿，AI的大规模应用足以从根本上改变人类文明的基本面貌✿★✿。而AI技术的大规模滥用足以在其发展出意识之前✿★✿，摧毁一个文明千百次✿★✿。但人类目前对此所思甚少✿★✿，更谈不上防患未然✿★✿。

　　肖仰华表示✿★✿，挑战首先在于我们的生产关系等社会发展上层建筑✿★✿，如何适应以人工智能为代表的先进生产力的快速发展尊龙凯时新版APP首页✿★✿。他认为✿★✿，生成式人工智能技术发展已经需要以月为单位进行记录✿★✿，但是人类的情感✿★✿、价值✿★✿、伦理观念调整是十分缓慢的✿★✿。如何调和这个矛盾✿★✿，是我们需要直面的挑战之一✿★✿。

　　其次✿★✿，技术普惠问题同样值得关注✿★✿。肖仰华认为✿★✿，如何避免少部分人借助先进技术形成不正当的竞争优势需要被关注✿★✿，此外✿★✿，还应该特别注意防范技术成瘾✿★✿，防止先进技术对人类造成反噬✿★✿。

　　凯文·凯利表示✿★✿，他很明确AI将给人类社会带来全新的问题✿★✿，AI可能给人类社会带来最大的挑战自动化前景✿★✿，✿★✿，甚至比气候问题还要严重✿★✿。例如未来人可能对人工智能产生强烈的情感依赖✿★✿，存在潜在风险✿★✿。

　　“但AI的发展总体是利大于弊的✿★✿。”凯文·凯利认为✿★✿，过去五百年的普遍趋势是人类每年创造的价值总要比毁掉的多1%✿★✿，他预测✿★✿，人工智能带给社会的正面影响不会比负面影响多很多✿★✿，但只要多一点点✿★✿，就能够推动社会的进步✿★✿。

　　中国工程院院士吴世忠认为✿★✿，AI 治理可以“以史为鉴”✿★✿。他表示✿★✿，人工智能的治理和过去的核控✿★✿、疾控都是人类发展历程中的“奥本海默时刻”✿★✿。在这个过程中✿★✿，我们作为人类命运共同体✿★✿，能够借鉴的经验很多✿★✿，比如国际合作和多边协议以及透明度和信任机制的建设等✿★✿。但与此同时✿★✿，我们也要根据人工智能的特点✿★✿，更加科学地进行治理✿★✿。

　　联合国人工智能高层顾问机构专家✿★✿、北京人工智能安全与治理实验室主任✿★✿、中国科学院自动化研究所研究员曾毅则强调✿★✿，人工智能的安全和能力不是相互掣肘的关系尊龙凯时新版APP首页✿★✿，对人工智能的治理并不意味着AI能力的减弱和发展速度的减缓✿★✿，系统的鲁棒性（在面对各种输入情况时✿★✿，能够正确运行且不出现错误或崩溃的能力）✿★✿、自适应与安全也是人工智能的能力✿★✿。未来✿★✿，人工智能系统风险防范要从被动式转变为主动式✿★✿，从防御性转变为建设性✿★✿。此外尊龙凯时人生就是搏·(中国)官网✿★✿。✿★✿，人工智能需要从合乎伦理到具有道德✿★✿。

　　“计算机几十年的发展路程里✿★✿，真正的赢家是做人机交互的✿★✿。不管是什么技术✿★✿，最后的目的都是帮助人类更好地使用机器”✿★✿，香港科技大学校董会主席✿★✿、美国国家工程院外籍院士沈向洋表示✿★✿。他认为尊龙凯时新版APP首页✿★✿，AI为人类提供了与技术共生的全新语境✿★✿，人机交互的新方式指向“AI与IA”的融合共进✿★✿。IA（Intelligent Augmentation）✿★✿，即智能增强✿★✿，代表着一种以人为本的 AI 发展路径✿★✿。它聚焦于运用技术提升人类的能力✿★✿，而非取代人类✿★✿，强调了人类与 AI 之间的协作关系尊龙凯时✿★✿，✿★✿。

　　肖仰华则表示✿★✿，随着脑机接口与AI技术的广泛应用✿★✿，机器已经成为人类的外脑✿★✿、人类的四肢✿★✿，人不再是传统生物意义上的人✿★✿。他表示✿★✿，智能时代✿★✿，人将变成哲学家尼采笔下的“超人”✿★✿，即自我超越的人✿★✿。只不过这种自我超越✿★✿，将是在机器智能等外力工具协助下完成的✿★✿。

　　“与之伴随的是✿★✿，人与人之间的社会关系也将随之发生变化✿★✿，AI将成为人类从事各种生产和活动的代理✿★✿。人与机器之间的关系✿★✿、机器与机器之间的关系✿★✿，将不可避免地纳入到我们对社会关系考察范围”✿★✿， 肖仰华说✿★✿。

　　北京大学助理教授✿★✿、北大-银河通用具身智能联合实验室主任✿★✿、智源学者王鹤表示✿★✿，可能就像马斯克讲的一样✿★✿，地球上应该有100亿人形机器人✿★✿，每个人都应该被人形服务✿★✿，这些人形不是抢了人类的工作✿★✿，而是为人类更好地服务✿★✿。

　　凯文·凯利则谈到✿★✿，迄今为止的证据表明✿★✿，真正因为AI失去工作的人非常少✿★✿，整个比例可能在80亿人中700个都不到✿★✿，比起因AI失业✿★✿，未来更多人的工作角色会因AI发生变化✿★✿，转向监督AI✿★✿，接手AI无法解决的复杂问题✿★✿。“作为年轻人要尝试做用语言解释不清的工作✿★✿，比如一项需要你花整整半个小时向你的父亲解释你在做什么的工作”✿★✿， 凯文·凯利建议✿★✿，这意味着这项工作站在了时代的最前端✿★✿，还没有完全被定义✿★✿。

　　凯文·凯利认为✿★✿，金融和医疗领域会最先看到变化✿★✿，因为这两个行业信息密度高✿★✿。此外写作业错了就塞一个东西在下面✿★✿，广告和营销行业也会是最早受到影响的行业之一✿★✿。

　　蚂蚁集团总裁兼CFO韩歆毅表示✿★✿，金融行业已经高度数字化✿★✿，医疗领域也沉淀了高价值的数据✿★✿，在这两个领域✿★✿，AI能够针对专业领域做训练✿★✿，又具备强大的通识✿★✿、理解和沟通能力写作业错了就塞一个东西在下面✿★✿，有机会带来专业服务的普惠✿★✿。

　　机器学习领域的泰斗✿★✿、美国“三院院士”迈克尔·乔丹谈到✿★✿，人工智能在产业中的落地需要形成互相协作的集体✿★✿。他认为✿★✿，人工智能不仅要在单个设备上体现智能✿★✿，更要通过协同在整体系统层面上体现智能✿★✿，比如✿★✿，现代信息技术在医疗✿★✿、交通✿★✿、金融科技和商业领域的应用✿★✿，需要集体性✿★✿、去中心化的智能系统✿★✿，但如今的人工智能并不具备✿★✿。

　　迈克尔·乔丹表示✿★✿，当前的 AI 系统很难表达它真正学到哪些知识尊龙凯时新版APP首页尊龙凯时新版APP首页✿★✿，也没有能力表达它有多确定✿★✿，他认为✿★✿，人类在集体协作时能够更好地应对不确定性✿★✿。如何让AI系统也具备类似的集体协作能力✿★✿，是一个关键问题✿★✿。