中国银行原行长李礼辉：AI迭代有价值也有冲击和挑战

  2024年1月10日，由《财经天下》周刊联合市界、市界研究院举办的异想大会在北京香格里拉饭店举行，大会以“韧性·穿越奇点时刻”为主题。中国银行原行长李礼辉发表了《AI迭代的颠覆与挑战》主题演讲。

  关于人工智能技术最新趋势，李礼辉主要归纳了三个方面，一是生成式AI提供了内容生产方式的变革和人机交互方式的变革；二是从通用大模型扩展到垂直模型，笼络了数字技术上的不相同的领域；三是AI模型可以直接降低知识应用成本，从而创造价值，提升生产效率和管理效率。

  李礼辉提到，在智能金融方面，我们现在应该还处在辅助和助理早期的阶段，有人预测2023年生成式AI技术可能能够使券商的估值提升21%，使保险机构估值提升18%。但同时，AI迭代也给我们大家带来冲击和挑战，包括算力集中与算力竞争、共享与数据的管控、AI系统的目标如何与人类的价值观和根本利益保持一致等。

  2022年的10月30日，微软的OPENAI推出了ChatGPT，两个月活跃用户就超过了1亿大关，这个事情被称之为人工智能技术发展的起点。

  ChatGPT有基于超级算力的学习能力和语言能力，2023年的3月14日升级为GPT4，10月中旬又升级为Turbo。在这样的人工智能带领下，更多的AI模型推向市场，中国的AI模型现在大概超过200个，获得国家网信办备案通过的有文心一言等。总体上大家认为ChatGPT是目前最先进的生成式大模型，有人挑选评定人类理性思维的四类经典测试任务，包括语义错觉任务，认知反射类任务等等，做了一个测试，GPT3.5正确率58%，GPT4正确率88%，高于人类62%的平均正确率。

  第一，生成式AI提供了内容生产方式的变革和人机交互方式的变革。生成式AI可以根据非结构化的数据生成新的非结构化的内容，包括文本、视频、图象、代码，非结构化是很大的特点，它能适应各种任务。因此会对数字化产业产生重大的影响。

  第二，从通用大模型扩展到垂直模型，笼络了数字技术上的不相同的领域，包括大数据、云计算、虚拟现实、人机交互、知识图谱，计算机视觉、生物识别，机器人，无人驾驶等等，形成以AI技术为核心的体系。

  第三个，AI模型可以直接降低知识应用成本从而创造价值，能大大的提升产出、节省本金，提升生产效率和管理效率。2023年全球AI聊天程序的访问量达到了191亿次，其中ChatGPT占比高达76.31%。

  李礼辉认为，“在智能金融方面，我们已做的很多，也做的很好，但是我们现在应该还处在辅助和助理早期的阶段。”有人预测2023年生成式AI技术可能能够使券商的估值提升21%，使保险机构估值提升18%，大多分布在在两个方面，一是改进产品创新和客户服务，比如说工商银行的数字交易系统，招商银行的AI小招智能助理等；二是改进运营管理和风险管控。过去我们绝大多数都是用测试AI，现在逐渐采用生成式AI。

  第一是算力集中与算力竞争。算力的基础设施，包括以服务器为中枢的硬件和以算法程序为核心的软件，核心算力基础设施的建设需要持续投入巨大的财力、人力，这样一定会导致算力的集中。因此，算力的竞争将是主要经济体之间的，国家级的竞争以及资本巨头之间，科技巨头之间的企业竞争。

  第二是数据的共享与数据的管控。数据共享模式方面可能会影响数据价值的成果。

  第三是AI对齐与AI合成。AI对齐是指AI系统的目标必须与人类的价值观和根本利益保持一致。AI合成应用于深度学习、虚拟现实等生成类的算法制作图象、音频、视频等，随着AI合成水平的进化，深度合作算法还可以对抗通用的技术性甄别。换句话说，如果我今天的讲话视频有人加以应用，它可能做出一个假的我在这里讲话，讲不同的内容。

  第四是AI信任与AI安全。从金融业的角度来看，有待解决的技术缺陷包括模型技术黑箱，模型学习局限，模型决定歧视，模型输出幻觉等等。