邓之湄
山姆·阿尔特曼：让AI成为更安全的帮手
山姆·阿尔特曼
我们需要国际合作，以可验证的方式在全球范围内建立越来越强大的、可以信任和開发的AGI系统，尽管这并不容易。
最近一段时间，我走过五大洲的近20个国家，接触了很多人工智能领域的学生和开发者，见证了全球各地的人们正利用AI改善生活，也和各界人士深入探讨了如何确保强大的AI能安全地运作。
我们发现，当前AI还存在不少亟待解决的难题。
治理需国际合作
随着 AI能力迅速提高，我们需要将AI技术负责任地应用到各领域，必须预判并管理好风险。如果我们不做好规划，一个本来计划用于改善公共卫生的AI系统，可能会因为资源提供不平衡而破坏了整个系统。
我希望投入时间和精力集中攻关重要领域，其中一个重要领域就是AGI（通用人工智能）治理。如果我们能将AGI系统最核心的技术实现网络共享，AGI系统就可以为全球经济创造巨大财富，解决人类面临的挑战，如全球气候变化、人类健康安全等，在多个方面提升社会福祉。
我们需要建立包容的国际准则和标准，并在所有国家就AGI的使用建立平等、统一的防护措施。
我们需要国际合作，以可验证的方式在全球范围内建立越来越强大的、可以信任和开发的AGI系统，尽管这并不容易。
《道德经》告诉我们：“千里之行，始于足下。”对安全进行长期的关注和投入，最有建设性的第一步就是国际科技界开展合作，确保AGI安全的技术发展，增加技术透明度和建立知识共享机制，为应对一旦出现的紧急问题，各国研究人员应该共享研究成果。当然，我们在呼吁国际合作的同时，也需要尊重和保护知识产权。
以AI监督AI
当前，我们关注的是如何使AI系统成为一个有益和安全的好帮手。随着AGI时代的临近，其带来的潜在影响、问题将呈指数级增长，因此我们需要主动应对AGI带来的挑战，将可能遇到的风险降至最低。
从GPT-4完成预训练到部署运用，我们用了8个月时间来研究如何预判风险，并给出对策。很庆幸我们做对了，大模型训练后的对齐（指AI系统的目标和人类的价值观与利益保持一致）是提高性能和改善体验的关键，GPT-4的对齐程度超过当前所有代码。不过，对于更高级的系统，对齐仍然是一个尚未解决的难题，需要采用新的技术方法，以及加强治理监督。毕竟，未来的AGI可能是一个十万行二进制代码的系统。
现阶段，人类的监督很难判断如此规模的大模型是否在做一些于人类不利的事。因此，我们正在尝试使用AI系统协助人类监督其他AI系统。例如，我们可以训练一个模型来帮助监督者找出其他模型代码中的缺陷。
还有一个方向是可解释性。我们希望更好地理解模型内部发生的事情。最终，我们的目标是训练AI系统具备更好的自我优化能力。我们希望全世界的研究人员参与其中，在应对AI领域的技术挑战方面开展合作，利用AI解决全球重大问题，改善人类生存条件和质量。
（山姆·阿尔特曼系OpenAI联合创始人。本文根据山姆·阿尔特曼在2023 智源人工智能大会上的演讲整理）
吴海：坚定围绕国家战略投资布局
吴海
人工智能仍然处于发展的初级阶段，从投资视角讲，需要有更多耐心，以价值投资的理念来看待人工智能产业长期健康发展。
加快发展新一代人工智能，是赢得全球科技竞争主动权的重要战略抓手。2018年10月，中共中央政治局就人工智能发展现状和趋势举行集体学习，指出加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。作为网信领域国家级政府产业投资基金，中国互联网投资基金（简称“中网投”）始终坚持国家战略导向，把服务网络强国建设作为投资首要任务。
耐心助力产业发展
当前，人工智能仍然处于发展的初级阶段，从投资视角讲，需要有更多耐心，以价值投资的理念来看待人工智能产业长期健康发展。
据公开数据，2022年国内人工智能领域共超过800起融资事件（不含拟收购、被收购、定增、挂牌上市），尽管受疫情影响较2021年有所回落，但仍然保持高位活跃。从投资领域看，AI集成创新（即应用层）在国内最受关注，投资数量占比达到45%，包括智能机器人、自动驾驶、智慧医疗、智能制造等。
随着以大模型（如ChatGPT）为代表的现象级突破，预计在技术层及应用层可能引发新一轮投资热潮，与制造业、服务业等的融合创新也将进一步提升智能化支撑水平。
重创新、保安全
按照国务院印发的《新一代人工智能发展规划》，到2030年，我国人工智能核心产业规模将超过1万亿元，带动相关产业规模超过10万亿元。中网投在人工智能领域投资布局出发点是补齐短板、做强长板，支持核心技术创新突破、完善上下游协同生态，总体按照技术创新、基础设施、产业融合、保障安全四个维度进行投资布局：
一是支持核心技术创新。一方面深入布局视觉、语音、自然语言处理等较为成熟的算法框架；
另一方面继续关注理论突破和技术创新。如：多模态、大模型、无监督学习、近存计算、类脑计算等。
二是关注算力数据基础设施。深入布局面向新型计算架构的AI芯片，兼顾专用计算及通用计算，关注面向可编程、可重构的新型架构，包括可能产生颠覆性创新、体系化革新的光电芯片、量子计算等。此外，投资布局一些服务于AI的高质量数据平台、行业大数据平台。
三是助力产业融合应用。根据当前AI技术集成应用成熟度和商业化落地情况，主要看好和投资有限受控场景下的无人驾驶系统、服务机器人以及有成熟商业模式的数据智能服务方向。
四是保障AI应用安全。服务国家对AI、数据等安全监管要求，守护科技向善，投向AI安全、数据安全，提升AI模型可靠性、稳定性，保护个人隐私及行业数据安全。未来，我们希望在人工智能领域支持培育出更多产业领航能力的大中型企业和“专精特新”、单项冠军企业。
（吴海系中国互联网投资基金管理有限公司党委书记、董事长。本文根据公开资料整理）
黄铁军：大模型需共建闭环
黄铁军
从长远来看，大模型只是标签而不是产品和某一家公司的工具，整个大模型开源开放生态是必然的。
智源研究院是国内最早进行大模型研究的科研机构之一。近期，研究院发布了 “悟道3.0”版本，涵盖语言、视觉、多模态（多模态模型指可以处理文本、图像、声音、视频等多种不同类型数据的机器学习模型）等基础大模型，现已全面开源。
其中，“悟道·视界”视觉大模型系列，解决了当前计算机视觉领域的一系列瓶颈问题，实现了6项国际领先技术突破，被业界誉为点亮了通用视觉的曙光。天秤（FlagEval）大模型则旨在建立科学、公正、开放的评测基准、方法和工具集，协助研究人员全方位评估模型性能，探索利用AI方法大幅提升评测的效率和客观性。
大模型存活合理数：三个
可以说，智源研究院率先预见了“大模型时代”的到来。包括“大模型”这个名词，就是2021年智源研究院发布“悟道1.0”时正式提出来的。
什么是大模型？我们认为至少有三个特点：第一，规模要大，神经网络参数要达到百亿规模以上。第二，要有涌现性，要产生预料之外的新能力，这是人工智能发展六七十年来，最具里程碑意义的新特性。第三，通用性，即不限于专门问题或者专门的领域，要能够解决各类问题。当然，受限于目前的技术发展阶段，模型也不是所有问题都能解决，但要有很强的推广性。
目前，国内大模型发展的主要制约点是训练量太小、行业太热，重复建设，资源分散。未来能够存活的大模型生态合理数量为三个左右，今天的大模型都将是技术迭代的一个中间产品。
大模型产业难以形成垄断，需要搭建共建产业闭环。从长远来看，大模型只是标签而不是产品和某一家公司的工具，整个大模型开源开放生态是必然的。
悟道3.0 系列大模型之悟道·天鹰
600维评测
现在，全世界发布了很多模型，这些模型到底哪些方面好、哪些方面不足。我们在科技部大模型旗舰项目的支持下推出了大语言模型的评测体系“天秤”，旨在建立科学、公正、开放的评测基准方法工具集，协助研究人员全方位评估基础模型，训练项目的性能。
目前，天秤大语言模型评测体系，在能力、任务、指标三个维度上建立了全方位的评测体系，包括语言大模型可能具备的30多种能力，加上5种任务，再乘以4大类的指标，总共差不多600维的评测体系，能比较全面衡量一个大模型的能力。
（黄铁军系智源研究院院长）
汤道生：大模型要解决真问题
汤道生
企业所需要的大模型能力，是在实际场景中真正解决了某个问题，而不是在100个场景中解决了70%-80%的问题。
过去半年，业界都在为大语言模型的发展感到兴奋，不少人已经试遍各个通用大模型的聊天机器人，不少企业管理者也在思考，如何将大模型技术应用到自己企业的产业场景中。
但事实上，当前通用大语言模型在应对产业场景落地时还存在一定局限性。比如，通用大模型的训练数据主要来自公开数据集或网络数据，对于特定行业的专业领域知识了解有限。比如，通用大语言模型的训练需要大量计算资源和漫长的训练周期，这对企业来说可能昂贵且耗时，且必须考量安全与合规。
因此，打造企业专属的行业大模型至关重要，好用、易用的同时还能降低企业的成本和时间投入。
通用大模型一般都是基于廣泛的公开文献与网络信息来进行训练，网上的信息可能有错误、有谣言、有偏见，许多专业知识与行业数据积累不足，导致模型的专业性与精准度不够，数据“噪音”过大。
但在很多产业场景中，用户对企业提供的专业服务要求高、容错性低。企业一旦提供了错误信息，可能引起巨大的法律责任或公关危机。因此，企业使用的大模型必须可控、可追溯、可修正，而且必须充分测试才能上线。
企业所需要的大模型能力，是在实际场景中真正解决了某个问题，而不是在100个场景中解决了70%-80%的问题。
另外，大模型的训练数据越多，模型越大，训练与推理的成本也越高。但实际上，大部分的企业场景需求，不需要万能的通用AI来满足。因此，如何在合理的成本下，选择合适的模型，才是企业需要思考与决策的。
企业需要有针对性的行业大模型，再加上企业自己的数据做训练或精调，才能打造出实用性更高、安全性更高的智能产品。模型最终要在真实场景落地，要达到理想的服务效果，往往需要企业将自身的数据也用起来。在模型研发过程中，既要关注敏感数据的保护与安全合规，也需要管理好大量的数据与标签，不断测试与迭代模型。
因此，腾讯云推出了行业大模型精调解决方案，帮助模型开发者与算法工程师，一站式解决数据的处理问题，高效率、高品质、低成本地创建和使用大模型；
以模型的私有化部署、权限管控和数据加密等方式，让企业用户在打造模型与使用模型时都更放心。
我们正在进入一个被AI重塑的时代，海量的创新应用即将爆发。大模型只是起点，产业落地会是AI更大的应用图景。
（汤道生系腾讯集团高级执行副总裁）
腾讯云MaaS 全景图
猜你喜欢人工智能模型适用于BDS-3 PPP的随机模型导航定位学报(2022年4期)2022-08-15我校新增“人工智能”本科专业西安航空学院学报(2022年2期)2022-07-04p150Glued在帕金森病模型中的表达及分布成都医学院学报(2021年2期)2021-07-19重要模型『一线三等角』中学生数理化·七年级数学人教版(2020年10期)2020-11-26重尾非线性自回归模型自加权M-估计的渐近分布数学物理学报(2020年2期)2020-06-022019：人工智能商界(2019年12期)2019-01-03人工智能与就业IT经理世界(2018年20期)2018-10-24数读人工智能小康(2017年16期)2017-06-073D打印中的模型分割与打包光学精密工程(2016年6期)2016-11-07下一幕，人工智能！南风窗(2016年19期)2016-09-21推荐访问:人工智能