浪潮将至
浪潮将至，愿你我永怀希望，应对未来。
今夜是2024年最后一夜，明天就要迎来新的一年。
正逢此时读了一本应景的书《浪潮将至》，作者是人工智能公司DeepMind的联合创始人和微软人工智能的CEO [英] 穆斯塔法·苏莱曼。本书英文版出版于2023年，中文版出版于 2024年10月，也算一本时代前沿的书。
在《浪潮将至》一书中，作者探讨了以人工智能、生物技术为核心的一系列前沿技术对人类社会的影响，特别提出了我们在拥抱技术发展的同时，必须有意识地一定程度地遏制技术使其朝着对人类社会有益的方向发展。
自从2022年11月30日，OpenAI的ChatGPT-3.5发布以来，就掀起了人工智能的发展热潮，各国各大互联网公司的AI大模型层出不穷。除了自然语言处理模型、计算机视觉模型、语音识别模型、多模态模型这些软件之外，特斯拉的人形机器人Optimus、宇树科技的机器狗等机器人等一一亮相。在人工智能算法助力下，无人驾驶汽车、无人驾驶飞机等技术也得到巨大发展。
虽然生物技术带来的变化，普通人还没有特别体会到；但人工智能带来的影响已经切实出现在我们日常生活中了。所谓技术浪潮，就是随着一系列前沿技术的发展，它们将巨大影响甚至彻底改变我们的生产、生活方式。而人工智能、生物技术、量子计算等前沿技术必将像过去的蒸汽机、内燃机、交流电、火车、飞机等技术一样，掀起新的技术浪潮。
下面说说《浪潮将至》这本书中提到的一些内容。
风险
技术浪潮不可避免，但这些技术除了能促进经济繁荣，使人类生活更便利之外，还有着巨大的潜在风险。
比如：
1、随着生物技术的发展，使可打印定制DNA（脱氧核糖核酸）链的DNA合成器的成本迅速下降。这些合成器仅需几万美元便可购置，小巧便捷，放在车库的工作台上就可以帮助人们合成（也就是制造）DNA。
那么一个人就可以通过网上订购和在家中重组DNA的方式来制造出比自然界中的任何病原体都更具传染性和致命性的新型病原体。一个人很可能“具备杀死10亿人的能力”，所需的仅仅是一个动机。
2、一个人运用人工智能技术，就可能操控无人驾驶汽车、无人驾驶飞机、机器人等组建军事力量，去进行恐怖袭击，甚至直接对抗一个不具备人工智能技术优势的兵团。
作者提到的这些风险似乎并不是危言耸听，今年9月份，天津滨海国际机场就连续两天疑似出现无人机导致航班延误或取消的事件。俄乌冲突、中东冲突中，也有着大量无人驾驶飞机作战。
新技术浪潮的四个特征
作者提出以人工智能、生物技术为核心的即将到来的技术浪潮具有以下4个特征：
1、非对称性：权力大转移
新的技术浪潮赋予了人们新的能力，这些能力强大、廉价、易于获取和使用，同时具有定向性且易于扩展。利用这些技术，一个人就能拥有造成大规模死亡和混乱的能力。
一个人工智能程序可能会独立撰写出与人类所有文本作品规模相匹敌的巨量文字。一次病原体实验或许就能触发全球大流行病。一个小小的分子事件可能产生全球性的影响。一台高效运转的量子计算机可以让全球的整个加密基础设施形同虚设。技术的非对称性影响正在呈现出全方位扩大的趋势，当然，它也孕育着积极的一面——单个系统便有可能创造出巨大的福祉。
举例：美国和以色列都曾使用价值300万美元的爱国者导弹来击落价值仅几百美元的无人机。
2、超级进化性：无尽加速
过去的一些技术能以可控的速度发展，这样社会就有足够的时间和空间来理解和适应它，比如汽车技术。而如今人工智能、生物技术等前沿技术，它们之间相互促进，发展速度之快，可能让我们难以再现这种理想状态。
3、通用性
人工智能、生物技术、机器人、无人驾驶汽车、无人驾驶飞机、量子计算等技术，它们既可民用，也可军用。这些技术将深入到农业生产、工业生产、军事、政治、日常生活等各个领域。
4、自主性
长久以来，我们总倾向于将技术视为“只是个工具”。但当技术表现出能够自我学习、自我进化，并且能够在没有人类即时指令的情况下采取行动时，我们该如何应对。
人类正面临着一项特殊的挑战：我们的新发明是否会超出我们的掌控？在过去的时代里，发明者总能够阐释其创造物的工作原理及成效原因，即便这需要大量的细节陈述。然而，这样的情况已越发不符合当下现实。大量的技术和系统已演变得高度复杂，到了任何个体都难以真正理解其运作机制的地步，量子计算等技术更是在突破我们对世界的认知边界。
人类能主宰环境，是因为我们拥有智能。因此，可以推想，如果存在一个更智能的实体，它便有可能主宰我们。
遏制技术的步骤
由于企业对利润的追求，各企业间的竞争、各国之间军备竞赛的倾向，技术的发展一定是不可避免的。所以没有必要谈怎么推动技术的发展。
针对上述的风险以及新技术浪潮的四个特征，作者提出了一系列一定程度地遏制技术的步骤，以使其能朝着对人类社会有益的方向发展。
1、注重安全性
谨慎和负责任的部署，提升AI大模型的安全性。比如解决大语言模型中的种族主义和偏见问题；确保技术安全，包括代码和实验室的安全。物理隔离是调整技术安全架构以迎接新技术浪潮挑战的方式之一。
在人工智能领域，技术安全措施还包括沙盒和安全模拟，这些措施用于构建可验证安全性的气隙环境，以便在先进的人工智能系统被实际应用之前对其进行严格的测试。
解释能力也是技术安全前沿领域的一个重要方面。要知道，目前尚无人能确切解释模型为何会产生特定的输出。设计一些技术方法来使模型能够全面阐释其决策过程或将其决策过程开放以供审查，已成为安全研究人员面临的关键技术难题。
无论是在合成生物学、机器人技术还是人工智能领域，最艰巨的挑战都莫过于创建一个绝对可靠的关闭程序，即一种能够终止任何可能失控的技术的手段。确保任何自主或强大的系统都配备了关闭程序，这是基本的常识。
2、审计：知识就是力量，力量就是控制
实施有意义的监督，制定可执行的规则，并对技术执行情况进行审查，这些都是极其重要的。
我们绝对需要在各个层面验证系统的安全性、完整性和未受损状态。这又进一步涉及访问权限和审计能力，涉及对系统进行对抗性测试，组建白帽黑客团队，甚至运用人工智能来探测系统的弱点、缺陷和价值偏见。这需要我们以一种全新的方式来构建技术，它所要求的一些工具和技术手段是尚不存在的。
3、技术命门：争取时间
我们需要争取时间以制定更为周密的遏制策略，建立额外的安全措施，测试技术的紧急关闭机制，构建更为完善的防御技术，巩固民族国家的基础，实施更有效的监管，或推动重要法案的通过，以及组建高效的国际联盟。
4、开发者：批评者也应参与开发工作
技术发展的驱动力固然不可阻挡，但技术制造者并不能因此逃避对其创造物的责任。相反，我们每一个人，都肩负着明确的责任。
从事技术工作的人更需要积极努力地解决这本书所描述的问题。我深知技术在各个层面，尤其是在技术构建的前沿阵地，都不能没有批评的声音。批评者应该在应对日常技术创新的现实中发挥关键作用。
5．企业：利润+使命
对于像人工智能和合成生物学这样的飞速发展的技术，我们必须探索新的、负责任且包容的商业模式，既要确保安全，又要追求利润。我们应该有能力创立更加擅长控制技术的公司。
6、政府：生存、改革、监管
国家的繁荣同样重要。我们必须全力支持那些旨在强化自由民主的国家，使之能够抵御各种压力。国家仍然掌控着众多文明基本要素，比如法律、货币供应、税收、军事等。这将对它们接下来要完成的任务大有裨益。它们需要创建并维护具有韧性的社会系统、福利网络、安全架构和治理机制，以应对严峻挑战。但它们也需要对正在发生的事情有深入的了解。
政府需要更加积极地参与进来，重新投身于真正的技术建设、标准制定以及内部能力的培养。政府应该在公开市场上积极争夺人才和硬件资源。
7、联盟：是时候制定条约了
通过精心构建的联盟与国际合作，我们能够取得引导技术发展方向的成功，甚至改变历史进程。
在技术方面，我们显然有必要成立新的机构或组织。我们需要一个专业的监管机构，它应尽可能妥善处理具有争议性的地缘政治问题，避免权力滥用，并在客观标准下切实履行监管职责。我们可以设想一个机构，其运作模式类似于国际原子能机构或国际航空运输协会。我倾向于建立一个类似“人工智能审计局”的组织，它并不直接监管或控制技术，而是专注于事实调查和审计模型规模。
举例：《不扩散核武器条约》、《禁止生物武器公约》、《巴黎协定》、《蒙特利尔议定书》
8、文化：正确地接受失败
即将到来的技术浪潮需要这样的共识：前沿技术领域的每个人都必须发自内心地认可它。提出和完善伦理、安全方面的倡议和政策固然重要，但更为关键的是，执行者必须真正相信这些倡议和政策的重要性。
9、运动：公众的力量
创造技术的“我们”是分散的，这个“我们”受到各种相互竞争及不同的国家、商业和研究的激励措施的影响。但当技术所影响的“我们”能以一个统一的声音发声，当重要的公众群体持续要求变革并倡导统一的解决方案时，好的转变就更可能实现。在这个过程中，任何人无论身处何地，都能产生影响力。归根结底，技术专家和政府都不能独自解决这一问题，但只要“我们”团结起来，就有可能做到。
10、狭窄小道：唯有穿越
迄今为止，我们所提出的每个想法，都像是海堤建设的初步探索，一个尝试性的防洪屏障，从科技的具体细节出发，逐步向外扩展，形成一种全球性的积极变革运动的迫切需求。这些措施单独来看都显得力量薄弱。但是，如果我们将这些措施紧密结合起来，遏制的整体轮廓就会逐渐清晰。
我们不可能某一天就突然宣称技术扩散的问题已经完全解决了。相反，我们要寻找一条路径，确保更多人参与进来，以维持开放与封闭之间的永久平衡。
与其将遏制想象成一条有明确前进方向的通道，我更愿意将其视作一条狭窄而危险的小路，四周弥漫着浓雾，两侧是深不见底的悬崖，稍有不慎就可能面临灾难或坠入反乌托邦的深渊；我们无法看清前方，行走间，小路蜿蜒曲折，还会突然冒出让人始料未及的障碍。
作者这里提到技术开发者、企业、社会组织、国家、国际联盟甚至每个人都需要参与到对技术安全性的关注、遏制、监管中，以使其能朝着对人类社会有益的方向发展。
里探评说：
做为一个普通人，当然希望在技术开发者、企业、社会组织、国家、国际联盟以及每个人的努力下，新的技术浪潮只带给我们福祉，而不会带给我们灾难。但做为一个个体，又深知个人能力的有限；面对新技术，我们最自然要想的是如何在技术浪潮中趋利避害，也就是如何让自己和身边人获利而不是受害。
但愿每项新技术都被人们赋予慈悲性，带给人们利益与快乐；扫除人们穷困与痛苦。（但愿每项新技术都被人们遏制毁灭性，不会带来杀戮、伤害和痛苦。）
2025，新的一年，愿你是永远是最好的你。