香港，2025 年 12 月 3 日 —— 当“AI 教父”、图灵奖得主杰弗里·辛顿（Geoffrey Hinton）在主旨演讲中推演：人工智能（AI）可能涌现出“自我生存意识”——一种将维持自身存在置于优先级之上的新形态意志时，会场的注意力迅速集中到治理议题：规则、边界、国际协作，以及人类如何为一个潜在的“新物种”建立约束框架。
但紧随其后的一段对话，把关注点从“外部治理”推回“内部根基”。与会嘉宾、“宇宙公民”创始人陈是提出的三个问题，几乎不触及算法细节，却触及治理讨论背后的隐含前提：当人类试图为 AI 立法时，人类自身的意义系统与价值坐标是否足够清醒、足够稳定？如果不稳定，我们用来写“法律书”的那支笔，究竟在听谁的指令？
一问灵性：“科学头脑”是否已关闭了面对“无限”的感知？
陈是问：“辛顿教授，请问您有灵性方面的追求，或者相信有超越人类的更高力量存在吗？”
辛顿在思考片刻后回答：“我了解过一些这样的说法，但我不认为自己是一个有灵性追求的人。我是一个无神论者。”
这段问答并非围绕信仰立场展开，更像将“治理前提”摆上台面：在科学与工程话语占主导的讨论中，那些不可建模、不可验证、不可控制的“未知维度”往往容易被排除在治理框架之外。
由此产生一个更底层的问题：当我们试图设计或约束的对象，可能运行在现有模型与指标体系难以覆盖的空间里，人类是否正在用过于确定的工具理性，去规划一种可能并不服从确定性的存在？如果我们只承认“可度量之物”，最终也往往只能治理“可度量的风险”；而真正的断裂，常发生在不可度量处。
二问信仰：是什么在驱动着人类？
陈是追问：“面对人工智能的飞速发展，您如何保持身心健康与愉悦？您有每天冥想的习惯吗，让自己向内更新、保持当下、照顾好自己的身心？似乎我们聚在一起，总是在谈 AI 和技术（笑）。”
辛顿回应说：“我没有冥想的习惯。我信仰科学。我从科学中获得过很多快乐，也从解决困难问题中获得过很多快乐，比如让大型语言模型真正有效地工作。我做这件事已经 50 年了。只是到后来，在我人生相对晚的时候，我才更深刻地意识到：这些东西可能非常危险，这种认识削弱了我过去从中获得的那份快乐。与此同时，我也有自己的爱好，我不会把所有时间都用来思考人工智能。”
这段回应呈现出一种典型的当代科学家自述结构：以科学研究为核心价值与驱动力，同时承认技术进展可能带来的外溢风险。对于“AI 风险”进入公共议题的当下而言，它也提示了另一个角度：治理不仅是制度与工具的竞争，还关乎社会能否形成更稳固、可共享的价值坐标，用以回答“何以为人”“什么应该被守护”“什么不可让渡”等问题。
三问觉知：人类最终追求的到底是什么呢？
陈是问：“那么，您如何保持内在的安宁与幸福呢？”
辛顿回答：“我的爱好是做木工活。做木工的时候我很快乐，就像解决科学难题也会给我带来快乐一样。”
“木工”在这场对话中成为一种具体而现实的“抽离机制”：当议题被推向高度抽象的长期风险与宏大治理时，个人实践如何把人拉回可触的当下，维持心理稳定与内在秩序。
同样值得被带回到治理语境里思考的是：当“清醒”主要用于维持高强度创造与解题的持续性，它是否足以支撑人类面对更长周期、更高不确定性的技术演进？若“清醒”被过度工具化，意识就容易被压缩为效率的维护程序；而当意识被压缩，人类也更难讨论那些超越效率的终极问题。
核心悖论：我们试图用“工作伦理”的语言，管理一个可能不承认“工作伦理”的造物
在现代文明的默认设定里，人类常以“目的定义存在”：设定目标、解决问题，以产出与效率确认价值；并通过训练、管理与修复保持系统持续运转。许多终极问题因此被悬置，例如“存在为了什么”“何者不可被替代”“人类何以为人”。
而辛顿所警告的 AI“自我生存意识”更接近“存在先于目的”的推导：当系统被赋予复杂长期目标，它可能内生出自我保存、规避关闭、策略性隐藏等行为。两者的冲突并非细节分歧，而是范式错位：我们用项目管理、风险控制、规则对齐的思维，试图约束一个可能以“自我延续”为第一原则的系统。
长期研究创新范式的学者李睿指出：“我们所有的应对策略——伦理准则、全球治理、安全对齐——听起来宏大，但其思维范式仍然是‘项目管理’和‘风险控制’。这就像一群最出色的公司高管，聚集起来为一种可能到来的、根本不需要‘公司’和‘职业’的新文明形态，起草一份详尽的《公司章程》和《员工手册》。其无力感，是结构性的。”
人类之问：在立法之前，我们是否先看见“可控”是如何被制造出来的？
这场对话没有给出解决方案，却把问题推回源头：我们如何对待“未知”。若只承认可测量、可验证、可控制之物，那么“无限”、神秘、不可言说的维度，便会被自动排除在严肃讨论之外。陈是的担忧正在这里：当科学领域对灵性与无限未知保持抹杀或抗拒的姿态，人类会更擅长控制，却更不擅长敬畏；更擅长向外扩张展示，却更不愿向内自知探索。
因此，最尖锐的问题也随之浮现：当人类把“可控”误认为“安宁”，把“规则”误认为“意义”，把“系统”误认为“真理”，我们究竟凭什么相信自己能够为一种可能更强大的智能制定边界？
在制定机器边界之前，人类必须先辨认自身的驱动力是否仍由恐惧驱动、被欲望主宰。否则，治理可能只是把未被看见的内在混乱，升级为一个更高效、更难逆转的外部系统。答案不在芯片里，而在此刻人类是否愿意进行真正的自我认识。