被外包的心智：当人工智能成为人类的环境

引言：一份完成得很好的报告

设想一位年轻的研究人员接到一项任务：分析一份复杂的报告，提出判断，并向团队解释理由。她把材料交给人工智能，获得摘要、分析框架和措辞流畅的结论；经过几轮对话，一份完整的报告很快成形。她读过全文，修改了几处表述，并在会议上作了清晰的介绍。

任务完成了。但另一件事没有那么容易判断：在这个过程中，她学会了什么？如果下次遇到一份结构不同、结论更隐蔽的材料，她能否自行发现问题？如果系统给出的分析在某个关键假设上出了错，她是否有能力辨认？

这不是一个关于某位研究人员是否勤奋的故事。它描述了一种正在成为日常的分工：人提出问题，机器生成分析，人再从中选择、修改和接受。过去，机器替我们保存信息、执行计算、搬运物体；如今，它开始承担一些原本被视为思考本身的工作。其便利十分真实：我们可以更快地处理陌生材料，获得反馈，接触原本难以进入的领域。其代价也可能十分隐蔽：一项工作完成得越好，并不必然意味着完成这项工作的人变得越有能力。

这个问题还可以向更深处追问：生物必须在环境中维持生命，人类也不例外。如果 AI 帮助我们更好地应对疾病、灾害和复杂问题，我们是否因而更加适应环境？如果失去 AI 后我们反而更难应对，我们是否又因此更加脆弱？更重要的是，当越来越多的人使用 AI，我们所要适应的环境本身会变成什么样？

本文接续《“懂得”的幻觉：当人工智能替我们学习》对个人学习的讨论，提出一个更大的判断：人工智能既扩展了人类应对世界的能力，也可能使一部分原本可以选择的工具，逐渐变成个人无法轻易改变的生活条件。**一个社会不仅需要借助环境解决问题的能力，还需要理解、质疑并改变自身所依赖的环境的能力。**前一种能力决定我们在现有条件下能做什么；后一种能力决定当条件本身出了问题时，我们是否仍有选择。

这里所说的“退化”，首先指某些技能因缺少练习而减弱，或者原本可能形成的能力未能充分形成；它不等于已经证实整个大脑因使用 AI 而萎缩，更不等于人类基因正在退化。下文会区分个人能力、社会制度和生物进化的不同时间尺度，也会区分已有证据与思想推演。

---

一、思想从来不只发生在头脑之中

人类从来不是单凭孤立的大脑认识世界。结绳、文字、地图、账簿、图书馆、计算器与搜索引擎，都是把一部分认知活动安排到身体之外的方法。一个人记不住所有电话号码，却知道到哪里查找；一群科学家各自掌握不同的方法，却能共同完成无人独自完成的研究。认知并非只能位于一个人的颅骨之内，它也分布在工具、他人和制度构成的网络中。

这并不天然意味着损失。没有文字，人类难以积累大规模知识；没有数学符号，复杂推理会被工作记忆的容量所束缚；没有计算机，现代科学中的许多计算根本无法完成。外部工具可以释放注意力，让人处理更高层次的问题。也正因为我们能借助他人的成果，每一代人才不必重新发明全部知识。

然而，认知外包改变的不仅是负担的大小，还可能是负担由谁承担、判断在何处发生、能力如何传承。一张地图替我们保存空间信息，驾驶者仍需辨认地形、决定目的地；导航系统进一步提出路线，并实时纠正偏离；一个能够生成方案的 AI，则可能同时决定该考虑哪些因素、采用什么框架、哪些选项值得列入比较。实际系统有不同的能力和边界，但这种从保存信息到参与组织问题的变化，值得格外注意。

这也解释了为什么“人类过去总是使用工具，所以这一次不会有什么不同”并不充分。历史告诉我们外包并非新事物，却不能自动回答新工具以怎样的速度、规模和方式改变了认知分工。同样，“工具替代了某项能力，所以人类必然衰退”也不成立：有些能力会减弱，有些能力会迁移，也有些能力可能首次变得可及。关键在于辨认具体的变化。

二、适应与脆弱：同一枚硬币的两面

如果一个人使用导航设备穿越陌生城市，找到目的地的速度提高了，但离开导航后独立辨认道路的能力下降了，那么他究竟是更适应环境，还是更不适应？答案取决于我们衡量的对象和条件。

把携带设备的人作为一个整体，在设备持续可用的城市里，这个整体可能更有效；只考察人的独立导航能力，结论可能相反。这两个判断不矛盾。人和工具的组合是一种真实的行动单位，不能因为能力的一部分位于体外就把它视为虚假；而工具断供后的能力也是真实的问题，不能因为平时很少遇到中断就忽略它。这里的导航只是思想实验，不是关于某项具体设备效果的实验结论。

但“适应”还有不同含义。进化生物学中的适合度关心特定环境下与可遗传特征相关的相对繁殖贡献；日常所说的适应，可能指完成任务、维持健康、应对变化，或过上有尊严的生活。这些目标不能互相替代：生产率提高不必然意味着健康、自由或公平得到改善，个人在竞争中胜出也不保证社会更有韧性。本文主要讨论个人与社会应对环境的能力，不会把生活得更好等同于生物学意义上的繁殖成功。

从生物需要适应环境这一事实，也不能直接推出人应该拥有什么权利、什么样的社会值得追求。对健康、自由和公平的重视，是需要公开辩护的价值立场，而不是自然选择替我们作出的结论。正因如此，本文关于自主与参与的主张，应接受与效率和安全一样的质询：它们对谁有益，代价由谁承担，在冲突时如何取舍？

至少需要分别追问四件事：谁在适应——个体、人机组合、组织还是社会；适应什么——日常任务、罕见危机还是不断变化的规则；在什么条件下——工具持续可用、受限、出错或突然消失；以什么衡量——产出、健康、公平、自由，还是维持关键功能的能力。同一项技术可以同时提高其中一项、降低另一项。

因此，“人类因 AI 更强还是更弱”没有一个脱离条件的总答案。**更有解释力的判断是：AI 可能扩大我们在某些环境中的能力，同时使我们更依赖维持这种能力的条件。**这种依赖是否值得、风险由谁承担、有没有办法恢复和改变，是接下来需要回答的问题。

正常运行、故障与依赖

假设一家医院使用 AI 辅助梳理复杂病历。正常情况下，它帮助医护人员更快发现线索；但如果长期以来医院把人员训练、数据核验和备用流程都视为可以削减的成本，那么一次系统停机、数据异常或持续的错误建议，可能使原本的优势变成弱点。反过来，如果同一家医院保留专业训练、独立检查和必要的备用流程，AI 带来的收益与应对故障的能力便有可能同时存在。这是用于分析机制的假设，并非对某家医院的事实描述。

这里至少有两种脆弱性。第一种是中断：系统不可用、网络或能源受限，关键工作如何继续？第二种是持续可用却有问题：系统照常给出看似可信的建议，却在某些人群、罕见病例或新情况上系统性出错。这时保持服务运行并不足够；如果所有人都依赖同一套有偏差的判断，稳定也可能意味着错误被稳定地放大。

沿着医院的例子，第三种情况是服务并未停机，却改变了价格、权限或接口，使原有流程不再可用；第四种则是医院主动调整：保留训练与独立检查，准备可操作的降级流程，并在必要时更换服务。评价这些选择，既要看正常时的患者获益，也要看故障中的漏诊、恢复时间、替代路径，以及哪些患者和工作人员承担了代价。多家机构共同使用同一模型或数据源时，错误还可能相关；换一个外观不同的界面，并不一定带来独立判断。这些都是需要具体检查的风险，不能假定它们已经发生。

生态学家霍林（C. S. Holling）区分过系统的稳定与韧性：一种系统在平常时候表现得稳定，并不保证它能够承受较大的扰动而维持原有结构与功能 (Holling, 1973)。这一思想可以帮助我们提问，但医院和社会并不等同于生态系统；我们借用的是“平时表现与遭遇扰动后的能力需要分别考察”，不能把生态模型的结论直接当作 AI 社会的实证结论。

如果只看日常效率，我们可能高估一个高度依赖系统的组织；如果只设想 AI 永久消失，我们又可能低估真实收益，并把任何工具依赖都误当作缺陷。更完整的评估需要比较几种可能情景：正常运行、短时中断、长期不可用、隐蔽错误，以及出现训练材料中少见的新问题。对每种情景，还要问影响发生的可能性、持续时间、受影响的人、恢复成本和可行的替代方式。由于这些量在很多应用中尚不清楚，情景分析能帮助暴露假设，却不能凭空给出精确预测。

比较时还必须小心：突然从今天的社会拿走 AI，不等于回到一个从未出现 AI 的社会。工作流程、人口需求和其他基础设施可能已经围绕它重新组织。前者测试的是转型后的中断，后者是一个无法直接观察的历史反事实；二者混为一谈，会让我们把社会重组产生的脆弱性误写成单纯的个人能力下降。

备用流程和独立训练并非没有成本：它们占用人员、时间和资源，而且未经演练的备用方案未必能在危机中发挥作用。不是所有任务都需要同等程度的冗余；应该根据潜在伤害、恢复时间、替代能力和受影响人群作出选择。一个可以推迟的娱乐推荐与一项紧急医疗服务，需要的保障显然不同。

而且，依赖并不都应消除。现代城市依赖供水、电力、医学和彼此的劳动；婴儿、老人以及残障人士对他人和辅助技术的依赖，更不能被当作价值上的缺陷。真正需要审视的是：依赖能否被保障，提供者是否可替换，受影响者是否有选择与申诉的权利，失败时是否有人被迫独自承担代价。所谓韧性，也不是要求每个人在任何条件下都独自生存，而是让相互依赖的系统有能力照护其成员、发现问题并重新组织。

即使一个系统可靠到极少发生中断，依赖关系中仍可能存在权力问题：受影响的人能否了解和改变其服务条件，或在受到伤害时获得救济？后文还会回到这个问题。

三、能力如何形成，又如何传承

在任何使用工具的任务中，至少有两种不同的结果。一种是有工具时的表现：报告写得怎样、题目答对多少、单位时间完成多少工作。另一种是工具移除后留下的能力：一个人能否独立解释、迁移、发现错误，或在条件变化时重新解决问题。前者衡量人机系统此刻做到了什么；后者关心人在过程中获得或保留了什么。两者都重要，却不能互相代替。

Bastani 等人在土耳其一所高中的数学教学中开展随机对照实验，比较了普通 GPT 辅助、设计为提供引导的 GPT 辅导工具和没有这两种工具的对照组。在练习阶段，普通 GPT 组的成绩比对照组高约 48%，辅导工具组高约 127%；随后所有学生在不能使用这些资源的条件下参加考试，普通 GPT 组成绩比对照组低约 17%，而辅导工具组与对照组没有显著差异。实验发生在特定学校、课程和工具条件下，不能直接推广为 AI 对所有学习都造成伤害；但它清楚地展示了同一工具家族中，使用方式和考察时间可以得到不同答案 (Bastani et al., 2025)。

也有反方向的证据。Lira 等人在预注册实验中研究求职信写作，发现使用 AI 进行练习的参与者在次日写作测试中进步更大；进一步实验中，仅阅读 AI 生成的范例也带来了类似收益。论文以预印本形式发表，其结论限于所研究的写作任务，但足以提醒我们：减少某些劳动并不必然减少学习。一个恰当的例子、及时的解释或有针对性的反馈，也可能让学习者看见独自摸索时看不见的结构 (Lira et al., 2025)。

这两项研究并不需要被勉强调和成一句“AI 有利有弊”。它们共同提出了一个更有用的问题：在特定情境下，工具替代的是无助于理解的摩擦，还是本来会促成理解的认知操作？阅读范例可以帮助人形成写作模式；直接复制一道题的解法，却可能让人跳过识别条件、选择方法和发现错误的过程。判断不应落在“用了多少 AI”上，而应落在学习者实际做了什么、之后能够做什么上。

一项关于知识工作者的调查也提示，思考未必消失，而可能转移。Lee 等人调查了 319 位使用生成式 AI 的知识工作者，收集 936 个工作实例；较高的 AI 信心与较少的自报批判性思考相关，而参与者描述的工作重心也转向核验信息、整合回答和管理任务。这是自我报告的相关性研究，并未直接证明能力下降或确定因果关系；但它让我们看见新的分工：生成答案的工作减少以后，评价答案的工作可能变得更重要 (Lee et al., 2025)。

监督者的悖论

能力不是在需要时才突然出现的。医生识别异常、程序员定位故障、研究者判断一篇论文的漏洞，背后都有长期形成的知识结构。知识不仅是可以随时检索的事实，也是用来识别问题、提出假设和评价证据的组织方式。

如果一个人长期把一类任务的关键步骤交给外部系统，至少可能出现两种不同的变化。对曾经熟练的人而言，缺少使用可能使技能生疏；对新手而言，更隐蔽的问题是能力尚未形成便失去了形成的机会。后者不是从高处滑落，而是一条原本可能走过的发展路径没有展开。

这带来一个监督悖论：我们希望人类审查 AI 的建议，却可能同时用 AI 取代培养审查能力所需的实践。一个从未独立追踪过程序错误的人，未必能判断看似合理的修复是否引入了更深的问题；一个没有接触过原始材料的人，也许很难察觉摘要略去了何种证据。要求一个人“对结果负责”，并不会自动赋予他发现问题的知识、时间和权力。

这并不是 AI 时代才出现的问题。Bainbridge 在 1983 年讨论工业自动化时指出，操作员可能被要求监控高度自动化的过程，并在异常时接管，然而日常操作经验的减少又会使保持相关技能更加困难 (Bainbridge, 1983)。工业控制与生成式 AI 的工作方式不同，她的分析不能直接证明今天的知识工作者已经失去能力；但它揭示了一个值得重新检验的制度矛盾：如果例行实践被取消、异常却仍由人负责，组织必须另行创造训练、信息与介入的条件。

但也不应把所有费力都视为美德。反复手算巨大矩阵，未必是理解线性代数的最佳途径；让学生一直困在无法获得反馈的错误中，也不一定有助于学习。真正需要保留的，是与目标能力有关的生成、解释、检验和纠错，而不是一切可以被省去的重复劳动。

因此，对任何一项外包，都可以提出三个问题：我希望保留或形成哪种能力？系统替我完成了其中哪些关键步骤？我能否在没有提示的情况下解释结果，并在新情境下运用它？这些问题没有要求每个人掌握所有底层技能。它们要求我们区分有意识的分工与不自觉的依赖。

专家是怎样成为专家的

个人能力的变化会穿过组织，变成一个代际问题。许多职业中的初级工作，既是生产任务，也是训练场：年轻律师在检索与整理中熟悉法律结构，初级医生在跟随诊疗的过程中学习识别重要线索，初级工程师通过排查常见故障建立对系统的直觉。这些工作并不都需要永远按旧方式完成，但其中的学习功能不能因为产出可以自动生成就被忽略。

如果组织只按当下的速度和成本安排工作，AI 可能承担越来越多初级任务，而初学者只负责整理和转交结果。短期内，团队的产出可能提高；多年之后，团队可能发现能够独立处理例外、训练下一代或纠正系统的人越来越少。这是一种需要长期观察的风险，而不是已经被全面证实的社会事实。

另一种结果同样可能发生：工具把原先只有资深者才能及时提供的示范和反馈带给更多新人。Brynjolfsson、Li 与 Raymond 对一家软件公司 5,179 名客户支持人员的研究发现，引入生成式 AI 建议后，平均每小时解决问题数提高约 14%，新手及低绩效员工的收益尤其明显。研究者认为工具可能传播了优秀员工的工作方法，并发现一些与学习相符的迹象；但这是特定企业、任务和工具中的结果，不能仅凭它认定所有人都形成了可迁移的独立技能 (Brynjolfsson et al., 2025)。

同一项技术因此可能打开两扇门：它可以是学徒身边耐心的示范者，也可以成为替学徒做完一切的代理人。区别不仅在模型，还在工作制度：新人是否有机会先作判断，是否能看到纠错过程，是否有人提供反馈，组织是否为学习留出时间。一个只奖励即时产出的环境，即使配备了优秀的学习工具，也可能把它用成一台代工机器。

四、集体变得更强，个人是否可以变得更弱

现代社会本就建立在分工之上。没有人需要独自制造手机、验证所有药物，或从头推导每一条工程公式。个人不掌握全部知识，并不妨碍社会拥有这些知识；事实上，专业化和协作正是复杂文明的条件。

从人类演化的角度看，社会学习与知识的跨代积累长期以来都是解释人类适应能力的重要线索。不同研究对其起源和机制仍有争论，但一个基本观察相当清楚：人们可以继承、组合并改进前人的知识，结果超过任何个体一生独立摸索所能获得的范围 (Derex & Boyd, 2016; Migliano & Vinicius, 2022)。在这个意义上，借助人工智能扩展集体认知，并非对人类历史的简单背离。

然而，集体能力有自己的条件。知识不仅需要被存储，还需要有人能够检验、修正、教授和在异常情况下重建。一个社会可以容许许多人不会手工制作芯片，却仍需要工程师、设备、供应链、教育体系和独立的检验机制。如果能力集中在极少数系统或机构中，表面上随处可用的智能，可能同时成为少数节点失效时难以替代的基础设施。

可以想象一座城市的供水：大多数居民不必自己打井，这是分工的成就；但水源、管网、检测与维修不能全部失去可见性，更不能假定它们永远不会出错。人工智能的类比并不完全：知识可以复制，人的判断也不像水一样同质。但这个比喻指出了一个公共问题——便利依赖于基础设施，而基础设施的可靠性取决于它能否被理解、质疑和修复。

由此，独立思考并非要求每个人事事从零开始。更现实的目标是在社会中保留足够多样、分散而有实质能力的判断节点：有人能提出不同假设，有人能接触原始证据，有人能复现结果，有人能在共同依赖的系统出错时指出错误。不同意见只有获得调查、表达和纠错的机会，才可能成为集体智能的一部分。

五、当工具变成环境

人类面对的环境从来不是一块静止的背景。农业改变了食物来源，也改变了疾病传播、劳动方式和人口分布；城市保护居民免受某些自然风险，同时带来新的基础设施依赖。生物学中的“生态位建构”强调，生物的活动可以改变后代及其他生物面对的环境，进而影响选择压力 (Laland, Odling-Smee & Feldman, 2000)。把 AI 视为人类对认知环境的一次改造，是对这一理论的启发性运用，而不是说我们已经测得了由 AI 引发的遗传选择。

从电动机到电网：一次环境的重组

电气化提供了一个值得仔细观察的历史参照。美国制造业早期采用电力时，一种做法是用电动机替代原来的蒸汽动力，再沿用连接机器的传动轴；此后，工厂逐渐采用能够分别驱动机器的电动机。动力不再必须通过同一根机械传动轴分配，机器的布局、生产流程和工厂建筑因而有了重新设计的空间。一项利用 1890 至 1940 年美国制造业数据的研究发现，电气化带来的变化不仅包括能源成本，还涉及生产过程、资本和劳动技能组合的调整；不同地区和行业的结果并不完全相同 (Fiszbein et al., 2024)。

电力由此不仅是一台更方便的机器所使用的能源，也逐渐成为其他机器、建筑与工作方式可以依赖的条件。工厂越是围绕稳定供电重新配置，突然停电的代价就越难用“换回原来的动力”来衡量：原先的设备、空间、人员和流程可能早已改变。这不是说电气化使社会总体更加脆弱；电力带来的生产和生活收益巨大，而且不同设施对供电的依赖程度也不同。它说明的是，技术的成功会改变未来可行的选择，评估技术时必须把重组后的环境一起考虑。

2003 年 8 月，美国东北部和加拿大安大略省发生大规模停电，约 5,000 万人所在区域受到影响。美加联合调查指出，事故并非单一原因所致：线路与树木接触、对系统弱点的认识不足、监测和通信方面的问题等因素相互叠加，故障最终扩散。调查报告没有建议社会放弃电网，而是强调可靠性投入、操作人员训练、信息共享，以及可执行的可靠性标准；报告同时指出，可靠性需要持续付费，也要防止以可靠性为借口限制合理竞争 (U.S.–Canada Power System Outage Task Force, 2004)。

一次事后的纽约州审计使“备用方案”这几个字有了更具体的含义：停电时，布鲁克林健康科学中心的应急发电机启动了，但两台自动切换开关发生故障，发出的电一时无法送达中心；工程人员后来恢复了供电，但医院停电超过两小时。审计记录称，中心随后采取了纠正措施，并建立正式测试与培训程序 (New York State Comptroller, 2006)。一个备用装置是否存在，和它能否在真正需要时与其他环节一起运转，是两件不同的事。

电网与 AI 并不相同。电力可被相对明确地计量，知识判断却往往没有即时可见的标准答案；一次断电容易被发现，错误建议则可能在系统正常运行时持续传播。电网历史也不能证明 AI 必将形成同样的制度，更不能证明所有新依赖都会造成灾难。但它给出一个可观察的过程：技术改变组织方式，组织方式改变依赖，依赖再提出关于维护、成本与公共责任的新问题。后一代人继承的不只是技术，还包括围绕技术建立的环境。

这种改造首先发生在信息环境。生成和传播文章、图像、声音与论证的成本降低，一方面让表达、翻译和获取知识变得更容易；另一方面，也可能让人更难凭表面的流畅或逼真判断内容来源。未来所需的能力不仅是获得答案，还包括识别证据、理解不确定性、核对来源，以及知道何时需要转向现场观察、实验或可信赖的人。

它也发生在竞争与制度环境。当企业和同行普遍使用 AI，原先被认为迅速的工作可能变成最低要求；节省下来的时间也可能被更高的产出指标重新占满。一个人即使希望保留独立思考的时间，也未必有权决定工作节奏。工具因而不仅是个人自由选择的资源，还可能通过组织规则成为人不得不适应的条件。相反，如果教育和工作制度为学习、质疑与休息留出空间，生产率收益也可能转化为更好的生活。这两条路径是制度上的可能性，不是对所有行业未来的既定预测。

可以把这一过程具体化：最初，一位员工自愿借助 AI 缩短写作时间；接着，更多同事采用同类工具，管理者据此提高交付标准；再后来，原先足以完成任务的工作速度不再被接受。如果员工的生计取决于达到新标准，那么工具虽然仍然摆在“可自行选择”的界面上，其使用已经受到制度压力。与此同时，组织可能削减原本用于培训和核验的时间，使停用工具的代价进一步上升。这里描述的是可能出现的反馈机制，不是声称所有工作都必然经历同样过程；工时规则、劳动者的议价能力和组织的评价方式，都可能改变其方向。

更深的变化发生在反馈环境。学生为通过考核而学习，创作者为获得注意而表达，机构为满足指标而组织工作。如果这些反馈越来越多地由 AI 参与生成、筛选和评价，人们可能逐渐学会适应系统偏好的表达与行为。系统从人的行为中获取数据，人又根据系统的评价调整自己；循环中既可能产生新的协作与知识，也可能使某些难以量化的经验和少数人的需求被持续忽略。问题不只是 AI 给出的答案是否正确，还包括谁设定评价标准，以及人们能否改变它。

这个循环并不要求模型在每次对话后实时学习：人对现有系统作出的反应，就可能影响下一轮产品设计、训练数据或机构的部署决定。例如，假设一家学校使用 AI 辅助评价作文，学生逐渐模仿更容易得到高评价的结构，教师也据此调整教学；若后来系统或考核规则又依据这些作品更新，最初的偏好便可能通过制度得到强化。这是一种条件性的情景推演。Glickman 与 Sharot 的一系列实验提供了更具体的相关证据：在所研究的感知、情绪与社会判断任务中，与有偏差的 AI 互动会影响参与者后续判断；作者也发现准确系统可以改善判断。实验不能证明所有 AI 互动都会放大偏见，却表明人与系统的反馈方向值得检验 (Glickman & Sharot, 2025)。

这与机器学习中的“施为性预测”也有相通之处：预测一旦被用于行动，行动便可能改变预测所针对的结果。例如，贷款风险评估影响贷款条件，而贷款条件又可能影响偿还能力 (Perdomo et al., 2020)。这一框架讨论的是模型、决策和数据分布的反馈，不能直接证明上面的学校情景已经发生；它提醒我们，社会系统中的预测有时不只是在描述现实，也在参与塑造现实。

这些环境并不均匀。拥有昂贵工具、专业支持和决策权的人，与被自动化规则评估却无法申诉的人，生活在不同的 AI 环境中。对前者来说，系统可能是扩展选择的工具；对后者来说，同一系统可能是决定机会的门槛。若只讨论抽象的“人类”是否适应，就容易遮蔽收益、风险和改变规则的能力如何分配。

由此可以提出一个更尖锐的问题：**我们是在借助 AI 适应既有世界，还是正在适应一个围绕 AI 的部署、竞争和评价规则而重组的世界？**现实可能两者兼有。前者的成果是帮助人处理原本重要的问题；后者则要求我们不断追问，新出现的规则是否仍服务于人的需要，以及人是否有能力拒绝、修改或退出这些规则。

当个人的理性汇成集体的困境

即使我们已经知道某些能力需要长期培养，也知道重要系统需要独立检验，为什么这种知识不一定会改变现实？答案的一部分在于：收益与成本落在不同的人身上，也发生在不同的时间。

设想两家互相竞争的研究机构。每一家都发现，使用 AI 可以更快产出报告；如果它们同时投入时间训练新人、核验结果、维护独立数据源，整个领域或许会保有更多长期能力。但在竞争激烈、考核只看季度产出的条件下，任何一家率先增加训练和核验，都可能面临成本上升与短期落后的风险。更困难的是，训练出来的人可以流动，核验发现的问题可能使其他机构也受益；单个机构承担成本，却未必能独占收益。

这只是思想实验：现实中训练也可能立即提高质量，AI 本身可以帮助培养人才，机构之间也可能自愿合作，不同行业的激励远比两家机构复杂。能否称为集体困境，还取决于长期损失与节省成本的比较，而这些结果不能由假设直接得出。但这个例子说明一种可能——每个参与者顺应当前规则都有自己的理由，结果却可能是大家共同需要的能力、时间与纠错机制得不到充分投入。没有谁必须有意削弱社会，集体仍可能逐渐走向一种谁也不曾完整选择的依赖。

这还会反过来改变人们对“能力”的定义。如果评价只奖励迅速交付，及时发现系统错误的人可能因为延迟而受罚；如果一个新人主要被要求筛选机器答案，他学到的便是适应现行流程，而不是弄清流程为何如此设计。**在既定环境中表现得最适应，并不等于最能发现环境的问题。**一个制度可以高效地培养适应它的人，同时削弱他们改变它的机会。

但集体困境不是宿命。共同制定专业标准、为训练拨出预算、限制某些高风险用途、建立独立审查，或改变衡量绩效的方式，都可能让个体和机构不必独自承担全部调整成本。这些安排也会产生争议：标准可能保护公众，也可能被既有机构用来排除竞争者；限制可能降低风险，也可能妨碍获取有益工具。不能只问是否需要规则，还要问谁制定规则、谁有代表权、成本和收益如何分配，以及规则能否被修正。

这里的韧性因而不只是维持系统继续运转。一种稳定的制度可能有效保护某些人的利益，却把风险长期转嫁给另一些人。值得保留的是医疗、教育、基本权利等重要功能，以及发现伤害、纠正不公和重新组织的能力；有时，适应意味着改变制度，而不是让所有人更熟练地忍受它。

六、谁能够质疑并改变这个环境

当一个系统参与大量人的写作、搜索、分析与决策，它影响的不只是答案，还可能影响问题的形式。如果系统习惯把一个教育问题表达为效率问题，把医疗困境表达为风险排序，把社会冲突表达为可以优化的指标，使用者就可能不知不觉接受了这些框架。一个没有出现在选项中的问题，往往比一个错误选项更难被察觉。

这并不意味着每个模型都有统一的意图，也不意味着使用者没有判断力。风险来自许多具体选择的叠加：训练数据收集了谁的经验，哪些语言和群体被充分代表，产品如何排序与呈现答案，用户能否追溯来源，谁有权修改系统，以及出错后由谁承担后果。看似个人与工具之间的对话，背后始终连接着技术和制度。

由此还产生一种可能的认知不平等：一些人既拥有高质量工具，又拥有教育、时间和专业知识来检查它们；另一些人虽然也能获得流畅的答案，却缺少质疑答案的资源。AI 可以降低进入门槛，也可能让既有优势以新的形式累积。两种趋势可以同时存在，具体结果取决于教育、资源分配和制度设计，而不能从技术能力本身推导出来。

个体所得与集体所得也未必一致。Doshi 和 Hauser 的一项短篇故事实验发现，获得 AI 构思帮助的作品平均被评价为更有创意、更好读，但这些作品彼此也更相似。这个结果仅涉及实验中的特定写作任务与提示方式，并不能证明社会思想必然趋同；它提出的问题却值得带到其他领域：如果每个人都从相似的建议中获益，群体还是否保有足够多不同的出发点？(Doshi & Hauser, 2024)

知识生态还面临反馈问题：如果人们大量依据系统生成的内容写作，而后续系统又大量学习这些内容，信息可能在传播中失去多样性或与原始证据的联系。Shumailov 等人的模型实验表明，在特定的递归训练条件下，生成数据反复进入训练过程可能使原始分布中的少见信息逐渐丢失。这个结果不证明现实中的互联网或未来模型必然崩溃；真实系统还有数据筛选、新的人类观察与其他反馈。但它揭示了一种机制：若缺少与独立来源的持续接触，系统可能越来越善于重复自己 (Shumailov et al., 2024)。

对人类而言，保持知识活力同样需要接触世界：实验、田野调查、临床观察、公共讨论、艺术经验，以及不符合既有模型的事实。模型可以帮助整理这些经验，却不能以流畅的概括取代经验本身。我们需要问的不是“答案是否像一份好答案”，而是“它在哪里接受现实的检验”。

即使系统没有故障，还剩下什么问题

假设有一天，AI 对大多数问题的判断都比任何单个人更可靠。那时，坚持事事独立作答未必明智：病人有理由接受经过充分验证的辅助诊断，研究者也有理由相信自己无法逐项重复的复杂计算。人类对他人、制度和工具的信任，本来就是知识与社会生活的条件。自主不可能意味着不依赖任何外部智慧。

但是，一个人接受建议，至少有两种不同的情况：她了解自己为何信任这一来源，在必要时能够获得解释、征询其他意见，并有权拒绝；或者她不知道建议如何影响自己，无法接触相关证据，也没有现实可行的替代方案，即使受到伤害也无处申诉。两者都可能得到正确答案，二者的处境却不同。**自主并不要求独自知道一切，而要求人在依赖之中保有实质性的理解、异议和改变条件的能力。**不同任务所需的理解程度不同，不能期待每一位病人都审核模型权重，但病人应有权知道重要决定如何作出、向谁寻求解释，并得到有效的复核。

这种自主也不能只落在个人身上。个人无力逐一检验供水系统，却可以依靠独立检测、公开标准、专业人员和公共问责；同样，复杂 AI 的监督可能需要科学共同体、使用者、工会、患者组织和公共机构分担。关键不是每个人都成为专家，而是专家能否接触必要的信息、结论能否受到挑战、没有专业资源的人是否真的能够参与。公开一份无法理解的文件，或设置一个永远得不到回复的申诉按钮，都不等于具备改变结果的权力。

“共同决定”也不是一个能够自动化解冲突的答案。参与程序可能被拥有时间、资金和专业资源的人主导，多数人的选择也可能让少数人承担难以接受的代价；专家、患者、劳动者和公众对速度、隐私、安全的排序同样可能不同。没有哪种程序能保证每次决定都正确或让所有人满意。它的意义在于：让受影响者能够获得理由、提出反证、要求复核或救济，并让制度在新证据出现后有可能改变。谁有权参与、哪些权利不能被简单多数剥夺，本身也需要持续争论。

系统还可能参与塑造人们自己认为想要什么：推荐、对话与评价不断提供某些选项，也使另一些选择不那么容易被看见。这并不意味着存在一个完全不受文化、教育和他人影响的“纯粹自我”等待保护；人的偏好从来是在关系与经验中形成的。更切实的要求，是人能否接触不同观点和生活方式，有时间反思与修正自己的判断，并在不同意现有安排时获得真实的发言和支持。

更困难的问题是目标本身。一个系统可以极为准确地完成既定目标，而目标仍可能不值得追求：医院若只优化单次接诊速度，可能忽略解释病情和建立信任；学校若只优化统一测验成绩，可能忽略好奇心与少数学生的需要。这个判断并非 AI 特有，任何机构都可能如此。AI 可能让某些既定目标以更低成本、更大规模被执行，因此有必要把“系统是否有效”和“它服务于谁、遗漏了什么”分别交给公共讨论。

当机器比人判断得更好，谁来监督机器

对这一主张，一个有力的反对是：如果机器在某项任务上比人更准确，为什么还要坚持人类监督？人的判断也会出错，专家也有偏见。假如一位医生否决了系统的正确判断，患者付出的代价是真实的。仅仅因为人类保留了最后的决定权，就认为结果一定更安全，既没有逻辑保证，也可能伤害本应受益的人。

这个问题已有具体研究可供讨论。Goh 等人在一项随机研究中，让 50 名医生处理具有挑战性的书面病例，一组可以使用大语言模型和常规资源，另一组只使用常规资源。两组诊断推理评分的差异没有达到统计显著；研究者还以统一提示对模型单独进行探索性评估，模型的评分高于两组医生。这是少量书面病例中的评估，而非真实患者接受治疗后的结果；模型单独评估的方式也不同于医生使用工具的方式。它不能证明 AI 可以全面替代临床医生，却足以反驳一个简单假设：把人加入流程，结果就必然优于机器或人各自的表现 (Goh et al., 2024)。

另一个例子来自西班牙科尔多瓦的乳腺筛查研究。研究者对 31,301 名女性的筛查影像比较两种阅片策略：常规双人阅片，以及由 AI 将低风险影像直接判为正常、其余影像由两名医生结合 AI 双人阅片的策略。在这项单中心前瞻性配对研究中，AI 策略下的阅片工作量减少约 63.6%，检出率从每千人约 6.3 例升至 7.3 例；但召回率也更高，未达到研究设定的非劣效标准。更高检出意味着可能让更多病变被发现，更多召回也意味着更多人需要接受进一步检查及其可能带来的负担。该研究不能单独证明死亡率改善，结果也不能不经验证地移植到所有医院和人群 (Elías-Cabot et al., 2026)。

平均数还掩盖了两种策略发现的并非完全相同的人。在研究中，54 例癌症仅被 AI 辅助策略检出，24 例仅被常规策略检出；后者中有 11 例被 AI 判为低风险，在 AI 策略下不会进入医生阅片。由于同一批影像同时经过两种策略，任一策略的召回都可能使病例得到进一步检查，这些数字不能简单解释为实际实施 AI 后必然造成的净漏诊或死亡人数。但它们让抽象的权衡有了具体的面孔：一种策略的总体检出率更高，并不意味着它对每一位患者都更有利；在这次筛查中，常规策略也未检出另一组只被 AI 辅助策略发现的病例。

如果仅凭“必须由人看每一张影像”而拒绝一种经过适当验证、能改善特定筛查指标的方案，可能让一些人失去受益机会。反过来，如果只看系统在研究中的平均检出率，就撤掉所有复核、后续追踪和申诉，同样没有根据。两种做法各自把一种价值绝对化：前者把人的直接参与当作唯一保障，后者把特定指标上的优势当作全部保障。

更可行的思路，是把监督从“一个人逐条重新做一遍”，转为对整个使用过程进行持续、可质疑的检验。筛查中可以事先确定哪些结果需要复核，追踪漏诊、额外召回和不同人群的结果，保留报告异常及修订流程的途径，并对新医院、新设备或病例分布变化重新评估。独立检验也需要独立的数据和专业资源：换用另一个依赖相同训练数据或供应链的模型，并不自动提供真正独立的意见。患者和医生的反馈、长期结果、外部审查与明确责任，分别提供不同的证据；其中任何一项都不能单独担保安全。

不同领域还可以利用不同的验证条件。数学中，AlphaGeometry 结合神经网络提出辅助构造与符号引擎进行推演，在一组经过转换的 30 道奥林匹克几何题中解出了 25 道 (Trinh et al., 2024)。它展示了搜索和规则化推演可以分工，但其符号引擎并非天然独立于整个系统的审计者；形式化的问题是否忠实表达原题、规则与实现是否可靠，仍需检查。类似地，本站《机器如何读证明》讨论的证明检查器，能够按形式规则核验推理，却不能仅凭这一点保证现实问题被正确翻译或公理选择恰当。医学与公共政策中的目标和证据往往更难完全形式化，不能假定总有一个同样方便的检查器。

这种监督仍有边界。对那些结果必须经过多年才能知道、缺乏可靠检验标准，或系统的推理已超出所有现有专家理解的问题，单靠人类确认、模型互评或一张合格证书都可能不够。让另一个 AI 解释或审查第一个 AI，可以帮助发现错误，但它本身也需要接受检验；如果所有评估者都共享同一种盲点，相互赞同就不能充当独立证据。倘若关键后果既不可安全试验，也没有及时可靠的外部反馈，目前并不存在一个已被证明适用于所有情况的监督办法。

但“不使用”也不是没有代价的空白选项。推迟一种可能改善诊断的工具，可能使本可受益的人继续面临既有风险；过早大规模部署，则可能让大量人暴露于尚未发现的错误。决策必须比较行动与等待各自的后果，而不能只要求新方案证明自己没有任何风险。一个可能的路径是限定场景和授权范围，在有条件时分阶段评估，预先确定需要停止或调整的迹象，保留替代服务，并安排独立的长期追踪。但这些措施需要时间、资源与参与者的同意；对不可逆的高风险后果，有限试验也未必足够。在证据无法支撑可接受判断时，缩小范围、暂缓部署或寻找其他方案，仍然是需要面对的选择。

这些要求也彼此牵制。充分解释可能消耗医护时间；公开某些信息可能与隐私、安全或商业利益冲突；参与决策不保证各方意见一致。不存在一个不付代价的制度设计，可以同时满足所有价值。自主之所以重要，正是因为这些取舍不能只留给系统提供者，或假定其结果天然符合所有受影响者的利益。

七、人类将如何演化

“人类会不会因为 AI 而退化？”这个问题之所以容易产生混乱，是因为“进化”在日常语言中同时指个人变化、社会变化和遗传变化。这三者之间有联系，却遵循不同机制。

第一，个体发展与可塑性。 在一个人的一生中，练习、教育、环境和工具会影响技能的获得、保持与遗忘。某种技能可能因使用减少而生疏，也可能在反馈与训练下增强。新一代人在不同环境中长大，其能力组合可能与上一代不同。这些变化不需要基因发生变化，也不能据此断言整个大脑普遍退化。

第二，文化与制度演化。 教育方式、职业分工、知识传播、评价标准和组织结构可以在几年或几十年间改变。一代人习惯使用怎样的工具，下一代人接受怎样的训练，哪些知识被记录、奖励或忽视，都可能改变社会的认知生态。这是讨论 AI 长期影响时最直接也最可观察的层面：我们已经可以设计教育制度、收集纵向数据并比较不同选择的后果。

第三，生物进化。 生物进化涉及跨代遗传特征分布的变化，受自然选择、遗传漂变等过程影响。文化环境可以改变选择压力，基因与文化也可能相互影响：例如，乳业的发展与某些人群成年后乳糖酶持续表达相关遗传变异受到选择的历史相符 (Bersaglieri et al., 2004)。但个人因为不练习而失去的技能，并不会简单地作为获得性变化遗传给后代。乳糖酶的例子也不能用来预测 AI 对认知的遗传影响；要作出这样的预测，必须知道相关可遗传差异、繁殖与生存结果、环境持续时间及其他众多条件。我们目前没有足够依据断言人脑将因此变小、变笨，或必然向某个方向进化。

这一区分并不会让问题变得不重要。恰恰相反：即使基因不发生可以辨认的变化，一个社会也可能在教育、分工与权力结构上经历深刻转变。我们不必等待几千年后的生物演化，才开始关心下一代如何学习，或者公共机构是否仍有能力独立判断。

由此，代际问题还可以说得更准确一些：**我们不仅在使用今天已有的适应能力，也在改变明天的适应能力如何形成。**一套 AI 辅助制度可能使下一代更容易获得优质指导、理解复杂问题并参与决策；也可能因挤压练习、独立调查和异议的机会，使他们更难发现新的问题。这是取决于设计和实践的两种可能，不能由今天的短期实验判定哪一种必然发生。

为后来者保留选择，也不等于替他们封存现在的生活方式。停止一项系统可能使依靠它获得沟通、教育或医疗的人立刻受损；无限期维持它也可能把尚未解决的问题留给下一代。负责任的改变需要追问：哪些人现在离不开它，谁会承担过渡成本，是否存在可负担的替代与支持，以及日后能否继续修正规则。未来的人无法直接参加今天的讨论，这使我们更有理由为他们保留知识、可替代的路径和修改制度的机会，而不是假定我们已经知道他们会选择什么。

八、如何为思考与改变留下空间

如果问题不仅是个人自律，回应也不能只是一份个人守则。个人、教育者、组织与公共机构各自能够改变不同部分。

对个人而言，重要的学习任务可以先尝试提出自己的解释，再让 AI 提供反馈或反例；阅读它的结论时，追溯关键来源，尝试用自己的语言重建推理，并在间隔一段时间后独立解决类似问题。对于低风险的重复性工作，充分外包同样合理。关键是先确定自己希望得到的是一次产出，还是一种可以带走的能力。

对教育而言，可以同时评价有工具和无工具时的表现：前者检验真实世界中的协作能力，后者检验学生是否掌握核心概念。教师也可以要求学生说明推理、比较相互冲突的证据、修正错误，并使用提供提示而非直接代答的辅导方式。这些做法应结合学科与可及性调整；对有障碍或语言障碍的学习者，工具可能是参与学习的必要条件。

对组织而言，需要把训练视为工作的一部分。初级人员应能接触原始问题、作出初步判断、获得针对性的反馈，并逐渐承担更复杂的责任。高风险工作中的人工审查还需要真实的时间、专业知识、必要信息和拒绝建议的权力；没有这些条件，“人类在环”可能只是责任转移的名称。

对社会而言，可靠的知识体系需要可追溯的证据、多元而独立的研究、公共教育、对重要系统的审查，以及在系统出错时可行的申诉和纠正路径。无障碍工具与广泛获取同样重要：保护人的认知能力不应演变为只有少数人能够使用或理解新技术。

这些措施无法消除所有权衡。独立练习需要时间，审查需要成本，保留多种方案可能显得重复。但如果我们只计算眼前省下的时间，而不计算能力形成和纠错机制的价值，就会系统性地低估它们。

如何判断这些安排是否真的有效？以一项新的医疗辅助服务为例，可以事先比较现行方案、AI 辅助方案及适当的分阶段方案，分别记录患者结果、额外检查、成本与不同群体的影响；长期跟踪应当包括原本没有被召回的人，而不只统计进入下一步检查的人。对关键服务，还可以演练停机和错误建议，记录恢复时间、误伤与替代流程。对学习任务，则可在适当条件下比较使用工具时的表现与之后在新任务中的能力；需要辅助技术的人不应被简单地要求脱离其必要工具。

这些比较仍需要回答：什么才算改善，代价由谁承担，谁能取得数据，申诉是否真的改变结果？有的后果在研究结束后才出现，有的经验难以量化，一项指标上升也可能以另一项未记录的负担为代价。评估不能一次解决价值冲突，但它可以让人知道自己依据什么作出选择，并在证据改变时重新作出选择。

结语：谁在思考，我们又想成为什么

最初那位研究人员的报告也许是准确的，也许帮助团队作出了更好的决定。我们不必否认这一成果，才能追问她是否理解了其中的推理；也不必要求她拒绝工具，才能希望下一次她有更强的判断力。还需要追问的是：如果整个团队都开始依赖同一种分析方式，什么样的事实会越来越容易被看见，什么样的问题又会被留在视野之外？

人类的历史不是一部摆脱工具的历史，而是一部不断借助外物重新组织能力的历史。书写让思想得以跨越个人生命，计算让我们看见直觉无法把握的结构，网络让知识在更广的范围流动。人工智能可能继续扩大这些可能性，也可能使思考的机会、知识的来源和判断的权力以新的方式集中。两种方向都不能仅凭今天的几项实验判定。

真正值得守护的，也许不是每一项旧技能原封不动地留在每个人身上，而是人类在与强大系统共同生活时，仍有能力理解重要问题、提出异议、接触现实、修正错误，并决定什么值得追求。适应不应只意味着让人更有效地符合现有环境；人类还能够共同判断环境是否值得维持，并尝试改变它。

当我们把能力交给一个系统，也把生活的一部分条件交给了维持和治理这个系统的关系。**一个社会的适应力，既取决于它能借助系统解决多少问题，也取决于它能否发现系统解决错了什么，并共同改变它的目标与运行方式。**这并非对未来的科学预测，而是本文提出的价值判断：我们希望拥有更强大的能力，也希望对能力所依赖的环境负起共同责任。

这一判断不能消除前面的困境。我们可能永远无法提前知道一个决定的全部后果，也不能保证负责监督的人会更明智、更公正；等到所有疑问都有答案再行动，有时同样意味着让可以避免的伤害继续发生。我们能做的是把行动和等待的代价放在同一张账本上，让不同处境的人有机会质问这张账本，并在新的事实出现时修正决定、帮助受到伤害的人。这种能力并不保证人类永远做对，却使错误不必成为没有出口的命运。

回到那份报告。真正需要审查的，不仅是它是否准确、研究人员是否能独立写出它，还包括团队是否允许她有时间接触原始问题，是否愿意听取与现成答案不一致的判断，以及当整套工作方式不再合适时，她和同事能否参与改变。对个人而言，思考使她能够提出这样的疑问；对社会而言，让疑问有机会改变现实，是我们为自己创造的环境留下的另一种能力。

参考文献

1. Bastani, H., Bastani, O., Sungu, A., Ge, H., Kabakcı, Ö., & Mariman, R. (2025). Generative AI without guardrails can harm learning: Evidence from high school mathematics. Proceedings of the National Academy of Sciences, 122(26), e2422633122.
2. Lira, B., Rogers, T., Goldstein, D. G., Ungar, L., & Duckworth, A. L. (2025/2026). Coach not crutch: Evidence that AI can improve writing skill despite reducing effort. 预印本，2026 年修订版。
3. Lee, H.-P., Sarkar, A., Tankelevitch, L., et al. (2025). The Impact of Generative AI on Critical Thinking. Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems.
4. Brynjolfsson, E., Li, D., & Raymond, L. R. (2025). Generative AI at Work. The Quarterly Journal of Economics, 140(2), 889–942. 链接为工作论文页面。
5. Derex, M., & Boyd, R. (2016). Partial connectivity increases cultural accumulation within groups. Proceedings of the National Academy of Sciences, 113(11), 2982–2987.
6. Migliano, A. B., & Vinicius, L. (2022). The origins of human cumulative culture: from the foraging niche to collective intelligence. Philosophical Transactions of the Royal Society B, 377, 20200317.
7. Shumailov, I., Shumaylov, Z., Zhao, Y., et al. (2024). AI models collapse when trained on recursively generated data. Nature, 631, 755–759. 该论文附有 2025 年作者更正。
8. Doshi, A. R., & Hauser, O. P. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances, 10(28), eadn5290.
9. Bersaglieri, T., Sabeti, P. C., Patterson, N., et al. (2004). Genetic signatures of strong recent positive selection at the lactase gene. The American Journal of Human Genetics, 74(6), 1111–1120.
10. Holling, C. S. (1973). Resilience and stability of ecological systems. Annual Review of Ecology and Systematics, 4, 1–23.
11. Laland, K. N., Odling-Smee, J., & Feldman, M. W. (2000). Niche construction, biological evolution, and cultural change. Behavioral and Brain Sciences, 23(1), 131–146.
12. Glickman, M., & Sharot, T. (2025). How human–AI feedback loops alter human perceptual, emotional and social judgements. Nature Human Behaviour, 9, 345–359.
13. Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779.
14. Perdomo, J. C., Zrnic, T., Mendler-Dünner, C., & Hardt, M. (2020). Performative prediction. Proceedings of the 37th International Conference on Machine Learning, 7599–7609.
15. Fiszbein, M., Lafortune, J., Lewis, E. G., & Tessada, J. (2024). Powering up productivity: The effects of electrification on U.S. manufacturing. NBER 工作论文 28076，2024 年修订版。
16. U.S.–Canada Power System Outage Task Force. (2004). Final report on the August 14, 2003 blackout in the United States and Canada: Causes and recommendations.
17. Goh, E., Gallo, R., Hom, J., et al. (2024). Large language model influence on diagnostic reasoning: A randomized clinical trial. JAMA Network Open, 7(10), e2440969.
18. Elías-Cabot, E., Romero-Martín, S., Raya-Povedano, J. L., Rodríguez-Ruiz, A., & Álvarez-Benito, M. (2026). AI-based triage and decision support in mammography and digital tomosynthesis for breast cancer screening: A paired, noninferiority trial. Nature Medicine, 32, 1296–1305.
19. New York State Comptroller. (2006). Health Science Center at Brooklyn: Emergency power supply systems. 审计报告 2004-S-60 摘要。
20. Trinh, T. H., Wu, Y., Le, Q. V., He, H., & Luong, T. (2024). Solving olympiad geometry without human demonstrations. Nature, 625, 476–482.