[趋势研究] "未来不需要我们？"
输入“/”快速插入内容
[趋势研究] "未来不需要我们？"
[趋势研究] "未来不需要我们？"
用户8537用户8537
用户5027用户50272025年5月21日修改
1559
1833
🔬
上礼拜听了Indigo的一期对谈，名字叫“被操控的注意力 - AI如何重塑我们”，里面有一个很有意思的观点：OpenAI预测在2025-2027年，AI即将从“Agent”进入“Innovator”的阶段，即可以不需要人工干预自行发现新的知识，那么“未来还需要我们吗？”
起因
2000年，Sun公司的联合创始人Bill Joy就在文章《为什么未来不需要我们》中警示，21世纪最强大的科技（机器人、基因工程、纳米技术）可能使人类成为濒危物种。如果自主复制的技术失控，就会威胁人类的生存和地位。25年后，我们所面临的情景更加微妙，技术目前看来还没有失控，仍然按我们预期运作，但却改变了我们在世界中的位置。AGI的潜在出现已经是一种共识了，而更加值得关注的是，AI越来越表现出强烈的倾向，能够在无需人类输入的前提下自主构建知识、创造新概念，而不仅仅是根据Pre-train的数据找到匹配项。这种被称为“Innovator - 创新者”的阶段，我们需要重新对人类角色与价值进行审视。工业革命时期，机器代替了人类的体力劳动，但我们仍保有不可替代的心智；如今若“机械心智”也超越人类，我们还剩下什么独特价值？
Innovator：定义与技术能力
按照OpenAI的CFO描述的AGI的五个阶段， “Innovator” 指的是AI系统不仅能执行预设任务，还能发现和创造Pre-train或者Post-train未曾提供的新知识与概念（不仅仅是文本，而是完整的知识体系）。这一概念近期在业界讨论中逐渐明确。Sam Altman也描述，Innovator角色的AGI类似扮演科学家的角色，可以探索并理解那些长期困扰人类的现象，具备类似人类顶尖科学家的研究与创新能力。简而言之，进入Innovator阶段的AI将不再局限于模仿现有知识，而是能够自主提出新假设、创造新工具、发展新理念（这在现有的AI产品种还是明显匮乏的，比如Deep Research，分析非常全面，但提出的观点却非常含糊，基本没有碰到过干预提出“可能逻辑不完整但却大胆的假设或者模糊的猜想”。
要明确“Innovator”AI的特征，需要综合考察AI的技术能力。首先，这类AI通常具备通用性和自主性：意味着它可以掌握跨领域的大规模知识和技能，能够将不同学科的概念融会贯通（可能是类Manus应用的变体，但我的观点是，完全通用还是会导致性能降低和资源浪费，所以相对于“General Agent“，合适的垂直定位可能会更具备可实现性。而自主性则指可以在无持续人类干预下完成复杂的创新流程。
新近的一些研究已初步展现这样的轮廓：之前有文章提出的“AI科学家”框架，让LLM独立完成整个科研过程，包括生成研究创意、编写代码、运行实验、分析结果并撰写论文，甚至模拟审稿反馈。这一系统被用于机器学习领域的多个课题，每篇论文的生成成本不到15美元，且经自动审稿评价，其论文质量可达到顶级学术会议的收录标准。这表明在特定领域内，AI已经可以廉价且高效地持续产出具创新性的研究成果。
其次，“Innovator”AI应能自主构建新的知识体系与概念，突破人类提供的数据范畴。一个标志性能力在于自行提出假说并验证。之前有报告提出了一个名为BABY-AIGS的多智能体系统，试图模拟人类科学方法。系统内置多个专门代理：如假说代理产生新的假设、实验代理设计并执行实验、评审代理反馈改进方法、特别是证伪代理用来严苛地检验假设。这种架构强调了卡尔·波普尔提出的科学核心原则——可证伪性，以确保AI生成的新知识经受挑战。通过引入自动“证伪”环节，AI能够不断自我校正、迭代完善知识。初步实验显示，该系统在机器学习三个课题上独立完成了完整研究流程并产生了有意义的发现，虽其水平尚不及人类资深研究者，但证明了全流程科学发现的可行性。虽然可能只是迈向 “AI生成科学” 时代的一小步，但意义深远。
最后，Innovator需要具备跨学科的融合能力。这和通用LLM不一样，Innovator需要专精钻研某个领域，并且带着独有的洞见和其他的Innovator交流，从而产生意想不到的创见。（人类也是一样，我们通常会觉得，每次和不同圈子、行业的人面对面深度交流后，都会有意想不到的收获，或者会让自己的思路豁然开朗，这就是独立思考+碰撞后产生泛化的明显表现。之前李世石九段在对阵AlphaGo时目睹第二局著名的“第37手”后感叹：“我原以为AlphaGo只是基于概率计算的机器，但看到这步棋后我改变了看法——AlphaGo确实是有创造力的”。这“一万局中才出现一次”的妙手打破了围棋界的传统认知，被誉为具有创意的颠覆性下法。显示出AI在高度复杂策略空间中也能独立摸索出全新策略。从设计新围棋招式到解码蛋白折叠难题，Innovator AI正在逐步展现出在不同领域中自主创新的巨大潜力。
AI创新能力：知识发现与创造性生成
Innovator AI 目前被大厂们普遍看好，认为其将极大加速知识发现和创造性生产（我觉得现在的Deep Research相当于一个过渡产品，即在”提出假设“和”验证假设“中间的框架搭建和参考引用上面，已经有非常可观的效率提升）。例如像DeepMind的AlphaFold2在2020年就解开了蛋白质3D结构预测这一“世纪难题”，将数十年的生物学挑战以近乎原子级精度解决。这项突破被形容为“游戏规则改变者”。AlphaFold的深度学习算法从大量已知蛋白质结构中学习模式，成功预测出未知蛋白的折叠形状。也许10-20年内，人类就可以攻克所有癌症问题。
Nature的报道指出，AlphaFold的出现使许多过去“难以想象或几乎不可能”的研究成为可能，大幅加快了科研进程。在生命科学领域已经变得非常流行，很多研究者开始利用类似算法探索新的生物机理。通过在海量数据中发现隐含模式，提出人类未曾想到的解决方案。（这个方法有点像做回归方程，我的理解大部分的场景其实都是在做回归求导发现规律~区别的就是维度的数量和收敛程度）