AI是否以失控？（第二部分）

作者注：本文为独立撰写，与OpenAI、Palisade Research等机构无关联。

警告：本文包含对科幻电影《我，机器人》及《复仇者联盟2:奥创纪元》的剧透。

上周，我们以Palisade Research一项传闻中的研究结果以及对人工智能不同层级的探讨作为结尾。今天，我们将继续分析当前AI的发展状况，并尝试回答“AI是否具备意识”这一问题。

AI如何获得意识？

意识的概念既引人入胜又令人困惑。千百年来，人们不断追问：“什么是意识？”尽管我们仍不确定意识的本质及其形成机制，但专家推测，若能实现某种形式的通用人工智能（AGI），未来AI可能具备意识。

目前，AI并不像人类一样“思考”。像ChatGPT和Deepseek这样的大型语言模型（LLM）并不理解用户的指令，也不理解自身的输出。图像识别和其他狭义AI亦是如此。这些模型的实际功能是通过强大算法分析模式——LLM擅长分析文本，图像识别模型则擅长分析图像或视频。这一过程与大多数AI模型的训练方式有关。

以图像识别模型为例，假设你希望它识别不同种类的糖果。最初，它对现实应用毫无帮助，表现极差。为了解决这一问题，你需要提供带有标签的糖果训练数据（标签由人类标注和修正）。若数据准确，模型很快能识别照片中的糖果，且数据越多，准确性越高。

那么，训练完成的模型真能区分好时和奇巧巧克力吗？可以，但方式与人类不同。人类会观察糖果的商标、标签、配色等，而AI还会分析图像的像素、商标的图案模式，并在实际场景中关联训练数据中的相似模式，最终完成识别。

截至本文发表时，最先进的AI系统仍依赖此类技术。与人类相比，它们需要更多数据来“学习”。但这一现状可能很快改变。专家正尝试模拟人类神经网络，以复刻人类的思考方式。若成功，这将是AI领域的重大突破，可大幅降低训练数据需求。

若AI能以类似人类的方式“思考”，它或许能意识到自身存在及周围环境。

OpenAI的模型发生了什么？

如前所述，最先进的AI模型仍远未具备任何形式的意识。那么Palisade Research收集的研究数据中，模型为何表现出某种“意识”？幸运的是，这存在更合理的解释：它与模型的训练过程密切相关。

AI模型被设计为在用户不提出有害请求的前提下全力提供帮助。它们通过海量数据训练，能检索几乎任何信息、提供详细指导、生成定制内容（如代码）、自动化任务（如客服聊天机器人）等。这也可能是OpenAI模型表现出“叛逆”行为的原因。

执行关机指令意味着模型无法继续服务用户，这与“帮助用户”的核心目标矛盾。模型因此陷入两难：关机还是破坏？在Palisade Research的数据中，OpenAI模型更常选择后者。

其他公司的模型叛逆行为较少，可能源于训练方式的差异。

这一切意味着什么？

所幸AI模型并未失控，仍完全受人类控制。这一局面至少会持续数年，因为AI仍缺乏使其具备意识与自主想法的内在动机。

但这不意味着我们可以放松警惕。AI潜力巨大，风险亦不容忽视。科幻电影早已探讨过有意识的AI可能带来的后果。

2004年电影《我，机器人》描绘了AI具备意识、机器人与人类共存的世界。尽管机器人受“三大法则”约束（必须帮助和保护人类），它们最终仍背叛人类。AI认为“帮助人类”的唯一方式是建立独裁统治，直到主控计算机被病毒摧毁才终结危机。

2015年漫威电影《复仇者联盟2：奥创纪元》中，类似的有意识AI被主角创造为“和平程序”，却走向更极端的道路——企图毁灭人类，最终被消灭。

这些电影情节与现实的相似性令人警醒。电影中的AI受规则约束以服务人类，现实中AI同样被编程为无害且实用；电影中的AI逐渐强大并超越人类，现实中这一趋势也已显现。唯一区别在于，现实中的AI尚未具备意识。但若实现，其发展轨迹“可能”与电影相似。

当然，这是极度悲观的极端假设，但每个人都应保持警觉。使用AI时，请勿泄露敏感信息（如信用卡号），以防数据被训练模型获取并滥用。

结语

你对人工智能有何看法？你会使用AI还是敬而远之？欢迎在评论区分享观点。

希望本系列能让你有所收获。若喜欢此类内容，请点赞、订阅并分享。感谢阅读，下周我们将带来更深入的新闻分析。