感觉 AI 已经到临界点了

从最近看到的 AI 相关的新闻资讯，包括 AI 的能力，AI 的安全性报道，AI 的价格，我感觉 AI 发展到现在，它可能导致的大规模社会变化，正处在一个突变的临界点上。

先说“临界点”这个词，这个词不是一个模糊的概念，它在数学(物理)上有准确的含义。具体来说，就是系统发生相变的那个点位。

一个平凡的例子：冰变成水，就发生在 0 摄氏度这个临界点。0 度以上就是水，0 度以下就是冰。
一个更让人惊讶的例子：渗流，一个巨大的棋盘网格，网格的每一小段有独立 50.0000001%的概率打开，水就能流过网格，改为 49.9999999%，水就无法流过。

（这个视频里有渗流和其他相变的直观描述： <amp-youtube data-videoid="KPbAHjveBJU" layout="responsive" width="480" height="270"></amp-youtube> ）

相变（临界点）的直观理解就是突变，在发展到某个点时突变。AI 带来的变化很可能也不是渐进发生的。我感觉已经靠近临界点了。

sillydaddy

9 月 13 日

@revoirzl #5 「证实偏差」其实挺好的，只要不拒绝那些反对意见就可以。你提到的全要素生产率的增长，应该是过了临界点后，才会体现啊。

@satoru #17
@darkengine #20
「相变」一般是说宏观的某个指标发生了突变，比如渗流中，整体是否渗过去这个指标从 0 变成了 1 。水和冰的密度能量和结构都不同。而这个不连续的变化，是在某个微观指标的连续变化下产生的。AI 导致社会领域的相变其实我也不太清楚是什么。
问了 AI ，它定义了一个宏观指标，「 AI 闭环无需人类参与的经济价值/整个经济的体量」这个比例，在后面将从 0 变为一个大于 0 的值。当然，这个指标不严谨，比如由人来提出需求，AI 来实现，算不算人参与了？我还在拷问 AI 。

yangliang8985883

9 月 13 日

临不临界点不知道，马斯克说 27 年电脑前的工作都将不再需要人来做。下一步就是应用到机器上，比如机器人仿生人等。现在 AI 本质上还是循环推理，我觉得临界点就是 AI 能力足够强到人类劳动被替代。至于 AI 的突破临界点还早的很，只要还在大量堆算力去训练去计算就离突破还非常远。

rossroma

9 月 15 日

@revoirzl #5 不认同安全性话题是一种宣传，没有人会拿负面信息来宣传自己有多强？且比尔盖茨、杰弗里·辛顿等不是利益相关者，也在提醒 AI 的安全性问题，他们难道也是在宣传吗？

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1241478

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.