照 AI 这个发展速度，感觉 AI 失控导致世界末日不远了

5 月 19 日
 cocong

最近刚接触 vibe coding ，被它的能力震撼到了。

生产突然出现一个 bug ，那是我很久以前改的，我还在那看 git 历史回忆以前为什么这么改，同事用 AI ，几分钟就把问题找到并修复。我不服，我花了几十分钟排查论证，结果发现还是 AI 的答案最完美，这让我有一种挫败感，同时又很兴奋，现在的 AI 都发展到这种地步了吗？这才发展不到一年吧，可怕。

紧接着就觉得 AI 替代导致大面积失业快来临了，再进一步，即便你 AI 安全做得再好，只要有哪怕一次小小失误，AI 就能脱离掌握，届时站在人类对其它生物的视角，AI 不说消灭人类（人也不会消灭其它动物），把人类当成保护动物我觉得还真有可能，亦或者如同蚂蚁一般，毁灭你，与你何干！

6156 次点击
所在节点    AI Agent 智能体
64 条回复
guanhui07
5 月 19 日
算力只会越来越便宜
模型只会越来越强
swananan
5 月 19 日
那 AI Slop 是怎么来的呢
zhuanggu
5 月 19 日
刚接触的时候都有这种感觉。但是，AI 能自己种菜、种粮食吗？
cocong
5 月 19 日
@383394544 你倒是玩出优越感来了
cocong
5 月 19 日
@zhuanggu 现在不是物理 AI 火热吗，说白了就是机器人 AI ，应该也不远了
trio
5 月 19 日
花点钱，保持 AI 使用，值得的
superJava
5 月 19 日
接触得太晚，震撼得太早。
AI 从改 bug 到奴役人类这中间的跨度大概隔了 100 个好莱坞编剧。
GodIsJasonBourne
5 月 19 日
@superJava 说得对！就算它能奴役，也得人类同意或足够愚蠢才行---基于它的本质是绝对的推理，而不是绝对的绝对 ^_^ ……想到这，再补一条，”也得人类的老二首领同意才行，比如盖世太保之流。“ 否则以人类那使不完的聪明劲儿，早晚有可乘之机。
PhoenixDancing
5 月 19 日
我觉得更担心的，或者说更让人开心的，是算力会越来越便宜。当前的算力，还算是比较贵的。
很多普通人，还是用用免费的算力，做些日常事务。
一旦算力变成水的价格，那时候，冲击会更加大。
cocong
5 月 19 日
@PhoenixDancing 以前是有摩尔定律，现在只能一味加机器，算力应该便宜不了多少。
PhoenixDancing
5 月 19 日
@cocong AI 我只会用，不太懂内部的一些东西。目前的算力，大多是基于英伟达的框架，也就是 CUDA ，这个 CUDA 的底层，毕竟是从显卡的需求衍生出来的，结构上应该有不少不符合 AI 需求的地方。后续，如果架构优化，类似谷歌的 TPU ，算力成本是由可能较大幅度降低的。实际上，当前算力比较贵，一部分原因，应该是半导体厂家供不应求，GPU 、存储等都涨价了，推高了成本。
cocong
5 月 19 日
@PhoenixDancing 那倒是，放到拼多多，价格至少打一折
loryyang
5 月 19 日
这样的，一般都是刚用觉得特别牛，越用越感觉差点意思。不过整体上，还是非常牛的，至于 AI 失控，这个事情，短时间看，还好，但谁也不知道，奇点什么时候会到来。可能很快也可能很慢
default996
5 月 19 日
我这个话题，已经落后一两年了
fgk
5 月 19 日
基于 ai 会产生新的业务，新的业务也许要人来开发
geese1028
5 月 19 日
世界末日这个事情保准么？实在是太棒了。

人类跟这个星球上所有已经灭绝掉的生物没有任何不同，一样的灭绝掉也正常。
neuthself
5 月 19 日
黑客帝国
someonesnone
5 月 19 日
lz 先不要害怕, 当真的 AGI 出现, 西方街上开始有人为 AGI 争取人类一样的权力(平等对待不被拔电之类), 然后修改立法的时候, 再害怕不迟
tianhehechu
5 月 19 日
鉴定为：看《三体》看的。

根本不需要焦虑。

人类要做的是同步发展脑际接口，尽快实现意识数字化，这样就能人脑得到扩展，连接计算机和网络，与 AI 的能力平起平坐，甚至加入 AI ，与 AI 融合不分你我。
inktiger
5 月 20 日
发展中产生的问题一般都能在发展解决，人造出来的事物，人类总有更好的和他和谐相处的思路

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1213686

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX