照 AI 这个发展速度,感觉 AI 失控导致世界末日不远了

5 月 19 日
 cocong

最近刚接触 vibe coding ,被它的能力震撼到了。

生产突然出现一个 bug ,那是我很久以前改的,我还在那看 git 历史回忆以前为什么这么改,同事用 AI ,几分钟就把问题找到并修复。我不服,我花了几十分钟排查论证,结果发现还是 AI 的答案最完美,这让我有一种挫败感,同时又很兴奋,现在的 AI 都发展到这种地步了吗?这才发展不到一年吧,可怕。

紧接着就觉得 AI 替代导致大面积失业快来临了,再进一步,即便你 AI 安全做得再好,只要有哪怕一次小小失误,AI 就能脱离掌握,届时站在人类对其它生物的视角,AI 不说消灭人类(人也不会消灭其它动物),把人类当成保护动物我觉得还真有可能,亦或者如同蚂蚁一般,毁灭你,与你何干!

6155 次点击
所在节点    AI Agent 智能体
64 条回复
dreamkuo
5 月 19 日
我和豆包讨论过 不见得准 豆包的意思是, 1. 人脑是可变的硬件系统, 通过学习改变神经元结构. 电脑是软件系统,硬件只是会算加减法的处理器. 2 目前人脑已经是几亿年进化得到的效率的最佳实现, 不会有一种可以代替人脑的更优方案
churchmice
5 月 19 日
昨天和 gemini 讨论了下 pcie nullify,发现跟豆包一样,顾头不顾腚,各种错误
要不是我认真看过 pcie spec,那就被他忽悠过去了
Aviciii
5 月 19 日
AI 是好东西,但目前来看边界能力还是有限,最实用的落地场景也就是 AI 编程,对普通大众来说那更像是一个高级的搜索,其依然是已有数据的资源整合,远未达到世界末日的水平,仅个人看法
darksword21
5 月 19 日
你落后的有点多
jony83
5 月 19 日
op 你能举例一个人造不可控的东西吗?
你知道什么叫量化吗?你知道人造的东西有哪个不能被量化吗?
你知道能量化就能提前知道结果吗?
你知道为什么禁止胚胎改造吗?
你知道人的本性就是害怕不可控吗?
NoobNoob030
5 月 19 日
不要高估技术短期改变,不要低估技术长期发展。而且 OP 缺失落后版本太久了,别说 bug 了,纯 AI 写的项目我都敲了好几个了
2899993
5 月 19 日
@Sundayz 这不算慢了,是已经落后很多个月了
saranz
5 月 19 日
Ai 再强大也只是工具,如果你自己不学习工具当然会代替你。
davidqw
5 月 19 日
Copilot 是半自动编程,现在 Agent 是全自动编程。自动挡开惯了就回不去手动挡了
moooooooo
5 月 19 日
你不服....你真不是逗我笑吗
383394544
5 月 19 日
现在的问题是人类降智的速度比 AI 进步的速度还快,像这样的帖子越来越多就是证据。
GeminiPro
5 月 19 日
最大的幻觉就是 AI 是可靠的。
cabing
5 月 19 日
@383394544 哈哈
EricSTG
5 月 19 日
怎么可能, 当前 AI 仍然没有自己的思想
DeYiAo
5 月 19 日
AI 掌控世界反而是理想中的世界,仔细想想,还能比人类统治世界统治自己更糟糕吗?
SiLenceControL
5 月 19 日
说明这个 bug 没你想的那么复杂,只是你自己被绕进去了

这个阶段的 AI 智力创新力一个没有,但凡用过最新的模型去科研就知道了,前后连接不了连基本的论文知识理解提取都特别差,但凡是前沿的科学基本都是本科生都不如的水平
make115
5 月 19 日
1.火诞生的时候
2.火药诞生的时候
3. 核弹诞生的时候
4. ai
garyalen
5 月 19 日
生成式 ai 目前没有革命性质变的情况下,这条已经快到头了。离末日还远。
liqingyou2093
5 月 19 日
结算 token 付费时, 又觉得差远了哈哈
ooee2016
5 月 19 日
赛博杞人

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1213686

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX