相比 AI 的能力,觉得更可怕是它进步的速度、变化的幅度。

2 天前
 edgeedge
在 Reddit 看到一位做游戏开发的老哥发飙,说 AI 先在的能力,开始让他都不知道怎么排期了……
https://www.reddit.com/r/gamedev/comments/1wo5asm/comment/pdnbnwt/?context=3&sort=confidence

V2EX 上也有朋友,表达了类似感受。我的个人经历:
23 年,收集、打磨提示词。
24 年,研究 LangChain 、AutoGen 、n8n 、Dify ,开发我的 Agentic 工作流
25 年,研究 MCP 、长期记忆、编程 Spec
26 年,把之前的积累,做成 Skills 、以及 Skills 管理工具
……
LLM 提供商,是否收集了人们为更好使用 LLM 而探索出来的经验与智慧,并以此训练 LLM 的下一个版本?

我感觉,为了更好使用 AI 而做的努力,成果几乎都迅速变为了 AI 的默认能力;而没有追赶这些技术、AI 有啥就用啥的人,日子还可能反而过的更轻松惬意。

昨天看到报道,一个自称从未破解过密码的人 carter.church ,用 GPT Astra 破解了一个存在有 217 年的拿破仑密令。而 OpenAI 对 Navier–Stokes 千禧年问题的证明、Anthropic 对黎曼猜想的证明的推进……也都不是由领域内最资深的人得出的……不是吗?

AI 正在把专属于各个领域专家的“超能力”,一步步、直接赋予都不曾想过要努力、甚至对领域内知识也一无所知的人们。

若 AI 的能力尽管很强,但整体稳定、可预期,那么我们还仍然可以把它当做一种新时代的工具来掌握。有决心付出更多努力的人,仍可以比不努力的人做出更让人赞叹的作品。若 AI 进步的速度、变化的幅度难以预估,你自然,会对需要长期努力的计划,保持相当的谨慎。

这样,甚至‘努力’——这一人类祖祖辈辈敦敦教诲的品质本身,都可以变得不那么正当。
2514 次点击
所在节点    程序员
21 条回复
coefu
2 天前
真 三千年未有之大变局。

尽管我之前是个 LLM 唱衰论者,但是进展太快了,让我都动摇了。
ota
2 天前
同感,已經不知道幹什麽了。everything is just a workflow
大量時間花在“想做什麽”,這一個問題上,然後腦暴明確各種中間產物,比如 spec 。

以後牛馬可能大多數時間是開會。
riscv
2 天前
人类还没做好准备接受自己的平庸。

现在的科技叙事都还是人类主导,等以后 ai 左脚踩右脚自己找事做,人类就彻底沦为无用阶级了。
levelworm
2 天前
@riscv #3
早就接受了。只是接受不了长期失业。
413420
2 天前
提示词不止在 23 年有用,现在也同样需要打磨
413420
2 天前
而这一切就是变化的意义,变化不是说今天的你比昨天的自己的肌肉增大了多少,而是自己从未意识到的结果出现了
edgeedge
2 天前
@413420 如果总是以超出预料的情况出现,这会打击长期主义者。
23 年初,我们是只能跟 AI 对话,现在 Muse 、Dots 又出现,越来越像是:你只需跟 AI 对话……
413420
2 天前
@edgeedge 这很好,让长期主义者知道世界不围绕他们的计划运转
edgeedge
1 天前
@413420 😄,
这篇文章删减了三四遍。
追求长期主义,确实,也很可能便是落入佛学说的贪嗔痴、造业,
追求有用,在道家庄子眼里也可以是“蓬之心”,说不好听,就是草包了。
这样陈述很粗糙、可能不完全准确,但我觉得也大差不差。

觉得很难悟破,人总还是有想要搞点事情的时候,比如让妹子觉得:哇,你好酷啊,你和别的人好不一样啊……
413420
1 天前
@edgeedge 不知道你在说什么,只感觉到性压抑
jony83
1 天前
LLM 提供商,是否收集了人们为更好使用 LLM 而探索出来的经验与智慧,并以此训练 LLM 的下一个版本?

答案是否定的。
信息最不值钱,如果信息值钱的话,都去训练如何量化美股了,各种 K 线网上一抓一大把。
最难的是标签化,而且还必须是人工。分得太细,容易把某些信息归到这个类,又可以归到那个类。分得太粗,有可能漏掉某些信息。

重要的事情说三遍:信息最不值钱,信息最不值钱,信息最不值钱。
值钱的是清洗和标签,而且都很费时。 如果不懂的话,就去网上找狗的图片,把它们逐一标签化去简单训练。
再往上走,就是把每个图片里主体的动作标签化,然后训练。用于看图描述主体动作。(分得太细,就会某个图片模型会说这个动作,下次会说另一个动作)
edgeedge
1 天前
@jony83 有没有可能,可以通过用户连续的行为,来给数据打标?:
用户用了 A Skill ,Agent 提供商后台发现用户与 AI 对话、返工的轮数变少,因此给这个 A Skill 一个良性标签?
sillydaddy
1 天前
最近的 Astra 和 Claude 5.5 ,开始侵袭代码制作视频(类似于鹈鹕骑车)这个创作领域了,之前让 AI 做这种视频,基本都要手把手提要求,类似于代码补全,现在开始有点 vibe 的意思了。

不知道还能往哪儿退了,只能准备退到「创新」这个陌生的高原城市,安慰自己那里有堡垒,没那么容易攻破,然后希望能在那里找到点差事。
YanSeven
1 天前
一切可以被记录被统计的数据,都可以作为烧制下一炉 ai 的燃料。只要人类有需求有应用有产出有交互,那就有数据,那就有燃料,就有新的 ai 。除非没卡没电了。
sillydaddy
1 天前
@jony83 #11
你可以问一下 ChatGPT (网页版),甚至可以把如何从用户的轨迹中,提取反馈信号,训练提升大模型的公式告诉你。
否则 OpenAI, Anthropic 使用 20 倍的补贴价格,让人们使用它们的 Agent ,所为何来呢?就是因为这些真实对话和真实轨迹的数据,可以提升大模型!一条记录包含反馈的信号微乎其微,但是海量的数据就可以给出有意义的提升方向。
除了这些用户数据,大模型厂商还专门从制作这些轨迹数据的公司高价购买数据,多少制作这类数据的公司因此鸡犬升天。
edgeedge
1 天前
@jony83 也就是说,大模型提供商,可以通过获取用户的行为来帮他们清洗打标。而折腾怎么用好 AI 的人的行为又额外有用。这可以认为是和有一堆数据但没有用户的情况的区别?
jony83
1 天前
@sillydaddy 不要想当然,chrome 右上角有“问问 gemini”,不懂就去问,简单易操作。20 倍只是商业策略。清洗很重要,需要人工精细挑出来,尤其是意思、重点及错别字。另外,同一句话,如果其中语气重点不一样,意思也完全不一样,文字是无法描述的。
Tory12138
1 天前
ai 最终会不会干掉所有网络世界从业者,包括程序员,运维,数据专家
edgeedge
1 天前
@413420 丢给 AI 应该能梳理的更清晰吧,我这半桶水,就不继续多说了,,
leaflxh
1 天前
什么时候 AI 能自己搓芯片,自己挖矿,自己建发电厂

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://v2ex.ih06.com/t/1246322

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX