之前在另外一个帖子的回复里提过一句,但是我觉得这个问题值得专门开一个楼和坛友探讨。
从我个人的兴趣领域(怀旧游戏)来看,反向工程正变得前所未有的容易。
第一个例子,我个人的近期经历:
- 我在AI帮助下修复了魔法门星云世界MT-32音乐驱动里的一个内存corruption故障,调试花了大概3天,人工主导,AI协助快速迭代试错。
- 我在AI帮助下解决了英雄传说4在DOSBOX 0.65版以后无法启动的问题(新版没有模拟一个未公开的DOS系统调用)。调试一共花了大概1小时。
这些工作我想没有AI协助我自己也应该可以搞定,但是无疑需要花费多的多的时间,第一个恐怕至少得几周甚至几个月。第二个至少得一整天。
第二个例子,脸书群骨灰的集散地里有个湾湾网友最近正在以一两天一个的速度做出许多英文DOS游戏的中文化版本,以及中文DOS游戏的Windows/MacOS重制版本。这个工作量在过去需要多人团队数月甚至数年时间才能完成的,现在只要token够,一个人一两天就能搞出来。
第三个例子,近年来,各个decompilation/recompilation项目正在以非常惊人的速度发展,我最早听说的recompilation项目是N64的塞尔达传说。然而今年以来忽然冒出来一大堆类似的项目。也许不久以后,模拟器也会过时了。
我举这些例子是想说,当年自由软件的理想,似乎正在被用一种RMS完全没有预料到的方式被实现。这个年头没有源代码已经越来越不再是学习和修改软件的障碍了。
4 个赞
随着开发成本降低,未来软件应该会大幅贬值,技术含量大幅降低。剩余的价值可能是知识产权了,类似于出版物。
个性化软件应该会流行起来,貌似不太需要软件市场了
1 个赞
哪里自由了?
自由软件是free as a free speech,又不是free as a free bear
不如说能问出“自费用coding agent的是哪些人”的家伙才是最可怜的
1 个赞
我说的就是这个自由学习和修改的自由,不是免费。以前要逆向工程一个编译成二进制码的软件是非常昂贵的,常常比重新写一个还要昂贵,所以从经济效益出发,很少会有人去这样做。现在逆向工程不再昂贵了,发布二进制码也不再是阻挡别人理解软件的障碍了。
token 又没免费,题主意下的 coding agent 给了人们修改软件的自由我是认同的。
当然,代价是用绑定在 AI 大厂的模型上支付的。
那我买个电脑也算实现计算自由,代价是用绑定在IC大厂的计算架构支付的૮₍ ˶•⤙•˶ ₎ა
你如果买的不是开放硬件标准,开源固件的电脑,在 RMS 看来一样也是不自由的。
所谓的自由,实际上就是纯度的问题。
如果未来人人都可以跑得起强大的本地开源 AI,可能就算是真正的自由吧。
如果你不对二进制加密的话,自由修改本来就不是阻碍。给二进制软件打补丁本来就不难,难的是脱壳解密,小学生都会用od爆破没加密的游戏。
LLM的解释能力或许比反编译要好,但是在破解指令混淆的能力上和人一样,混淆针对的就是你的下限。此外,对于复杂系统状态的判断能力,LLM也未必比人猜的更准确。
两年前我就是这样想的:每个人都有自己的采样设备,大家建立公用的数据清洗基础设施,还有开源推理算法库,用低功耗设备组可信网络搞分布式训练,构建独立且低速的智能生态系统。
但本人纯度太低了,已老实。
既然 DOS 软件没有加密,“自由修改本来就不是阻碍”,那么为什么之前没多少人做呢?给游戏打汉化补丁的小学生我也想见试一下啊
至于和人比较,我只能说用过 Fable 5 后会觉得就是挽尊之语,没拿过博士学位的人已经不配和最先进的 LLM 比较能力了。
不止是在操控者能力范围内但是重复劳动的事情,现在是操控者长处以外的短板也能用 LLM 弥补了。
打补丁不难,难的是搞懂软件的逻辑和流程,需要打什么样的补丁。没有AI之前,搞懂机器码是一件很费力的事情,即使看得懂指令,也需要花费很多时间精力才能梳理明白没有任何变量名和函数名的代码具体是在做什么。加密是额外的难度,但是没有加密不等于就容易。OpenTTD项目光是反汇编把原来的软件变成可编译通过的C,就花了一年多,这还只是机械的转换,等到把所有函数都重新整理成可维护的程度,又花了好几年。
3 个赞
真好。我想起我最初选择软件行业就是为了当一个 hacker。感觉现在的 AI 时代可以帮我实现这个愿望了。
1 个赞
我们讨论的是“是否自由”,不是“是否好用”。我说这个不是为了指出llm不够强,而是它推不倒软件加密这个人为构建的屏障。另一方面,我也不认为更强大了不等同于更自由了。
之前的“不自由”主要是经济原因,逆向工程的成本太高导致的人们无法实现自由修改软件。当成本降下来以后,这个障碍就消失了。至于加密,破解加密的难度同样是大大的降低了。做个思想实验,假如一个CPU只能执行python代码,你觉得破解这上面软件的加密难度和破解汇编指令的加密能一样吗?至少用的是什么加密算法,在哪些位置有钩子检查加密这些信息一眼就看出来了吧。
鉴于我没有博士学位,你可以问问fable 5这个实验是否成立。
我也没有博士学位。我个人的体会是我做的这些工作依然是建立在AI协助我加快我自己也能做到的事情上的。但是这个协助放大作用彻底改变了这些事情的经济效益前提。虽然原本我自己也能做到,但是我愿不愿意花掉3周乃至3个月的业余时间来解决这个问题?那我想之前大家没有去做这个事实已经回答了。至于以后AI会不会发展到不需要有人类指引就可以独立解决的程度,也许可以,也许不可以,但是我想至少之前这个经济平衡已经被打破了。
2 个赞
我想做的事情绝大多数是现在的我做不到的事情,比起让AI干工程,我宁愿经年累月的去学习和思考,然后再才考虑工程,然后才是哪里应该用AI。否则我连自己想做的是什么都不清楚,那我觉得我没有解决什么,这种事情里面有没有我都无所谓。
至于经济究竟会怎么变化,我也不懂。
有道理
我认为 ai 已经让代码生产本身变得廉价和易得,而代码本身既是产品,又是生产资料。从纯粹技术的角度看,人工智能编码的大规模应用正在消灭代码版权制的辩护士们提出的许多理由:“只有软件私有制才能取得经济上的成功”,“私有制是对创造性的最大的激励”,“写代码是昂贵的活动”,从而进一步动摇软件私有制的观念
但是光靠这种技术的力量本身,还不足以实现自由软件的胜利。现在这种技术主要的还是首先服从资本家的利益呢