| Ask HN: 我们是否应该关停当前的 AI 战略?尽情倾诉吧 | ||
|---|---|---|
| 3 points by darkmatriarch 38 minutes ago │ hide │ past │ favorite │ 4 comments | ||
| 我不知道,也许只是我多心。你是否也觉得,我们正在不惜一切代价地烧开海洋,只为造出某种“比人类更聪明”的东西?你是否注意到,“AI 将治愈癌症”这一说法,是建立在我们已经找到了能通向解药的数据、只是人类不知怎地错过了它的信念之上?你是否也在看着那位因为 AI 而裁掉你的前老板,慢慢把 AI 自动化这把钉枪转向自己的脸?你是否也正在不惜一切代价地避免坐飞机?就我个人而言,我很喜欢 AI,但我认为对话式语言模型是个错误。这不就是大多数人 AI 精神错乱的根源吗?即便我们设了防护栏,把自动补全变成对话,不也只是在迎合我们的妄想吗?你不觉得,如果你无法解释一个 AI 模型的功能,那就意味着你大概不该使用它吗?如果你对以上任何一条的回答是“是”,我很想听听你对当前状况的看法。请尽情倾诉吧。如果你对一切都回答“不”,那就请安静,这对我们其余的人来说会很有趣。 |
你是否也觉得,我们正在不惜一切代价地烧开海洋,只为造出某种“比人类更聪明”的东西?
你是否注意到,“AI 将治愈癌症”这一说法,是建立在我们已经找到了能通向解药的数据、只是人类不知怎地错过了它的信念之上?
你是否也在看着那位因为 AI 而裁掉你的前老板,慢慢把 AI 自动化这把钉枪转向自己的脸?
你是否也正在不惜一切代价地避免坐飞机?
就我个人而言,我很喜欢 AI,但我认为对话式语言模型是个错误。这不就是大多数人 AI 精神错乱的根源吗?即便我们设了防护栏,把自动补全变成对话,不也只是在迎合我们的妄想吗?
你不觉得,如果你无法解释一个 AI 模型的功能,那就意味着你大概不该使用它吗?
如果你对以上任何一条的回答是“是”,我很想听听你对当前状况的看法。请尽情倾诉吧。
如果你对一切都回答“不”,那就请安静,这对我们其余的人来说会很有趣。
| k310 13 分钟前 │ 下一条 [–] 什么战略?当前的战略就像火箭雪橇的战略。每个人都互相竞争,去和中国竞争,只为拿到一个完全未知的黄铜戒指。这是以极快的速度发展,为了发展(也就是 IPO)而蒙上眼罩。技术用途有,社会用途也有。后者在设计上就是回音室,常常摧毁独立思考,并且具有物理上的破坏性,就像“你是不死的,现在去走到汽车前面”(而这是事实,不是虚构)。这与原子弹的发展之间的区别——两者有着诡异的相似之处——在于科学家在建造它之前就向自己保证,它不会通过连锁反应毁灭整个世界。而这里的情况并非如此。我之前发过 [1] 引文 我刚听了一个这里链接的视频 [0],其中的要点是,AI 正达到一个真正危险的地步,比如“推翻政府”,而我们仍然需要竞相发展,因为中国在竞相发展,然而,我们的模型越先进,中国(或其他人)直接偷走它就越有利。所以,在防御一个“敌人”的同时,我们也在替他们干活。真好。我们以前走过这条路,但也许这比核弹更危险。也许不是。而且,AI 公司内部防泄漏的安全措施虽然极其关键,却是秘密的,因此不为人知。考虑到内幕信息的价值,它可能与过去的政府间谍丑闻相媲美,而其状况是完全已知的。这一切似乎都归结为安全问题,再加上网络防御被刻意削弱、掌权的无能政治黑客,以及强大的漏洞检测与利用技术的突然到来,即使没有外部攻击,也可能在 2017 年就把这一切击垮,如果不是更早的话。[0] https://news.ycombinator.com/item?id=50522546 引文结束 [1] https://news.ycombinator.com/item?id=50525469#50525957 回复 | | | k310 13 分钟前 │ 下一条 [–] 什么战略?当前的战略就像火箭雪橇的战略。每个人都互相竞争,去和中国竞争,只为拿到一个完全未知的黄铜戒指。这是以极快的速度发展,为了发展(也就是 IPO)而蒙上眼罩。技术用途有,社会用途也有。后者在设计上就是回音室,常常摧毁独立思考,并且具有物理上的破坏性,就像“你是不死的,现在去走到汽车前面”(而这是事实,不是虚构)。这与原子弹的发展之间的区别——两者有着诡异的相似之处——在于科学家在建造它之前就向自己保证,它不会通过连锁反应毁灭整个世界。而这里的情况并非如此。我之前发过 [1] 引文 我刚听了一个这里链接的视频 [0],其中的要点是,AI 正达到一个真正危险的地步,比如“推翻政府”,而我们仍然需要竞相发展,因为中国在竞相发展,然而,我们的模型越先进,中国(或其他人)直接偷走它就越有利。所以,在防御一个“敌人”的同时,我们也在替他们干活。真好。我们以前走过这条路,但也许这比核弹更危险。也许不是。而且,AI 公司内部防泄漏的安全措施虽然极其关键,却是秘密的,因此不为人知。考虑到内幕信息的价值,它可能与过去的政府间谍丑闻相媲美,而其状况是完全已知的。这一切似乎都归结为安全问题,再加上网络防御被刻意削弱、掌权的无能政治黑客,以及强大的漏洞检测与利用技术的突然到来,即使没有外部攻击,也可能在 2017 年就把这一切击垮,如果不是更早的话。[0] https://news.ycombinato
文章标题:Ask HN:我们是否应该叫停当前的人工智能战略?畅所欲言吧
正文: r.com/item?id=50522546 end quote [1] https://news.ycombinator.com/item?id=50525469#50525957 reply |
| k310 13 minutes ago │ next [–] 什么战略?当前的战略就像火箭雪橇的战略。所有人互相竞争,为了与中国竞争,去争夺一个完全未知的黄铜戒指。这是以极快的速度发展,为了发展(也就是 IPO)而蒙上眼罩。技术有技术的用途,社会有社会的用途。后者在设计上就是回音室,常常摧毁独立思考,并且在物理上具有破坏性,正如“你是不死的,现在去走到汽车前面”(这是事实,不是虚构)。这与原子弹的开发之间的区别——两者有着诡异的相似之处——在于,科学家们在建造它之前向自己保证,它不会在连锁反应中摧毁整个世界。而这里并非如此。我之前发过 [1] 引用 我刚听了一个这里链接的视频 [0],其中的要点是,AI 正达到一个真正危险的地步,比如“推翻政府”,而我们仍然需要竞赛式发展,因为中国在竞赛式发展,然而,我们的模型越先进,中国(或其他方)直接窃取它就越有利。所以,在防御一个“敌人”的同时,我们也在替他们干活。真好。我们以前走过这条路,但也许这比核武器更危险。也许不是。而且,AI 公司内部防泄漏的安全措施虽然极其关键,却是秘密的,因此不为人知。鉴于内幕信息的价值,它可能与过去的政府间谍丑闻相媲美,而它的状态是完全已知的。这一切似乎都归结为安全问题,再加上网络防御被刻意削弱,以及掌权的是无能的政治投机者,还有强大的漏洞检测与利用手段的突然出现,这一切可能在 2017 年就会全面崩溃,甚至更早,即使没有外部攻击。[0] https://news.ycombinator.com/item?id=50522546 end quote [1] https://news.ycombinator.com/item?id=50525469#50525957 reply | |||
|---|---|---|---|
| darkmatriarch 4 minutes ago │ parent │ next [–] 请一有机会就继续分享这些东西。就我个人而言,如果什么都不改变,我预计我们所熟知的网络到 2027 年初将无法使用。reply | darkmatriarch 4 minutes ago │ parent │ next [–] 请一有机会就继续分享这些东西。就我个人而言,如果什么都不改变,我预计我们所熟知的网络到 2027 年初将无法使用。reply | ||
| darkmatriarch 4 minutes ago │ parent │ next [–] 请一有机会就继续分享这些东西。就我个人而言,如果什么都不改变,我预计我们所熟知的网络到 2027 年初将无法使用。reply | |||
| mik1998 16 minutes ago │ prev │ next [–] 归根结底,虽然 LLM 会让大量工作变得 _更高效_(翻译、程序员、律师),但它不会取代 _所有人_,只会取代因这些工作的劳动力供给增加而被挤出的过剩部分。机器永远无法被问责,因此机器无法做出商业决策。reply | mik1998 16 minutes ago │ prev │ next [–] 归根结底,虽然 LLM 会让大量工作变得 _更高效_(翻译、程序员、律师),但它不会取代 _所有人_,只会取代因这些工作的劳动力供给增加而被挤出的过剩部分。机器永远无法被问责,因此机器无法做出商业决策。reply | ||
| mik1998 16 minutes ago │ prev │ next [–] 归根结底,虽然 LLM 会让大量工作变得 _更高效_(翻译、程序员、律师),但它不会取代 _所有人_,只会取代因这些工作的劳动力供给增加而被挤出的过剩部分。机器永远无法被问责,因此机器无法做出商业决策。reply |
| ishqdehlvi 32 minutes ago │ prev [–] 这大概就是我也正在经历同样的事
文章标题:Ask HN:我们该关停当前的 AI 战略吗?尽情吐槽吧
正文: h 说实话,我有时候做 AI 基础设施,有时候也做模型之类的,但我有点讨厌那些生成内容,比如诗歌、图像和视频。也许可行的互联网也是原因之一,为了迎合人们的观点,还有那种 larping 的东西,网红们把东西吹得太过头了,比如说网页设计技能,他们练出了这些技能,又把它吹上了天,现在每个网站看起来都差不多。从普通用户的角度看,它确实变了之类的,但从我的视角我能直接看出来,而这在某种程度上削减了我做这类事情的火花,所以一言以蔽之,AI 让创作变得容易了,但创造力呢 reply | | | ishqdehlvi 32 分钟前 │ 上一条 [–] 说实话,这差不多就是我正在经历的事,我有时候做 AI 基础设施,有时候也做模型之类的,但我有点讨厌那些生成内容,比如诗歌、图像和视频。也许可行的互联网也是原因之一,为了迎合人们的观点,还有那种 larping 的东西,网红们把东西吹得太过头了,比如说网页设计技能,他们练出了这些技能,又把它吹上了天,现在每个网站看起来都差不多。从普通用户的角度看,它确实变了之类的,但从我的视角我能直接看出来,而这在某种程度上削减了我做这类事情的火花,所以一言以蔽之,AI 让创作变得容易了,但创造力呢 reply |
文章标题:Ask HN: 我们是否应该关停当前的 AI 战略?尽情倾诉吧
正文: 每个人都彼此竞争,又去与中国竞争,只为摘取一个完全未知的铜环。
这是以极快的速度发展,并且为了发展(也就是 IPO)而蒙上双眼。
有技术用途,也有社会用途。后者在设计上就是回音室,往往破坏独立思考,并且在物理上具有破坏性,比如“你是不朽的,现在去站到汽车前面吧”(这是事实,不是虚构)。
这件事与原 子弹的研发有着诡异的相似之处,但区别在于:科学家在建造原 子弹之前曾向自己保证,它不会通过链式反应毁灭整个世界。而这里的情况并非如此。
我之前发过帖子 [1]
我刚听了这里链接的一个视频 [0],其中的要点是:AI 正在达到一个真正危险的地步,比如“推翻政府”,而我们仍然需要加速研发,因为中国在加速研发;然而,我们的模型越先进,中国(或其他方)直接窃取它就越有利。
所以,在防御一个“敌人”的同时,我们也在替他们干活。真不错。我们以前走过这条路,但也许这比核 武器更危险。也许不是。
而且,AI 公司内部防泄漏的安全性虽然极其关键,却是保密的,因此不为人知。
鉴于内部信息的价值,它可能与过去的政府间 谍丑闻相提并论,而它的状况却是完全公开的。
这一切似乎归根结底都是安全问题,再加上网络防御被刻意削弱、掌权的是无能的政治黑客,以及强大的漏洞检测与利用手段的突然出现,即使没有外部攻击,也可能在 2017 年就把这一切摧毁,甚至更早。
[0] https://news.ycombinator.com/item?id=50522546
[1] https://news.ycombinator.com/item?id=50525469#50525957
机器永远无法被问责,因此机器不能做商业决策。